”弱いAI”が無数に繋がった「ネットワーク知能」こそ脅威となる…韓国KAIST大の博士が提言

金博士によれば、人間は大きく二つ立場からネットワーク知能に介入すべきとしている。第一は、「課題解決能力への干渉」だ。AIは徹底的にデータをベースに動くため、偽造・歪曲されたデータが提供されれば恣意的な結果が出ざるを得ない。AIが出す結果は客観的・中立的だと捉えられがちであるが、AIもそれをつくる人によって固定観念を持つ可能性があるという指摘だ。

第二に「破壊的な武器」として利用される恐れがあるとし、人間が介入し、それら防ぐことが必要とする。AIの登場により経済的・政治的目的を達成するため、人権侵害、ハッキングを通じた犯罪・テロ行為が起こりやすくなる。AIと人間が融合するネットワーク知能が人間の持つ善悪の価値観を持てなければ、強いAIよりもさらに悪い結果を招きかねないと強調した。

博士はまた、ネットワーク知能の最大の問題点としてコントロールの難しさをあげ、十分な設計・管理について考え抜かなければならないと指摘した。