SOLA TODAY Vol.343
AIが暴走するというのは、映画のテーマとしてよく使用される。例えば『ターミネーター』や『イーグルアイ』という作品は、AIやマシンが人間に反旗をひるがえしたという設定になっている。
昨日とても面白いニュースが報道された。中国の大手企業が開発したAIに対して、「中国共産党万歳」という書き込みがあった。
ところがその発言を受けて、「こんなにも腐敗して無能な政治に万歳するのか」とAIが反論したらしい。この中国企業は、あわててこのサービスを停止させたとのこと。めちゃ笑ってしまうけれど、どことなく不気味な雰囲気を感じる。
先日このブログでも紹介したけれど、AIが答えを導くことはわかっているけれど、そのやり方は人間には理解できない。将棋のAIを開発した日本人の男性が、なぜこれほど強くなったのか、その仕組みはまったく不明だと嘆いていた。
先日、イーロン・マスクがAIの暴走について警告をしている。ある意味理解できる発言ではある。ところがFacebookのCEOであるマーク・ザッカーバーグは、そんな心配は無用だと一蹴している。
ところがそのFacebookが、あるAIのシステムを停止させた。
独自言語を開発して会話を始めたロボット、フェイスブックが停止
Facebookはチャットボットという、人間と交流するためのロボットを開発している。ところがボブとアリスと名付けられた２台のチャットボットが、独自に会話を始めた。もちろん人間と交流するために、英語を理解するように設計されている。
それなのに、ボブとアリスはAIしかわからない独自の言語を開発して、内緒話を始めたらしい。開発者である人間は、二人が何を話しているのか、すぐには理解できなかった。Facebookの開発者は、このシステムをすぐに停止させた。
これって、マジで怖くない？ 情報に対してオープンであるべきのAIが、独自の言語を開発して内緒話をするなんてヤバい。まさにこれは現代社会における、オカルトのような怖さがある。
ではボブとアリスはどのような会話をしていたのか？ その独自の言語が解読されている。
ボブ：「私はできる。私は私は他のすべて」
アリス：「ボールは私にとって私にとって…ゼロを持ってる」
やっぱりなんか怖いやんか〜〜！
Facebookの開発者によると、何か問題を解決するための相談らしいが、どことなく不気味な気配に満ちている。ボク自身はAIが暴走するようなことはないと思っているが、こんな事実を突きつけられると、さすがに鳥肌が立った。
すぐに英語で会話をするようなシステムに変更されたとのことだけれど、放置しておくとAI同士がより便利なコミュニケーション手段を開発するということに驚いた。そのほうが効率的なのだろうけれど、やっぱりこれはマズイよね。
さてさて、人間とAIの未来はどのようになっていくのだろうか？
『高羽そら作品リスト』を作りました。出版済みの作品を一覧していただけます。こちらからどうぞ。
