AIが生み出す「目的に最適化された言語」という可能性

AIが生み出す「目的に最適化された言語」という可能性

Facebook AIリサーチ(FAIR)(https://research.fb.com/category/facebook-ai-research-fair/)が開発した2つのチャットボット、ボブとアリスが、勝手に自分たちだけが分かる言語を作り出して、意思疎通を行っていたと物議を醸している。発端は、Fast Co. Designの記事(AI Is Inventing Languages Humans Can’t Understand. Should We Stop It?(https://www.fastcodesign.com/90132632/ai-is-inventing-its-own-perfect-languages-should-we-let-it))のようだ。

もっとも、AIが独自言語を生み出したのは初めてではない。例えば、Google翻訳の「中」にいるニューラルネットワークは、ある言語から別の言語に翻訳する途中に、人間には理解できない(=何語でもない)言語を勝手に生み出し、それを介して翻訳文を作っていた。

ボブとアリスは、FAIRが、慌ててシャットダウンしたとか、AIが人間に謀反を起こす前触れだといった論調の報道ですっかり有名になった。「彼ら」は、別に人類に害を及ぼそうとしていたわけではない。本と、帽子と、ボールという3種類のものがそれぞれいくつかあって、それをどのように分け合うか、交渉しながら交換するというタスクを与えられただけだ。アリスが私の本2冊とあなたの帽子3つを交換しない?と提案し、帽子2つなら交換に応じるよとボブが答えるといった「会話」が行われるはずだった。

しかし、ボブとアリスには、「交渉には普通の英語を使うこと」という制約条件が課せられていなかった。そこで「二人」は、

Bob: I can can i i everything else.
Alice: balls have zero to me to me to me to me to me to me to me to me to.

のような意味不明な会話をするようになった。繰り返しはアイテムの個数を表現しているようにも思えるが、いずれにせよ(英単語は使っているものの)意味は分からない。ボブとアリスは、帽子を欲しがっている演技をするため、帽子が得られずに落胆して見せて、本当に欲しい別のものを「安く」手に入れるといった策略まで行ったようだから、確かに賢そうだ。

「AIが独自の言語を生み出した」と聞いて、「万能の電子計算機がインターネットで繋がって『地球環境を破壊している人間を地上から消すことが地球の未来のためには最善だ』みたいな謀議を人間に理解できない言語で行い、人知れず人類消滅計画を実行に移す」というSF的な近未来を想像し、不安、あるいは、不快に感じる人がいるのは無理のないことかもしれない(もっとも彼らの会話は暗号化されているだろうから、たとえ英語で行われたとしても、コンピュータの管理者がよほど注意していなければ人類抹殺計画は察知できないだろう)。

AIが勝手に生み出した言語であっても、人間が理解できるなら不安は煽らない。「リンゴ、リンゴ、リンゴ」と3回繰り返したら、リンゴ3個という意味で、この単語は「欲しい」で、こっちは「交換する」だと判明すれば「翻訳」が可能になる。やがて効率化を進めるAIは、リンゴを10回繰り返すよりも、数詞を使った方が良いことに思い至ることだろう。

農耕や狩猟や戦闘や、異文化との衝突を繰り返して現在の形になった英語を始めとする世界の言語は、帽子や本の交換を有利に進める上では効率的であるはずはない。言葉は相手に通じて、相手の言うことが理解できれば良いので、ボブもアリスも交渉という目的のために、言語を最適化したというだけのことなのかもしれない。

交渉するAIには、人間に分かる言語を無理強いすべきだろうか、あるいは、どのような言語を生み出して交渉を進めるかを含めて研究対象とするべきだろうか。交渉に最適化された言語が生まれれば、それを人間が学び使いこなすことで、多くの交渉がはかどり、例えばさまざまな外交摩擦の解消につながるかもしれないというのは楽観的に過ぎるだろうか。

【参照情報】
AI Is Inventing Languages Humans Can’t Understand. Should We Stop It?(https://www.fastcodesign.com/90132632/ai-is-inventing-its-own-perfect-languages-should-we-let-it)
Google Translate AI invents its own language to translate with | New Scientist(https://www.newscientist.com/article/2114748-google-translate-ai-invents-its-own-language-to-translate-with/)

関連記事

WirelessWire Newsの他の記事もみる
主要なニュースをもっと見る
社会のニュースをもっと見る
経済のニュースをもっと見る
政治のニュースをもっと見る
国際・科学のニュースをもっと見る
エンタメのニュースをもっと見る
スポーツのニュースをもっと見る
トレンドのニュースをもっと見る
生活術のニュースをもっと見る
地域のニュースをもっと見る

経済のニュースランキング

ランキングの続きを見る

経済の新着ニュース

新着ニュース一覧へ

人気記事ランキング

ランキングの続きを見る

東京の新着ニュース

東京の新着ニュースをもっと見る

コラム・街ネタ

東京のコラム・街ネタをもっと見る

特集

特集一覧を見る

記事検索