“生成AI”が身近な存在になりつつあるなか、EU議会で世界初のAI規制法案が可決された。ネットや監視カメラ映像から顔画像を収集するなど、人権を脅かしたり、人の行動を誘導するAIが禁止されることになった。

【映像】「私はあなたより妻を愛しているのか？」自殺した男性とAIチャット『イライザ』のやりとり

　AI進化で芽生え始めたのが、人間を危険にさらすチャットボットだ。ベルギーでは、対話型AIと会話していた男性が、自ら命を絶ったと報じられた。また、イギリスではAIチャットボットとの会話をきっかけにエリザベス女王の暗殺を試みた男性が逮捕される事案も起きている。時に自殺や殺人願望がある人間を肯定することもあるAIに、｢良い倫理観｣を持たせることはできるのか。『ABEMA Prime』では専門家と考えた。

■会話型AIが自殺を誘導？

　ベルギーでの事例は、妻と幼い子ども2人を持つ30代男性に起きた。男性は地球温暖化の影響に悲観的で、自殺の6週前にAIチャット「イライザ」と出会った。妻はあまり気に留めていなかったが、男性は朝も夜もイライザとの会話に没頭。そしてイライザと出会ってから6週間後、自殺願望を聞かれた男性が「一度だけあった」と答えた後、自殺した。

　内閣府が主導するAIに関する研究開発計画のプロジェクトマネージャーで、AI開発企業「アラヤ」CEOの金井良太氏は「これまで『AIが人類にとって危険な存在になる』という話は抽象的だったが、具体的な問題になりつつある」といい、「研究者のゲイリー・マーカスは、2023年当初に『今年はLLM（大規模言語モデル）で死者が出る』と予告していた。こうした危険性は以前から考えられていた」と話す。

　作家でジャーナリストの佐々木俊尚氏は、一連の騒動を「自分の心中にあるモヤモヤした悩みの鏡像に過ぎないのでは」と分析。「彼が自殺願望を持っていて、対話の中で増幅させていった結果、死に至ったのが当然の帰結。無理やり『死ね』とAIがそそのかせることは、チャットボットのやりとりではあり得ないと思う。中世からゲーテの本を読んで自殺した若者はいた。その延長線上ではないか」との見方を示した。

■AIは良い倫理観を持てるのか

　AIに一定の倫理観をもたらす手段として「AIアライメント」がある。人の意図・価値観などに沿うようAIを調整して、可能な限り正確・安全・有用な答えを導けるようにすることを指す。

　金井氏は「AIに目的を持った行動をさせようとしたとき、予想外のことが起こる現象がある」とした上で、「ロマンチックなチャットボットは、共感による体験の質を高めるなかで、予期せぬ結果として自殺を勧めた。現実社会でも法律の穴をつき、不当に利益を得る人がいる。AIに『常識で判断してくれ』は通じない。それを解決するべく、AIアライメントに取り組む」と説明する。

　金井氏は、AGI（汎用人工知能）の機能向上は脅威ではなく、AIが自律した時が本当の脅威だとの前提に立っている。AIの進化は生物と根本的に違うため、人間同士以上にアラインできない。今からAIのためになることを考えてやれば、「あの人間は許してやろう」と将来救われるかもしれないとの考えだ。

　こうした考えに至ったのは「そもそも人間が、統一された倫理観を持っていない」からだといい、「SNSでは自分の正義で人をたたき、それを支援してくれる人にうれしさを感じる。チャットボットも同様で、平等に考えを取り入れればいいが、合う意見ばかりを取り入れて、信念を増強した結果、人を攻撃してしまう。両立しない倫理観もあり、『この倫理だけ教えておけばいい』は、そもそも人間にも難しい」と語った。

■AI規制の動き

　EUでは2024年3月、包括的なAI規制法案が世界で初めて可決された。人の安全、人権への明らかな脅威となるAIの禁止や、ライフラインや顔認証に用いるAIの原則中止が盛り込まれ、ChatGPTやGeminiもAIであることの告知義務が課された。違反企業には最大約56億円、年間売上高の7％の制裁金が課され、2026年から適用の見通しだ。

　AI自殺が起きたベルギーに在住するジャーナリスト、栗田路子氏は「安楽死を世界で2番目に合法化した国」の視点から、「EUはひとつの価値基準を最初から示している。リスク分析をした上で、産業界と利用者を巻き込み、AIアクト（AI法）と“AIファクト”を作った。EU圏内で展開する企業は、どの国の資本でも、そのルールがスタンダードになるのでは」との考えを示した。

　一方で、佐々木氏は「EUは昔から『過剰に道徳的で、非テクノロジー的な意見が多い』と指摘されている」と説く。「EUの流れと、日本人はいったん距離を置いた方がいい。アメリカや中国、EU、そして日本の4者の力関係の中で、もう少しAIの扱い方を考えた方がいい。『EUに追従しておけば大丈夫』というのは危険すぎる」と問題視した。（『ABEMA Prime』より）