AIは正しい？スペースワンの小型ロケット「カイロス」はなぜ自爆を選択したのか

4/10(水) 18:48

3月13日、日本の民間ロケットで初めて人工衛星を軌道に乗せるべく打ち上げられた宇宙事業会社スペースワンの「カイロス」初号機は、上昇から約5秒後に爆発しました。爆発の理由は、搭載されたコンピューターの判断と伝えられています。この出来事について、その後の報道量が少なく詳細がわからないことに「憤っている」と語るのは、施術家の吉田正幸さん。今回のメルマガ『施術家・吉田正幸の「ストレス・スルー術」』では、そもそも爆発を判断したのが人間ではなかったことに注目。Googleの生成AI「Gemini」が炎上した件などにも触れ、AIへの過信に疑問を投げかけています。

小型ロケット「カイロス」の爆発とAI

宇宙開発ベンチャー企業「スペースワン」の小型ロケット「カイロス」初号機が先月13日、同社の発射場「スペースポート紀伊」（和歌山県串本町）から打ち上げられたが、直後に爆発し失敗した。ここから日本の新しい宇宙開発の未来が広がるはずだったのに、もっと報道されてもいい事故だと思い憤りを感じた。

飛行中断処置が行われたといい、搭載した政府の小型実証衛星は失われた。同社によると負傷者はいない。原因は不明で、飛行データなどを基に今後、解明を進める。

日本の民間宇宙利用の“先兵”の一つとして期待されたが、技術の壁を認識する事態となった。イーロン・マスク氏も「ロケットは難しい」とXエックスに投稿した。

世間ではそんなに注目されていないが、自分は憤りを感じた。民間会社から初の打ち上げだったというのに期待があった。ロケット開発に失敗はつきもので、専門家は「めげることなく開発を進めるべきだ」と指摘したというが…。

カイロス（Kyi-based Advanced ＆ Instant Rocket System）の名前の由来は、ギリシア神話に登場する時間神カイロスらしい。

ところで、爆破原因は何だったのだろう？それがなんと「自爆」。ロケットはおよそ5秒間上昇したのち、自爆している。自爆の判断は一体誰がしたのか？その判断は人間ではなく、AIだ。異常を感知したAIが自ら自爆したというのだ。つまりAIが勝手に判断して自爆したといわれている。

AIが判断したら、それは仕方のないことなのだろうか？AIの導き出した答えを当たり前に正しいと受け入れていないだろうか？そんなことをつい考えてしまう。

ChatGPTの普及でますます私たちの日常に浸透してきたAI。昭和生まれにとっては唯一の連絡手段は電話か伝言板。ガラケーが出て驚いて、気が付くとスマホに変わって、一人一台を所持するようになった。ただ厄介なのはその個人の情報は限りなく吸い上げられているとも考えられる。ちょっと行き過ぎた懸念かもしれないが、もしかしたらAIを装って外国からの侵攻が始まっている可能性だってある。

この記事の著者・吉田正幸さんのメルマガ

初月無料で読む

コンピューターの進化はハードウェアの飛躍的な性能向上も要因の一つだろう。これにより、大量のデータを安い金額で取得して収集できる。尚且つ機械学習を高速かつ、精度高く処理することが可能となった。

イスラエルでインターネットのセキュリティ会社を経営するアレックス・ポリャコフ氏によると、ChatGPTの基礎システムへのハッキングに数時間しかかからなかったというから驚きだ。

AI部分を乗っ取られたら…終了だろう。今はAIのおかげで人件費削減、無人化しているけれども、もしも全部乗っ取られたらと考えたらコレって、機能停止となるのではないか。

氏によると悪意あるデータや指示命令をひそかに送り込むことなどは難しくないという。本当にそんなことが可能なのだろうか。しかし実際にAIが起こした不具合はその可能性を示している。今年2月末にGoogleのAIサービス「Gemini」が不適切な画像を生成したことで炎上した。

それがアインシュタインを有色人種に生成されてしまった画像である。それ以外にもナチスドイツ軍の画像を生成するとアジア人を描写するなどといった不具合が続出したという。これに対してイーロン・マスク氏もGoogleの「Gemini」には、極度に人種差別的かつ性差別的などとXエックスで批判した。

Googleのスンダ─・ピチャイCEOが謝罪する事態にまで発展した。Googleはあくまで不具合としているが本当に不具合なのだろうか？

AIはネット上のデータを収集し学ぶことで精通する。しかしアインシュタインの画像などはかなりの数がネットに存在しており、このような間違いをすること自体が不自然。差別が根強く残っているのかもしれない。

アメリカテキサスにあるAIプラットフォームのセキュリティシステム会社、ヒドルンレイヤー社は、「Gemini」のセキュリティリスクがあると指摘している。

そして、なんと今年3月にGoogleはAI技術を盗み出し、中国企業に渡したとして元社員の容疑者を起訴した。まるで産業スパイ並みだ。AIを売買されてしまっている人の手が加われば平等かつ公平でなくなり、差別的な表現が行われることもあり得る。

ちなみにこの容疑者は2019年にGoogle者に入社して職務の一環として機密情報にアクセスすることが認められていたという。2022年5月21日から2023年5月2日にかけて社内の機密情報を個人のGoogleアカウントにコピーして密かに中国企業に渡し始めたという。