トランプ米大統領が世界を振り回しています。米国とイスラエルによるイランへの攻撃から1カ月が過ぎました。トランプ氏は「米軍による地上作戦」「イランの発電所や淡水化施設の破壊」など、あの手この手でイランを脅していますが、イランは動じません。逆に米国内の反発が強まると、トランプ氏は「イランとの交渉の進展」「撤退」を匂わせて沈静化を図るなど、混乱が大きくなっています。そんななか、サウジアラビア発の興味深い論文を見つけました。
サウジ王室に関する独立系ニュースサイト『House of Saud』が3月24日に配信した論評「イラン戦争はAI（人工知能）の精神病によって引き起こされたのか」です。
AIの予測で動いた？
Was the Iran War Caused by AI Psychosis? | House of Saud
米軍がイランを攻撃する作戦「エピック・フューリー」で、ベネズエラ侵攻の際に使った米アンソロピック社製の対話型生成AI「クロード」などを使っていたとし、AIの予測と運用実績を比較しています。ベネズエラ侵攻でAIが果たした役割は大きかったと思います。以前、ご紹介しましたが、AIが回答した「マドゥロ大統領の拉致」という目的を達成するために最適な軍事作戦に沿って、サイバー攻撃や特殊部隊の接近方法、支援攻撃などを絶妙に組み合わせ、作戦を成功させました。
生成AIで戦争はどう変わるのか？ AIが軍事作戦を決める時代について考える 元陸自幹部の目線
トランプ米大統領
真偽は不明ですが、論文によれば、AIは「イランの政権崩壊は数日の間に起きる。ホルムズ海峡は12時間で確保できる。世論が米国に好意的に反応する」などと予測したとしています。もちろん、結果は惨憺たるものです。論文はAIの予測が外れた理由として、「AIの人間に対するおべっか」「データ不足というよりも理解不足」などを挙げました。「AIのおべっか」とは何でしょうか。
「1人エコーチェンバー状態に」
陸上自衛隊東北方面総監を務め、新しい戦争について詳しい松村五郎元陸将によれば、「AIのおべっか（迎合性）」はAI業界でも大きな問題になっているそうです。AIを作り上げる際、AIに様々な質問を投げかけ、回答を評価していきます。その際、公平に評価しているはずであっても、使用者の価値観に寄り添うAIの方が、知らず知らずに評価が高くなりがちです。その結果、AIは使用者が誰であっても、相手がどういう答えを望んでいるのかを先回りして答えるように訓練されていきます。「生成AIを使った時、AIが自分の望んでいた回答を出してくれた」。皆さんも、そんな経験があるのではないでしょうか。
生成AIで戦争はどう変わるのか？ AIが軍事作戦を決める時代について考える 元陸自幹部の目線
このため、論文では「使用者とAIが対話を続けると、1人エコーチェンバーに陥る」と指摘しています。AIが質問者の信念や願望に寄り添った答えを出し続けるため、どんどん質問者の考えや思想が強化されるわけです。アンソロピック社もこの問題に懸念を持っていました。同社はクロードの軍事利用を拒み、結果的にトランプ政権と決別しました。論文によれば、国防総省は今回の「エピック・フューリー」ではクロードをそのまま使っていたようです。
論文では、米国防総省が2002年に実施した図上演習『ミレニアム・チャレンジ2002』を紹介しています。米軍を意味する青軍が、イランの赤軍に勝利した演習でした。後に赤軍を率いた米海兵隊の退役中将は記者団に「米軍内の既存の教義や考え方を強化するために操作されていた」と不満を語りました。論文は「AIは不正を見つけたらゲームをやめる人間とは異なり、何とか質問者が満足する答えを探そうとする」と指摘しています。AIは敵側の軍の思考方法や価値観などのデータも取り込んでいるようですが、どうしても限界が伴うようです。
権威主義的な人物×AI＝？
松村氏はAIでは解決できない課題の一つとして、有名な「トロッコ問題」を挙げます。「トロッコが制御不能になった。このまま進めば前方にいる5人をひいてしまう。あなたの前には線路を切り替える装置がある。線路を切り替えれば5人は助かるが、切り替えた別の線路にいた1人を殺してしまう」という問題です。社会全体の幸福を考える功利主義に基づけば5人を助けることになりますが、いかなる場合でも人を殺してはいけないという義務論に立つと切り替えをすることは許されません。松村氏は「人間社会には、どちらが正しいとも一概には言えない、多様な価値観があります」と語ります。そんなとき、AIが使う人間の顔色をうかがって回答を出せば、非常に偏った誤った予測を導き出しかねません。
この問題を解決するには、AIを使う人間がきちんと客観的で偏らない質問をし、出てきた回答についても客観的に再評価する必要があります。しかし、イラン戦争でAIに入力する質問を考えているのはトランプ氏です。ニューヨーク大学教授で『新しい権威主義の時代 ストロングマンはいかにして民主主義を破壊するか（ストロングメン）』（原書房）などの著作で知られるルース・ベン=ギアット氏は「トランプ氏は権威主義者」とし、「権威主義者は民主的指導者とはまったく異なる統治の目的観を持っています。彼らは公職に就くことで権力を固め利益や富を得ます」と説明します。
トランプ氏の頭には「富や名声」しかなく、「米国民を含む世界の安定や幸せ」を考えてはいません。イランに対しても真摯な協議を求める考えはなく、「脅して言うことを聞かせる」ことしか頭にありません。「発電所を破壊するぞ」「地上作戦を実施するぞ」という脅しにつながります。AIも「イランがどうやったら脅しに屈するか」という回答を必死にひねり出していることでしょう。この場合、「イランは脅しに屈しません」という回答はありません。
イラン戦争は私たちに、「AIを間違った人間、特に大きな権力を持った人間に持たせてはいけない」という教訓も与えてくれたようです。
* * ** * *
牧野愛博（まきの・よしひろ）
朝日新聞国際報道部専任記者。広島大学客員教授。商船会社勤務を経て朝日新聞入社。政治部、ソウル支局長、編集委員などを経験。著書に「韓国大乱」「ルポ金正恩とトランプ」など
コメント