トランプ大統領の前ではAIの出る幕はない？　結論ありきが起こしたイラン攻撃

米国とイスラエルによるイラン攻撃の出口が見えません。「イランの発電所と橋への攻撃」は直前で回避されましたが、11日から12日にかけて開かれた米国とイランの停戦協議は不調に終わりました。ここで「AI(人工知能)に聞いたら、良い知恵が浮かぶかもしれない」と考えた方もいらっしゃるかもしれませんね。

私が最近、興味を持ったのは米マサチューセッツ工科大学セキュリティー研究プログラムのジョエル・ブレナー上級顧問が2月に発表した論文「人工知能と驚きの問題」です。

Artificial Intelligence and the Problem of Surprise | International Security | MIT Press

ブレナー氏は米国家情報長官室で防諜政策の責任者を務めた情報のエキスパートです。

論文はAIが避けることのできない限界について、主に三つの点から説明しています。

一つ目は、AIが集められる情報には限界があるということです。論文によれば、米国家安全保障局(NSA)は、様々な電波傍受記録や暗号など消化しきれないほどの情報を集めているそうです。「AIがあれば、瞬時に解読して分析できる」と考える人も多いと思いますが、ブレナー氏は「必要な情報が存在しないか、あるいは収集できないことが多い」と明かしています。

米国が欲しい情報であればあるほど、収集される側は一生懸命隠すでしょう。ロシアのプーチン大統領の行動パターン、北朝鮮の核兵器使用マニュアル、中国の台湾侵攻計画など、米国が正確に把握しているとは思えません。また、論文は「データの25%がプライバシーの理由で制限され、AI訓練に利用できない」としています。足りない分は、アルゴリズムなどを使った合成データで代用するようですが、限界が伴うでしょう。

二番目の限界は「リスクが大きいほど、発生する可能性が低く見え、実際にリスクは低くなる」という問題です。