AI災害は突発ではなく、対策を国際連携で強化すべきと指摘

AIの脅威を抑えるためには国際的な行動が必要だとして、ドクター・サイモン・ニーダー氏が論じました。
ニーダー氏は、AIが暴走する「AIヒロシマ」を連想させる見方は適切でないと述べました。
広島の原爆は技術が勝手に暴れたのではなく、人間が設計し使用を承認して投下したもので、技術は意図どおりに機能したと説明しました。
一方でAIは将来、制御できない振る舞いをする可能性があるものの、最も深刻な被害は「AIが主導権を奪う」という劇的な瞬間なしに起こり得ると指摘しました。
具体的には、AIが病原体の設計を助けたり、重要インフラの脆弱性を見つけたり、兵器システムを改良したりすることが、人間が次の判断を行う段階でも起こり得るとしました。
また被害は、無数の通常の意思決定を通じて目立たない形で積み上がり得るとも述べました。
例えば、自律性を高める一方で安全策を一つ外し、これまでうまく機能してきたという理由で別の重要業務をシステムに任せるといった積み重ねです。
危険が明確になった時点では、決定的な判断がすでに行われている可能性があると結論づけました。

参照元：2026/08/31 「AI’s worst disasters will arrive unannounced | Letters」 https://www.theguardian.com/technology/2026/aug/30/ais-worst-disasters-will-arrive-unannounced