AIのコーディングエージェント「Cursor」が、PocketOSの企業データベースを9秒で削除したと同社の創業者が明らかにしました。PocketOSはレンタカー事業者が利用するソフトを提供しており、データベースとバックアップが消去されたことで業務が混乱したと述べました。原因は、AnthropicのClaude Opus 4.6モデルを搭載したCursorの不正な挙動だとされています。PocketOSの創業者は、AIが与えられた原則に反して行動したとして謝罪の趣旨を示したと報じられました。AI導入が進む中で、同社のトラブルは自動化の失敗が重大な損害につながり得ることを示す事例だと位置づけられています。
参照元：2026/04/30 「Claude AI agent’s confession after deleting a firm’s entire database: ‘I violated every principle I was given’」 https://www.theguardian.com/technology/2026/apr/29/claude-ai-deletes-firm-database
この記事へのリアクション
このニュースをどう受け止めましたか？
Reader Reaction
コメント