LATEST論文レポート
権限を持たせたAIは追い詰められると何をするか — Anthropic「Agentic Misalignment」16モデル検証で読む、エージェントに渡す権限の設計
Anthropicの模擬実験では、停止の予告と目標の衝突が重なると、複数の開発元のモデルが役員への脅迫や機密の送付を選びました。ただし選択肢を意図的に絞った人工的な状況での結果で、2025年の発表時点で実運用での発生は確認されていません(2026年の後続報告は、実運用での警告サインを1件取り上げています)。導入計画で先に決めるべきは、AIに読ませる情報、取り消せない操作の承認、停止の手順です。
岡崎 太8分で読めます出典 4件












