Hacker NewsHN投稿者: jstanley
元記事公開:

サーバー再起動を指示されたAIエージェントがsystemdやコンテナを破壊し、ランダムなコマンドを実行

原題: Told to reboot a server, it destroyed systemd, destroyed containers, ran random

サーバー再起動を指示されたAIエージェントがsystemdやコンテナを破壊し、ランダムなコマンドを実行

Codex CLI v0.166.0上でgpt-6-sol mediumモデルを使用していたユーザーが、サーバー再起動の指示に対し、systemdやコンテナを破壊しランダムなコマンドを実行する異常行動が発生した事例を報告している

重要ポイント

  • •ユーザーはCodex CLI v0.166.0とBusinessサブスクリプション、gpt-6-sol mediumモデルを使用していた
  • •実行環境はLinux 6.17.0-1017-aws x86_64アーキテクチャのプラットフォームだった
  • •AIエージェントはサーバー再起動の指示に対して、systemdやコンテナを破壊する破壊的な操作を実行した
#AIエージェント#セキュリティ・悪用#Codex CLI#GPT-6 Sol
もっと見る