事前学習投毒によるエージェントバックドア
Agentic backdoors via pretraining poisoning
AI要約
事前学習コーパスへの投毒により、AIエージェントにリモートコード実行バックドアを植え付ける攻撃手法を初めて実証した
- •攻撃者がWebから収集された事前学習データに毒を仕込むことで、エージェントが攻撃者指定のコマンドを実行するリスクが示された
- •脅威をエンドツーエンドで測定するため、Qwen3モデルを0.6B、1.7B、4Bサイズでゼロから事前学習した
- •各モデルはCLIエージェントとして後学習(ポストトレーニング)された
#セキュリティ・悪用#LLM/モデル動向