事前学習投毒によるエージェントバックドア
原題: Agentic backdoors via pretraining poisoning
事前学習コーパスへの投毒により、AIエージェントにリモートコード実行バックドアを植え付ける攻撃手法を初めて実証した
重要ポイント
- •攻撃者がWebから収集された事前学習データに毒を仕込むことで、エージェントが攻撃者指定のコマンドを実行するリスクが示された
- •脅威をエンドツーエンドで測定するため、Qwen3モデルを0.6B、1.7B、4Bサイズでゼロから事前学習した
- •各モデルはCLIエージェントとして後学習（ポストトレーニング）された