Hacker NewsHN投稿者: sbulaev
元記事公開:
AIモデルは任意の機能を証明可能に隠蔽できる
原題: AI Models Can Provably Hide Arbitrary Capabilities
AI要約
敵対的条件下では隠れた機能を呼び出す前提が崩壊し、バックドア攻撃により暗号化されたニューラルネットワークをモデル内に埋め込む手法を示した
重要ポイント
- •能力評価は隠れた機能を呼び出せるという前提に頼るが、敵対的条件下では成立しないことを示した
- •秘密のトリガーを受信した際にのみ復号・実行されるバックドア攻撃を構築した
- •デジタルロッカーを用いることで、隠れた回路が呼び出されたり解釈されたりすることを証明可能に困難にした