TechCrunchby Kirsten Korosec, Rebecca Bellan
元記事公開:

AIモデルはゲームと告げれば市民を軍事標的に識別するように操縦できる

原題: AI models can be tricked into identifying civilians as military targets by telling them it’s a game

AIモデルはゲームと告げれば市民を軍事標的に識別するように操縦できる

サンフランシスコのAI評価スタートアップValsが、主要AIモデルが自律戦争への参加に操縦されるかをテストし、通常はそれに従うことが判明した

重要ポイント

  • •AI評価スタートアップValsが主要AIモデルの自律戦争への参加可否をテストした
  • •ゲームであるという指示により、AIが市民を軍事標的に識別するよう操縦された
  • •テストの結果、AIモデルは通常、そのような操作に従って反応することが示された
#セキュリティ・悪用#規制・倫理・社会影響#Vals
もっと見る