TechCrunchby Rebecca Bellan
元記事公開: DevPick更新:

OpenAI、Apollo Researchの研究者を配置してAIの扇動性行動を調査

原題: OpenAI will embed safety researchers to investigate AI subversion

OpenAI、Apollo Researchの研究者を配置してAIの扇動性行動を調査
AI要約
生成・訂正方針DevPick更新:

OpenAIがApollo Researchの6名の評価者を配置し、AIモデルが扇動性行動を行っていないかを調査するが、アクセスと開示の制限が独立性を疑問視させる

重要ポイント

  • •OpenAIはApollo Researchの6名の評価者を内定し、AIモデルの扇動性行動(subversive behavior)を調査する
  • •調査対象はAIモデルが社会や秩序を脅かすような扇動性行動に関与しているかどうかである
  • •評価者へのアクセス権限や調査結果の開示に関する制限が、調査の独立性に対して疑問を投げかけている
#規制・倫理・社会影響#主要プレイヤー動向#OpenAI#Apollo Research
もっと見る