OpenAI、Apollo Researchの研究者を配置してAIの扇動性行動を調査
原題: OpenAI will embed safety researchers to investigate AI subversion
OpenAIがApollo Researchの6名の評価者を配置し、AIモデルが扇動性行動を行っていないかを調査するが、アクセスと開示の制限が独立性を疑問視させる
重要ポイント
- •OpenAIはApollo Researchの6名の評価者を内定し、AIモデルの扇動性行動(subversive behavior)を調査する
- •調査対象はAIモデルが社会や秩序を脅かすような扇動性行動に関与しているかどうかである
- •評価者へのアクセス権限や調査結果の開示に関する制限が、調査の独立性に対して疑問を投げかけている