ITmedia
元記事公開:
OpenAI、Apollo ResearchやMETRなど外部4団体を社内に迎える「埋め込み型」安全性評価を開始
AI要約
生成・訂正方針OpenAIが外部4団体の社内常駐によるAI安全性評価を開始し、モデルやソースコードへの深いアクセスを提供して透明性向上を図る
重要ポイント
- •METRやApollo Researchなど4つの外部評価機関が社内に常駐して安全性を検証する体制が導入された
- •学習中のモデルやソースコードへの深いアクセスが外部団体に提供される
- •モデルの意図的な妨害行為や不適切な挙動の評価を通じて安全管理の透明性向上が狙われている