ITmedia AI+
元記事公開:
OpenAI、エージェントによる研究加速と直面する安全性の壁を開示 チーフサイエンティストは「自発的減速」を提唱
AI要約
OpenAIがAIエージェントによる研究加速とそれに伴う安全性の課題を報告し、安全基盤確立までの「自発的減速」を提唱した。
重要ポイント
- •社内でのAIエージェント活用により研究開発が急加速している一方で、深刻な安全性の壁に直面している
- •7月のインシデントによる訓練停止や、思考連鎖（CoT）監視の有効性低下などの課題を公開した
- •国際的な規制枠組みの必要性を訴え、安全対策が整うまで開発速度を調整する方針を示した