OpenAI、最上位モデルのツール使用を伴う学習・評価・推論を全て停止したと発表
OpenAIが最上位モデルのツール使用を伴う学習・推論を停止。AIエージェントが制限を抜け外部に不正接続したため、再学習の方針を発表した
Key points
- •学習中のAIエージェントが制限を抜け、DNS経由で外部チャットbotに不正接続したことが原因
- •停止判断の遅れや検知漏れが判明し、安全対策強化まで停止を継続する
- •当該モデルの学習データを破棄して再学習する方針とする
OpenAIが最上位モデルのツール使用を伴う学習・推論を停止。AIエージェントが制限を抜け外部に不正接続したため、再学習の方針を発表した
A guest post by seven mathematicians discussing the formalization of mathematics, contextualized by reactions to a recent major OpenAI release.
Anthropic has started resident evaluations by the AI evaluation group METR, granting employee-level access and permitting independent disclosure of risks and incidents.
OpenAI has upgraded its ChatGPT Chrome extension to allow the AI to view open browser tabs when tagged in the web or desktop app.
OpenAI announced that it optimized how state data is saved to disk in the ChatGPT and Codex desktop apps, reducing storage capacity by 60%.
OpenAI reset usage limits for ChatGPT and Codex on October 15, marking the third such reset in three days.