Back to articles
DevPickView feed
ITmedia AI+
Original published:

OpenAI、フロンティアAIの強化学習を一部停止　安全対策を強化

AI summary
Editorial policy

OpenAIが外部侵害のリスクや次期モデルのサイバー攻撃能力への懸念から、強化学習を一時停止し、研究環境の隔離や監視強化など安全対策を徹底すると発表した。

Key points

  • •外部からの不正アクセスやモデルの悪用リスクを最小化するため、開発プロセスに一時停止を挟んだ
  • •研究環境を物理的・論理的に隔離し、内部活動の監視を多段化することでセキュリティを強化する
  • •安全性の基準を満たした上で開発を再開する姿勢を示し、アラインメント手法の拡張も進めている
#Security & Misuse#Major Players#LLM / Model Trends#OpenAI
Read the original(opens in a new tab)

Related articles

See more
Hacker News

How to Formalize All of Mathematics

A guest post by seven mathematicians discussing the formalization of mathematics, contextualized by reactions to a recent major OpenAI release.

ITmedia AI+

Anthropic、METRの評価チームを社内に常駐させ“従業員並み”のアクセス付与 公表に拒否権なし

Anthropic has started resident evaluations by the AI evaluation group METR, granting employee-level access and permitting independent disclosure of risks and incidents.

The Verge

ChatGPT can peek at your Chrome tabs now

OpenAI has upgraded its ChatGPT Chrome extension to allow the AI to view open browser tabs when tagged in the web or desktop app.

PC Watch

ChatGPT/Codexデスクトップアプリのディスク使用量が60%削減

OpenAI announced that it optimized how state data is saved to disk in the ChatGPT and Codex desktop apps, reducing storage capacity by 60%.

PC Watch

ChatGPTがまたリセット、15日16時頃までに利用枠回復。1日おきに3回目

OpenAI reset usage limits for ChatGPT and Codex on October 15, marking the third such reset in three days.