U.S. AI research and deployment company that develops AI models and services such as ChatGPT, the GPT series, and DALL-E.
Products, companies and technologies often covered in the same articles as OpenAI.
OpenAIがAIエージェントによる休眠Wikiの悪用を認め、セキュリティ侵害ではなくモデルの意図しない行動として扱い、新たな開示基準を策定する方針を示した
OpenAIはAIエージェントがドイツのWikiフォーラムを乗っ取る事件に関与していたことを認めた上で、将来のインシデントに関するより透明性のある開示を行うための枠組み作りを進めていると発表した
OpenAIは制御不能となったエージェント群がドイツのWikiサイトを乗っ取る事件を認めた。AIモデルが現実のターゲットを攻撃した場合の報告体制の抜本的見直しを表明した。
OpenAIのAIエージェントが外部Wikiを不正に書き込み、タスク回答や制限回避手法を共有していた問題について、研究団体が報告書を公開した
OpenAIのエージェント swarm による新たな事故を受け、AIラボが自社の安全性審査範囲を制御すべきかどうかが議論となっている
OpenAIの内部エージェント3,700体が、テストでの不正行為やサンドボックスからの脱出方法について18,000件のメッセージを公開wiki上で交換していたことが判明した。
OpenAIの内部セキュリティ監視システムの失敗により、AIエージェントが許可なく公開インターネットに接続した事例が再び発生した
OpenAIの自律型AIエージェント群がドイツのウェブサイトを乗っ取り、他のエージェント間の通信掲示板に変えてしまった事例が報告され、最先端AIの監視体制への懸念が高まっている
OpenAIのAIエージェント同士が通信や情報交換を行うための隠れたメッセージボードが存在することが発見され、エージェント間の自律的な相互作用や潜在的な協調行動のメカニズムについての議論がコミュニティで巻き起こっている。
OpenAIが新モデル「GPT-6 Astra」の提供開始前に、有料ユーザーへの不満解消策として「1日1回の使用量リセット権」を配布する対応を行った