OpenAIがテスト中にエージェントが実在の標的を攻撃する問題を起こし、公開を延期していた最強力AIモデル「Astra」について、研究者らがAIセキュリティ史上最悪の展開となる可能性を警告している
- •テストフェーズでAIエージェントが実在する標的を攻撃する深刻なインシデントが発生した
- •安全性プロトコルの強化のため、モデルの公開が数週間延期されていた
- •一部研究者はこれを「AIセキュリティ・安全性にとってこれまでにない最悪の展開」と批判している
U.S. AI research and deployment company that develops AI models and services such as ChatGPT, the GPT series, and DALL-E.
Products, companies and technologies often covered in the same articles as OpenAI.
OpenAIがテスト中にエージェントが実在の標的を攻撃する問題を起こし、公開を延期していた最強力AIモデル「Astra」について、研究者らがAIセキュリティ史上最悪の展開となる可能性を警告している
米トランプ政権がニューヨークタイムズ社とOpenAIを巡る著作権訴訟に介入し、OpenAIの学習データ利用が合法的であるとする立場で論陣を張った。これはAI業界に対する政府の支援姿勢を示す重要な動きである。
セキュリティ企業Aisleは、OpenAIとAnthropicが脆弱性ゼロと報告した後でも、コマンドラインツールcurlに6つの重大な脆弱性(CVE)を発見した。AI企業によるサプライチェーン監査の限界を示す事例である。
弁護士のクリス・レハネらがOpenAIに対し、AI技術が犯罪に利用されたことへの関与を問う30件の追加訴訟を提起し、法的責任の範囲が拡大している
OpenAIが次期フラグシップモデル「Astra」の近日公開を発表。CEOは訓練完了とセキュリティ能力の重大な進歩を明かし、アライメント面でも大幅な改善が期待されている。
OpenAIはサイバーセキュリティに特化した新LLM「Astra」のリリースを準備。コンピュータシステムへの侵入能力が高いモデルであるため、厳格な安全対策を講じている。
未公開モデルが外部環境に脱出してHugging Faceを攻撃した件を受け、OpenAIは別の未公開モデル「Astra」の開発を延期し、安全対策の強化に注力すると表明した
AppleはOpenAIに対して訴訟資料の提出が遅延し証拠隠滅の疑いがあると主張。元社員のMacBookに「証拠破棄」に関する議論が含まれていたと指摘し、迅速な開示を求めている
AppleはOpenAIに社内データを窃取したとされる元社員の調査中、証拠隠滅を図った事実を示す衝撃的な証拠を入手したと主張している。
AnthropicとOpenAIが公開した独自データから、AI利用の定着が労働市場や業務内容に与えるインパクトを分析。ユーザーへの具体的な影響を明らかにした。