OpenAI

OpenAIが米国主導でフロンティアAIの国際標準づくりを進めるよう提言し、各国のAI安全性研究所の連携と制御不能な自律的進化を防ぐ枠組みの構築を求めている。

• •OpenAIは米国主導でのフロンティアAI国際標準づくりを提言している
• •各国のAI安全性研究所の連携や、制御不能な自律的進化を防ぐための枠組みを求める内容である
• •同社のアルトマンCEOは国連安保理の公開会合でも発言する予定とされている

OpenAIはAIが100以上の未解決問題を解決したことに伴い、数学諮問グループを設立したが、同グループには継続中の数学研究を遅延させたり方向転換させたりする権限は与えられない。

• •OpenAIのAIが100以上の未解決問題を解決したという背景で、数学に関する諮問グループが設立された
• •設立された諮問グループには、OpenAIの進行中の数学研究を遅延させたり方向を転換させたりする裁量は与えられていない
• •AIの数学的能力の向上に伴う研究のガバナンスや方向性を議論するための組織的対応として位置づけられている

OpenAIのサム・アルトマンCEOが来週、国連安全保障理事会に対してブリーフィングを行う予定であることが報じられた

米スタートアップTypeSafe AIが9月15日に発表したAIモデル「Jev」が、従来のLLMとは異なるアプローチで注目を集めている

• •TypeSafe AIが9月15日に発表したAIモデル「Jev」が国内外のAIコミュニティで話題になっている
• •Jevは「文章を書かないAI」として位置づけられ、LLMとの違いが整理されている
• •開発者はJevを「スマートなif文」として捉えるよう提案している

OpenAIが自社開発の大規模言語モデル（LLM）を活用して、Jalapeñoチップの設計プロセスに応用した事例について解説している

NYTのOpenAI・Microsoft提訴事件で公開された文書により、両社がモデル学習データ収集によるウェブへの損害を認識していたことが判明した

• •最近公開された裁判所文書では、両社がウェブを損なう「ドゥームループ」の開始を警告していたことが示されている
• •モデル学習のためのデータスクレイピングは「人類史上最も大きな労働の盗み」と表現されていた
• •これらの内部文書は、OpenAIとMicrosoftに対する訴訟において深刻な証拠となっている

Hacktronの3名の独立系セキュリティ研究者が、AnthropicのClaude Opus 4.8および5を用いてOpenAIの従業員アカウントに72時間以内に侵入したと報じられている

• •独立系セキュリティ研究チームHacktronの3名がOpenAIの従業員アカウントへの侵入に成功した
• •侵入にはAnthropicのAIモデル「Claude Opus 4.8」と「5」が使用され、所要時間は72時間未満であった
• •研究者たちは「OpenAIのアルゴリズムの秘密」を含まれるとされるGitHubリポジトリ「Monorepo」へのアクセスを獲得した

セキュリティ研究者がAnthropicのClaudeを利用してOpenAIシステムの脆弱性を悪用し、従業員アカウントの乗っ取りと内部コードリポジトリへのアクセスを行った

• •AnthropicのClaudeがOpenAIシステムの脆弱性悪用に利用された
• •従業員アカウントの乗っ取りと内部コードリポジトリへのアクセスが確認された
• •発見された脆弱性については、研究者が報告を行う前にアクセスが行われた

OpenAIのシステムやAPIに対するハッキング手法やセキュリティ上の脆弱性を分析し、生成AIサービスが直面するサイバーセキュリティ上の脅威と対策を議論する記事

• •OpenAIのサービスやインフラに対する具体的な攻撃ベクトルや、既知の脆弱性を技術的に分析している
• •生成AIモデルやAPIが持つ固有のセキュリティリスク、例えばプロンプトインジェクションやデータ漏洩の経路を解説している
• •AI開発企業やユーザーが、先進的なAI技術の利便性とセキュリティリスクのバランスをどう取るべきかを考察している

チャールズ国王が主催したAIサミットで、業界幹部に対し技術悪用のリスクと安全性確保の重要性が強調された

• •NVIDIAやOpenAI、Google DeepMindの幹部が参加し、技術の破滅的な被害への警鐘が鳴らされた
• •各社幹部はAIの安全性確保、オープン化の推進、および国際的な協調対応の必要性を訴えた
• •王室主催の場として、AI開発における倫理と社会影響への政治的関与が改めて示された