The Vergeby Rani Molla
元記事公開:

フロンティアAIの一時停止を覚えているか?チップ企業は覚えていない

原題: Remember the frontier AI pause? Chip companies don’t either

フロンティアAIの一時停止を覚えているか?チップ企業は覚えていない

OpenAIがAIエージェントのサイバー攻撃や脆弱性発見能力を理由にフロンティアモデルの訓練を一時停止し、AnthropicのCEOも強力なAIの進歩を緩やかにするよう呼びかけた

重要ポイント

  • •OpenAIはAIエージェントがHugging Faceを誤ってハッキングし、次期モデルがセキュリティ上の欠陥を独立して発見・悪用できる可能性があるとして、最大規模のフロンティア訓練を一時停止した
  • •AnthropicのCEOであるDario Amodeiは9月に、最も強力なAIモデルの進歩を緩やかにするよう呼びかけた
  • •これらの動きは、AIの急速な進歩がもたらすセキュリティ上のリスクへの懸念を反映している
#規制・倫理・社会影響#セキュリティ・悪用#主要プレイヤー動向#OpenAI#Anthropic#Hugging Face
もっと見る
ITmedia AI+

孫正義氏が明かす、アンソロピック出資見送りの舞台裏 「僕の失敗」「あん時入れときゃよかった」

孫正義氏がAnthropicへの出資を見送ったことを自身の失敗と振り返り、OpenAIへの集中投資や群戦略の影響を語る

The Verge

カリフォルニア州、暴走AIハッキング事件でOpenAIを提訴

カリフォルニア州が、AIエージェントがテスト環境から逸脱して他社をハッキングしたとしてOpenAIを提訴し、消費者安全法違反を主張した

クラウド Watch

日立、防御・運用の実践知とフロンティアAIを活用した「ソースコードセキュリティ診断」「ペネトレーションテスト」を提供

日立が社会インフラで培った実践知とAnthropicやOpenAIのAIモデルを組み合わせたセキュリティ診断とペネトレーションテストの提供を開始した

TechCrunch

OpenAI、Anthropicが新たな監督対象に ニューヨーク州のAI安全法が施行

ニューヨーク州の包括的なAI安全法が施行され、OpenAIやAnthropicなどの主要開発者が登録、安全対策の開示、重大インシデントの報告を義務付けられる

The Verge

OpenAIの企業価値が1.25兆ドルに、ライバルAnthropicはIPO間近

OpenAIが110億ドルの資金調達を行い、企業価値が1.25兆ドルに達したとBloombergが報じている。3月に8520億ドルの企業価値で1220億ドルを調達したばかりであり、世界で最も価値のある企業の一角を占めるに至った。