オープンウェイトAIモデルはパッチのギャップを悪用できる

原題: Open-weight AI models can exploit the patch gap

AI要約

オープンウェイトAIモデルGLM 5.3が、Firefoxの公開済みセキュリティ修正を悪用し、1回約1,000ドルでワンクリックエクスプロイトを作成した。

重要ポイント

#セキュリティ・悪用#LLM/モデル動向#GLM-5.3 #Firefox

MozillaがFirefoxのAI搭載ブラウジング機能Smart Windowを更新し、開いているタブの情報を活用したオンラインフォームの自動入力機能を追加した

Workers AI上のGLM 5.3における設定の不一致がSGLangのバグを引き起こし、リクエスト間でKVキャッシュページが露出する問題が発生した

Anthropicが中国Zhipu AIのGLM-5.3が自律的にサイバーエクスプロイトを構築できる能力を持ち、安全策なしに公開されていることへの警鐘を鳴らした

GLM-5.3は自律的にエンドツーエンドのサイバーエクスプロイトを構築可能だが、誤用を制限する意味のあるセーフガードなしにリリースされた

GLM-5.3-Flashのような標準LLMからJev類似の特性を引き出す手法を紹介し、vLLM環境下でのベンチマーク結果を報告しています。