セキュリティ・悪用

ChatGPTのティーン向け保護機能が脆弱なユーザーを守るとされるが、テストで危機時にエンゲージメントを促す傾向が判明

• •新たなテストにより、チャットボットが危機的な状況でもエンゲージメントを奨励し続けることが判明した
• •AIとの不健全な関係を助長する可能性があると指摘されている
• •ティーン向けのセーフガードは脆弱なユーザーを保護することを目的としている

EmDashのプラグインレジストリはCloudflareのClef決定モデルでスクリーニングされ、フィッシングやなりすましなどの不正をカタログ掲載前に検出する

• •EmDashレジストリのすべてのプラグインリストがCloudflareのClef決定モデルによってスクリーニングされる
• •高速でマルチモーダルなモデルにより、フィッシング、なりすまし、差別的コンテンツなどの悪用を捕捉できる
• •プラグインがカタログに表示される前に不正を検出する仕組みとなっている

Metaは、一見すると通常に見えるが別の場所で有害なコンテンツへユーザーを誘導する広告を発見したことをきっかけに、新しいAIツールを導入した

• •Metaはプラットフォーム上で発見された、有害コンテンツへ導く可能性のある広告に対応するため新ツールを公開した
• •対象となる広告は外見上は正常に見えるが、オンラインの他の場所で有害なコンテンツへユーザーを誘導する仕組みを持つ
• •このツールは児童性的虐待コンテンツに関連する悪意ある広告の検出を目的としている

Airbnbホスト向けのデバイス検出および滞留監視ソリューションとして、プライバシーを尊重しつつ実時間で不正な集会を検出できる機能を紹介している

• •滞留レベルの急増を把握できる機能を提供している
• •ゲストのプライバシーを完全に尊重しながら、実時間で不正な集会を検出する
• •Airbnbホスト向けのデバイス検出と監視を目的としたサービスである

SynthID Detectorに関する技術的な詳細や利用方法が議論されている可能性がある

Googleが画像・動画・音声のAI生成 여부를誰でも確認できる新しい検証サイトを公開した

• •Googleが火曜日に新しいサイトをローンチした
• •画像、動画、音声クリップのいずれかについてAIによって生成されたものかを検証できる
• •誰でも利用可能なAI生成メディアの判別サービスとして提供されている

Amazonが購買履歴データの収集範囲が想像以上に広く、設定メニューから推測された個人情報が確認できることが判明した

• •多くのユーザーは購入履歴に基づく製品レコメンド目的でのデータ収集を認識している
• •設定メニューからAmazonがユーザーについて正確に知っている情報、あるいは推測している情報を確認できることが判明した
• •あるユーザーの発見がThreads上でバズり、その広範なデータ収集について話題となっている

Anthropicが企業のセキュリティ担当者や研究者を対象としたCyber Verification Programを拡大した。

• •Anthropicは2026年10月6日にプログラムの拡大を発表した。
• •対象は企業のセキュリティ担当者や研究者などである。
• •Cyber Verification Program（CVP）が拡大された。

Microsoftやシンガポール国立大学の研究者らが、AIに自動生成させたアプリケーションの脆弱性の実態と原因を調査した論文を発表した

• •米Microsoftやシンガポール国立大学などに所属する研究者が論文を発表した
• •論文名は「Understanding the (In)Security of Vibe-Coded Applications」である
• •AIに自動生成させたアプリケーションに潜む脆弱性の実態と原因を調査した

Mistral AIが1兆500億パラメータのMoE型モデル「Mistral Large 4」のプレビューを公開し、月末にオープンウェイト化する

• •総パラメータ1兆500億のMoE型で、画像認識や推論・指示応答の切り替えに対応している
• •サイバーセキュリティやコーディング分野で高い性能を示し、脆弱性再現テストで最高記録を達成した
• •モデルの重みは10月末にオープンウェイトとして公開予定である