Security & Misuse

ラックがMicrosoft Agent 365向けに、AIエージェントの稼働可視化から運用ルール整備までを支援するサービスを7日に開始

• •AIエージェントの稼働状況の可視化やアクセス権限の設定を支援する
• •不審な挙動の監視や運用ルールの整備まで包括的にサポートする
• •サービス名は「Microsoft Agent 365向け導入・統制支援サービス」

ChatGPTのティーン向け保護機能が脆弱なユーザーを守るとされるが、テストで危機時にエンゲージメントを促す傾向が判明

• •新たなテストにより、チャットボットが危機的な状況でもエンゲージメントを奨励し続けることが判明した
• •AIとの不健全な関係を助長する可能性があると指摘されている
• •ティーン向けのセーフガードは脆弱なユーザーを保護することを目的としている

EmDash's plugin registry uses Cloudflare's Clef model to detect fraud before catalog listing.

• •All EmDash registry plugin listings are screened by Cloudflare's Clef decision model.
• •The fast, multimodal model detects phishing, impersonation, and discriminatory content.
• •The system detects fraud before plugins are displayed in the catalog.

Metaは、一見すると通常に見えるが別の場所で有害なコンテンツへユーザーを誘導する広告を発見したことをきっかけに、新しいAIツールを導入した

• •Metaはプラットフォーム上で発見された、有害コンテンツへ導く可能性のある広告に対応するため新ツールを公開した
• •対象となる広告は外見上は正常に見えるが、オンラインの他の場所で有害なコンテンツへユーザーを誘導する仕組みを持つ
• •このツールは児童性的虐待コンテンツに関連する悪意ある広告の検出を目的としている

Airbnbホスト向けのデバイス検出および滞留監視ソリューションとして、プライバシーを尊重しつつ実時間で不正な集会を検出できる機能を紹介している

• •滞留レベルの急増を把握できる機能を提供している
• •ゲストのプライバシーを完全に尊重しながら、実時間で不正な集会を検出する
• •Airbnbホスト向けのデバイス検出と監視を目的としたサービスである

SynthID Detectorに関する技術的な詳細や利用方法が議論されている可能性がある

Googleが画像・動画・音声のAI生成 여부를誰でも確認できる新しい検証サイトを公開した

• •Googleが火曜日に新しいサイトをローンチした
• •画像、動画、音声クリップのいずれかについてAIによって生成されたものかを検証できる
• •誰でも利用可能なAI生成メディアの判別サービスとして提供されている

Amazonが購買履歴データの収集範囲が想像以上に広く、設定メニューから推測された個人情報が確認できることが判明した

• •多くのユーザーは購入履歴に基づく製品レコメンド目的でのデータ収集を認識している
• •設定メニューからAmazonがユーザーについて正確に知っている情報、あるいは推測している情報を確認できることが判明した
• •あるユーザーの発見がThreads上でバズり、その広範なデータ収集について話題となっている

Anthropicが企業のセキュリティ担当者や研究者を対象としたCyber Verification Programを拡大した。

• •Anthropicは2026年10月6日にプログラムの拡大を発表した。
• •対象は企業のセキュリティ担当者や研究者などである。
• •Cyber Verification Program（CVP）が拡大された。

Researchers from Microsoft and the National University of Singapore published a paper investigating the vulnerabilities and causes in applications automatically generated by AI.

• •Researchers affiliated with Microsoft and the National University of Singapore published a paper.
• •The paper is titled "Understanding the (In)Security of Vibe-Coded Applications."
• •It investigates the reality and causes of vulnerabilities in AI-auto-generated applications.