セキュリティ・悪用

Cody WilsonがAIによって設計された銃「WASP」を発表し、追跡不能なゴーストガン時代の新たな局面を提示した

• •Cody Wilsonが初のAI製銃である「WASP」を発表した
• •Wilsonは13年前に初の3Dプリント銃を製造した経緯がある
• •AIによる設計が追跡不能な武器の製造に与える影響が注目されている

StripeがAIスタートアップやサブスクリプション型企業を狙う不正決済の被害実態を調査し、最大4.3倍に増加したと明かした

NRIセキュアが、生成AIやAIエージェントを活用した開発における安全性と開発スピードの両立を支援するセキュリティサービスを提供開始した

• •生成AIやAIエージェントを活用したソフトウェア開発（AI駆動開発）を行う企業・組織を対象としている
• •AI駆動開発向けセキュリティ支援サービスの提供開始を発表した
• •開発の安全性とスピードの両立を目的としている

AIやエージェントの悪用により攻撃時間が数分まで短縮される可能性を背景に、Gartnerが日本企業に早急な実施を推奨する7つのアクションを紹介する。

• •AIやエージェントの悪用により、人間が数日から数週間かけていた攻撃の作業が数分に短縮される可能性がある
• •不正アクセスが相次ぐ中、日本企業が講じるべき対策としてGartnerの提言が注目されている
• •Gartnerが早急な実施を推奨している具体的なアクションは7つ挙げられている

NVIDIAがAIエージェントの設計において、指示内容だけでなく実行環境でのアクセス制御や権限管理の重要性を指摘した

• •AIエージェントが社内システムやデータを自律的に操作する際に必要なセキュリティ対策を論じている
• •AIへの指示だけに頼らず、実行環境でのアクセス制御や権限管理、継続的な検証を組み合わせることが重要と指摘されている
• •「何を指示するか」よりも「何をさせないか」を重視する設計の原則が示されている

NTTインテグレーションがGoogle Cloud傘下のWizが提供するクラウドとAIのセキュリティプラットフォームの取り扱いを開始した

• •NTTインテグレーションが14日にWizのセキュリティプラットフォームの取り扱いを開始した
• •WizはGoogle Cloud傘下の米国企業が提供するサービスである
• •同プラットフォームはクラウドとAI環境のリスクを可視化する機能を有する

漫画・アニメグッズ販売のW社で、マーケターが生成AIツールで販促企画の壁打ちを行い7万人分の会員情報が外部に流出した事例を解説する

• •20万人以上の会員を抱えるW社で、ベテランマーケターが生成AIツールで企画の壁打ちを行った
• •この行為がコンプライアンス違反となり、7万人分の会員情報が外部に流出した
• •プライベートで利用していた生成AIツールへの情報提供がきっかけとなった

Common Crawlのスキャンにより、AIエージェントを狙ったHTTPヘッダーを送信するサイトが7,959件発見された

• •AIエージェントを狙ったHTTPヘッダーを送信するサイトが7,959件発見された
• •そのうち30件がプロンプトインジェクションの試みと特定された
• •エージェントの防御方法について考察されている

離婚直後の女優ミア・ゴスとされるAI生成画像がSNSで拡散され、有名人がディープフェイク被害に遭いやすい現状が指摘されている

• •女優ミア・ゴスがシア・ラボーフと離婚申請した数日後に、彼女を装ったTシャツ姿の画像がInstagramに投稿された
• •画像には「MY EX IS MY BIGGEST FAN」という意図的なメッセージが書かれたTシャツが着用されていた
• •この画像はAIディープフェイクである可能性が高く、有名人が標的になるリスクを示している

トロント大学の研究者が、イスラエルのDiscover-Techのソフトウェアがデジタル広告経由でターゲットをこっそりハッキングすることを明らかにした

• •イスラエルのDiscover-Tech社のControliumソフトウェアが、デジタル広告を通じて「ゼロクリック」スパイウェアのインストールを可能にしていると研究者が指摘した
• •トロント大学の研究者によると、同ソフトウェアはクライアントがインターネットユーザーを大規模にプロファイリングし、ターゲットを隠密にハッキングすることを可能にしている
• •この調査結果は、デジタル広告がスパイウェアの配布経路として悪用されている可能性を示している