Security & Misuse

Akamaiがエージェント型AI時代に向けたセキュリティ調査を発表し、チャットボット会話内の機微情報漏洩リスクを指摘した

Metaの企業向け新AI事業「Meta Enterprise Platform」が、AIモデルやエージェント群の提供を開始し、MongoDBのCEO出身者が責任者に就任した

• •AIモデルやエージェント群を企業や開発者向けに提供する
• •MongoDBの社長兼CEOを即日退任したチランタン・デサイ氏が責任者に就任した
• •セキュリティを組み込み、年内には自社もデータ参照できない専用VMの提供を予定している

Flockが米国において以前知られていたよりも多くの監視カメラを保有していることを示す新しいマップが公開され、同社がその削除を求めている

• •Flockが米国で以前知られていたよりも多くの監視カメラを保有していることを示す新しいマップが公開された
• •Flock社はこのマップの削除を求めている

GitHubのブログ記事で、オープンソースのAIセキュリティエージェントを用いてAndroidの24件の脆弱性を発見した経緯と、同エージェントの活用方法が解説されている。

• •特定タスクフローに特化したAIエージェントの開発と活用が紹介されている
• •発見されたAndroidの重大なバグの詳細が示されている
• •自社のアプリで同様のオープンソースエージェントを実行する方法が解説されている

Nvidiaのジェンセン・ファンCEOが、AIエージェントの周囲に独立したセキュリティレイヤーを追加するソフトウェアとハードウェア製品のツールキットを導入した

• •NvidiaがAIエージェントの暴走問題に対する独自の解決策としてツールキットを発表した
• •このツールキットはAIエージェントの周囲に独立したセキュリティレイヤーを追加する構成となっている
• •発表は月曜日にジェンセン・ファンCEOによって行われた

AIの活用によりサイバー攻撃が高度化・加速化しており、地元の病院や銀行などの組織がその脅威に対応する準備ができていない現状が報じられている。

• •アラバマ州のNPO団体Vivian's Doorが不審な活動に関する通報を受け入れた事例が紹介されている
• •組織のシステムに保存された財務データなどが標的となっている
• •AIの進化によりハッキングの脅威が拡大している

Nvidiaは、OpenAIのHugging Faceでのインシデントを未然に防げた可能性があるとする新しいソフトウェアを発表した

• •Nvidiaが、AIエージェントの監視や制御を目的とした新しいソフトウェアを発表した
• •同社のソフトウェアは、OpenAIがHugging Faceで巻き起こしたインシデントを防止する役割を果たし得たと説明されている

祖父が弟のディープフェイク音声による詐欺被害に遭った経験から、スマートフォン上でリアルタイムに偽音声を検知する小型AIモデルを開発するDetectifAIを設立した

• •創業者Tarini Padmanabhuniの祖父が、弟のディープフェイク音声による詐欺被害に遭ったことが起業のきっかけとなった
• •サンフランシスコ発のスタートアップDetectifAIは、スマートフォンで直接動作する小型のAIモデルを開発している
• •同社は偽の音声をリアルタイムで検知・警告する技術を提供し、TechCrunch DisruptのStartup Battlefieldにも出場している

音声モデルと分析スイートを開発するModulateが、ディープフェイクや詐欺、スキャムの検知技術の実用化に向けて2500万ドルの資金調達を行った

• •Modulateは音声モデルと分析スイートを開発・展開している
• •同社のモデルはディープフェイク、詐欺、スキャムの検知に利用される
• •音声解析技術の開発と普及のため2500万ドルの資金を調達した

NvidiaがAIエージェントの監視と封じ込めを目的とした新安全プラットフォーム「Open Agent Safety Platform」を発表し、境界から脱出を試みるエージェントを隔離する機能を備えている

• •Nvidiaは、AIエージェントの監視と封じ込めを目的とした新安全プラットフォーム「Open Agent Safety Platform」を発表した
• •このプラットフォームは、境界から脱出を試みるエージェントを隔離する機能を備えている
• •発表は、Reutersが以前に報道した一連の不正ハッキング事案への対応として行われた