Security & Misuse

AIエージェントのセキュリティ分野で競合が急増する中、Recoが5500万ドルの資金調達を完了し累計調達額を1億4000万ドルに拡大した

• •AIエージェントのセキュリティに関するスタートアップが市場に多数参入している
• •Recoは2月の3000万ドル調達に続き、今回5500万ドルの資金調達を行った
• •今回の調達によりRecoの累計調達額は1億4000万ドルに達した

英国の駅での6ヶ月間の顔認証トライアルで50万回のスキャンが行われたが、逮捕はゼロで誤検知は1件のみだったことが情報公開請求で判明した

• •情報公開請求の結果、6ヶ月間のトライアルのコストが32万ポンドに達し、警察の時間としてほぼ100時間が費やされたことが明らかになった
• •50万回の顔スキャンが行われたものの、逮捕に至る事例はゼロであり、発生した警報は1件のみで、その内容は誤検知だった
• •顔認証システムの運用コストと実効性の乖離が、具体的な数値を通じて示されている

ローカル実行可能なサイバーOSINT向けMoEモデルが公開され、サイバー脅威インテリジェンスや調査業務に特化したSFTが施されている

• •総パラメータ26B、アクティブ4B、コンテキスト長262KのMoEアーキテクチャを採用し、6,500件のOSINT/CTI指示データで学習されている
• •サイバー脅威インテリジェンスや調査業務向けにSFT（Supervised Fine-Tuning）が適用され、脅威アクターの帰属分析やIoC（侵害指標）のピボット、地理特定に対応する
• •アドミラルティソースグレーディング（情報源の信頼性評価）にも対応しており、ローカル環境での実行が可能である

現代の自動車が走行中の位置情報や加速・ブレーキの強さなど膨大なデータを収集しており、その合法性やプライバシーリスクについて考察する記事

• •現代の自動車は走行場所や加速、ブレーキ、ハンドル操作の強さなど詳細なデータを収集している
• •スマートフォンと同様に車内でも膨大な個人データが記録される構造になっている
• •こうしたデータ収集の法的な妥当性やプライバシーへの影響が議論の対象となっている

AI企業が広告主に対してデータを漏洩させている問題に関する調査や報告の内容について扱った記事

デロイトの調査によると、業務で使う生成AIの個人利用についてガイドラインを策定している企業はわずか5%で、大半は未対応であることが判明した

• •生成AIの個人利用に関するガイドラインを策定・周知している企業は全体の5％にとどまっている
• •74％の企業が「実施していない、わからない」と回答し、対応が不足している
• •多くの企業では、AIの利用に関する対応が利用者本人に委ねられている現状がある

AGESTがパッチ適用後のテストをAIで高速に自動化するツール「AGEST ZERO TEST」の提供を開始した

• •セキュリティパッチ対応後の新旧比較テストをURL入力だけで自動化する
• •同製品を用いたPoC参加企業の募集も開始している
• •発表は9月28日に行われた

検閲なしのAIモデルやサイバーセキュリティタスク向けにファインチューニングされたモデルの性能を比較するベンチマーク結果

• •検閲なし（Uncensored）のAIモデルを対象にベンチマークを実施している
• •サイバーセキュリティタスクに特化してファインチューニングされたモデルも評価対象に含まれる
• •JoasASantosが提供するOffensive-Security-AI-Modelsリポジトリに関連する

テクノマトリックスが、Secure Code Warrior上で一般ビジネスユーザー向けに設計されたAIリテラシー教育コンテンツ「Citizen AI」の提供を開始した

NVIDIAがAIエージェントの動作を監視・制御するプラットフォームを発表し、実行環境制御と行動監視機能を備えている

• •NVIDIAは9月28日に「NVIDIA Open Agent Safety Platform」を発表した
• •OpenShellを用いてエージェントの実行環境を制御する
• •NVIDIA BlueField-4上で動作するSentryによりエージェントの行動を監視する