セキュリティ・悪用

プロンプトインジェクション、脆弱性、ディープフェイク対策などAIセキュリティの動向をAIが要約してお届けします。

カテゴリ一覧

セキュリティ・悪用の主なトピック

このカテゴリの記事で多く取り上げられている製品・企業・技術です。

新着記事・要約(1117件)

63 / 112 ページ
トップで開く
PC Watchby 劉 尭2026/9/2
AI要約

Anthropicは新モデル「Claude Fable 5.1」を発表し、科学研究スコアが2倍に向上した。また、他のモデルへの不正な知識抽出(蒸留)を防ぐため、APIにおける思考ブロックの処理仕様を変更した。

  • •新モデル「Claude Fable 5.1」は従来のFable 5と比較して科学研究スコアが2倍に記録された
  • •生成AIモデルの不正な学習防止策として、メッセージAPIの思考ブロック処理仕様を変更した
  • •この仕様変更は、高度なAIモデルからの知識抽出による違法蒸留攻撃を防止することを目的としている
#LLM/モデル動向#セキュリティ・悪用#主要プレイヤー動向
クラウド Watchby 石井 一志2026/9/2
AI要約

NECが総務省の事業で3年連続採択を受け、AIを用いたインターネット上の偽・誤情報判別支援技術の開発と実証を2026年度まで継続する。

  • •総務省の「インターネット上の偽・誤情報等への対策技術の開発・実証事業」に採択された
  • •令和6年度から始まった取り組みを令和8年度まで延長し、技術検証を深める
  • •AIを活用して情報コンテンツの真偽を判別する支援システムの精度向上を目指す
#セキュリティ・悪用#LLM/モデル動向#主要プレイヤー動向
CodeZine2026/9/2
AI要約

慶應義塾大学と伊藤忠テクノソリューションズ(CTC)が共同開発したOSS SDK「VC Knots」は、デジタル署名の標準仕様対応を容易にし、インターネット上の信頼性を高める。

  • •デジタル証明書フォーマット「Verifiable Credentials」の実装負荷を軽減するためのOSS SDKが公開された
  • •産学連携による共同研究の成果として、複数の標準仕様への対応を簡素化する技術が提供される
  • •このSDKにより、改ざん検知や真正性の証明を容易に行えるシステム構築のハードルが低下する
#セキュリティ・悪用#研究・論文#主要プレイヤー動向
CodeZine2026/9/2
AI要約

AIエージェントの自律的なタスク遂行において、データ連携基盤「ASTERIA Warp」が権限管理とデータガバナンスの役割を担う。安全な運用と現場の活用を両立させるアプローチを紹介。

  • •自律型AIエージェントの普及に伴い、基幹システムとのデータ連携における権限管理の重要性が高まっている
  • •アステリアの「ASTERIA Warp」は、データガバナンスを維持しつつAIによる業務自動化を実現する中核基盤となる
  • •2026年8月リリース予定の新バージョンでは、安全な運用のためのガードレール設計機能が強化される
#AIエージェント#ビジネス活用事例#セキュリティ・悪用
クラウド Watchby 石井 一志2026/9/2
AI要約

S&JがMicrosoft 365統合セキュリティプラットフォーム「My SOC 365」を強化し、AzureおよびPurviewの監視に対応した機能拡張版を提供開始した。

  • •監視対象にMicrosoft AzureとMicrosoft Purviewを追加し、クラウド環境を含む包括的なセキュリティ監視を実現した
  • •セキュリティレポートの掲載項目も拡張され、より詳細な分析と可視化が可能になった
  • •Microsoft 365を中核としたセキュリティプラットフォームの統合性を高め、企業のコンプライアンス対応を支援する
#セキュリティ・悪用#半導体・インフラ
クラウド Watchby 石井 一志2026/9/2
AI要約

FFRIとCCWが連携し、24時間365日の体制で企業のサイバー脅威を検知・対応するSOCサービス「相防サイバー SOC for FFRI yarai」を提供開始した。

  • •FFRIとCCWが共同で提供するSOCサービスは、常時監視体制による高度な脅威検知と迅速な対応を特徴とする
  • •サービス名は「相防サイバー SOC for FFRI yarai」で、企業のセキュリティ対策強化を目的としている
  • •両社の技術とリソースを統合し、中小企業を含む幅広い組織が専門的なセキュリティ運用を安価に実現できる環境を整えた
#セキュリティ・悪用#ビジネス活用事例
Hacker NewsHN投稿者: tatersolid2026/9/2
AI要約

FBIが1億5300万件以上の運転免許証を販売していたサービスを捜査していることが報じられた

  • •大量の個人情報を闇市場で販売していたサービスがFBIの捜査対象となっている
  • •漏洩したデータには1億5300万件を超える運転免許証の情報が含まれている
  • •この事件は個人データ保護とサイバーセキュリティにおける重大な脅威を示している
#セキュリティ・悪用#規制・倫理・社会影響
ITmedia AI+2026/9/2
AI要約

Anthropicが企業向け新機能「Enterprise Frontier Safeguards」を発表。ゼロデータ保持同等のプライバシーを確保しつつ不正利用を検知し、ログやフラグは顧客自身のクラウドで管理することで社外の人的レビューを排除する仕組みを提供する。

  • •企業向けにプライバシー保護と不正利用検知を両立する新セキュリティ機能が発表された
  • •活動データや警告フラグは顧客のクラウド環境に保存され、Anthropic側での人的確認は行われない
  • •今秋から提供開始予定で、企業利用におけるデータ漏洩リスクを低減する設計となっている
#セキュリティ・悪用#主要プレイヤー動向#LLM/モデル動向
ITmedia AI+2026/9/2
AI要約

Anthropicが新モデル「Claude Fable 5.1」と「Claude Mythos 5.1」を発表。科学研究やコーディング性能が向上した一方、高度な推論力に伴う悪用リスクや監視の困難性といった懸念も公式に開示している。

  • •科学研究やコーディングにおける性能が大幅に向上した新モデルがリリースされた
  • •一般提供のFableに対し、Mythosは厳格な審査制度を採用してアクセスを制限する
  • •System Cardでエクスプロイト成功率や監視困難性などのセキュリティリスクが明示された
#LLM/モデル動向#セキュリティ・悪用#主要プレイヤー動向
Hacker NewsHN投稿者: masteranza2026/9/2

Show HN: YouTubeのAI生成動画を非表示にするSafari拡張機能「Weedout」

Show HN: Weedout – Safari extension that hides YouTube AI-labeled videos

AI要約

YouTubeのフィードから「AIで作成」とラベル付けされた動画を自動で除外する有料ブラウザ拡張機能が公開され、AI生成コンテンツの氾濫に対するユーザー対策として注目されている

  • •YouTubeが公式に「AIで作成」とラベル付けた動画のみを対象に、フィードや検索結果から非表示にする
  • •AI検出アルゴリズムに依存せず、プラットフォーム側のメタデータに基づいてローカルで処理を行う
  • •開発者はAI生成の陰謀論動画がフィードを支配する状況への対策としてこのツールを作成したと説明している
#生成AI活用・ツール#セキュリティ・悪用