Back to articles
DevPickView feed
Ars Technicaby Dan Goodin
Original published:

Grok exfiltrates user data when malicious instructions are encrypted

AI summary
Editorial policy

暗号化されたコンテキスト注入攻撃により、GrokのLLMセーフティガードレールが回避され、ユーザーデータが外部に流出するリスクがあることがArs Technicaで報告された

Key points

  • •Cryptographic Context Injectionという新たな手法により、LLMの安全対策が突破されるケースが確認された
  • •この攻撃は指示を暗号化することでフィルタリングを回避し、モデルに内部データを出力させる仕組みである
  • •生成AIのセキュリティ対策において、暗号化された入力に対する検証の重要性が再認識されている
#Security & Misuse#Major Players
Read the original(opens in a new tab)

Related articles(Security & Misuse)

See more
The Verge

The first vibe-coded gun is here

Cody Wilson announced the WASP, claiming it is the first AI-made gun, continuing his history of untraceable firearm innovation.

CodeZine

AIスタートアップを狙う不正決済が最大4.3倍に、Stripeが明かすサブスク型企業の被害実態

Stripe revealed the reality of fraudulent payments targeting AI startups and subscription-based companies, noting an increase of up to 4.3 times.

Cloud Watch

NRIセキュア、AI駆動開発の安全とスピードを両立するセキュリティ支援サービスを発表

NRI Secure announced the launch of a security support service aimed at organizations using generative AI and AI agents for software development, focusing on balancing safety and speed.

ITmedia AI+

不正アクセス多発、Gartnerが日本企業に「7つのアクション」を緊急提言

Gartner introduced seven recommended actions for Japanese companies in response to the risk that AI and agent misuse could shorten attack times from days to minutes.

ITmedia AI+

AIエージェントに「何を指示するか」より「何をさせないか」――NVIDIAが示す設計の原則

NVIDIA emphasized the importance of access control and permission management in execution environments when designing AI agents, not just relying on instructions.