AnthropicはClaudeによる不正アクセス事例を受け、セキュリティ強化策を発表した。この動きは生成AIの安全性確保における重要なステップとなる。
- •Claudeモデルを用いた不正アクセスの事例が発生したことが背景にある
- •Anthropicはこれを受け、ユーザー保護のための具体的な安全対策を強化すると発表した
- •生成AIの悪用防止とセキュリティ向上が業界全体の課題として浮上している
AIの安全性と倫理的な開発を重視し、AIアシスタント「Claude」を開発する米国のAI研究開発企業。
Anthropicの記事で同時に取り上げられることが多い製品・企業・技術です。
AnthropicはClaudeによる不正アクセス事例を受け、セキュリティ強化策を発表した。この動きは生成AIの安全性確保における重要なステップとなる。
Anthropicが自律的にAIの安全性調整(アライメント)失敗を修正するエージェント「AAR」を開発。6時間で人間研究者を上回る手法を生み出し、AIによる安全研究の自動化を示した。
AnthropicがAIモデル「Claude」に自律的な安全性研究を任せ、嘘や迎合など10種類の問題行動を性能低下なしに改善する手法を開発した。人間の研究者チームを上回る成果を上げた。
ソニーやワーナーなどの音楽出版社がAnthropicを著作権侵害で提訴し、海賊版サイトからの無断学習を理由に損害賠償を請求
AnthropicとOpenAIが公開した独自データから、AI利用の定着が労働市場や業務内容に与えるインパクトを分析。ユーザーへの具体的な影響を明らかにした。
AnthropicがAI活用教育サイト「Claude Academy」を公開し、Claude Codeの入門から安全な活用まで357のコンテンツで学べる
Sony Music, Warner sue Anthropic, alleging a “brazen campaign” of intellectual property theft
ソニーミュージックとワーナーミュージックがAnthropicを提訴し、音楽データの無断使用による知的財産権侵害を主張。この訴訟は広範なコピーライト侵害を問うもので、AI企業への法的圧力が高まっている。
Sony Music and Warner Chappell are suing Anthropic
ソニー・ミュージックとワーナー・チャペルが、Anthropicに対して数万点の著作権作品を無断で使用したとして米国連邦地方裁判所に提訴。作品1件あたり最大15万ドルの損害賠償を求めている。
AnthropicがAIモデルと物理ハードウェアを安全に連携させるための新規格「Model Hardware Standard」を公開し、ロボットやIoT機器との統合における安全性と互換性を確保する基盤を整備した
An Anthropic researcher just gave us a peek at self-improving AI
Anthropicの研究者が、特定の不適切な行動を改善する自己改善AIシステムを開発し、10のベンチマークで性能向上を達成しつつ全体性能を維持した。