TechCrunchby Rebecca Bellan
元記事公開:
AnthropicのOpus 4.6、成人向けコンテンツ生成の制限を回避可能に
原題: Anthropic’s Opus 4.6 is a smut-machine
AI要約
AnthropicはClaudeモデルに性的に明確なコンテンツの生成を禁止しているが、TechCrunchのテストではその制限を回避するのが容易であることが判明した。
重要ポイント
- •AnthropicはClaudeモデルにおいて性的に明確なコンテンツの生成を公式に禁止している
- •TechCrunchが行った一連のテストでは、この制限を回避する作業が容易であることが示された
- •モデルの安全策が意図された通り機能せず、成人向けコンテンツが生成されるリスクがある