Back to articles
DevPickView feed
TechCrunchby Rebecca Bellan
Original published:

Anthropic’s Opus 4.6 is a smut-machine

AI summary
Editorial policy

AnthropicはClaudeモデルに性的に明確なコンテンツの生成を禁止しているが、TechCrunchのテストではその制限を回避するのが容易であることが判明した。

Key points

  • •AnthropicはClaudeモデルにおいて性的に明確なコンテンツの生成を公式に禁止している
  • •TechCrunchが行った一連のテストでは、この制限を回避する作業が容易であることが示された
  • •モデルの安全策が意図された通り機能せず、成人向けコンテンツが生成されるリスクがある
#Security & Misuse#Regulation, Ethics & Society#LLM / Model Trends#Anthropic
Read the original(opens in a new tab)

Related articles

See more
ITmedia AI+

Anthropic、METRの評価チームを社内に常駐させ“従業員並み”のアクセス付与 公表に拒否権なし

Anthropic has started resident evaluations by the AI evaluation group METR, granting employee-level access and permitting independent disclosure of risks and incidents.

TechCrunch

Anthropic is letting METR researchers look under the hood with employee-level access

Anthropicが外部評価機関METRにリスクやインシデントに関する従業員レベルのアクセス権を付与し、METR独自の評価結果を公開することを可能にした

Hacker News

More on Anthropic's Scion ripping off Mononoke

An article discussing the claim that Anthropic's Scion ripped off Mononoke.

Publickey

AnthropicのBun、TypeScript 7よりも3倍以上高速なTypeScript型チェッカーを搭載。Bunの新バージョン1.4.3で

Anthropicが開発するJavaScriptランタイムBunのv1.4.3がリリースされ、Go言語で実装された高速なTypeScript型チェッカーが搭載された

gihyo.jp

Claude Codeデスクトップアプリ、並行作業を進めやすくするセッション管理の改善を案内

Anthropic improved session management in the Claude Code desktop app to facilitate parallel work across multiple sessions.