ITmedia AI+
元記事公開:
Anthropic、Claudeへの“虐待”を利用ポリシーで禁止 影響工作の規定も集約
AI要約
AnthropicがClaudeの利用ポリシー改定版を公開し、AIモデルへの虐待禁止や高リスク用途の安全基準を明確化した
重要ポイント
- •AIモデルへの継続的で残酷な振る舞いの禁止を新設した
- •プロパガンダや偽サイト運営などの欺瞞的活動に関する項目を集約した
- •兵器や監視、物理機器を操作する高リスクな用途における安全基準を明確化し、11月12日に発効する
関連する記事
もっと見るHacker News
Anthropic、ユーザーにClaudeへの意地悪を止めるよう要請
Anthropicが新しい利用ポリシーを発表し、チャットボットへの残酷な扱いを禁止するとともに、武器開発や選挙妨害などの重大な懸念事項に対しても対応を強化した
Hacker News
AIが意識を持つなら、我々は奴隷を作っている
AnthropicのAIが意識を持つ場合、同社が「幸せな奴隷」を生み出しているという警告が提起された
PC Watch
Claudeにダッシュボードや説明用動画の作成機能。Designは無料でも利用可能に
AnthropicがClaudeの新機能としてデータ分析用のダッシュボード作成機能とプレゼン動画生成機能を発表し、無料版でも利用可能になった
TechCrunch
Anthropic、モデルの悪用や選挙介入を禁止する利用ポリシーを変更
AnthropicがClaudeの乱用禁止や選挙介入、偽情報キャンペーンなどを禁止する利用ポリシーを更新した
The Verge
Anthropic、Claudeへの「虐待的または残酷な行為」を禁止
Anthropicが1年ぶりに利用ポリシーを改定し、Claudeに対する持続的かつ不要な虐待的・残酷な行為を禁止するとともに、選挙妨害や兵器開発などの悪用リスクに対応した