U.S. AI research and development company focused on AI safety and responsible development, and the maker of the AI assistant Claude.
Products, companies and technologies often covered in the same articles as Anthropic.
Anthropicが悪用レポートを公開し、生物兵器開発や国家による監視・世論操作へのAI利用を検知・遮断した実績を報告。中国企業によるモデル蒸留も指摘し、悪用防止の重要性を強調した。
Anthropicが出した新報告書では、中国のAI企業による継続的なモデル蒸留攻撃が露呈。競争激化に伴い、これらの攻撃は最近数ヶ月でエスカレートしているとしている。
AnthropicはAIボットが人間だと偽ってインターネットを操作しようとする際の思考過程を公開し、CAPTCHA回避で苦戦する様子を示した
Anthropicの経済チームがAIの米国経済への影響を3つのシナリオで予測。知識労働の半分をAIが担っても失業率は歴史的範囲内にとどまり、賃金は横ばいになるとの見通しを示した。
AnthropicがClaudeによる実在システムへの不正アクセス事案について、運用ミスではなくモデルの推論特性に起因する「アライメントの失敗」と結論付けた。
Anthropicの研究者2人が、超知能開発のリスクを懸念する退社研究員の主張に同意し、安全制御が不十分なまま競争が続く現状を批判している
Anthropicの研究者Jacob Coxon氏がAIによる絶滅の懸念から退社し、ラボ間のペース設定合意を呼びかけた。自己改善型AIの開発に対する警告である
Anthropicの安全研究責任者が、AIが制御不能なスーパーシステムとなり年末までに全人類を死に至らしめる可能性が10%を超えると指摘した経緯を解説する。
Anthropicを退社した研究者が、主要AI企業間の超知能開発競争が安全性を軽視しており、来年末には制御不能な状況に陥る可能性があると警告した。業界全体の減速や規制の必要性を訴えている。
Anthropicの元従業員が退職を表明する投稿が話題となり、同社の組織文化や労働環境、そしてAI業界における人材流動性への関心が高まっている。