Worried Anthropic researchers warn that AI ‘could kill all humans’
AI summary
Editorial policyAnthropicの安全研究責任者が、AIが制御不能なスーパーシステムとなり年末までに全人類を死に至らしめる可能性が10%を超えると指摘した経緯を解説する。
Key points
- •Anthropicのセニア安全研究員が、AIが10年以内に全人類を死に至らしめる可能性が10%を超えると述べた。
- •この発言の数時間前、同僚の研究者が同社や競合が制御不能なスーパーヒューマンシステムを無謀に追求していることを懸念して辞職した。
- •AIラボが制御できない強力なAIの開発競争を無責任に進めていることに対する警告として提起されている。