The Vergeby Robert Hart
元記事公開:
Anthropicの研究者が「AIが人類を絶滅させる可能性」を警告
原題: Worried Anthropic researchers warn that AI ‘could kill all humans’
AI要約
Anthropicの安全研究責任者が、AIが制御不能なスーパーシステムとなり年末までに全人類を死に至らしめる可能性が10%を超えると指摘した経緯を解説する。
重要ポイント
- •Anthropicのセニア安全研究員が、AIが10年以内に全人類を死に至らしめる可能性が10%を超えると述べた。
- •この発言の数時間前、同僚の研究者が同社や競合が制御不能なスーパーヒューマンシステムを無謀に追求していることを懸念して辞職した。
- •AIラボが制御できない強力なAIの開発競争を無責任に進めていることに対する警告として提起されている。