ITmedia AI+
元記事公開:
Anthropic在籍の研究者2人も同調──「AIが人類を滅ぼしかねないと本気で考えている」
AI要約
Anthropicの研究者2人が、超知能開発のリスクを懸念する退社研究員の主張に同意し、安全制御が不十分なまま競争が続く現状を批判している
重要ポイント
- •Anthropicの研究幹部2人が個人ブログなどで、AIによる人類滅亡のリスクを真剣に懸念する見解を示した
- •10年以内に人類が滅亡する確率が10％を超えると試算する声や、減速の必要性が指摘されている
- •堅牢な安全制御手法が確立されていないまま開発競争が進む実態が問題視されている