Regulation, Ethics & Society

AIが人間の病気を治す鍵になると期待される一方、Anthropicの研究者はAIが人類を滅ぼす可能性も警告している

• •AI業界のリーダーたちは、AIが人間の病気を治すための鍵になると約束している
• •Anthropicの研究者は、AIが人類を滅ぼす可能性があるという警告も出している
• •Anthropicは生物学実験を行うラボを運営していることが報じられている

LLMに内在する不確実性について、GovAIの研究者が軍関係者に理解を促している

• •LLMの出力には本質的な不確実性があるため、軍関係者がその点を理解することが重要であるとGovAIの研究者が警告している
• •AIのハルシネーション（幻覚）が米軍の作動に悪影響を与えかねない状況が示唆されている
• •AIの特性を正しく理解せずに運用することのリスクが指摘されている

戦争の可能性を踏まえた上で、一般社会や個人が心理的にどのように備えるべきかを考察する記事

NYTのOpenAI・Microsoft提訴事件で公開された文書により、両社がモデル学習データ収集によるウェブへの損害を認識していたことが判明した

• •最近公開された裁判所文書では、両社がウェブを損なう「ドゥームループ」の開始を警告していたことが示されている
• •モデル学習のためのデータスクレイピングは「人類史上最も大きな労働の盗み」と表現されていた
• •これらの内部文書は、OpenAIとMicrosoftに対する訴訟において深刻な証拠となっている

韓国がデータ漏洩に対する罰金制度を改定し、売上高の10%という高額な罰金を科す方針を示した

バージニア州知事のSpanbergerがAIタスクフォースを設置し、世界最大級のデータセンター集積地における開発承認を制限する措置を講じた

• •バージニア州知事のAbigail Spanbergerが、地方政府がデータセンター開発に対してより大きな発言権を持つよう段階を踏むよう州政府に命じた
• •行政命令22号により、行政機関の職員が非開示契約（NDA）に署名することを禁止し、承認プロセスの遅延化を意図している
• •同州は既に世界のデータセンターの中心地として知られており、AIインフラ整備に伴う地域コミュニティへの影響を懸念している

国境警備官が令状や合理的疑いなしに個人の携帯電話を検査できる権限に関する法的・社会的な論点

ディズニーが過去に差し止め請求を送ったAIスタートアップCharacter.AIの元CEOが、同社の初のCTOに就任する人事が発表された

• •ディズニーは過去にCharacter.AIに対して差し止め請求（cease-and-desist letter）を送付していた
• •Character.AIの元CEOが、ディズニーの歴代で初めてとなる最高技術責任者（CTO）に就任する
• •競合または対立関係にあったAIスタートアップのトップ人材を起用する異例の人事である

米軍がAIを用いた情報分析において、存在しない情報（幻覚）を含む報告書を作成し、重大な誤りや危機的状況に直面した事例

Anthropic CEOのDario AmodeiがAI開発のペース配分に関する計画を提唱し、独立した安全性評価者や民主主義国家間の調整を軸に据えている

• •Anthropicの研究員による終末警告から1週間後、CEOのAmodeiがAI開発の「フロンティアのペース配分」計画を明らかにした
• •提案は独立した安全性評価者の活用と、民主主義国家におけるAIラボ間の調整に依存している
• •業界からの支持がある一方で、NvidiaのJensen Huangからは明確な反対意見も出ている