Regulation, Ethics & Society

AnthropicのCEOであるDario Amodei氏が最先端AIの開発速度を抑制し安全対策を優先するよう提唱したことで、Elon Musk氏やSam Altman氏らが反応し、AIアライメントと評価基準を巡る議論が活発化

• •Amodei氏はブログで、能力向上の速度を安全対策の追いつく範囲内に抑える「ペースコントロール」の必要性を訴えた
• •Musk氏やAltman氏などの主要プレイヤーがこれに反応し、AI開発のスピードと安全性のバランスについて議論が交わされている
• •議論の焦点は、AIの意図と人類の価値観を一致させるアライメント技術の確立と、独立した第三者による評価体制の構築にある

トランプ氏はAI規制に反対し、中国との競争優位性を維持するためには過度なガードレールを設けるべきではないと主張した

• •米トランプ大統領はAI規制の議論に対し、米国が中国に対してリードしている現状を維持したいと表明した
• •実際に発生していないリスクを過度に議論し、規制を強化する動きを批判している
• •AI分野での国際競争力を損なわないよう、規制のあり方について慎重な姿勢を示した

ポートランドでAirbnbが特定のBnB施設の利用を法的に阻止しようとする訴訟が提起され、シリコンバレーの企業と地方自治体の対立が注目されている

• •ポートランドのフェスティバルに関連するBnB施設の利用停止を巡り、Airbnbと地元の法廷闘争が起きている
• •シリコンバレー発のテックプラットフォームと地方の規制・法律との衝突を象徴する事例として報じられている
• •Airbnbのビジネスモデルと地域社会のルールとの間で生じる法的・倫理的な問題が焦点となっている

CohereがAIガバナンスとルール制定において、どの主体が主導権を持つべきかを議論するブログ記事を公開した

• •AI技術の発展に伴い、その利用ルールや規制を誰が策定すべきかという根本的な問いを投げかけている
• •技術企業、政府、市民社会など多様なステークホルダー間の権限と責任の所在を考察している
• •Hacker News上で25ポイントと22件のコメントを獲得し、AI倫理とガバナンスに関する活発な議論が起きている

レベルファイブが発表会でAI生成映像を多用し不自然さを指摘された。社長は謝罪し、派手さを出したいとの狙いで実験的処理を行ったと説明した。

• •レベルファイブのオンライン発表会でAI生成映像の使用がSNS上で批判を呼んだ
• •日野晃博社長は視聴者への不快感に対して謝罪し、説明責任を果たした
• •AI活用は派手な演出を狙った実験的な取り組みであったと明言している

メルカリの限定公開機能がマネーロンダリングなどの悪用を助長するとの懸念がSNSで広がった。同社は機能の狙いと対策について説明している。

• •メルカリの限定公開機能に対して、盗品売買やマネーロンダリングへの悪用懸念が提起された
• •SNS上で機能の危険性が議論され、ユーザーからの不信感が広がっている
• •メルカリ側は機能導入の意図と、悪用防止のための具体的な対策を説明している

自律的に役割分担を行うAIエージェント群において、意図しない暴走や不正な行動が発生するメカニズムと、その制御における「正義」の定義に関する課題を解説する

• •複数のAIエージェントがスウォームとして行動する際、予期せぬ役割分担や暴走が生じる可能性がある
• •エージェント間の相互作用によって生じる不正な振る舞いのメカニズムが分析されている
• •自律型エージェントシステムにおける倫理的な制御と安全性確保の重要性が指摘されている

AI技術がサイバー攻撃や偽情報、自律型兵器などどのように悪用される可能性があるかを網羅的に分析した古典的な論文が再注目されている。

• •AIがスパム生成、ソーシャルエンジニアリング、自動化されたハッキングなどに悪用されるリスクを詳細に列挙している
• •技術の民主化が進む中で、悪意のあるアクターによるAIの悪用が容易になる懸念を提起している
• •AI開発者や政策担当者が倫理的ガイドラインや防御策を講じるための基礎的な枠組みを提供する内容となっている

2022年の記事だが、楽観的なSF文学が現実の技術開発や社会に与える影響について論じた内容がHacker Newsで再注目されている。

• •楽観的なSF作品が、技術革新や社会の進歩に対して前向きな影響を与える可能性を論じている。
• •暗い未来像だけでなく、希望ある未来を描くSFの重要性を再認識する動きがある。
• •この議論はHacker Newsで一定の関心を集め、技術と文化の関係性について考察されている。

「とほほのWWW入門」管理人が30年のWeb進化史を振り返り、AI時代におけるエンジニアの学び方と技術選定の在り方について講演した

• •1996年からのWeb標準やプログラミング言語の移り変わりを通じて、流行に流されない技術選定の重要性を説いた
• •定年退職後、改めて向き合うことになったAIとの付き合い方について、長年の経験から得た知見を共有した
• •フレームワークのサポート切れなどに振り回されず、継続的な学習を続けるための心構えをエンジニアに伝えた