規制・倫理・社会影響

東京商工リサーチによると、生成AIの普及による業務内製化が影響し、デザイン業の倒産が前年比2.7倍に急増。独自性のない企業が淘汰されている。

• •デザイン業における負債1000万円以上の倒産件数が前年比2.7倍に増加した
• •生成AIの普及によりデザイン業務を内製化する動きが加速している
• •独自性や付加価値が低い企業は市場から淘汰される傾向が強まっている

イオンモール熊本にガスコージェネレーションが設置されていないことを経産省がSNSの噂に対し否定し、事実無根であることを確認した。

• •SNS上でイオンモール熊本にガス発電機が設置されているとの噂が流れていた
• •経済産業省が当該施設にガスコージェネレーションは設置されていないことを確認した
• •経産省はSNS上の情報が事実と異なるものだと公式に否定した

EUがAI法に基づき透明性義務の適用を開始。生成AIコンテンツへのラベル付与やAIとの対話明示を義務付け、違反企業には最大1500万ユーロの制裁金を課す方針。

• •欧州委員会がEU AI Act第50条に基づく透明性ルールの適用を正式に開始した
• •事業者は生成コンテンツにラベルや機械可読マークを付与し、AIとの対話を明示する義務がある
• •違反企業には最大1500万ユーロまたは売上高の3％という厳しい制裁金が科される可能性がある

生成AIを用いて実在する女性の体操着姿を加工したわいせつ画像を作成・投稿したとして、容疑者が逮捕された事件。AI技術の悪用による深刻な被害の実態を示す。

• •警視庁などが名誉毀損および児童買春・ポルノ禁止法違反の疑いで会社員を逮捕した
• •画像加工を依頼したとして、高校3年生の男子生徒も書類送検された
• •生成AIを悪用したわいせつ画像の作成・拡散が刑事罰の対象となる事例となった

キオクシアが米国での特許侵害訴訟で約366億円の損害賠償を命じられ、控訴を含む法的手段を講じる方針を発表した

• •米連邦地方裁判所での陪審評決に基づき、キオクシアと米国法人に対して約2億2900万ドルの賠償が命じられた
• •同社はこの判決を受け、控訴を含めたあらゆる法的手段を講じて争う方針を示している
• •半導体業界における知的財産権をめぐる国際訴訟の動向が、企業の財務や事業戦略に大きな影響を与える事例となった

AmazonがAIトレーニング用に希少な紙の本を大量購入している疑いが浮上。海外メディアの調査で、輸送先がAmazonの極秘施設であることが判明した。

• •AI企業による紙の本の大量スキャンと廃棄が社会問題化する中、Amazonの動きが注目されている
• •約千冊の希少本の輸送を追跡した結果、最終目的地がAmazonの極秘施設であることが発覚した
• •この行為がAIモデルの学習データ収集の一環である可能性が示唆されている

自治体DX・AXカンファレンスで都営住宅管理や下水点検でのAI活用事例が紹介され、導入効果はあるものの人材不足が最大の課題として浮上した

• •5都県の知事らがパネルディスカッションで自治体のデジタルトランスフォーメーションを議論した
• •都営住宅の管理業務や下水道の点検作業においてAI活用による具体的な成果が報告された
• •AI導入を進める上で、専門人材の不足が自治体にとって共通する大きな課題であると指摘された

フランスで未成年者のSNS利用禁止法が可決されたものの、憲法院が一部違憲と判断し、9月予定だった施行は見送られることとなった

• •フランス国会は15歳未満のSNS利用を禁止する法律を7月に可決していた
• •憲法院が同法の一部を違憲と判断し、施行が延期される結果となった
• •未成年者保護を目的とした規制だが、憲法との整合性問題で議論が起きている

MetaはInstagramで、10代が自殺や自傷行為関連用語を短期間に検索した場合に保護者に通知する機能を日本でも開始した

• •対象はInstagramのペアレンタルコントロールを利用している保護者とその10代の子どもである
• •短期間に特定の危険な用語が繰り返し検索された場合に通知が送信される仕組みとなっている
• •この機能の提供は8月13日より日本国内で開始され、子どもの安全確保を目的としている

米国で裁判所提出書類にAI向け指示を隠し書きする事件が発生。原告が有利な判決を得ようとした不正行為が明るみになり、AI利用の倫理問題が浮上した。

• •米国の裁判所へ提出された書類に、AIが原告有利な判決を出すよう指示する内容が書き込まれていた
• •この不正行為は裁判所側によって発見され、事件として報じられた
• •AIシステムへの意図的な操作やプロンプトインジェクションによる悪用事例として注目されている