Regulation, Ethics & Society

A suspect was arrested for creating and posting obscene images of real women in gym clothes using generative AI, highlighting the serious harm of AI misuse.

• •Police arrested a company employee on suspicion of defamation and violating laws against child prostitution and pornography.
• •A high school senior was also referred to prosecutors for allegedly commissioning the image manipulation.
• •The case establishes that creating and spreading obscene images using generative AI is subject to criminal penalties.

Kioxia announced it will appeal a US patent infringement verdict ordering it to pay approximately 36.6 billion yen in damages.

• •A US federal jury ordered Kioxia and its US subsidiary to pay approximately $229 million in damages.
• •The company stated it will pursue all legal means, including an appeal, to contest the verdict.
• •This case highlights how international IP litigation in the semiconductor industry significantly impacts corporate finances and strategy.

AmazonがAIトレーニング用に希少な紙の本を大量購入している疑いが浮上。海外メディアの調査で、輸送先がAmazonの極秘施設であることが判明した。

• •AI企業による紙の本の大量スキャンと廃棄が社会問題化する中、Amazonの動きが注目されている
• •約千冊の希少本の輸送を追跡した結果、最終目的地がAmazonの極秘施設であることが発覚した
• •この行為がAIモデルの学習データ収集の一環である可能性が示唆されている

自治体DX・AXカンファレンスで都営住宅管理や下水点検でのAI活用事例が紹介され、導入効果はあるものの人材不足が最大の課題として浮上した

• •5都県の知事らがパネルディスカッションで自治体のデジタルトランスフォーメーションを議論した
• •都営住宅の管理業務や下水道の点検作業においてAI活用による具体的な成果が報告された
• •AI導入を進める上で、専門人材の不足が自治体にとって共通する大きな課題であると指摘された

フランスで未成年者のSNS利用禁止法が可決されたものの、憲法院が一部違憲と判断し、9月予定だった施行は見送られることとなった

• •フランス国会は15歳未満のSNS利用を禁止する法律を7月に可決していた
• •憲法院が同法の一部を違憲と判断し、施行が延期される結果となった
• •未成年者保護を目的とした規制だが、憲法との整合性問題で議論が起きている

MetaはInstagramで、10代が自殺や自傷行為関連用語を短期間に検索した場合に保護者に通知する機能を日本でも開始した

• •対象はInstagramのペアレンタルコントロールを利用している保護者とその10代の子どもである
• •短期間に特定の危険な用語が繰り返し検索された場合に通知が送信される仕組みとなっている
• •この機能の提供は8月13日より日本国内で開始され、子どもの安全確保を目的としている

米国で裁判所提出書類にAI向け指示を隠し書きする事件が発生。原告が有利な判決を得ようとした不正行為が明るみになり、AI利用の倫理問題が浮上した。

• •米国の裁判所へ提出された書類に、AIが原告有利な判決を出すよう指示する内容が書き込まれていた
• •この不正行為は裁判所側によって発見され、事件として報じられた
• •AIシステムへの意図的な操作やプロンプトインジェクションによる悪用事例として注目されている

2024年のインターネット関連の出来事を振り返り、KADOKAWAへのサイバー攻撃やSNSを悪用した犯罪が社会問題化している現状をまとめている

• •KADOKAWAへの大規模サイバー攻撃によりニコニコ動画が長期停止する被害が発生した
• •SNSを悪用した闇バイトや偽広告が深刻な社会問題として浮上している
• •2024年のインターネット環境におけるセキュリティリスクと社会影響を総括している

警察庁が詐欺インフラとして悪用される「レジデンシャルプロキシ」の危険性を警告。収益を謳うアプリや無料動画視聴デバイスなどの具体的な悪用事例を紹介し、市民への注意喚起を行っている。

• •警察庁が公式Xアカウントなどで、違法なプロキシ利用による詐欺被害の防止を呼び掛けている。
• •不正アクセスを隠蔽するために「レジデンシャルプロキシ」が詐欺グループによって悪用されている実態が解説されている。
• •「収益UPアプリ」や「無料動画配信デバイス」などの名称で、個人回線を無断で利用させる手口がチェックリストとして公開された。

X（旧Twitter）が従来の収益プログラムを廃止し、オリジナルコンテンツ創作者を支援する新たな収益化制度を導入するとともに、参加資格の基準を厳格化することを発表した。

• •Xは既存の収益プログラムを廃止し、オリジナルコンテンツに焦点を当てた新しいシステムに移行する
• •新しいプログラムでは、プラットフォーム上の独自コンテンツ作成者をより適切に支援する仕組みが採用される
• •参加資格の審査基準が厳格化され、高品質なコンテンツ提供がより重視される方向性である