Instagram’s AI detection is a mess (again)
AI summary
Editorial policyInstagramのAI生成コンテンツ検出機能が誤作動し、ユーザーが作成した写真や編集していない画像に「AIコンテンツ」のラベルが自動付与される問題が発生。Metaの検出システムの信頼性に疑問が投げかけられている。
Key points
- •Instagramは合成コンテンツを識別するための可視化ラベルを導入しているが、最近システムが暴走しているとの報告がある
- •ユーザーは、自身が生成AIで作成・編集した訳ではない画像に「AIコンテンツ」のラベルが付けられていると訴えている
- •Metaの自動検出システムが誤判定を繰り返しており、プラットフォーム上のコンテンツ信頼性に影響を与えている