ITmedia AI+
元記事公開:
OpenAI、児童性的虐待コンテンツ(CSAM)検出ツールを公開 ChatGPTで探すと24時間アカウント停止の警告も
AI要約
生成・訂正方針OpenAIが新規画像やAI生成画像にも対応したCSAM検出用の画像分類ツールを公開し、審査通過組織へAPIで無償提供する。
重要ポイント
- •従来は検出が困難だった新規画像やAI生成画像も検出対象とする新たな画像分類ツールが発表された
- •審査を通過した組織に対して、同ツールはAPI経由で無償提供される
- •ChatGPT上でのCSAM検索行為に対し、24時間のアカウント停止を伴う警告機能が導入された