OpenAI、ディープフェイク対策ツール「DALL・E Detection Classifier」のテスト開始

OpenAI、ディープフェイク対策ツール「DALL・E Detection Classifier」のテスト開始

米OpenAIは5月7日（現地時間）、同社の画像生成AI「DALL・E 3」で生成した画像かどうかを検出するための...概要を表示 米OpenAIは5月7日（現地時間）、同社の画像生成AI「DALL・E 3」で生成した画像かどうかを検出するためのツール「DALL・E Detection Classifier」を発表した。少数の研究者グループと、現実世界でのツールのテストを実施するとし、アクセス申請を受け付けている。 このツールの初期版の内部テストでは、DALL・E 3で生成された画像の約98％を正しく識別したという。圧縮やトリミング、彩度変更が成されたものでも識別できるが、それ以外の変更ではパフォーマンスが低下する可能性があるとしている。また、DALL・E 3以外の画像生成AIで生成した画像の識別でもパフォーマンスが低い。 OpenAIはまた、3月に発表した人の声を再現できる生成AIモデル「Voice Engine」に音声透かしを組み込み、限定的な調査プレビューを実施していることも発表した。 同社はさらに、デジタルコン