OpenAI представила инструменты для обнаружения ИИ-контента

• ИИ-лаборатория OpenAI анонсировала инструмент обнаружения изображений, созданных с помощью DALL-E 3, и защищенный от несанкционированного доступа водяной знак.
• Точность классификатора ИИ-изображений составляет 98%, утверждают в компании.

Лаборатория искусственного интеллекта OpenAI представила ИИ-классификатор для идентификации изображений, созданных ее сервисами. Также компания анонсировала защищенный от несанкционированного доступа водяной знак, позволяющий помечать контент, например, добавлять к аудио невидимые сигналы.

Классификатор использует искусственный интеллект для предсказания вероятности того, что изображение создали с помощью алгоритма DALL-E 3. Согласно блогу, он способен определять применение ИИ даже на обрезанных, сжатых или обработанных посредством изменения насыщенности картинках.

Обнаружение изображения, созданного с помощью DALL-E. Данные: OpenAI.

По данным компании, инструмент может обнаружить контент, сгенерированный с помощью DALL-E 3, в 98% случаев. Однако точность определения картинок, созданных другими алгоритмами вроде Midjourney, составляет всего 5―10%.

При обрезке, сжатии и изменении насыщенности иллюстрации процент успеха классификатора снизится до 95―97%. Если изменить цветокоррекцию изображения, точность инструмента упадет до 82%.

Точность модели при обработке изображений с различными модификациями. Данные: OpenAI.

Ранее OpenAI заявила, что начала добавлять «учетные данные для содержимого» к метаданным картинок, сгенерированных DALL-E 3. Это часть инициативы по поддержке стандартов Коалиции по проверке происхождения и аутентичности содержимого (C2PA).

«Учетные данные для содержимого» являются, по сути, водяными знаками с информацией о владельце изображения и способах его создания.

OpenAI вместе с компаниями вроде Microsoft и Adobe является членом C2PA. В мае 2024 года ИИ-лаборатория присоединилась к руководящему комитету коалиции.

Компания также начала добавлять водяные знаки к файлам, созданным на платформе преобразования текста в речь Voice Engine.

По данным лаборатории, представленные инструменты обнаружения ИИ-контента требуют доработок. Для проверки их эффективности необходимо получить отзывы пользователей.

Напомним, в мае Microsoft опубликовала отчет о прозрачности, где описала достижения в развертывании ответственных систем ИИ в 2023 году.