Вчера, 7 мая, разработчики компании OpenAI официально представили свой новый инструмент, который предоставляет возможность определить, было ли изображение создано при помощи генеративного искусственного интеллекта DALL-E 3. Авторы проекта отмечают, что их новейшая разработка очень точно определяет такого рода контент (с точностью до 98%), но, к сожалению, даже небольшие изменения в изображении могут сбить данный инструмент с толку. Авторы инструмента отмечают, что если изображение было получено путём сохранения скриншота (когда пользователь делает скриншот картинки, созданной при помощи ИИ), то система работает куда менее успешно.
Также точность новой утилиты падает, если изображение было обрезано, хотя разработчики уверяют, что даже в этом случае можно провести точную идентификацию контента. Гораздо больше эффективность инструмента снижается в том случае, если сгенерированное изображение редактируют — меняют оттенок, например. Кроме того, что довольно забавно, хотя инструмент OpenAI отлично справляется с изображениями, которые генерирует DALL-E 3, система начинает сбоить, если ему предоставляют на оценку изображения от других генеративных ИИ. Да и в 0,5% случаев система ошибается, определяя реальный рисунок как контент, сгенерированный при помощи искусственного интеллекта, хотя это очень низкий процент ошибок и его можно списать на погрешность.
Вероятно, когда технологию протестируют и информации будет больше, точность работы новой разработки тоже возрастёт — в будущем OpenAI хочет открыть систему для сторонних разработчиков, чтобы устранить основные проблемы и повысить точность работы инструмента. И в этом есть некая ирония — компания, которая занимается искусственным интеллектом, активно пытается создать приложение, чтобы иметь возможность отслеживать «творения» своих же технологий.
Связано это, естественно, с настоящим бумом поддельных изображений и другого графического контента, который создают при помощи генеративного искусственного интеллекта. В определённых сценариях это приводит к существенной путанице, особенно в области новостных инфоповодов. Представители правительства США даже высказали свою обеспокоенность тем, что пользователи всё чаще сталкиваются с изображениями, которые создал искусственный интеллект, а широкая доступность инструментов вроде DALL-E 3 позволяет создавать подобные фейки ещё быстрее. Соответственно, лидеры этого рынка начали работать над тем, чтобы помочь в этом вопросе.
