Людей можно научить распознавать ИИ-дипфейки на глаз
МФТИ — Московский физико-технический институт · · g5018739
Дипфейки становятся опаснее. Отличить мелкие артефакты, указывающие на них, часто бывает сложно как алгоритмам, так и обычным людям. Учёные из Индианского университета в Блумингтоне, Индиана, предложили тренировать людей оценивать лица по общему впечатлению, а не по деталям. Об этом сообщает статья в журнале PNAS. Ученые создали курс, в результате которого все 45 участников стали почти вдвое точнее определять дипфейки, а лучшие достигали почти 100% правильных ответов. Также они научились верно оценивать свою уверенность. Повторные тесты подтвердили, что это именно эффект обучения, а не привычка. Данный подход можно масштабировать. Он может оказаться надёжнее, чем поиск конкретных дефектов изображения. Комментарий учёного МФТИ, д. ф-м.н Александра Безносикова, директора Центра агентных систем ИИИ МФТИ На статью стоит обратить внимание: двукратный рост точности – это статистически очень значимый эффект, особенно на фоне данных Diel и коллег, где 80 тысяч человек в среднем не могли отличить подделку от оригинала. Но важно понимать, что это исследование – доказательство принципа, а не готовое решение. Главный технический нюанс: использовалась всего одна модель StyleGAN3, причём уже не самая новая. То есть люди учились распознавать артефакты конкретного генератора, а не «дипфейк вообще». Если завтра выйдет новая модель, то навык, скорее всего, потребуется перенастраивать. А генеративные модели сейчас обновляются постоянно. Еще один существенный момент – оценки изображений, скорее всего, будут субъективными для каждого испытуемого. Однако различие дипфейка от реального изображения является объективным. Несмотря на то, что используются субъективные шкалы в процессе обучения, при агрегации по многим людям результат можно считать статистически устойчивым. Критически значимой особенностью является то, что при обучении моделей искусственного интеллекта можно быть уверенными в том, что результат изучения не изменится, если зафиксировать состояние модели. С человеком данный эксперимент может дать непредсказуемый результат. Приобретенный навык может быть быстро утрачен, если не используется достаточно часто, а может и сохраниться, если у человека очень хорошая память. Можно лишь сказать, что какая-то общая информация по тому, как различать ИИ-изображения и реальные сохранится, но без регулярной практики навык легко теряется. Авторы не проверяли, насколько устойчив навык в долгосрочной перспективе, а это обязательный вопрос для любой системы обучения. Журналистам, фактчекерам, модераторам и другим специалистам, регулярно сталкивающимися с дипфейками, данное знание может помочь убрать опасную самоуверенность в видимых изображениях, что позволит избежать казусов в работе. Что касается практической значимости, для обывателей этот навык может быть не особенно актуален. Зачастую сегодня генерируются не просто лица, а полноценные видео с окружением, для которых не было произведено исследование, поэтому утверждение, что этот навык может пригодиться – спорно.
Дипфейки становятся опаснее. Отличить мелкие артефакты, указывающие на них, часто бывает сложно как алгоритмам, так и обычным людям. Учёные из Индианского университета в Блумингтоне, Индиана, предложили тренировать людей оценивать лица по общему впечатлению, а не по деталям. Об этом сообщает статья в журнале PNAS. Ученые создали курс, в результате которого все 45 участников стали почти вдвое точнее определять дипфейки, а лучшие достигали почти 100% правильных ответов. Также они научились верно оценивать свою уверенность. Повторные тесты подтвердили, что это именно эффект обучения, а не привычка. Данный подход можно масштабировать. Он может оказаться надёжнее, чем поиск конкретных дефектов изображения. Комментарий учёного МФТИ, д. ф-м.н Александра Безносикова, директора Центра агентных систем ИИИ МФТИ На статью стоит обратить внимание: двукратный рост точности – это статистически очень значимый эффект, особенно на фоне данных Diel и коллег, где 80 тысяч человек в среднем не могли отличить подделку от оригинала. Но важно понимать, что это исследование – доказательство принципа, а не готовое решение. Главный технический нюанс: использовалась всего одна модель StyleGAN3, причём уже не самая новая. То есть люди учились распознавать артефакты конкретного генератора, а не «дипфейк вообще». Если завтра выйдет новая модель, то навык, скорее всего, потребуется перенастраивать. А генеративные модели сейчас обновляются постоянно. Еще один существенный момент – оценки изображений, скорее всего, будут субъективными для каждого испытуемого. Однако различие дипфейка от реального изображения является объективным. Несмотря на то, что используются субъективные шкалы в процессе обучения, при агрегации по многим людям результат можно считать статистически устойчивым. Критически значимой особенностью является то, что при обучении моделей искусственного интеллекта можно быть уверенными в том, что результат изучения не изменится, если зафиксировать состояние модели. С человеком данный эксперимент может дать непредсказуемый результат. Приобретенный навык может быть быстро утрачен, если не используется достаточно часто, а может и сохраниться, если у человека очень хорошая память. Можно лишь сказать, что какая-то общая информация по тому, как различать ИИ-изображения и реальные сохранится, но без регулярной практики навык легко теряется. Авторы не проверяли, насколько устойчив навык в долгосрочной перспективе, а это обязательный вопрос для любой системы обучения. Журналистам, фактчекерам, модераторам и другим специалистам, регулярно сталкивающимися с дипфейками, данное знание может помочь убрать опасную самоуверенность в видимых изображениях, что позволит избежать казусов в работе. Что касается практической значимости, для обывателей этот навык может быть не особенно актуален. Зачастую сегодня генерируются не просто лица, а полноценные видео с окружением, для которых не было произведено исследование, поэтому утверждение, что этот навык может пригодиться – спорно.