Людей научили отличать настоящие лица от нарисованных ИИ
Научиться уверенно отличать настоящие лица от нарисованных ИИ дипфейков вполне реально — и в Лаборатории эмоций и лиц Австралийского национального университета (ANU) доказали это на практике. Результаты экспериментов обнародованы журналом PNAS.
© Телеканал «Наука»
Тема становится все более актуальной — качество создаваемого генеративными моделями контента неуклонно растет, и злоумышленники активнее прибегают к этим инструментам в своих неблаговидных целях.
«Идентификация на основе визуальных артефактов — например, поиск шестого пальца или необычных сережек — дает недостаточные результаты. Отчасти потому, что сами алгоритмы становятся слишком хороши, а мошенники к тому же вряд ли станут использовать снимки с явными дефектами. Наш подход переключает внимание людей на глобальные свойства, которые отличают ИИ-лица от настоящих. Сгенерированные лица чаще оказываются более симметричными, пропорциональными и привлекательными, однако без специальной тренировки мы ошибочно воспринимаем эти черты как признак реального человека», — говорит руководившая исследованием психолог Эми Доуэл.
В эксперименте приняло участие 45 студентов ANU. Они учились отличать ИИ-лица, сосредоточив внимание на шести перцептивных характеристиках:
- непохожесть на других;
- запоминаемость;
- пропорциональность;
- симметричность;
- привлекательность;
- выразительность.
По большому счету, это было не обучением, а скорее тренировкой. Испытуемые не получали никаких инструкций. Они определяли, настоящее лицо или нет, после чего узнавали правильный ответ.
Улучшение вдвое
Тем не менее, такая практика дала вполне ощутимые результаты — точность распознавания дипфейков выросла с 41,4% до 81,1%, а у лучших участников достигла почти 100%.
«Было удивительно видеть, насколько сильно выросла способность людей выявлять ИИ-лица», — признается Доуэл.
В опытах использовались изображения, нарисованные одной из лучших на сегодня нейросетей для генерации несуществующих лиц — StyleGAN.
«Теперь предстоит выяснить, сохранится ли этот эффект при переходе к другим типам синтетических изображений. Мы также работаем над тем, чтобы оптимизировать тренинг — сократить его продолжительность и добиться устойчивости навыка, — продолжает исследовательница. — Даже относительно короткие тренировки помогают повысить точность распознавания ИИ-лиц. Это значит, что на основе нашего подхода можно разработать практические образовательные инструменты».
Убедились еще раз
Результаты успешно воспроизвели в онлайн-формате в Университете Виктории в Канаде.
«Повторный эксперимент подтвердил, что результаты не случайны: когда мы обучили новую группу людей в другой стране — получили ровно такое же улучшение», — сообщил психолог Эрик Ма, соавтор исследования.
Есть алгоритмы для различения дипфейков, но точность их оставляет желать лучшего, а логика работы непрозрачна — поэтому лучше, чтобы распознавание брали на себя люди с их развитой интуицией, заключила Доуэл.
