Помните времена, когда распознать лицо, созданное искусственным интеллектом, было легко?
Достаточно было присмотреться. Неприродный блеск кожи. Невероятная гладкость. Глаза, которые не смотрят в одну точку, или тот самый кошмарный третий ухо, спрятавшийся за прядью волос. Вы замечали это, списывали на подделку и шли дальше.
Эта эпоха закончена.
Сегодня генераторы ИИ создают портреты настолько убедительные, что ваш мозг просто… сдается. Даже внимательные наблюдатели с трудом отличают реальное от вымышленного. Именно поэтому такие приложения, как Zoom и Tinder, теперь требуют биометрического подтверждения — например, сканирования сетчатки глаза, — чтобы убедиться, что за аватаркой сидит живой человек. Но сканирование не всегда доступно. Вы можете натренировать себя сами.
У ученых есть новая идея.
«Искусственный интеллект становится слишком совершенным».
Так недавно высказался Эми Доуэлл, доцент Австралийского национального университета. Он знает, что старые методы больше не работают. Мошенники просто избегают изображений с очевидными глюками, вроде деформированных ушей или глаз с двумя зрачками. К тому же, эти подсказки исчезают с каждым обновлением программного обеспечения. Кажется, мы проигрываем в технологической гонке вооружений.
Но исследователи не сдались.
Вместо того чтобы охотиться за микроскопическими и недолговечными ошибками, они научили людей смотреть на общую картину. Не на статистические артефакты, оставленные одним конкретным генератором, а на глобальные качества, определяющие результат работы ИИ.
Механизм прост: модели ИИ обучаются на миллионах лиц. Создавая новое лицо, они не копируют конкретного человека. Они вычисляют математическое среднее всех лиц в своем наборе данных. Они конструируют «типичное».
Каков результат? Лицо, которое смещается к центру всего и вся.
Оно слишком сбалансировано. Слишком общо. Слишком conventional (обыденно).
Отдельно ни одно из этих качеств не кричит о подделке. Но в совокупности? Они создают тонкую банальность. Бледность, которую люди чувствуют интуитивно.
Таня Джордж, исследовательница, участвовавшая в исследовании, отметила, что даже короткие тренировочные сессии повышали точность распознавания. Почему? Потому что участники научились замечать то, что ИИ делает лучше всего, и то, где он терпит самые глубочайшие неудачи.
Лица, сгенерированные ИИ, склонны быть:
- Более симметричными
- Более пропорциональными
- Более привлекательными
- Менее выразительными
- Менее индивидуальными
- Менее запоминающимися
Настоящие лица хаотичны.
Наша асимметрия. То, как наклонен наш нос. Шрам, морщинка, легкая сутулость. Эти небольшие отклонения от нормы делают нас уникальными. Они делают нас запоминающимися. Когда людей учили обращать внимание на эту нехватку характера, а не охотиться за не совпадающими кольцами, их способность выявлять подделки почти удвоилась.
ИИ тяготеет к среднему.
Люди — нет. Наши несовершенства — это не ошибки. Это наша подпись. Но глядя на идеально среднестатистическое, симметрично красивое лицо незнакомца в сети, вы должны спросить себя: кто или что действительно улыбается вам в ответ?
