Pamatujete na časy, kdy bylo snadné rozpoznat obličej vytvořený umělou inteligencí?
Stačilo se podívat zblízka. Nepřirozený lesk pokožky. Neuvěřitelně hladké. Oči, které se nedívají na jeden bod, nebo totéž noční můra třetí ucho skryté za pramenem vlasů. Všimli jste si toho, označili jste to za falešný a šli dál.
Tato éra skončila.
Dnes generátory umělé inteligence vytvářejí portréty tak přesvědčivé, že to váš mozek prostě… vzdá. I pozorní pozorovatelé mají potíže rozlišit skutečné od smyšleného. To je důvod, proč aplikace jako Zoom a Tinder nyní vyžadují biometrické ověření – jako je sken sítnice – aby bylo zajištěno, že osoba za profilovým obrázkem je skutečná osoba. Skenování však není vždy k dispozici. Můžete trénovat sami.
Vědci mají nový nápad.
“Umělá inteligence je příliš pokročilá.”
Nedávno to řekla Amy Dowellová, docentka z Australské národní univerzity. Ví, že staré metody už nefungují. Podvodníci se jednoduše vyhýbají obrázkům se zjevnými závadami, jako jsou deformované uši nebo oči se dvěma zorničkami. Navíc tyto výzvy zmizí s každou aktualizací softwaru. Zdá se, že prohráváme závody ve zbrojení.
Vědci se ale nevzdali.
Místo toho, aby hledali mikroskopické a krátkodobé chyby, naučili lidi dívat se na celkový obraz. Ne statistické artefakty, které po sobě zanechal jeden konkrétní generátor, ale globální kvality, které určují výsledek AI.
Mechanismus je jednoduchý: modely umělé inteligence jsou trénovány na milionech obličejů. Při vytváření nového obličeje nekopírují konkrétní osobu. Vypočítají matematický průměr všech jedinců ve svém souboru dat. Konstruují „typické“.
jaký je výsledek? Tvář, která se přesouvá do středu všeho a všech.
Je to příliš vyrovnané. Příliš obecné. Příliš konvenční (obyčejné).
Samostatně, žádná z těchto vlastností nekřičí falešně. Ale v souhrnu? Vytvářejí jemnou banalitu. Bledost, kterou lidé cítí intuitivně.
Tanya George, výzkumnice zapojená do studie, poznamenala, že i krátká školení zlepšila přesnost rozpoznávání. Proč? Protože se účastníci naučili všímat si, co umělá inteligence umí nejlépe a kde nejvíce selhává.
Obličeje generované umělou inteligencí bývají:
- Symetričtější
- Proporcionálnější
- Atraktivnější
- Méně expresivní
- Méně individuální
- Méně zapamatovatelné
Skutečné tváře jsou chaotické.
Naše asymetrie. To, jak máme nakloněný nos. Jizva, vráska, mírné shrbení. Tyto malé odchylky od normy nás dělají jedinečnými. Dělají nás nezapomenutelnými. Když se lidé naučili hledat tento nedostatek charakteru spíše než pátrat po neshodných prstenech, jejich schopnost odhalit padělky se téměř zdvojnásobila.
AI bývá průměrná.
Lidé ne. Naše nedokonalosti nejsou chyby. Toto je náš podpis. Ale při pohledu na naprosto průměrnou, symetricky krásnou tvář cizince online si musíte položit otázku: kdo nebo co se na vás skutečně usmívá?
