AI generuje już twarze nie do odróżnienia od prawdziwych. Nawet eksperci się mylą
Nowe badanie z Australii pokazuje, że zdjęcia twarzy generowane przez AI są już tak realistyczne, iż mylą nawet osoby o ponadprzeciętnych zdolnościach rozpoznawania twarzy. Problemem staje się nie tylko dezinformacja, ale też fałszywe profile i oszustwa.
Jeszcze niedawno internetowe „twarze z AI” zdradzały się drobnymi błędami. Dziś ten trop coraz częściej zawodzi. Zespół badaczy z UNSW Sydney i Australian National University sprawdził, jak dobrze ludzie odróżniają prawdziwe fotografie od syntetycznych wizerunków tworzonych przez zaawansowane modele generatywne. Wynik jest niepokojący, bo pewność siebie badanych okazała się dużo większa niż ich realna skuteczność.
W badaniu wzięło udział 125 osób, w tym 36 tzw. super-recognisers, czyli ludzi o wyjątkowej pamięci i wrażliwości na twarze, których umiejętności bywają wykorzystywane także w praktyce śledczej. Uczestnicy dostawali serię zdjęć i mieli ocenić, czy przedstawiają realną osobę, czy obraz wygenerowany przez AI. Co ważne, z materiału usunięto wcześniej najbardziej oczywiste artefakty, żeby test nie sprowadzał się do wyłapywania „glitchy” znanych z dawnych generatorów.
Nawet ta najlepsza grupa nie wypadła imponująco. Super-recognisers osiągali średnio 57 proc. trafności przy rozpoznawaniu twarzy z AI, czyli tylko nieznacznie powyżej poziomu losowego, a grupa kontrolna była blisko 50 proc. To kontrastuje z sytuacją, w której ci sami ludzie potrafią identyfikować prawdziwe twarze z dokładnością przekraczającą 90 proc.
Badacze zwracają uwagę na ciekawą zmianę w „sygnałach ostrzegawczych”. Coraz częściej problemem nie jest to, że wizerunek wygląda dziwnie, tylko że wygląda „zbyt dobrze”. Twarze syntetyczne bywają nienaturalnie przeciętne i symetryczne, jakby były uśrednieniem wielu realnych cech. To właśnie ta „hiper-przeciętność” wiązała się z lepszym wykrywaniem fałszywek.
Praktyczne konsekwencje są oczywiste. Jeżeli zawodzą nawet ludzie, którzy na co dzień świetnie radzą sobie z identyfikacją twarzy, sama ocena „na oko” przestaje być bezpiecznym filtrem. A to uderza w miejsca, gdzie zdjęcie profilowe jest pierwszym i często jedynym „dowodem” wiarygodności, od social mediów i randek online, przez rekrutacje, po próby podszywania się pod pracowników firm i wyłudzania informacji.
Wniosek z badania jest mało komfortowy, ale bardzo konkretny. Zamiast zakładać, że fałszywkę da się łatwo rozpoznać po obrazie, trzeba częściej przenosić ciężar weryfikacji na kontekst, historię konta, spójność informacji i niezależne potwierdzenie tożsamości.
