Máme problém: Tváre generované AI modelmi ako GAN sú už takmer nerozoznateľné od tých skutočných. Profilovky neexistujúcich ľudí sú zneužívané všetkými možnými smermi – napríklad aj pre ovplyvňovanie politických názorov.
Vytváranie fake účtov na sociálnych sieťach bolo problémom už od dôb Pokecu. Jediným rozdielom bolo, že profilové fotky sa dali jednoducho hodiť do Googlu pri prvom podozrení a hneď bolo jasné, či ide o catfish alebo nie.
Dnes by som s touto taktikou nepochodil. Denne mi na Twittri prichádzajú upozornenia od príťažlivých žien zo všetkých kútov sveta, keby som nebol internetový veterán, ľahko by ma podvodník oklamal o moje tvrdo zarobené kryptomeny.
Je dôležité sa s touto technológiu zoznámiť čím skôr, pretože tu s nami ešte chvíľu bude. Preto by som dnes chcel poukázať na zopár indícií, ktoré môžu neexistujúcich ľudí prezradiť.
Zopár nudných technických rečí
GAN, teda Generative Adversary Networks (nesnažme sa to prekladať, prosím) sú algoritmické architektúry, využívajúce dve neurónove sieťe, ktoré sú stavané proti sebe (z tamaď asi slovo Adversary) s cieľom generovať nové, syntetické dáta s pomerne širokým využitím – generovanie obrazu, videa a hlasu.
GAN sieť má 2 základné stavebné prvky – generátor a diskriminátor. Ich úloha je jednoduchá: generátor generuje nové vzorky, diskriminátor sa snaží uhádnuť, či je táto vzorka reálna (real), alebo vymyslená (fake). Pri trénovaní sa generátor snaží vytvorenými vzorkami oklamať diskriminátor, ktorý sa zas snaží naučiť, ako nebyť oklamaný. Diskriminátor časom svoje odhady zlepšuje a ak ho chce generátor ďalej úspešne klamať, je nútený produkovať čím ďalej tým kvalitnejšie výstupy, až sa dostane do bodu, kedy tieto vymyslené vzorky nie je možné rozoznať od reality.
umelainteligencia.sk
Aj keď GAN sieťe existujú už nejakú chvíľu, popularitu získali až okolo roku 2017 keď sa vývojarom z NVIDIA podarilo vytvoriť model schopný generovať obrázky o veľkosti 1024×1024 pixelov. Okrem nekalých aktivít je táto technológia cenným nástrojom v hernom priemysle a dizajne.
Ako rozpoznať AI generované tváre?
Prejdime teda k tomu, prečo si tu. Popri čítaní si pre maximálny zážitok odporúčam otvoriť na novej karte distopický playlist a ThisPersonDoesNotExist.com, kde si takéto neexistujúce tváre jednoduchých refreshom môžeš generovať aj ty.
Ready?
1. Oči sú bránou do duše (aj keď možno nie v tomto prípade)
Sú dve dôležité veci, ktoré sa sledovaním očí dajú všimnúť: Za prvé, všetky tváre ich majú na rovnakej úrovni. Krásne to vidno scrollovaním fotiek v tomto článku. Aj keď niektoré tváre sú naklonené, alebo uhol záberu nie je úplne priamy, oči sa vždy nachádzajú v strede.
Druhou, a možno trošku “creepy” indíciou, je tvar zreničiek. Minulý rok sa istý výskum zapodieval tým, čím aj my dnes a dospel k tomu, že tváre generované niektorými typmi GEN sietí majú nepravidelný kruh zreničiek.
2. “Čudne” vyzerajúce uši, krk, vlasy a doplnky
Aj napriek vysokej kvalite samotnej tváre, niektoré, menej predpokladateľné prvky GEN-u stále robia problém. Náušnice psychadelických tvarov, rozsekané uči, bravčový krk… Aj tu platí, že diabol sa skrýva v detailoch.
Vezmime si napríklad fotku tejto neexistujúcej pani a jej závidenia nehodnej bradavice, ktorá mi takmer odpútala pozornosť od jej “čudného” krku.
Podobné artefakty, resp. defekty si môžeme všimnúť na rôznych častiach tváre. Je však predpokladateľné, že tieto problémy sú len dočasné a čochvíľa budú odstránené. Na fotke nižšie vidíme, ako sa sieť nevedela rozhodnúť, či tvári priradiť okuliare, alebo nie.
3. Neidentifikovateľné pozadie
Pamätám si, keď som natrafil na túto AI generovanú fotku niečoho, čo vyzeralo ako niečo, ale nebolo v skutočnosti nič. Ak ti ten opis príde mätúci, je to nárokom, pretože na fotke naozaj nič konkrétne nie je.
Niečo podobné vidno aj pri GEN tvárach. Rozmazané a mätúce tvary v pozadí môžu, niekedy viac, niekedy menej, prezradiť, že ide o AI generovanú osobu.
No, sme na konci. Teraz si už poučený/á a pripravený/á pohybovať sa na internete o čosi bezpečnejšie. Priznávam, som emočne investovaný do tejto témy a možno sa na to pozerám tragickejšie, ako to v skutočnosti je.
GEN generované tváre sú stále ďaleko od tých naozajstných, no netreba dlho refreshovať stránku, aby sme našli niečo dostatočne realistické a práve tie sa neskôr stávajú profilovými fotkami rôznych falošných účtov.
Pravdou je, že množstvo z týchto chýb rýchlo vymyzne, keďže GEN sa rýchlo učí a vyvýja. Z hľadiska kyberbezpečnosti je dôležité sa s touto technológiu zoznámiť a byť si jej vedomý/á.