Umělá inteligence zatkla Donalda Trumpa. ‚Bez digitální stopy nejde falešné fotky poznat,‘ říká expert
Making pictures of Trump getting arrested while waiting for Trump's arrest. pic.twitter.com/4D2QQfUpLZ
— Eliot Higgins (@EliotHiggins) March 20, 2023
Donaldu Trumpovi hrozí možná obžaloba kvůli falšování finančních záznamů v souvislosti s platbou za mlčenlivost pornohvězdy Stormy Daniels. Exprezident Spojených států Trump už teď tvrdí, že v kauze bude zatčen. Na internetu tak začaly kolovat fotky, které to zachycují, ačkoliv k zatčení nedošlo. Vygenerovala je AI, umělá inteligence. Jenže bez vodoznaku nebo digitální stopy nejde rozpoznat padělané záběry od pravých, varuje Václav Hlaváč z ČVUT.
Trump se pere s policií, uniformovaní muži ho nesou ze schodů, Trump stojí v soudní síni, je uvězněn a končí v McDonaldu. To jsou obrázky, které kolují po sociálních sítích a na které upozornil portál Independent. Jenže snímky zobrazují něco, co se nestalo.
Koláže nechal vygenerovat a publikoval Eliot Higgins, zakladatel investigativní stránky Bellingcat. Při tom zdůraznil, že se jedná o falešné fotky. „Tvořím obrázky Trumpa, jak ho zatýkají, zatímco čekám na jeho zatčení,“ napsal.
Že ho mají zatknout, tvrdí přímo Donald Trump. Ve svém příspěvku na sociální síti Truth to sám 18.3. ohlásil. K zatčení podle něj mělo dojít v úterý 21. března.
Avšak Higginsovy fotky se začaly na internetu objevovat i bez upozornění, že se nejedná o opravdové záběry, ale o vygenerované koláže. Bez doprovodného varování se objevily nejen na jiných sociálních sítích, třeba na Facebooku, a také v médiích. Ve článku o dezinformačních vlnách vytvářených právě umělou inteligencí je použily třeba weby německého Bildu nebo francouzského Télévision française 1 (TF1).
Falešné fotky nejdou poznat
To, že obrázky zatýkání Trumpa nejsou pravé, je těžké poznat, přiznává Václav Hlaváč z Českého institutu informatiky, robotiky a kybernetiky ČVUT.
Vyobrazení, která nakreslila umělá inteligence, lze od reportážních snímků rozpoznat jen někdy, a to velmi těžce. „Na první pohled to nemusí jít vůbec,“ podotýká Hlaváč.
Generování fotek funguje tak, že umělá inteligence zpracuje již existující fotky. Čím více fotek je v databázi, se kterou zrovna AI pracuje, tím lepší bude výsledek.
Umělá inteligence? Dotkne se základních lidských práv, od důstojnosti po soukromí, vysvětluje expertka
Číst článek
„Ten princip je poměrně jednoduchý. Když bychom vzali jako příklad amerického exprezidenta, tak obrázků Donalda Trumpa je obrovské množství. Takže z nich lze ‚koláž‘ udělat libovolným způsobem,“ popisuje profesor Hlaváč.
„Když jsou na fotce viditelné chyby, fotka se dá vždy poupravit ručně, třeba ve Photoshopu,“ dodává.
Jednodušší koláže se navíc dají vytvořit za pár kliknutí.
„Máte fotku Notre Dame, který fotilo miliony turistů. A když máte Notre Dame s lešením a chtěl byste mít chrám bez lešení, tak tohle se dá udělat velmi snadno a automaticky,“ vysvětluje Hlaváč a shrnuje:
„Nové je, že metody, které se dnes používají, jsou takzvaně generativní. To znamená, že umí generovat hodně dat. A to jak v textu, tak v obrázcích."
Kromě zatýkání Donalda Trumpa existují třeba generované koláže dalšího amerického exprezidenta Baracka Obamy, který si na pláži pochutnává s bývalou německou kancléřkou Angelou Merkelovou na zmrzlině a jahodách.
Jak se nenechat oklamat
U důležitých a významných obrázků se většinou vkládá něco, co by umožnilo poznat, jestli s obrázkem někdo manipuloval, připomíná expert Hlaváč. Tomu se říká vodoznak nebo watermark.
Chatbot neví, co mluví. Není to umělá inteligence, jen generuje naučené texty, vysvětluje expert
Číst článek
„Watermark má tu vlastnost, že je vidět a víte o něm. Když převezmete vysvědčení ve škole, tak má také vodoznak. Každý ale ví, že tam je. A pak je druhá možnost – když označení není vidět. Třeba když se do digitálního obrázku vloží nějaké číslo, podle kterého se dá pravost ověřit,“ vysvětluje.
Hlaváč se domnívá, že současný boom generování obrázků a textů nebude trvalý.
„V umělou inteligenci se vkládají obrovská očekávání a budou z toho zase nějaká zklamání. Jako se to v historii stalo několikrát. Někdy se tomu říká léto a zima umělé inteligence. Teď tu máme léto. A po něm zase přijde zima umělé inteligence,“ uzavírá Hlaváč.
