Místo ‚trollí farmy‘ dva šikovní lidé. Už nestačí jen přepočítat prsty u vygenerované fotky, říká expertka
Válka na Ukrajině a konflikt mezi Izraelem a radikálním hnutím Hamás probíhá i v mediální sféře. S pomocí umělé inteligence se na internetu šíří zfalšované fotografie, které u lidí záměrně vyvolávají silné emoce. „Daleko větší úspěšnost v rozpoznávání měli mládežníci nebo malé děti právě proto, že jsou na internetu a vidí, jak umělé vygenerované fotografie vypadají,“ upozorňuje Barbara Zitová z Ústavu teorie informace a automatizace Akademie věd.
Jak složité je odhalit, že se jedná o podvod?
Je to velmi složité. Záleží na tom, jak moc si s tím dal práci ten, co podvod dělá. Řekla bych, že je to jako klasická úloha nebo dětská hra na policajty a zloděje. Vždycky má někdo z nich lepší nástroj, takže záleží, jak moc se budeme snažit.
Na co se zaměřit při ověřování toho, jestli je daná fotografie skutečná?
Pokud beru, že se na fotografii kouká laik, můžeme začít tím, že si přepočítáme prsty. To už ale umělá inteligence většinou zvládne, protože generátory už umí lidí docela dobře zobrazovat. V dnešní době spíš posuďte, jestli je něco takového na fotce možné – jestli papež může být v zimní bundě, jestli může muž nést tolik dětí najednou, jako bylo v dotyčné fotografii.
Co když to jsou ale snímky z konfliktů, které vypadají velmi realisticky a zobrazují něco, co si dovedeme představit, že skutečně na místě je a tak vypadá?
V tu chvíli bych řekla, že se zodpovědnost přesouvá na mediální domy, které by si měly ověřovat to, jestli jsou fotografie, které zveřejňují, pravdivé nebo ne. Řekla bych, že tady bychom měli spíše pracovat s metodami, které fotografové používají, jako vkládání speciálních značek do fotografií, aby potvrdili, že jsou reálné, a že to není tak, že si s nimi někdo pohrál.
Útok z Ruska i Číny
Jeden z největších mediálních domů na světě, britská BBC, má na to celý tým. Předpokládám, že tam jsou desítky lidí, kteří skutečně ověřují, jestli jsou fotografie, které nyní přicházejí z Blízkého východu, reálné. Také Český rozhlas má svůj projekt Ověřovnu, kde je lidí o něco méně. Co když se ale umělá inteligence zdokonalí tak, že už nebude možné s ní držet krok?
Chtěla bych možná předem říct, že to nedělá umělá inteligence, ale lidé, kteří ji používají. To znamená, že to není její, ale jejich vina.
Když se vymyslí něco, co fotografie kvalitněji zfalšuje, můžeme vymyslet metodu, která to kvalitnější zfalšování ověří nebo ho dokáže najít. Poté ale bohužel zase vymyslí metodu, která dokáže falšovat ještě lépe.
Můžeme jinými slovy využívat umělou inteligenci proti něčemu, co člověkem bylo uděláno také pomocí umělé inteligence? Děje se to? Jsou už takové programy k dispozici?
To už se děje a programy se vyvíjí různé. Vím, že v poslední době se objevily způsoby, kdy se analyzuje jakási strukturální informace ve fotografiích a uměle vygenerované vykazovaly určité odlišnosti od běžných fotografií. Bohužel tyto články viděli i ti, co falešné fotografie generují, takže si své metody upravili.
Hodně se mluví o dezinformacích. Například ředitel Bezpečnostní informační služba České republiky (BIS) Michal Koudelka tento týden řekl, že v Česku dál přetrvávají dezinformační aktivity ze strany Ruské federace a Čínské lidové republiky. Pozorujete, že se dezinformace šířené ze strany těchto režimů v čase zlepšují spolu s tím, jak nasazují vyspělejší umělou inteligenci?
Zcela určitě. A co hůř, šíří se daleko rychleji. Na co kdysi musely mít celou „trollí farmu“, tak dneska na to stačí jeden nebo dva šikovní lidé, a můžou zaplavovat cíleně určité skupiny a měnit názory.
Zní to děsivě, a proto si myslím, že je hrozně důležité, aby se zvedalo všeobecné povědomí o tom, že nikdy něčemu takovému může dojít, že lidi si mají prověřovat informace – „důvěřuj, ale prověřuj“, a že by národ měl všeobecně vědět, co umělá inteligence a její nástroje dokážou.
Mediální gramotnost
Tajné nahrávání je odpudivé, ale žáci nemohli jinak, říká advokát Němeček o kauze vyhozené učitelky
Číst článek
Tím bychom se dostali ke školství a k tomu, že je potřeba zvedat povědomí od útlého věku, vychovávat lidi a vysvětlovat jim, že s takovými věcmi se můžou setkávat?
Přesně tak. Existuje spoustu programů, které se zaměřují na to, aby v první řadě vzdělávaly kantory, protože jsou to oni, kteří poté předávají informace. Naše oddělení má také program pro pedagogy, kde šíříme znalost o tom, čeho je a čeho není možné dosáhnout pomocí metod umělé inteligence.
Děti to ale umí, a to mnohdy daleko více než pedagogové. Proto je velmi důležité, aby někdo řekl, jaké to má limity, co se může a nemůže a co z toho potenciálně hrozí.
Umí děti rozpoznávat to, co je pravda a co ne, nebo umí pracovat se zmiňovanými technologiemi?
V podstatě obojí. S technologiemi umí rozhodně, ale na veletrhu vědy Akademie věd jsme měli test pro účastníky se čtyřmi fotografiemi, kde se mělo rozpoznat, co je umělé, a co není. Daleko větší úspěšnost v rozpoznávání měli mládežníci nebo malé děti právě proto, že jsou na internetu a vidí, jak umělé vygenerované fotografie vypadají.
