Záměrně uvádím „takzvané umělé inteligence“, protože o tom, co je skutečná umělá inteligence a co je sofistikovaný automaton, by šly vést zdlouhavé debaty, na které tu teď není prostor.

Přehrát

00:00 / 00:00

Proč ChatGPT „halucinuje“ špatné odpovědi? A jde vůbec tyto chatboty považovat za umělou inteligenci? Poslechněte si glosu Matěje Schneidera

Faktem je, že ChatGPT a obdobné jazykové modely (jak se tyto systémy označují trochu přesněji) umí lépe než jakýkoliv program před ním minimálně nasimulovat jazykové schopnosti – tedy ve vás snadno vzbudit přinejmenším iluzi, že si píšete s něčím vědomým, inteligentním.

Ale často může jít jenom o iluzi. Nabízí se paralela, že ChatGPT je jakousi jazykovou obdobou kalkulačky. Jenže kalkulačka vám na rozdíl od chatbota nevyplivne vyfabulovaný výsledek.

ChatGPT, alespoň ve své současné podobě, totiž rozhodně není fakticky nejspolehlivější. Pro jeho vymyšlené odpovědi se začalo ujímat označení „vyhalucinované“ a docela dobře ukazují, jak ChatGPT ve skutečnosti funguje a k čemu je dobrý. Pokud hledáte správnou odpověď, radši si ji najděte sami.

Jestli potřebujete, aby vám někdo zkrátil váš už existující text nebo shrnul nějaký jiný v bodech, jste na správném místě. ChatGPT vám možná nedá správnou odpověď na vaši otázku, ale pokud potřebujete generovat uvěřitelný obsah v mnoha jazycích, zvládne to skvěle.

Umělá poezie

Osobně se dlouhodobě u produktů OpenAI bavím tak, že je nechávám psát básně hlasem nejrůznějších politiků. To je ekvivalent toho, když na kalkulačce napíšete 371830 a podáte ji vzhůru nohama kamarádovi.

Jsou ale lidé, kteří už nyní v zárodcích používají podobné jazykové modely k podstatnějším úkonům. Nemusí jít jen o zmíněné shrnování nebo nejrůznější mechanické editační úkony.

Jedněmi z jazyků, které se ChatGPT je schopný naučit, jsou jazyky programovací. Vy si tak můžete jeho pomocí razantně ulehčit stavění webu, programování aplikace nebo třeba digitálních hudebních nástrojů.

Rozmach ChatGPT s sebou přináší svou vlnu morální paniky. Je samozřejmě zajímavé se zamyslet nad tím, jak rozšíření podobného nástroje může proměnit profese, které nakládají s jazykem v různých formách.

Nejde se ale ubránit pocitu, že v médiích rezonuje tato hrozící vlna automatizace více než kterákoliv z předchozích, nejazykových, a to především proto, že se jí obávají přímo redaktoři, kteří články o ní píší.

Ideologicky zabarvené odpovědi

Na konzervativní pravici se v posledních týdnech rozšířila panika z toho, že ChatGPT vyplivává odpovědi, které jim ideologicky nevyhovují. Dokonce už vznikla i alternativa, která by měla razit více konzervativní odpovědi, komicky pojmenovaná RightWingGPT.

Autor této mutace výzkumník David Rozado ale sám popisuje, že jeho cílem nebylo „napravit“ dle někoho ideologicky závadné odpovědi, ale upozornit na potenciální nebezpečí, které představují ideologizované AI systémy. Rozado varuje, že takto nastavené systémy hrozí umocnit polarizaci společnosti a mohou být zneužity k manipulaci.

V jádru tak upozorňuje na nevyhnutelný problém jakékoliv nové technologie, který je manifestovaný v otázkách, kdo ji vlastní či ovládá, a komu tedy slouží. Firma OpenAI vznikla v půlce minulé dekády a měla sloužit jako protipól technologickým gigantům, jako je Google.

Její spoluzakladatel Elon Musk (který paradoxně sám v minulosti varoval před rozmachem umělé inteligence a který je sám jen těžko dobrým arbitrem nestrannosti) v současnosti odsoudil plány na to, aby ChatGPT byl etablován Microsoftem do jeho vyhledávače Bing.

Jak Muskovy rozpaky, tak Rozadova práce ukazují, kde za banalitou faktičnosti generovaných odpovědí leží nejpalčivější problém ohledně podobných jazykových modelů.

Ten ale přes veškeré zdání novosti opravdu není nijak čerstvý – boj proti novým technologiím vždycky prohrajete, má ale smysl bojovat o to, kdo a jak těží z jejich implicitního nastavení.

Matěj Schneider Sdílet na Facebooku Sdílet na Twitteru Sdílet na LinkedIn Tisknout Kopírovat url adresu Zkrácená adresa Kopírovat do schránky Zavřít