Umělá inteligence bude rozumět emocím. Lidskou podobu bychom měli tabuizovat, říká se kybernetik
Kybernetik a filozof Jan Romportl si už svět bez umělé inteligence (AI) nedovede představit. „AI potřebujeme, abychom udrželi osmimiliardovou civilizaci důstojně pokupě,“ říká v rozhovoru s Lucií Výbornou. Zároveň ale upozorňuje, že AI je nutné tvořit tak, aby její hodnoty byly sladěné s hodnotami lidí. „Politici o AI moc erudovaně nemluví. Pochopte základy, jak AI funguje, pak požadujte, aby politici jasně deklarovali svůj názor,“ doporučuje.
Lidé, kteří pracují s umělou inteligencí, ji učí, aby byla hodná? A mají nějaký vliv?
Spousta lidí, která v oblasti umělé inteligence je, popírá, že by tento problém existoval. V komunitách dochází k obrovské polarizaci. V komunitě umělé inteligence bohužel dochází k obrovským ideologickým bojům.
Vývoj umělé inteligence zastavit nemůžeme. Ale je třeba přidat brzdy a volant, přirovnává kybernetik Jan Romportl vývoj umělé inteligence k automobilismu
Je skupina lidí, kteří říkají: „Pozor, je to potenciálně nebezpečné, kam se řítíme, měli bychom AI udělat bezpečnou.“ To mi přijde jako legitimní požadavek.
A proti stojí ještě větší skupina lidí z oblasti AI, která říká: „Ne, jste všichni alarmisti a blázni a děláte si na tom marketing.“
Někdo se snaží dělat větší, silnější vodítka, to je docela dobré pro umělou inteligenci, ale problém je, že nevíme, jak ji správně vytvořit, aby její hodnoty byly naprosto a stoprocentně sladěné s hodnotami nás, lidí. My umíme jen vodítka a příkazy.
Musíme se zabývat tím, jak umělou inteligenci udělat tak, aby její hodnoty nebyly v rozporu s hodnotami lidstva. Jakým způsobem se taková věc programuje, když jsem od některých odborníků na AI slyšela, že už do toho nemůžu moc zasáhnout, protože ta věc si to dělá sama?
To je právě ten problém, my to neumíme tomu systému nějak vtělit.
Nahradí umělá inteligence učitele? Pokud je extrémně špatný, tak určitě, připouští pedagog
Číst článek
Jako příklad bych mohl uvést GPT, to je obrovská umělá neuronová síť, která se učila tak, že když ji předhodíte nějakou sekvenci slov, třeba Ema mele, tak se jí zeptáte, co přijde dál. A ona řekne maso, nebo nesmysly…
Neuronová síť se to naučila na internetu, nikdo jí nevysvětloval, jak to ve světě chodí, co by měla a neměla umět. Tyto věci tam vyvstaly samy od sebe.
Je reálné z vnějšku pozastavit vývoj umělé inteligence?
My nesmíme pozastavit vývoj umělé inteligence jako vědecky výzkumný pokrok. Musíme pozastavit trénování daleko větších jazykových a dalších modelů. Teď mají bilion parametrů a my se musíme zaměřit v AI výzkumu na to, že při stávajících velikostech, vezměme třeba GPT-4, možná GPT-5, až vyjde, tak to nebudeme dál rozvíjet. Ale uděláme tam brzdy a volant pro takhle vzniklé zařízení.
A jestli to jde, nebo nejde? To nevíme.
Chcete mi říct, že jedeme brutálně vytuněným autem se silným motorem, které nemá brzdy?
Přesně, takhle dnes vzniká vývoj AI. Děláme metaforickým příměrem auta, kterým montujeme větší a větší motor – to jsou ty větší a větší jazykové modely – ale do těch aut nedáváme volant a brzdy.
Zbohatnout na duševním zdraví ostatních? Seriál Štěstí ASAP ukazuje svět start-upů, AI i vyhoření
Číst článek
Věřím, že v oblasti umělé inteligence může být něco, na čem se domluví vláda s opozicí.
A když někdo poznamená: „Neměli byste tam dávat volant a brzdy?“ V automobilismu by nikdo neřekl, že to je zpátečník, který zastavuje rozvoj automobilového průmyslu. Ale v AI to řeknou.
Když přijdou lidi a řeknou: „Zkuste zpomalit další a větší modely a větší výpočetní zdroje,“ tak spousta lidí namítne: „Vy jste zpátečník, zastavujete pokrok AI.“
Víte, co je pro mě na tom to nejsmutnější? Že to poslouchám, ale nemůžu udělat vůbec nic…
Myslím si, že už teď děláte relativně hodně v tom, že můžete šířit zprávu: AI potřebujeme, ale nepotřebujeme v tuto chvíli GPT-5 ani GPT-6, dokud pro ně nevymyslíme volant a brzdy.
Měl by mít ten stroj lidskou podobu?
Neměl. Jedna z podstatných věcí, kterou bychom měli zabezpečit pro budoucí soužití s AI, je úplně zakázat antropomorfizaci AI. To znamená, aby AI vypadala jako člověk.
Mýlka je, že si lidé myslí, že AI nebude schopná rozumět emocím, nebo emoce navenek dávat najevo. Bude stejně jako člověk rozumět lidským emocím. A to, aby je sama demonstrovala, tedy že tady bude umělý robot, který bude předstírat, že jste vy, bude technicky možné, ale měli bychom to tabuizovat.
Kde by měl skončit vývoj umělé inteligence? A co se stane, až bude lepší než člověk? Poslechněte si celý rozhovor.
