Někdy se chová jako chytrá horákyně, ale umí toho hodně. Na návody k trestné činnosti se chatbotu neptejte
Nezisková americká organizace OpenAI zveřejnila nového chatovacího robota. Jmenuje se ChatGPT a kromě jednoduché konverzace si s vámi dokáže psát o celé řadě dalších věcí. Podle vývojářů umí třeba zodpovědět doplňující otázky nebo přiznávat vlastní chyby. Díky tomuto chatbotovi se dá například napsat i školní esej, stále má ale své limity.
Umět dát věci do kontextu
S Janem Petružálkem, doktorandem na Fakultě informatiky a managementu královéhradecké univerzity, který se zabývá také chatboty, teď v jeho laboratoři sedíme u notebooku a testujeme novinku ChatGPT.
Kolik váží slunce? Ptáme se chatbotu a vidíme, že okamžitě sofistikovaně odpověděl. Odpověd navíc dává do kontextu, váhu porovnává s hmotností Země.
„Vývoj chatbota je v tom, že normálně by stačila informace z wikipedie, kolik Slunce váží, na druhou stranu, protože si lidé potřebují dávat věci do kontextu, chatbot chápe, že je potřeba specifické informace rozšířit,“ vysvětluje Jan Petružálek.
Dům na Měsíci?
Jenže tenhle chatbot od OpenAI, který už má přes milion uživatelů, toho umí o dost více. Když se zeptáte, jestli lze postavit dům na Měsíci, tak napíše celý odstavec o tom, jak komplikované by to bylo. A následně může rozvíjet i jednotlivé detaily. Dokáže také vytvořit esej na přesný počet znaků, a to i v češtině. U řady témat na první a ani druhý pohled někdy nepoznáte, že text nepsal člověk.
„Určitě bych lhal, kdybych tvrdil, že poznal. Za mě je to určitě sofistikovaný nástroj. Z pohledu IT vidím smysl posouvat tyhle věci i nadále dopředu. Jenom se začínám bát, aby to studenti opravdu nezačali využívat tak aktivně,“ směje se Petružálek.
Není to dokonalé
Sami vývojáři ovšem hned na začátku upozorňují, že tenhle zdánlivě geniální chatbot má své limity a také mouchy. Dle programátorů může třeba občas generovat špatné informace anebo vytvářet neobjektivní obsah. A právě to může být kámen úrazu.
Čtěte také
„Je to velice citlivá záležitost a stejně jako fake news, kdy vezmu reálná data, zmixuju je dohromady, tudíž výsledkem může být něco, co vychází z reálných dat, ale poskytuje to nereálné výstupy. Představuje to úplně stejný problém,“ vysvětluje mi Karel Mls z katedry informačních technologií Univerzity Hradec Králové. ChatGPT totiž čerpá z obrovského množství textu na internetu.
„Ze všech možných databází, diskuzních fór, sociálních sítí. A samozřejmě, když se podíváte na surová data z těchto zdrojů, obsahují vše možné, i nevhodný obsah, včetně dezinformací a smyšlenek. Je velice obtížné, i pro člověka, z takového obsahu filtrovat, co je pravdivá informace, a co ne.“
Nebudu odpovídat
Novinka od vývojářů z OpenAI je sice v lecčem přelomová, umí se například rozhodnout, že na některé otázky související s návody na trestnou činnost neodpoví. Jak ale dodává Karel Mls, stále je potřeba brát tenhle chatbot s nadhledem.
„Všimnul jsem si, že program některá tvrzení záměrně formuluje podobně jako různé věštby a podobně. Takže říká, že je to tak, ale je to složitá otázka, takže to může být i naopak. Chová se jako chytrá horákyně. Beru to opravdu jako experiment.“
Jak bot v praxi funguje, si může otestovat každý, a to na webu chat.openai.com.
Chatovací robot ChatGPT se umí rozhodnout, že na některé nevhodné dotazy nebude vůbec odpovídat. Podle odborníka na etiku nových technologií Tomáše Hříbka z Filozofického ústavu Akademie věd je to pozitivní vlastnost.
Umělá inteligence sama neumí vyhodnotit, co je etické, někdo jí to musí naprogramovat, jedná se o jazykový modul.
K častým tématům, která se v souvislosti s chatboty řeší je klamání.
Kvantitativní data ukazují 10 – 50 % zákazníků na ženské chatboty křičí nebo jim nadává, někdo si dovoluje i sexuální útoky.
Související
-
Filosof Sorgner: Umělá inteligence umí zabíjet, ale strach nemám. Black Mirror je čirá spekulace
Technologiím buďme vděční, zlepšují nám život, radí německý filosof Stefan Sorgner, odborník na transhumanismus a autor nové knihy o tom, že člověk byl odjakživa kyborg
-
Co už dokáže umělá inteligence? A umíme to využít v praxi?
TensorFlow je otevřená softwarová knihovna pro vysokovýkonné numerické výpočty, kterou vyvinuli vývojáři ze společnosti Google a nabídli ji volně k dispozici.
