Halucinace umělé inteligence: Čeho se vyvarovat při používání AI

Podle Evropského spotřebitelského centra přibývá stížností Čechů na zahraniční podnikatele. Zároveň s tím se ukazuje, že většinu stížností si lidé nechávají sepsat od umělé inteligence. Takové nástroje ale dělají chyby, vymýšlí si a zbytečně přidělávají práci odborníkům z ESC.

Ondřej Tichota, ředitel pro komunikaci Evropského spotřebitelského centra Česko|foto:Michal Balák, Český rozhlas

„A nejen nám. Se stížnostmi vygenerovanými nástroji umělé inteligence se setkávají kolegové z poradenské informační služby České obchodní inspekce, při které působíme, a také z oddělení mimosoudního řešení sporů ADR, které se zabývá vnitrostátními spory spotřebitelů s podnikateli. Je to všeobecný jev. Zhruba 60 % stížností je vygenerováno umělou inteligencí. A to i jinde v Evropě,“ potvrzuje Ondřej Tichota, ředitel pro komunikaci Evropského spotřebitelského centra Česko.

Dá se to vůbec poznat, že to sepsala umělá inteligence? „Například oslovení ‚Vážený tým Evropského spotřebitelského centra‘ by člověk nepoužil. Ale ono není špatné si od AI nechat pomoci. Lidé se (umělé inteligence) běžně ptají třeba ‚mám tady problém, co s tím můžu dělat?‘ Umělá inteligence nabídne, že sepíše stížnost. Je to fajn pomoc, ale potom můžou nastat různé potíže,“ říká Ondřej Tichota.

Podle něj lidé umělou inteligenci používají hlavně kvůli ušetření času: „Stížnost na podnikatele, který nechce vyhovět požadavkům, může mít člověk sepsanou během dvou minut jízdy v autobuse. Lidé to dělají různě. Mnozí tam dávají veškeré přílohy, které se toho týkají, se svými osobními údaji, což by si žádný státní úřad nemohl dovolit, a nechají si sepsat stížnost na základě komunikace s tím podnikatelem, je to hned.“

Dodává, že v tom je určitě úskalí: „Na internet bychom nevyvěsili jen tak veřejně své osobní údaje. To je to, před čím varujeme, neposílejte kopie svého občanského ani řidičského průkazu e-mailem, nesdělujte CVV kód platební karty. A lidé ty údaje nalijí do nástroje umělé inteligence. A ačkoli tvůrci AI mohou říci, že údaje nepůjdou ven, tak všechno je hacknutelné, nevíme, jaká jsou zabezpečení atd.. Varujeme, aby to lidé nedělali a byli opatrní.“

Ani umělá inteligence neumí všechno. Například si vymýšlí paragrafy, podle kterých argumentuje. „Když se lidé ptají umělé inteligence, na co mají právo v nějaké situaci, která nastala, to znamená reklamace nebo stížnost týkající se nějakých služeb, tak umělá inteligence dovede takzvaně halucinovat. A dost. Může hodit paragraf třeba nizozemského občanského zákoníku. Dokonce ho odcituje,“ upozorňuje Ondřej Tichota.

„Přesně nevím, jak to v umělé inteligenci funguje, ale kdyby někam sahala a vytáhla skutečně ten správný paragraf, bylo by to fajn, ale ona si ho vymyslí, i třeba podle přání toho, kdo zadává úkol. A my v tu chvíli máme spotřebitele, stížnost, která argumentačně zapadá, je podpořena nějakým paragrafem… A nám se to nezdá, tak se musíme podívat, jestli to tak skutečně je. A to nám zabírá čas, bere nám to prostor na řešení toho případu, takže to může být zatěžující. A právě u paragrafů bych byl velmi opatrný, nebo u právních posouzení umělou inteligencí, protože to může být zavádějící,“ varuje odborník.

Doplňuje také, že umělá inteligence mívá tendenci podpořit pohled toho, kdo jí něco zadává. „Je laskavá, hodná, snaží se pomoci a ujistí v tom, co chceme slyšet.“

Když AI halucinuje

„AI halucinuje v případě, kdy jí nezadáme úplně dobré zadání, kdy čerpá ze spousty zdrojů, nebo ohromné databáze, kterou má od svých tvůrců, kde jsou miliardy informací. Je to věc, kterou můžeme použít jako nástroj, ale nesmíme ji nechat iniciativu, to, že ona bude ta, kdo bude zodpovídat za obsah, vždycky to musí být člověk, který zná svůj případ, ví, co se v tom například případu reklamace nebo stížnosti, děje“ říká Ondřej Tichota.

Jinak podle něj umělá inteligence může „vyhalucinovat“ příběh, který se nestal. A způsobit daleko větší potíže.

Jak správně využít umělou inteligenci například při psaní stížností? Jak zadávat úkoly? A s jakou kuriozitou se ve spotřebitelském centru také setkali? Poslechněte si záznam rozhovoru.