Predstav si situáciu: necháš si od AI pripraviť podklady do prezentácie pre klienta. Na jednom slajde stojí, že krátke videá zvyšujú konverzie o 38 %, s odkazom na „štúdiu renomovanej marketingovej agentúry z roku 2023“. Klient sa na konci stretnutia spýta, či mu ju môžeš poslať. Otvoríš odkaz a stránka vráti chybu 404. Štúdia s takým číslom nikdy nevyšla.
AI v takom prípade neklame zámerne. Iba vytvorí vetu, ktorá znie presne tak, ako by znela pravdivá veta. Práve preto potrebuješ jednoduchý postup, ktorým odpoveď skontroluješ skôr, než ju pošleš ďalej. Nižšie ho nájdeš v 7 krokoch, aj s grafickým checklistom na stiahnutie a tipmi, ktoré používame pri vlastnej práci s AI.
Prečo AI tvrdí nepravdy s takou istotou
Jazykový model nehľadá pravdu, ale najpravdepodobnejšie pokračovanie textu. Ak sa v trénovacích dátach často objavuje kombinácia „štúdia + percento + známa firma“, model ju vie poskladať aj vtedy, keď konkrétny údaj nikdy nevznikol. Americký inštitút NIST to vo svojom profile rizík generatívnej AI (NIST AI 600-1) nazýva konfabulácia. Bežne sa používa aj výraz halucinácie AI.
V praxi najčastejšie narazíš na štyri typy chýb:
Vymyslený zdroj - štúdia, článok alebo kniha, ktoré neexistujú, často s dôveryhodným autorom a rokom.
Skutočný zdroj, iné číslo - odkaz funguje, ale údaj v ňom nie je alebo znie inak.
Zastaraná informácia - cena, funkcia alebo zákon, ktoré platili v čase trénovania modelu.
Správny fakt v zlom kontexte - údaj z USA podaný ako slovenský, výsledok malej vzorky podaný ako všeobecné pravidlo.
Najčastejšie chyby AI: vymyslený zdroj, zlé číslo, zastaraná informácia a zlý kontext
Checklist: over si odpoveď AI v 7 krokoch
Celý postup máš zhrnutý na obrázku. Ulož si ho alebo vytlač a maj ho po ruke, kým sa kontrola nestane zvykom. Jednotlivé kroky rozoberáme nižšie.
Checklist: over si odpoveď AI v 7 krokoch
1. Označ tvrdenia, na ktorých niečo stojí
Neoveruješ celý text, ale vety, ktoré by ťa zahanbili, keby boli zlé. Prejdi odpoveď a zvýrazni:
čísla, percentá, sumy a dátumy,
mená ľudí, firiem a inštitúcií,
citácie a odkazy na výskumy,
tvrdenia o funkciách a cenách nástrojov,
slová ako „najviac“, „preukázateľne“, „vždy“ či „podľa výskumov“.
Tip z praxe: skopíruj odpoveď do dokumentu a každé tvrdenie, ktoré ideš overovať, označ farbou. Zelenou to, čo si už overil, červenou to, čo sa ti nepodarilo potvrdiť. Na konci hneď vidíš, čo musíš vyhodiť alebo preformulovať.
2. Otvor zdroj a nájdi presnú vetu
Odkaz pri odpovedi je iba tvrdenie, že zdroj existuje. Otvor ho a cez Ctrl+F (na Macu Cmd+F) vyhľadaj konkrétne číslo alebo kľúčové slovo. Hľadaj ho v rôznych zápisoch, napríklad „38 %“, „38%“, „0,38“ aj „38 percent“, prípadne v angličtine.
Ak AI cituje vedeckú štúdiu:
vlož celý názov štúdie v úvodzovkách do Google Scholar,
ak má štúdia DOI, over ho na stránke doi.org,
skontroluj, či sedí autor, rok aj časopis.
Červené vlajky vymysleného zdroja: URL adresa vyzerá logicky, ale stránka neexistuje. Odkaz smeruje iba na hlavnú stránku webu. Pri knihe je uvedené presné číslo strany, ktoré sa nedá overiť. Citácia má formát „Novák et al., 2022“ bez názvu práce.
Keď údaj nájdeš, prečítaj aj vetu pred ním a za ním. Často sa ukáže, že sa týka inej skupiny, iného roka alebo že autor ho sám spochybňuje.
3. Over, či informácia ešte platí
Každý model má dátum, po ktorom už nemá trénovacie dáta. Ak nástroj nevyhľadáva na webe, o novších zmenách nevie. Najrýchlejšie zastarávajú ceny, funkcie aplikácií, limity bezplatných verzií a legislatíva.
Pri cenách a funkciách choď na oficiálny cenník alebo do dokumentácie nástroja.
Pri novinkách pozri stránku s release notes alebo changelogom.
Ak potrebuješ vedieť, čo bolo na stránke v minulosti, použi Wayback Machine (web.archive.org).
Tip z praxe: spýtaj sa AI priamo: „K akému dátumu je táto informácia platná a vyhľadal si ju na webe, alebo vychádza z tréningových dát?“ Odpoveď ti neprezradí pravdu, ale napovie, kde treba byť opatrnejší.
4. Skontroluj, či údaj sedí na tvoju situáciu
Aj presný údaj môže byť pre teba nepoužiteľný. Priemerná mzda v USA nehovorí nič o mzdách na Slovensku a prieskum medzi 200 startupmi nie je obraz celého trhu.
Pri slovenských údajoch siahni po primárnych zdrojoch:
Štatistický úrad SR (databáza DATAcube) pre mzdy, ceny, obyvateľstvo a firmy,
Eurostat pre porovnanie krajín EÚ,
Národná banka Slovenska pre úroky, infláciu a finančný trh,
Slov-Lex pre zákony v aktuálnom znení.
5. Prepočítaj čísla
AI vie s číslami narábať prekvapivo nešikovne, najmä pri viacerých krokoch za sebou. Výpočet zopakuj v kalkulačke alebo v Exceli a skontroluj vstupy aj jednotky.
Najčastejšie sa mýlia percentá a percentuálne body. Ak miera prekliku (CTR) stúpne z 2 % na 3 %, vzrástla o 1 percentuálny bod, ale relatívne o 50 %. Obe čísla sú správne, každé však hovorí niečo iné. Keď ich zameníš v reporte, závery z reportu budú úplne iné, než aké ukazujú dáta.
Tip z praxe: ak ti AI pripraví tabuľku so súčtami, sčítaj aspoň jeden riadok a jeden stĺpec sám. Chyby v súčtoch sú bežnejšie, než by si čakal.
6. Súhrn porovnaj s originálom
Pri zhrnutí PDF, zmluvy alebo zápisnice z porady AI rada vynechá podmienky a výnimky. Z vety „výsledky naznačujú možné zlepšenie“ sa ľahko stane „výskum dokázal účinnosť“.
Pomôže, keď si rovno v zadaní vypýtaš doslovné citácie s číslom strany. Potom ich cez Ctrl+F nájdeš v pôvodnom dokumente za pár sekúnd. Nástroje, ktoré pri odpovedi odkazujú na konkrétne miesto v dokumente, napríklad NotebookLM, kontrolu urýchlia, ale nenahradia. Klikni na citáciu a prečítaj si, čo naozaj hovorí.
7. Oddeľ fakty od odhadov a odporúčaní
Jedna odpoveď AI často mieša tri rôzne veci. Každú overuješ inak:
Fakt, odhad a odporúčanie overuješ inak
Odporúčanie môže byť užitočné, aj keď neplatí pre každého. Potrebuješ však vedieť, z čoho vychádza a či sedí na tvoje ciele, rozpočet a čas.
Ako dôkladne kontrolovať: semafor podľa rizika
Overovať každé slovo by trvalo dlhšie, než napísať text sám. Rozsah kontroly preto prispôsob tomu, čo sa stane, ak bude odpoveď zlá.
Rozsah kontroly prispôsob riziku
Zelená - nápady a formulácie. Názvy prezentácií, osnova článku, návrh e-mailu. Stačí tvoj úsudok.
Oranžová - interné podklady. Report pre šéfa, e-mail klientovi, podklady na poradu. Over všetky čísla a mená.
Červená - verejné a citlivé veci. Článok na web, zmluva, rozhodnutia o peniazoch, zdraví alebo práve. Každé tvrdenie si nájdi v primárnom zdroji a zapoj odborníka.
Špeciálne prípady, kde sa AI mýli najčastejšie
Paragrafy a zákony
AI rada cituje paragrafy, ktoré už neplatia, alebo zamieňa slovenské a české predpisy, pretože sú si podobné a v dátach sa miešajú. Paragraf si vždy over na Slov-Lex v aktuálnom znení a pozri si aj dátum účinnosti. Pri dôležitých rozhodnutiach nech znenie skontroluje právnik.
Kód a knižnice
Kód od AI spusti a otestuj na malom príklade skôr, než ho nasadíš. Pozor aj na názvy balíčkov. Modely si niekedy vymyslia knižnicu, ktorá neexistuje, a útočníci tieto vymyslené názvy zaregistrujú so škodlivým kódom. Tento typ útoku sa volá slopsquatting. Pred inštaláciou over balíček na npm alebo PyPI: kto ho vydal, koľko má stiahnutí a ako dlho existuje.
Citáty známych ľudí
Vlož citát v úvodzovkách do vyhľadávača. Ak ho nájdeš iba na stránkach s citátmi a nikde v rozhovore, knihe či prejave, ber ho ako nepotvrdený.
Najčastejšie chyby pri overovaní
Overuješ AI ďalšou otázkou „Si si istý?“ Model sa často prispôsobí tvojej pochybnosti a odpoveď zmení, aj keď bola pôvodne správna. Alebo naopak trvá na chybe. Ani jedno nie je dôkaz.
Porovnávaš dva chatboty. Ak sa ChatGPT a Gemini zhodnú, mohli sa naučiť rovnakú chybu z rovnakých dát.
Spoliehaš sa na odkaz bez otvorenia. Funkčný odkaz ešte neznamená, že v ňom údaj je.
Cituješ sekundárny zdroj. Článok o štúdii nie je štúdia. Novinári aj blogeri čísla zaokrúhľujú a skracujú.
Overíš jedno číslo a zvyšok odseku necháš tak. Kde je jedna chyba, často bývajú aj ďalšie.
Prompt, ktorý ti uľahčí kontrolu
Keď už máš odpoveď, pošli AI tento prompt. Nepotvrdí ti pravdivosť, ale pripraví zoznam, čo treba overiť:
Rozdeľ svoju predchádzajúcu odpoveď na overiteľné fakty, odhady a odporúčania. Ku každému faktu uveď zdroj, ak ho máš, a jasne označ tvrdenia, ku ktorým zdroj nemáš. Nevymýšľaj odkazy ani citácie. Pri každom bode navrhni, kde ho môžem nezávisle overiť.
Tip z praxe: ešte lepšie je predísť chybám už v zadaní. Daj AI vlastné podklady (PDF, tabuľku, odkazy) a napíš: „Odpovedaj iba na základe priložených dokumentov. Ak tam odpoveď nie je, napíš, že ju nevieš.“
Otvor odkaz a vyhľadaj v ňom konkrétny údaj cez Ctrl+F. Pri štúdii vlož jej názov v úvodzovkách do Google Scholar alebo over DOI na doi.org. Ak stránka neexistuje, odkaz vedie len na hlavnú stránku webu alebo citácii chýba názov práce, ber zdroj ako nepotvrdený.
Stačí sa AI opýtať, či si je istá?
Nie. Model sa často prispôsobí tvojej pochybnosti a odpoveď zmení, aj keď bola správna, alebo naopak trvá na chybe. Otázka môže pomôcť nájsť nezrovnalosť, ale pravdivosť overíš iba v pôvodnom zdroji.
Je odpoveď správna, ak sa zhodnú dva rôzne AI nástroje?
Nie nevyhnutne. Rôzne modely sa učia z podobných dát, takže môžu opakovať rovnakú chybu. Zhoda dvoch chatbotov nenahrádza kontrolu primárneho zdroja.
Ktoré informácie od AI treba overovať vždy?
Čísla a percentá, mená, citácie, odkazy na výskumy, ceny a funkcie nástrojov a všetko, čo sa týka práva, zdravia či financií. Pri nápadoch a formuláciách stačí tvoj úsudok.
Kde si overím slovenské štatistiky a zákony?
Štatistiky nájdeš v databáze DATAcube Štatistického úradu SR, porovnanie krajín EÚ na Eurostate a údaje o úrokoch a inflácii na stránke Národnej banky Slovenska. Zákony v aktuálnom znení over na Slov-Lex.
Ako môžem halucinácie AI obmedziť už pri zadaní?
Daj AI vlastné podklady a napíš, aby odpovedala iba na ich základe a priznala, keď odpoveď nevie. Vypýtaj si doslovné citácie s číslom strany a nástroj, ktorý vyhľadáva na webe, nechaj uviesť zdroje.
Som kreatívna a cieľavedomá študentka so záujmom o marketing, tvorbu videí a vizuálne rozprávanie príbehov. Rada sa učím nové veci, rýchlo sa prispôsobujem a nebojím sa výziev, ktoré mi pomáhajú rásť.
Lucia Fumačová
