5 mýtov o AI, ktorým ľudia veria

Kolegyňa mi minulý mesiac vážne tvrdila, že ChatGPT "sa učí z toho, čo mu napíšem" a že si preto dáva pozor, aby mu nenapísala nič hlúpe. Nechcel som ju opravovať pred celým tímom, tak som počkal a vysvetlil jej to potom osamote. Nebola prvá. Skoro každý, s kým sa o AI rozprávam, má v hlave aspoň jednu vec, ktorá znie logicky, ale je vedľa.

Nie je to ich chyba. AI odpovedá sebavedomo, aj keď sa mýli, a nikto vám pri tom nezasvieti výstražné svetielko "toto je len odhad". Takže si ľudia domýšľajú, ako to asi funguje, a domyslenia sa šíria ďalej ako fakty. V článku o tom, čo je vlastne umelá inteligencia, som tri z týchto mýtov len naznačil. Tu je celý zoznam aj s vysvetlením.

Mýtus 1: AI a robot sú to isté

Ak niekto povie "robot", predstavíte si niečo s telom. Ruky, pohyb, možno aj tvár. AI je presný opak. Je to softvér, kus kódu bežiaci na serveri, ktorý nemá telo vôbec.

ChatGPT nesedí nikde v miestnosti. Nemá ruky, nemá senzory, nevidí vás. Robot môže obsahovať AI, napríklad robotický vysávač, ktorý sa učí pôdorys bytu, ale väčšina AI, s ktorou sa bežne stretávate, žiadne fyzické telo nemá a ani ho nepotrebuje. Netflix odporúčania, spam filter, ChatGPT. Všetko bežný softvér bez tela.

Mýtus 2: AI vie, že klame

Toto je asi najnebezpečnejší mýtus, lebo mení to, ako ľudia AI dôverujú. Predstava je taká, že keď si model niečo vymyslí, tak to vlastne "vie" a len sa rozhodne zaklamať. Realita je menej dramatická a o čosi horšia.

Model nemá interný prepínač "toto viem isto" verzus "toto si len domýšľam". Generuje ďalšie slovo na základe pravdepodobnosti, a to platí rovnako, či hovorí niečo overené alebo si to práve vymýšľa. Preto vymyslený citát alebo neexistujúci zákon znie presne tak sebavedomo ako fakt, ktorý si môžete overiť v troch zdrojoch. Vedomé klamstvo tam nehľadajte, práve preto je to zákernejšie. Podľa tónu to nespoznáte. Spoznáte to len overením.

Mýtus 3: Viac dát znamená múdrejšiu AI

Znie to ako zdravý rozum: viac dát, viac skúseností, lepší výsledok. Pri AI modeloch to tak jednoducho nefunguje.

Kvalita a rôznorodosť dát, na ktorých sa model trénuje, rozhoduje viac než ich čisté množstvo. Model natrénovaný na obrovskom, ale jednotvárnom balíku dát, napríklad prevažne anglický text z jedného typu zdrojov, môže v konkrétnej úlohe prehrať s menším modelom, ktorý mal pestrejšie a čistejšie dáta. Preto sa v posledných rokoch objavujú menšie modely, ktoré na špecifických testoch porážajú niekoľkonásobne väčších konkurentov. Marketing predáva veľkosť, výsledky v praxi rozhoduje kvalita dát.

Mýtus 4: AI vie všetko a pozná aktuálne dianie

Skúsili ste sa niekedy opýtať ChatGPT na výsledok zápasu spred týždňa a dostali odpoveď, ktorá vôbec nesedela? Nie je to náhoda. Model má presne v tomto bode vlastný limit, o ktorom vám sám nič nepovie.

Jazykové modely majú takzvaný knowledge cutoff: dátum, po ktorom už nevideli žiadne nové dáta z tréningu. Všetko, čo sa stalo po tomto dátume, model jednoducho nepozná, a keď sa ho na to spýtate, môže si odpoveď domyslieť namiesto toho, aby priznal, že to nevie. Niektoré nástroje tento problém obchádzajú: Perplexity alebo ChatGPT s aktivovaným vyhľadávaním si vedia v reálnom čase vytiahnuť aktuálne informácie z internetu a doplniť ich k odpovedi. Bez tejto funkcie ale hovoríte s modelom, ktorého znalosti majú presné dátum spotreby, aj keď vám to sám nepovie.

Mýtus 5: AI je objektívna a nemá predsudky

Znie lákavo: konečne niečo, čo nesúdi, nemá predpojatosti, len počíta. Lenže model sa učí z textu, ktorý napísali ľudia, a ľudské texty predsudky obsahujú. Model tie predsudky preberá a opakuje.

Konkrétny príklad: keď sa jazykové modely trénujú prevažne na anglických a západných zdrojoch, majú tendenciu horšie rozumieť kontextu z menších jazykových oblastí alebo ho vysvetľovať cez americkú optiku. Podobne sa v minulosti ukázalo, že modely na generovanie životopisov alebo hodnotenie CV preberali vzory z dát, kde boli niektoré mená alebo formulácie spájané s nižším hodnotením, hoci kvalifikácia bola rovnaká. AI len odráža dáta, ktoré videla, a tie dáta nie sú neutrálne.

Čo ďalej

Ak vás zaujíma základ, teda čo AI vlastne je a ako funguje, prečítajte si čo je umelá inteligencia vysvetlené jednoducho. Tam nájdete aj to, kde sa s AI stretávate, aj keď o tom neviete.

Časté otázky

Prečo AI pôsobí tak sebavedomo, aj keď sa mýli?

Model generuje text na základe pravdepodobnosti ďalšieho slova, nie na základe overenej istoty. Nemá spôsob, ako rozlíšiť fakt od domnienky, takže obe znejú rovnako presvedčivo.

Dá sa mýtus o "vedomom klamaní" AI nejako overiť?

Áno, jednoducho: skúste sa modelu opýtať na niečo veľmi špecifické a menej známe, napríklad presný citát z konkrétnej knihy alebo dátum menej známej udalosti, a výsledok si overte. Časť odpovedí bude presná, časť si model dopovie. Rozdiel medzi nimi nepoznáte podľa tónu odpovede.

Majú všetky AI nástroje knowledge cutoff?

Väčšina základných jazykových modelov áno. Nástroje, ktoré majú zapnuté vyhľadávanie na internete (napríklad Perplexity alebo ChatGPT s funkciou search), vedia tento limit obísť tým, že si aktuálne informácie dotiahnu za behu.

Ako spoznám, že si AI niečo vymyslela?

Univerzálny spôsob neexistuje. Najspoľahlivejšie je overiť si konkrétne fakty, čísla, citácie alebo mená v nezávislom zdroji, hlavne ak od odpovede niečo závisí.