AI má zásadní problém. Netuší jak vypadá mořský koník a ani kolik je 1+1
Ocitli jsme se v době, ve které umělá inteligence, takzvaná AI, začíná pronikat do mnoha oblastí našich životů – pomáhá s prací programátorům, píše reklamní texty, vytváří obrázky nebo dokonce mnoha lidem nahrazuje přátelské vztahy. I přesto ale na první pohled vševědoucí AI pravidelně selhává v naprosto banálních úkolech, jako je matematika první třídy nebo tvorba obrázků.
Internet a sociální sítě v poslední době zaplavila halda vtipných obrázků generovaných umělou inteligencí, které ale nedopadly úplně dobře… Fenomén po internetu koluje pod štítkem AI hallucinations, tedy halucinace umělé inteligence, a často nabízí obrázky nelidsky vypadajících obličejů, podivně zkřížených zvířat nebo dlaní se sedmi prsty.
Umělá inteligence funguje na základě pravděpodobnosti
Důvodem neúspěšných pokusů o generování obrázků nebo počítání příkladů ovšem není pouhá hloupost umělé inteligence. AI totiž není opravdovou „inteligencí“, která by byla schopná přemýšlet nebo problémy a úkoly skutečně „chápat“. Jedná se zpravidla totiž o pouhý jazykový model, který funguje na základě pravděpodobnosti. Systém tedy funguje tak, že na základě naučených informací z tréninkových dat předpovídá, jaká odpověď je pravděpodobně ta nejsprávnější. Chybné odpovědi pak tedy mohou přicházet v případě, kdy je otázka položená nejednoznačně a umělá inteligence neumí vyhodnotit, jaká odpověď je správná.
Velkou roli hraje i fakt, že umělá inteligence funguje tak, že musí svým uživatelům vždy poskytnout odpověď. Pokud si tedy AI není odpovědí jistá, i tak se vám zuby nehty snaží nabídnout alespoň nějakou odpověď – tedy často i fakticky chybnou nebo neúplnou.
Umělá inteligence nevidí obrázky stejně jako lidé
Speciální kategorií je pak ve světě AI tvorba obrázků a videí. Umělá inteligence neoplývá komplexní prostorovou představivostí, neorientuje se v prostoru a není schopná na základě logiky vyhodnotit, zda vygenerovaný obrázek opravdu odpovídá realitě.
Stejně jako u textových odpovědí totiž generuje obrázky pouze na základě tréninkových dat, nikoli podle reality. Potíže pak vznikají právě pokud se AI snaží generovat například obrázek mořského koníka – splete si koně, jiné mořské živočichy a pak je z mořského koníka legrační obrázek s reálně neexistujícím zvířetem na světě.
Matematika z první třídy
Problémy a chyby ale nevznikají jen při generování obrázků, ale například i při naprosto základních matematických úkonech. Model umělé inteligence má sice naučené, že 1+1=2, ale pokud ho uživatel tlačí k tomu, aby s ním AI souhlasil a fungoval kooperačně, dá raději přednost splnění úkolu – zkrátka se přizpůsobí vašim požadavkům.
Nenechte se obelhat
Ačkoliv se na první pohled zdá, že umělá inteligence zvládne hladce vyřešit každý úkol a odpovědět na každou otázku, pamatujte, že se nejedná o vševědoucí encyklopedii, ale o pouhý jazykový model, který nemá schopnost racionálně přemýšlet.
Neumí si ověřit, zda informace, které vám poskytl, jsou skutečně pravdivé, a pokud si někdy neví rady, neváhá své mezery vyplnit přesvědčivou odpovědí, která je ale skrz naskrz nepravdivá. V neposlední řadě pak především neoplývá tak důležitou schopností, jako je říct, že si s daným úkolem neumí poradit a správnou odpověď zkrátka nezná.
Zdroje: OpenAI.com, The Conversation, The NY Times, YouTube
