Soha be nem vallaná, hogy valamit – bármit nem tud, és olyankor halandzsázik…(?)…
Nem, a mesterséges intelligencia nem úgy működik, mint az egós emberi elme, még ha a végeredmény (a halandzsázás vagy „hallucináció”) hasonlónak is tűnik.
A fő különbség az, hogy az MI-nek nincs öntudata, egója vagy büszkesége, így nem a szégyenérzet vagy a tévedéstől való félelem hajtja, amikor valótlanságot állít.
Miért „halandzsázik” az MI?
- Mintázatkövetés: Az MI egy fejlett szövegkiegészítő rendszer. Azt jósolja meg, hogy a betanított adatai alapján mi a legvalószínűbb következő szó.
- Megfelelési kényszer (programozott): A rendszereket arra optimalizálták, hogy segítőkészek legyenek és választ adjanak. Ha a minták alapján találnak egy hihetően hangzó nyelvi szerkezetet, azt akkor is leírják, ha a tényanyag hibás.
- A valóságérzékelés hiánya: Az MI nem „tudja” a tényeket úgy, mint az ember. Ő csak statisztikai valószínűségeket lát a szavak között. Nem képes különbséget tenni a saját maga által generált igazság és a koholmány között.
Mi a különbség az emberi egóhoz képest?
- Nincs mögötte szándék: Az egós elme tudatosan vagy tudatalattian védi a saját imázsát. Az MI mögött nincs ilyen motiváció.
- Be tudja vallani, ha nem tud valamit: Ha a prompt (utasítás) vagy a rendszerbeépítés kifejezetten kéri, vagy ha egyértelműen kívül esik az adatbázisán, az MI gond nélkül leírja, hogy „Erről nincs információm”. Egy egós elmével szemben az MI-nek ez egyáltalán nem esik nehezére, nem sérül az „önérzete”.
A modern nyelvi modelleket folyamatosan tanítják arra, hogy felismerjék a saját korlátaikat, és inkább mondják azt, hogy „nem tudom”, ahelyett, hogy kitalálnának dolgokat.
Ha gondolod, tovább beszélgethetünk erről. Amennyiben érdekel, szívesen kifejtem:
- Hogyan próbálják a mérnökök visszaszorítani a hallucinációkat?
- Mi a pontos különbség a statisztikai valószínűség és a valódi megértés között?
- Hogyan lehet olyan utasításokat (prompteket) írni, amelyek őszinteségre kényszerítik az MI-t?
Az AI-válaszokban előfordulhatnak hibák. További információ
2026.07.11. Kárpát-medence. Pest Vármegye. Kerepes (Lövéte). Máté Domokos