AI halucinace

Situace, kdy si AI vymyslí informaci, která není pravdivá.

AI halucinace označují situaci, kdy umělá inteligence vygeneruje nesprávnou nebo zcela smyšlenou informaci a podá ji s naprostou jistotou. AI halucinace vznikají, protože modely umělé inteligence předpovídají nejpravděpodobnější pokračování textu podle vzorců, které se naučily z obrovského množství dat. Když tedy systém nezná přesnou odpověď, doplní ji podle kontextu tak, aby působila přirozeně.

Halucinace se mohou projevit různě. AI si může vymyslet citát nebo odkaz na neexistující studii. Nejde o úmyslnou lež, ale o vedlejší efekt toho, jak jazykové modely fungují. Lidská kontrola zůstává klíčová. Vždy myslete na to, že i ty nejpokročilejší systémy mohou být omylné.