Vad är Hallucination (AI)?

En hallucination inom AI är när en språkmodell svarar med något som låter trovärdigt men helt enkelt inte stämmer. AI:n kan hitta på en lag som inte finns, en produkt du aldrig sålt eller ett citat ingen sagt — och presentera det med samma självsäkerhet som ett korrekt svar.

Varför händer det här? För att en språkmodell inte "vet" saker på samma sätt som en människa. Den gissar sig fram till nästa ord baserat på mönster den lärt sig. Oftast blir gissningen rätt, men ibland spårar den ur och fyller i luckorna med något påhittat. Det är lite som en kollega som hellre hittar på ett svar än erkänner att hen inte vet.

Hallucinationer är en av de största fallgroparna med AI, och en viktig anledning att alltid dubbelkolla känsliga svar.

Varför är hallucinationer viktiga att förstå för ditt företag?

Om ni använder AI i kundtjänst, rådgivning eller innehåll kan en hallucination leda till att en kund får fel information. I värsta fall handlar det om priser, avtal eller regler — då kan felet bli dyrt och skada förtroendet.

Att förstå att AI kan ha fel är därför avgörande. Det betyder inte att man ska undvika AI, utan att man bygger in kontroller — som mänsklig granskning eller RAG som förankrar svaren i era egna dokument.

Hallucination i praktiken

Säg att en kund frågar er AI-chatt om er öppettider på röda dagar. Om chatten inte har rätt information kan den hallucinera fram ett svar som låter rimligt — "Vi har öppet 10–14" — trots att ni är stängda. Kunden åker dit i onödan och blir sur. Lösningen är att koppla chatten till era faktiska öppettider så den svarar från verkligheten, inte från gissningar.