Så får företaget nytta av AI utan att lita på påhittade svar

AI kan sammanfatta garantivillkor inför ett inköp eller hjälpa kundtjänsten att besvara returfrågor. Men ett välskrivet svar kan också dölja fel som påverkar företagets beslut. I ett reportage beskriver vår systertidning Superintelligens hur sådana AI-hallucinationer uppstår – och hur de kan fångas.

Språkmodeller skapar text utifrån inlärda mönster. De kontrollerar inte automatiskt varje uppgift mot en faktakälla. Därför kan både hänvisningar och slutsatser vara fel, även när svaret låter säkert.

Företag kan redan nu låta AI arbeta med avgränsade underlag, exempelvis ett avtal eller aktuella kundvillkor. Tekniken RAG innebär att systemet hämtar dokument som modellen använder när den formulerar sitt svar. Då kan en returfråga kopplas till företagets gällande villkor, snarare än till modellens träningsmaterial.

Det minskar vissa risker, men eliminerar dem inte. Systemet kan välja fel dokument, missa ett undantag eller dra en slutsats som texten inte stöder. Även uppladdade dokument kan återges felaktigt.

Börja med en tydlig instruktion: begränsa svaret till det angivna underlaget, begär dokumentnamn och avsnitt för viktiga uppgifter och låt modellen redovisa vad som saknas.

Dela sedan upp arbetet:

• Låt AI:n hitta relevanta avsnitt innan den sammanfattar.
• Kontrollera beslutskritiska påståenden mot originalet, inklusive undantag och datum.
• Räkna om belopp separat och kontrollera exempelvis moms, valuta och tidsperiod.
• Dokumentera oklarheter och fråga leverantören eller en relevant expert när det behövs.

En andra chattbot kan bidra med invändningar, men två likadana AI-svar är inte ett oberoende bevis.

Kontrollen innebär ett arbete som företaget behöver väga in i nyttan. Lägg mest tid på uppgifter där ett fel kan få stora ekonomiska eller juridiska följder. Där kan expertis behövas, inte bara fler frågor till AI:n.

Innan ett system används bredare bör företaget testa det på verklighetsnära arbetsuppgifter med kända svar – och på frågor där dokumenten inte räcker. AI kan hjälpa till att strukturera granskningen, men bör inte ensam avgöra om det egna svaret håller.

Läs mer hos vår systertidning Superintelligens: När AI hittar på – och hur du avslöjar det. Där finns hela reportaget med fler detaljer, bilder och bakgrund.