AI kan hjälpa företag med underlagen – men ansvaret stannar hos människan

En AI som jämför offentliga inköp och svarar på företagares frågor dygnet runt låter lockande. Men regeringsledamoten i Superintelligens reportage är ett framtidsscenario, inte en tjänst som företag kan använda i dag. Den närmare möjligheten är AI som stöd åt människor som fattar beslut.

AI-rådgivning och automatiserat beslutsfattande finns redan. Rumänien presenterade 2023 rådgivarprojektet ION, som skulle sammanställa människors synpunkter. Det innebar däremot inte att landet fick en självständig AI-minister.

För företagaren är den praktiska lärdomen att börja med avgränsade analysuppgifter. Ett tänkbart användningsområde är att låta AI hjälpa till att jämföra avtalsunderlag, markera avvikelser och föreslå frågor inför ett inköpsbeslut. Resultatet bör vara ett underlag att kontrollera, inte ett automatiskt klartecken.

Reportaget visar dock ingen färdig företagslösning eller belagd besparing för småföretag. Nyttan behöver därför prövas mot det egna arbetssättet.

För företag som säljer till offentlig sektor skulle bättre analys av upphandlingsdata kunna få betydelse. Digitala informationstjänster skulle också kunna förklara regler på flera språk utanför kontorstid. Det är möjligheter, inte ett löfte om vad svenska myndigheter erbjuder i dag.

En viktig skillnad är om ett svar bara ger vägledning eller faktiskt är ett bindande beslut. Företagaren behöver också kunna få fel rättade och nå en människa när det behövs.

Någon svensk AI-minister är inte möjlig enligt dagens grundlag: statsråd måste vara svenska medborgare. Automatiserade myndighetsbeslut är en annan rättslig fråga och förekommer inom särskilda ramar.

Språkmodeller kan ge trovärdigt formulerade felsvar. Bristfälliga data och missvisande antaganden kan dessutom påverka resultatet redan innan svaret skrivs. Dokument som systemet läser kan innehålla instruktioner som försöker manipulera det.

Därför behöver kalkylen omfatta granskning, dataskydd, behörigheter och reservrutiner – inte bara sparad arbetstid. Underlaget anger inga belopp för införandet.

Ett rimligt första steg är ett begränsat försök med dokumenterade källor och möjlighet att stoppa systemet. Den ansvariga personen måste ha både tid och befogenhet att ifrågasätta resultatet.

Läs mer hos vår systertidning Superintelligens: En AI vid regeringsbordet – men vem bär ansvaret?. Där finns hela reportaget med fler detaljer, bilder och bakgrund.