AI, makt och ansvar

För många administrativa och kunskapsstödjande tillämpningar är den tekniska kapaciteten redan tillräcklig för att börja pröva nyttan. Den svåra frågan är hur AI-stöd införs så att människor kan förstå, använda och ifrågasätta dem och så att ansvaret för besluten förblir tydligt.

Expertsystem, språkmodeller och röst- eller videoassistenter kan stödja analys, dokumentation och administration. Den avgörande prövningen är vilket problem som löses, vems beslut som blir bättre och vad som händer i nästa led. En funktion kan spara tid i ett moment och skapa merarbete eller nya risker i ett annat.

Tilltro och professionellt omdöme

Ett övertygande svar kan få större tyngd än underlaget motiverar. När förslag från ett system rutinmässigt accepteras blir den mänskliga kontrollen lätt en formalitet. Ett användbart stöd kan också avvisas därför att syftet är oklart eller yrkesrollen upplevs som hotad. Följ därför både när stödet accepteras utan prövning och när det avvisas utan saklig bedömning.

De som känner arbetet ser vilka fel som uppstår och vilka bedömningar som blir lättare eller svårare. Hur människor anpassar sitt arbete till systemet är en del av beslutsunderlaget. En tekniskt korrekt funktion kan få en annan användning än den avsedda.

Kontroll som kan ändra beslutet

Mänsklig kontroll behöver motsvara följderna av ett fel. Den som granskar ett förslag behöver tid, kompetens, underlag och faktisk möjlighet att välja en annan väg. Annars blir granskningen ett rutinmässigt godkännande.

Teknisk tillförlitlighet, datakvalitet, säkerhet och rättsliga villkor sätter verkliga gränser. Organisationen ska också veta vem som ansvarar för användningen, hanterar brister och beslutar om stödet ska begränsas eller tas ur bruk.

Makt och beroenden

Modeller, data och infrastruktur ger sina ägare inflytande över verksamhetens möjligheter. Ledningen måste förstå vilket beroende som byggs, vilken insyn som finns och hur uppdraget kan fortsätta om tjänsten ändras eller försvinner.

Införandet är ett ledningsbeslut som fördelar kunskap, handlingsutrymme och ansvar. Bedöm därför nyttan och riskerna tillsammans med kostnaden för det beroende som byggs upp.