Ukritisk KI-bruk truer tilliten til kommunal saksbehandling

Den nordiske samfunnsmodellen med et ambisiøst velferdssystem og lokaldemokrati bygger på tillit. Både den sosiale tilliten vi har til hverandre og tilliten til samfunnsinstitusjonene er vesentlig høyere enn i andre deler av verden. 

Denne tilliten må likevel fortjenes ved at myndigheter og enkeltpersoner opptrer tillitvekkende.

Kunstig intelligens (KI) har i løpet av kort tid gjort sitt inntog i våre liv – også i arbeidslivet. Kommunesektoren er intet unntak.

Noen kommuner har vært godt forberedt på dette fordi de over tid har arbeidet systematisk med strategi og rammeverk for digitalisering. 

Et eksempel er Stavanger kommune som i fjor ble kåret til landets beste KI-kommune. En del av grunnen er satsingen på digitalisering, som KI-arbeidet er en del av, er forankret i den politisk vedtatte digitaliseringsstrategien. Innovasjonsarbeidet inngår også i kommunens arbeid med omstilling og forbedring.

Dette er godt i tråd med anbefalinger som er kommet fra KS om at KI-bruken bør være en naturlig og integrert del av digitaliseringsarbeidet i fylkeskommuner og kommuner. 

Hver kommune og fylkeskommune bør lage en handlingsplan for hvordan KI skal tas i bruk. En slik handlingsplan kan inngå i en overordnet digitaliseringsstrategi eller tjenestestrategi, men bør ha et eget søkelys på KI.

Det har imidlertid heller ikke manglet på uheldige eksempler på ukritisk KI-bruk i kommunal saksbehandling.

I Alver kommune ble det lagt fram en rapport om skolebruksplan med forslag om nedleggelse av flere skoler. Men flere av forskningsartiklene det var referert til i et vedlegg, viste seg å være funnet på av KI. 

Prisverdig nok var det lokalavisa Nordhordland som fant ut av det. Forskernes navn var riktig, men de hadde aldri skrevet de artiklene rapporten refererte til. Artiklenes navn var diktet opp av KI, ifølge Kommunal Rapport.

Avisa kunne nylig melde at da Asker kommune drøftet hvordan de skulle forholde seg til demonstranter som okkuperte en eiendom i skogen, ble det brukt KI-oppdiktede dommer fra Høyesterett. 

Mest kjent er saken fra Tromsø kommune der en rapport som fungerte som faktagrunnlaget til et forslag om å legge ned åtte skoler i kommunen, viste seg å inneholde falske kilder laget av KI. 

Kommunen tok affære da saken ble kjent og iverksatte ekstern gransking som viste mange lærings- og forbedringspunkter. Granskingsrapporten konkluderte med at Tromsø kommune tok i bruk kunstig intelligens før organisasjonen var moden for dette. 

I kommunen var det ikke et implementert tilstrekkelig rammeverk for bruk av KI. Det var ikke etablert en strategi for kunstig intelligens, og det var ikke definert hvilke systemer med kunstig intelligens som kunne tas i bruk for å utføre arbeidsoppgaver. Opplæring i bruk av kunstig intelligens ble ikke gjennomført. 

KS´ etikkutvalg har hatt bruken av kunstig intelligens i kommunene på sin dagsorden i flere runder det siste året. Vi er opptatt av å løfte fram gode eksempler til etterfølgelse, også de som handler om å lære av egne og andres feil. 

Introduksjon av nye digitale verktøy er en viktig del av den innovasjon som skal og bør skje i offentlig forvaltning. Det er imidlertid avgjørende at det i størst mulig grad skjer på en planlagt og trygg måte som fremme og ikke skader tilliten til offentlig saksbehandling. 

Etisk refleksjon og bevissthet er en del av dette. Ukritisk bruk av KI har et stort potensial for å rive ned tillit. 

Borgerne må kunne stole på at det offentlige har systemer og kompetanse til å sikre grunnleggende verdier som korrekthet, likebehandling og rettssikkerhet. De eksempler som har blitt kjent i det siste, gir grunn til uro.