Debatt

Kommune-Norge bruker høyrisiko KI allerede

Hvorfor spørre innbyggerne om hva de mener, når kommunene kan spørre Claude?

– Når kommuner begynner å eksperimentere med KI som skal «representere» innbyggerne, istedenfor å hente inn innbyggernes innspill, høres det ut om en fristende snarvei på bekostning av demokratiske prosesser, skriver innleggsforfatteren. Bildet er fra et folkemøte i Kvalsund.
Ley Muller Daglig leder av Values-driven AI og Standard Norges nasjonale KI-komité
Publisert

Meninger i debattinnlegg står for skribentens regning

Kommunene kan godt spørre KI, så lenge de er oppmerksomme på at en slik bruk er klassifisert som høyrisiko bruk under EUs KI-forordning. Et felles europeisk regelverk for bruk av KI som skal legge til rette for menneskeorientert og etisk forsvarlig kunstig intelligens. Fokuset er risikohåndtering av KI-systemer.

Et viktigere spørsmål er om kommunene bør bruke KI?

Jeg har hørt en kommunedirektør, uten å nevne navn, som begeistret fortalte om en digital «øy» som hans ansatte hadde laget. Denne øya besto av KI-agenter som kommunens ansatte kunne diskutere aktuelle problemstillinger med – istedenfor å snakke med innbyggerne.

Kommunen har bedt en stor språkmodell om å late som den er 200 ulike innbyggere.

Kommunen har bedt en stor språkmodell om å late som den er 200 ulike innbyggere.

De ansatte kan stille spørsmål som; lat som om du er en student i vår kommune som ønsker å bo kollektivt og så billig som mulig. Hva tenker du om en eventuell utbygging av dette boligområdet tett opp til naturen?

Eller; lat som om du er en utbrent sykepleier på grunn av økende arbeidspress. Ville du reagert negativt hvis du ble bedt om å bruke Meta-briller på jobb?

Eller; lat som om du er en pensjonist som bor alene. Ville du akseptert at 30 parkeringsplasser i sentrum forsvant fordi kommunen skal bygge nye sykkelveier, dersom prisen for en bussbillett ikke økte?

På denne måten kan kommuneansatte resonnere med KI-agentene om aktuelle problemstillinger.

De store språkmodellene er svært gode til å produsere plausibelt språk, det vi kaller for «probalistiske» svar. Derfor virker det. Ber du en agent om å være en sliten sykepleier, så får du et svar som høres ut som noe en sliten sykepleier kunne sagt. Du vil få en troverdig bekymring om fjerning av parkeringsplasser, eller en rekke plausible grunner for at en ung stundet vil akseptere negative miljøkonsekvenser i bytte mot rimelig husly.

Men språkmodellen har aldri gått en nattevakt, forsøkt å navigere rundt på nye sykkelveier eller vurdert miljøhensyn opp mot husleiekostnader.

Derfor får du gjennomsnittlige svar. Svar språkmodellen vurderer som mest sannsynlig basert på historisk treningsdata til modellen. Svarene kan se ekstremt likt ut som fortidsdata, men per definisjon kan de ikke gjenspeile nåværende eller framtidige meninger fordi dette er data som ikke er blitt samlet inn ennå.

For en kommunedirektør er det lett å trekke konklusjonen «dette er hva denne type innbygger mener», heller enn «KI foreslo at en innbygger kanskje kan mene dette». Hvis svarene brukes i flere workshops, kan det senere inngå i en anbefaling om neste kommuneplan.

Dette eksempelet synliggjør hvordan KI-genererte svar fort kan påvirke beslutningsprosesser rundt kommunale tjenester. Dermed vil KI påvirke hvordan tjenestetilbudet, formes, leveres og presenteres til innbyggerne. Dette trekkes fram i den kommende KI-forordningen som høyrisikobruk.

Jeg forteller mine offentlige kunder at bruk av høyrisiko KI-systemer på ingen måte er forbudt, men de kommer med strenge krav til leverandør om testing for ikke-diskriminering, datakvalitet og transparens – for å bevare demokratiet.

Samtidig blir jeg urolig. Når kommuner begynner å eksperimentere med KI som skal «representere» innbyggerne, istedenfor å hente inn innbyggernes innspill, høres det ut om en fristende snarvei på bekostning av demokratiske prosesser.

Det er fristende å hoppe over menneskelige innspill til politikk og menneskelige tilbakemeldinger. Det er fristende å glemme at KI-generert tekst kan, i beste fall, bare vise et utvalg av hva som eksisterte av meninger på internettet på et tidspunkt i fortiden.

Jeg er en av mange som er utrolig glad for KI-forordningen, og ser fram til at den blir innlemmet i norsk lov i 2027. Min oppfordring til Kommune-Norge er å ta en ekstra runde på hvordan de bruker KI i dag, slik at de er sikre på at de møter forpliktelsene i forordningen.

Det kan hende at kostnaden av å la KI påvirke demokratiet, ikke er verdt å betale.

debatt meninger