Roboter som ikke fungerer

Rådmann Andreas Chr. Nørve i Vanylven skriver om roboter i sin kronikk. Der snakker han om alle typer roboter, fra de som vasker gulv til de som skal svare på spørsmål fra innbyggerne i kommunen. Mens de første fungerer, har vi mest luftige påstander om hva de mer avanserte robotene skal få til.

Da jeg kritiserte Kommune-Kari var det ikke, som Nørve skriver, fordi hun svarte feil på ett av ti spørsmål, mer at hun kun svarte riktig på ett av ti, langt dårligere enn et Google-søk.

Noen av de feile svarene var morsomme, andre mer alvorlige. Når en ungdom spør om det er noen vits å stemme ved valget, avviser Kommune-Kari spørsmålet.

I Molde kan hun gi meg kontaktperson til både Høyre og Arbeiderpartiet, men ikke til Borgerlisten. Det må være lov å gjøre feil, sier Nørve. Ja, men ikke når en svarer kommunens innbyggere.

«Om få år skal robotene klare det meste», sier forståsegpåerne. Problemet er bare at det har de sagt i snart 70 år. Tidligere spådommer, blant annet om robotleger, var ikke mulig å innfri.

I dag er det kunstig intelligens sammen med stordata som skal løse verdens problemer, alt fra selvkjørende biler til programmer som tar beslutninger til chatbots. Det virker imidlertid som at vi får en gjentakelse av det som skjedde på 80-tallet. Straks en tar disse løsningene i bruk, kommer problemene.

I USA har en brukt programmer som skal vurdere om en fange skal kunne prøveløslates. Det en ser, er at programmene har klare rasistiske tendenser – svarte blir diskriminert.

Amazon har eksperimentert med et system for å plukke ut søkere til stillinger. Det eksperimentet har de nå stoppet. Det viste seg at programmet diskriminerte kvinner.

Interessant nok har også mange av anvendelsene innen medisin feilet – nå som på 80-tallet. IBM hadde stor tiltro til å kunne tilpasse sin nye og avanserte AI-teknologi, Watson, til oppgaver innen medisin. Det gikk ikke bra.

Vi har selv utviklet stordata-systemer, blant annet for å lese korrektur. Ved å sammenligne med hva andre har skrevet, kan programmet fortelle deg at det heter «i Bergen» og «på Geilo» og mye mer. Men da vi ba programmet sjekke om det het «i Gjøvik», svarte det med «søskenbarn på Gjøvik». Programmet kunne sin Prøysen, men vi kunne åpenbart ikke tillate programmet å rette automatisk.

Selv om algoritmene kan håndtere uhyre komplekse spill som sjakk og Go, kan vi ikke overføre suksessen herfra til kommunens chatbot. Forskjellene er at spillene er formaliserte, akkurat som oppgaven til vaskeroboten. Når chatboten skal analysere spørsmålene, ser den etter ord. I noen tilfeller går det bra, i mange ikke. Som alle pedagoger vet, må en ofte forstå bakgrunnen for spørsmålet for å kunne gi et godt svar. Det klarer ikke datamaskinen.

Spør du Kari om du bør ha røykvarsler på soverommet, blir du henvist til et røykeavvenningskurs. Spør du om hvor mye morfin du kan ta om gangen, får du beskjed om at de har de ikke helt oversikt over, men det blir ganske mange i løpet av en dag.

Sier du «jeg vet ikke hvilket parti jeg skal stemme, da er det vel ingen vits å delta», vil hun svare: «Jeg har en god vits?»

Når jeg spør henne om «kommunen kan slå plenen til en eldre dame», vil hun henvise til politiet i sitt svar. Nei, dette er ikke svar fra en saksbehandler som har møtt full på jobb, dette er en chatbot som ikke forstår spørsmålene.

Når Nørve spør om hvor lenge det er til at vi kan forvente at roboter tar over arbeidsoppgaver til kommunalt ansatte, er mitt svar: Svært lenge.

Da er trusselen fra konvensjonell databehandling mer truende. Når alt blir digitalisert, kan mye av den regelbaserte saksbehandlingen automatiseres, akkurat slik vi i dag automatisk beregner skatt for privatpersoner eller hvordan datamaskinen med hjelp av kunden holder styr på bankkontoen. Det kan få stor betydning for enkelte grupper av kommunalt ansatte. Heldigvis, som mye annet vil det ta tid.