Specifikationer skal sikre ansvarlig brug af kunstig intelligens i offentlig sagsbehandling
Specifikationer fra Dansk Standard skal være med til at sikre etik og gennemsigtighed i anvendelsen af kunstig intelligens i offentlig sagsbehandling og gøre det lettere for myndighederne at arbejde med teknologien.
Etiske dilemmaer og øget behov for ansvarlighed er blandt udfordringerne ved brug af kunstig intelligens i offentlig sagsbehandling. Men der er der hjælp at hente for offentlige myndigheder, der arbejder med kunstig intelligens som støtte til at træffe beslutninger i sagsbehandlingen. Dansk Standard har udgav i maj i år to danske specifikationer, der skal gøre teknologien tryg og sikker at anvende og være med til at skabe gennemsigtighed i de beslutninger, algoritmerne træffer.
"Før enhver anvendelse af et IT-værktøj bør der stilles en række spørgsmål til, hvorfor og hvordan det anvendes i en given situation. Det gælder i endnu højere grad kunstig intelligens anvendt i offentlig sagsbehandling for at sikre etisk og ansvarlig brug, fordi det involverer beslutninger om dig og mig. Og det er netop det, specifikationerne kan hjælpe med", siger Kim Skov Hilding, seniorkonsulent i Dansk Standard.
Etiske dilemmaer
Den stigende tilgængelighed af data om bl.a. borgere og tidligere trufne beslutninger, betyder, at der opstår nye muligheder for at anvende kunstig intelligens i den offentlige sagsbehandling, fx til lettere og hurtigere at træffe beslutninger i forbindelse med byggeansøgninger, beskæftigelsesindsats mv. Men det betyder samtidigt, at mange offentlige myndigheder kæmper med svære etiske overvejelser om anvendelsen af teknologien.
Dette er professor Thomas Hildebrandt, som har været skribent på den specifikation, der omhandler offentlig sagsbehandling, enig i:
"Kunstig intelligens kan være med til at forbedre den offentlige sagsbehandling. Men det er vigtigt, at man inddrager relevante interessenter i overvejelser om både forståelighed, kontrol, gevinster og risici i alle faser af udviklingen, fra idé til brug og vedligeholdelse, så vi kan bevare tilliden til den offentlige forvaltning", understreger Thomas Hildebrandt.
Og det skal de to gratis specifikationer for kunstig intelligens, der er et led i den nationale strategi for kunstig intelligens og udviklet af en lang række eksperter, bl.a. være med til at sikre.
Let tilgængelige checklister
"Specifikationerne skal ses som håndbøger med vejledning og checklister, der kan bruges, hvis du står overfor et AI-projekt. Kort fortalt skal de være med til at sikre, at du har gjort de rigtige overvejelser i de forskellige faser i projektet", siger Kim Skov Hilding, konsulent i Dansk Standard.
Der er således ikke tale om kravspecifikationer eller regulering, men et værktøj til at strukturere arbejdet og hjælp til, hvilke refleksioner det er vigtigt at gøre sig bl.a. i forhold til at skabe gennemsigtighed i, hvad algoritmerne laver, og dermed tillid til teknologien.
"Man kan sige, at specifikationen fungerer som en sparringspartner, der sikrer at du stiller dig selv de rigtige spørgsmål på de rigtige steder i processen", uddyber Kim Skov Hilding.
Kunstig intelligens kan tænkes anvendt til beslutningsstøtte i offentlig sagsbehandling på mange måder.
Fx undersøges i forskningsprojektet EcoKnow støttet af innovationsfonden, om AI kan anvendes i forhold til at give støtte til forståelse af kompleks lovgivning ved brug af tidligere afgørelser i sammenlignelige sager og derved reducere både fejlfortolkning og tidsforbruget i selve sagsbehandlingen. Eller i forhold til at give forudsigelser om ventetider i sagsbehandlingen, så både borger og sagsbehandler kan tage højde for dette i planlægningen af en indsats.
Målgruppen for specifikationen om anvendelse af kunstig intelligens i offentlig sagsbehandling er designere, udviklere, udbydere, indkøbere, tilsynsførere og brugere af kunstig intelligens til beslutningsstøtte i offentlig sagsbehandling, som ønsker eller er forpligtede til at evaluere systemets anvendelse. En sekundær målgruppe er de interessenter, der er berørt af systemet, fx myndigheder og borgere generelt.
Om specifikationerne:
- DS/PAS 2500-1: 2020, Kunstig intelligens – Del 1: Gennemsigtighed
- DS/PAS 2500-2: 2020, Kunstig intelligens – Del 2: Beslutningsstøttende anvendelse i offentlig sagsbehandling
Specifikationerne indeholder anbefalinger, information og gode råd. Der er således ikke tale om krav, der skal overholdes, men checklister, der skal anvendes sammen med organisationens eksisterende retningslinjer for sikring af overholdelse af regler, herunder bl.a. persondata- og cybersikkerhed.
Specifikationerne er udarbejdet ved hjælp af input fra en lang række danske interessenter fra erhvervsliv, kommuner, styrelser, forskning mv. gennem workshops, interviews og skriftlige kommentarer. Desuden bygger de på en række principper og retningslinjer for etisk anvendelse af kunstig intelligens, blandt andet fra EU og OECD, som udbygger generelle retningslinjer for ansvarlig udvikling af IT-systemer.
Specifikationen for beslutningsstøttende anvendelse i offentlig sagsbehandling beskæftiger sig ikke eksplicit med gennemsigtighed i kunstig intelligens, men kan med fordel bruges sammen med specifikationen for gennemsigtighed, der specificerer anbefalinger til en fremgangsmåde til at opnå gennemsigtighed i systemer som anvendes til automatiske beslutninger eller beslutningsstøtte.
Professor Anders Kofoed har været skribent på Del 1: Gennemsigtighed og professor Thomas Hildebrandt har på Del 2: Beslutningsstøttende anvendelse i offentlig sagsbehandling.
Specifikationerne fås gratis her
