27.10.2020  |  Samfund

Indspark: Behov for retningslinjer til at sikre bæredygtig brug af kunstig intelligens

Indhold fra partner Hvad er dette?

Kunstig intelligens (AI) er med høj fart på vej ind i vores hverdag. Vi kan ane en nær fremtid, hvor vi er omgivet af AI, som gør vores liv lettere på mange måder. Men AI skaber også en række udfordringer, og der er behov for retningslinjer, der kan være med til at sikre, at AI anvendes bæredygtigt i forhold til globale udfordringer.

AI stiller virksomheder over for nogle grundlæggende dilemmaer, hvilket jeg oplever i min rådgivning af private virksomheder og offentlige myndigheder. For ved hjælp af avancerede algoritmer og tusindvis af datapunkter kan der hurtigt samles en enormt detaljeret viden om kunders og borgeres præferencer – men også om deres mere skjulte og ubevidste ønsker.

Skal vi bruge AI til at forebygge kriminalitet?
Amerikanske forsøg har brugt AI til at forudsige, hvilke fanger der har størst risiko for at begå kriminalitet under en prøveløsladelse. I Danmark har politiet taget systemet Pol Info fra Silicon Valley-virksomheden Palantir i brug. Systemet trækker data fra en lang række kilder, herunder vejrdata og kendte hotspots for kriminalitet m.m.,  og bruges i dag til at forudsige, hvor og hvornår der er størst sandsynlighed for, at der vil forekomme kriminalitet. Det er praktisk, fordi politiet blandt andet kan anvende denne viden til at planlægge patruljering.

Men skal vi bruge sådanne systemer til at overvåge på personniveau, og hvilke datakilder er vi parate til at benytte? Risikoen er, at systemet kan skabe en slags selvopfyldende profeti. Når systemet udpeger et område som et muligt hotspot for kriminalitet, kan den øgede tilstedeværelse af politi i sig selv føre til, at flere lovovertrædelser bliver rapporteret.

En anden problemstilling ser vi, når kriminalitetsforebyggende systemer i USA udregner en risiko-score ved enkeltstående aktiviteter. Betjente kan f.eks. blive præsenteret for en risiko-score ved at banke på en bestemt dør hos en mistænkt. Det kan være fint, men hvis systemet vurderer risikoen høj, så vil der også være en forøget risiko for, at politiet skyder først og spørger bagefter.

Vi ser også, at visse lande bruger ansigtsgenkendelse til at hindre eller opklare kriminalitet. Det kunne være et effektivt værktøj også i Danmark. Men vi er nødt til at spørge os selv: Vil vi det?

Husk den menneskelige faktor i maskinen
Anvendelsen af AI har et meget stort potentiale for både offentlige og private virksomheder, men teknologien kan også få enorm indvirkning på individer, virksomheder og på samfundet generelt. Derfor bør beslutningstagere hos både private virksomheder og offentlige myndigheder aktivt træffe valg om, hvad teknologien skal bruges til. Og de skal klædes på til at forstå konsekvenserne af deres valg.

Vi skal være opmærksomme på, at det stadig bør være mennesker, som udvælger datakilder og opstiller kriterier for brugen af data og algoritmer. Desuden skal vi være opmærksomme på, at data kan være af dårlig kvalitet, kan blive valgt på et fejlagtigt og forudindtaget grundlag – samt at informationerne bevidst eller ubevidst kan blive manipuleret.

AI og de globale udfordringer
Hos KPMG arbejder vi med en række projekter, hvor kunstig intelligens bidrager konstruktivt til løsningen af  store globale problemstillinger såsom rapportering af CO2-udslip på tværs af virksomheder. Derfor er det vigtigt, at vi udstikker en kurs, som sikrer, at vi fortsat bruger AI til gavn for alle.

Mit råd til både offentlige og private er, at de skal gøre sig helt klart, hvilke dilemmaer teknologierne kan og vil bringe dem, og på en struktureret måde arbejde med legale, etiske og miljømæssige aspekter, der kommer med brug af AI. På den måde bliver de bedre i stand til at træffe bevidste valg om graden af bæredygtighed i deres løsninger.

Derfor bør beslutninger, der vedrører brugen af kunstig intelligens og maskinlæring, træffes på højeste niveau og ikke udelukkende i IT-afdelingen. Hele organisationen skal være med, og alle involverede skal have en reel forståelse af, hvad deres valg betyder for virksomheden eller myndigheden, for forholdet til kunder eller borgere – og for samfundet generelt.

Tags: KPMG

Denne artikel er en del af temaet I fokus: ansvarlig brug af nye teknologier

  CSR.dk anvender cookies, som vi bruger til at huske dine indstillinger og statistik m.m. Når du fortsætter med at bruge websitet accepterer vores nye cookie- og persondatapolitik. Læs mere