Politiets brug af AI og ansigtsgenkendelse undersøges

I samarbejde med fire europæiske universiteter og et forskningscenter skal det danske IT-Universitetet og PROSA i de kommende tre år deltage i et forskningsprojekt om konsekvenserne af politiets brug af big data, ansigtsgenkendelse, overvågning og andre datadrevne værktøjer.

Politiets brug af AI og ansigtsgenkendelse skal undersøges

Forskningsprojektet, der hedder CUPP (Critical Understanding of Predictive Policing) er et af de første større, internationale forskningsprojekter, der undersøger politiets brug af big data til efterforskning og forebyggende politiarbejde. Det kaldes også predictive policing.

Formålet er at afdække de menneskelige og samfundsmæssige konsekvenser af politiets stigende brug af teknologiske løsninger som ansigtsgenkendelse, kameraovervågning, big data og andre digitale værktøjer.

ITU skal samarbejde med universiteter og forskningscentre i Estland, Letland, Norge og Storbritannien i undersøgelsen. Det er alle lande, hvor digitaliseringen af den offentlige sektor står højt på den politiske dagsorden. Det gælder også politiets arbejde, hvor automatisering, overvågning og brugen af avanceret teknologi og big data vinder frem.

Se også: Priser på opkoblede enheder

Vi ved meget lidt om brug af AI i politiets arbejde

Problemet er, at vi i realiteten ved meget lidt om, hvad kunstig intelligens, big data og andre datadrevne teknologier betyder for politiets arbejde med hensyn til at forudsige, forhindre og efterforske kriminalitet eller for relationen mellem politi og civilsamfund, siger Vasilis Gallis, lektor på ITU og projektleder for det internationale forskningssamarbejde. “Vi har brug for indsigt i, hvordan politiet anvender værktøjerne, og hvordan disse metoder bliver opfattet af borgerne”.

I Danmark benytter politiet it-systemet POL-INTEL, som er udviklet af det amerikanske firma Palantir. Det samkører information fra eksempelvis politirapporter og anmeldelser af kriminalitet fra politiets egne databaser med eksterne kilder. Systemet er ved hjælp af kunstig intelligens og data fra sociale medier bygget til at komme med forudsigelser om, hvem der har størst sandsynlighed for at begå kriminalitet – et eksempel på såkaldt intelligence-led policing.

Den slags metoder vækker nogle sociale og etiske bekymringer om menneskerettigheder og grundlæggende frihedsrettigheder. Særligt i relation til den voksende udbredelse af disse datadrevne værktøjer i politiets arbejde, lyder det fra Vasilis Gallis.

Se også: Telefoner med smarte brugerflader

Digitale værktøjer åbner for faldgruber

De IT-professionelles fagforening PROSA deltager også i forskningsprojektet. Niels Bertelsen, der er formand i PROSA, håber, at de med dette projekt kan skabe grundlaget for en offentlig debat om de dilemmaer, det rejser, når magtudøvelse og overvågning i stigende grad sker på baggrund af big data og digitale løsninger.

Han henviser til, at amerikanske forskere eksempelvis har påvist alvorlige svagheder og indbygget bias i den eksisterende teknologi til ansigtsgenkendelse. ”Politiets arbejde ændrer sig markant i takt med, at de får adgang til flere og flere digitale værktøjer. Men det åbner også for en række faldgruber. I et demokratisk samfund er tilliden til politiet afgørende, og derfor skal der være indsigt i politiets arbejdsmetoder og redskaber”, slår han fast.

Se også: Nyheder om AI