Advarer: Det er let at manipulere AI til at sprede fake news

En ny undersøgelse fra it-sikkerhedsvirksomheden F-Secure viser, at det er let at manipulere kunstig intelligens til at sprede misinformation. Det er et kæmpe problem, da mange i dag har sociale medier som deres primære kilde til nyheder.

Fake news har 70 % større chance for retweet

Desværre kan det være en potentiel faldgrube at stole på nyheder udelukkende fra sociale medier. Således viser en undersøgelse fra tidligere, at Twitter-beskeder med falske postulater har 70 procent større chance for at blive retweetet.

Analytikere fra F-Secures Artificial Intelligence Center of Excellence har gennemført en række undersøgelser med det formål at lære, hvordan simple manipulationsteknikker af kunstig intelligens kan påvirke sociale mediers anbefalinger til brugerne.

“Twitter og andre sociale netværk er blevet en kampplads, hvor forskellige brugere og grupperinger forsøger at drive forskellige budskaber frem. Det sker blandt andet via almindelige diskussioner og reklamer men også gennem beskeder, der kun har til formål at underminere og fjerne tilliden til reel information. Ved at undersøge hvordan disse internetkrigere kan manipulere kunstig intelligens, kan vi se begrænsningerne af kunstig intelligens, og hvordan vi kan forbedre teknologien i fremtiden,” udtaler Andy Patel, der er analytiker hos F-Secure.

Se også: De mest brugervenlige telefoner

AI kan manipulere retweets og popularitet

I F-Secures undersøgelse samlede analytikerne data fra Twitter og brugte dem til at træne samarbejdsfiltreringsmodeller, der er en maskinindlæringsmetode, som udregner ligheder mellem brugere og indhold baseret på tidligere interaktioner. Efterfølgende udførte F-Secure en gentræning af disse modeller ved hjælp af datasæt indeholdende yderligere retweets, og dermed manipuleret data, mellem udvalgte konti, for at se, hvordan systemernes anbefalinger ændrede sig.

Ved at vælge de rette konti til retweets samt variere antallet af konti og publicerede retweets viste undersøgelsen, at selv et meget lille antal retweets er nok til at påvirke anbefalingssystemet til at promovere konti, hvis indhold blev delt gennem de manipulerede retweets.

“Vi udførte disse tests med simple metoder for at lære, hvordan rigtige angreb faktisk sker, og jeg er overbevist om, at sociale medier allerede i dag bliver ramt af denne type angreb. Det er desværre svært for virksomheder, der benytter denne type kunstig intelligens, at være sikre på, at der faktisk sker angreb, da de blot ser resultatet af angrebet og ikke ser det ske,” forklarer Andy Patel.

Se også: Priser på gadgets med kunstig intelligens

Samfundet skal kunne stole på kunstig intelligens

Ifølge Matti Aksela, der er Vice President for Artificial Intelligence hos F-Secure, er det vigtigt at virksomhederne anerkender og adresserer de potentielle sikkerhedsudfordringer, der kan følge med kunstig intelligens.

“Kunstig intelligens og maskinlæring vil fremover understøtte flere tjenester, og derfor er det vigtigt for virksomheder at forstå både fordele og ulemper ved disse nye teknologier samt deres svagheder og styrker. Hvis samfundet skal kunne stole på kunstig intelligens, er det vigtigt at virksomhederne sikrer deres teknologier mod misbrug.” siger Matti Aksela.

Se også: Nyheder om kunstig intelligens