OpenAI vil komme misinformation til livs op til USA’s præsidentvalg

Misinformation er ifølge 11.000 ledere fra 113 lande den største globale trussel over de næste to år.

Derfor er det ganske opløftende, at en af de største spillere inden for AI – OpenAI – netop har offentliggjort sine planer for, hvordan selskabet vil modarbejde misinformation i forbindelse med det kommende præsidentvalg i USA i 2024 – og potentielt andre valg rundt om i verden.

Overordnet set ønsker OpenAI at øge gennemsigtigheden med, hvor informationer stammer fra.

Læs også: Avis sagsøger OpenAI og Microsoft for at stjæle nyhedsindhold

Digitale vandmærker på billeder genereret med DALL-E 3

OpenAI vil blandt andet bruge kryptografistandarden fra Coalition for Content Provenance and Authenticity til at afkode, hvor billeder skabt af AI-billedgeneratoren DALL-E 3 kommer fra. Det gør det lettere for at afsløre AI-generede billeder ved at bruge en såkaldt oprindelsesklassifikator. Det skal hjælpe de amerikanske vælgerne, som uomtvisteligt vil blive udsat for falske nyheder, med at verificere indholdet ægthed.

Denne tilgang minder om DeepMinds SynthID, der udruster AI-genererede billeder og lyd med digitale vandmærker. Måske er OpenAI’s tilgang tilmed bedre. DeepMinds SynthID er en del af Googles egen strategi om valgindhold, som selskabet offentliggjorde i sidste måned. Metas AI-billedgenerator Imagine with Meta sætter også usynlige vandmærker på billederne. Meta har dog endnu ikke offentliggjort en strategi mod valgrelateret misinformation.

OpenAI oplpyser, at selskabet også snart indleder et samarbejde med journalister, forskere og platforme for at få feedback på systemet til at klassificere AI-genererede billeders oprindelse.

Læs også: Volkswagen integrerer ChatGPT i sine biler

ChatGPT får nyheder i realtid med kildeangivelse

Et andet vigtigt tiltag er understøttelsen af nyheder i realtid fra rundt om i verden i ChatGPT. Disse nyheder kan ses komplet med kildeangivelse og links. I den gratis udgave af ChatGPT er kildeangivelse noget, der mangler, hvilket gør det svært – hvis ikke umuligt – at gennemskue, hvilke kilder sprogmodellen henter sit indhold fra.

Når brugere af ChatGPT stiller spørgsmål relateret til afstemningsproceduren for valget i USA, vil de desuden blive viderestillet til CanIVote.org, som er den officielle hjemmeside om valget i USA.

Derudover gentager OpenAI sine nuværende politikker om, at selskabet fjerner alle forsøg på at efterligne andre personer ved hjælp af deepfakes eller chatbots samt indhold, der er skabt med henblik på at påvirke valget eller opfordre folk til ikke at stemme.

OpenAI forbyder også ChatGPT-applikationer i GPT Store, der har til formål at drive politisk kampagnevirksomhed. Som bruger kan man også anmelde mulige overtrædelser, hvis man støder på noget sådant.

OpenAI oplyser, at de med erfaringerne fra disse første initiativer vil rulle lignende strategier ud i resten af verden, hvis altså de viser sig at fungere. Der skal desuden komme flere lignende annonceringer de kommende måneder.

Læs også: Ny undersøgelse: Misinformation er den største globale trussel