AI

App ska avslöja falska nyheter

2:25 min

Ljud och videor kan numera manipuleras med hjälp av AI – så kallade Deepfakes. Men nu ska forskare i Lund ta fram en app som ska kunna avslöja AI-manipulerat svenskt nyhetsmaterial.

Går det att lita på bilder och ljud? Det blir allt svårare enligt experter.

Ljud och videor som manipulerats med hjälp av AI kallas för Deepfakes, och ibland är det politiska, militära eller andra strategiska intressen som ligger bakom förfalskningarna för att sprida desinformation.

I höst börjar forskare vid Lunds universitet arbetet med att ta fram en app som ska kunna avslöja AI-manipulerat svenskt nyhetsmaterial – med hjälp av ännu vassare AI-algoritmer.

En av forskarna i projektet är Kalle Åström, professor vid Matematikcentrum vid Lunds universitet:

– Vi kanske får vänja oss vid att vi kan inte lita på en bild eller en ljudfil, säger han.

Mark Zuckerberg eller Barack Obama, till exempel, kan i deepfake-klipp med rörlig bild ses och höras säga saker de aldrig sagt.

Runtom i världen finns och vidareutvecklas olika AI-system för att avslöja falska nyheter – i synnerhet som hjälp för nyhetsjournalister men också för gemene man som vill vara källkritisk. Men - varje språk kräver sitt AI-verktyg.

GAN kallas tekniken som forskare i Lund ska använda i appen för granskning av svenskt nyhetsmaterial. GAN är maskininlärning som innebär att två nätverk i en AI-algoritm hela tiden tävlar mot varandra och slipar fram ständigt allt mer verklighetstroget material.

Det ena nätverket försöker skapa så bra falska foton, videor, ljud och texter som möjligt; medan det andra systemet jobbar på att avslöja dessa. Men eftersom också de som skapar deepfakes använder samma teknik gäller det att ligga steget för, säger statsvetaren Anamaria Dutceac Segesten från Lunds universitet – och jämför med datavirus.

– Virus skapas också hela tiden, men samtidigt det finns det personer som kämpar mot virusproduktionen, säger hon.

Tidigast år 2023 beräknas den nyhetsgranskande appen vara klar.

Grunden i vår journalistik är trovärdighet och opartiskhet. Sveriges Radio är oberoende i förhållande till politiska, religiösa, ekonomiska, offentliga och privata särintressen.
Du hittar dina sparade ljud i menyn under Min lista