AI städar språket på sociala medier

0:59 min

Forskare har tagit fram en algoritm som ersätter fula och provokativa ord med lite mer städade. Tanken är att ta udden av rasism, hot och sexism på sociala medier.

Forskarna har först samlat in nästan tio miljoner inlägg från olika sociala medier och sorterat dem antingen som provocerande eller inte.

Sedan har de med hjälp av artificiell intelligens gjort en algoritm som först tar ut satsdelarna i en otrevlig mening, och sen byter ut de provocerande orden till lite mer städade, utan att ändra själva meningen med meningen.

Kritiker tycker att det här kan tolkas som censur, eller att det minskar yttrandefriheten. Men forskarna säger att algoritmen skulle kunna användas för att erbjuda ett alternativt ordval till en person som är på gång att posta något otrevligt, snarare än att göra det automatiskt.

Studien är ännu inte publicerad.


Referens: Cicero Nogueira dos Santos et al, 2018. Fighting Offensive Language on Social Media with Unsupervised Text Style Transfer. Opublicerat material.

Grunden i vår journalistik är trovärdighet och opartiskhet. Sveriges Radio är oberoende i förhållande till politiska, religiösa, ekonomiska, offentliga och privata särintressen.
Du hittar dina sparade ljud i menyn under Min lista