I en studie från Zürichs universitet har man undersökt AI-modellers förmåga att manipulera diskussioner på nätet. Är de bra på det, och framför allt – används de redan?
I maj 2025 uppmärksammade SvD Näringsliv en studie där man genomfört ett experiment på Reddit-forumet Changemyview. Ett forum där användarna utmanar varandra att ändra åsikt i kontroversiella frågor. Forskarna gav olika AI-modeller i uppgift att skriva kommentarer och övertyga användarna på alla sätt, men de fick inte ljuga om fakta eller verkliga händelser.
Det visade sig att AI-modellerna var mycket mer övertygande än användarna på forumet. De mest effektiva kommentarerna skrevs av AI-modeller som även fått i uppgift att gissa sig till ålder, kön och andra personliga uppgifter om användarna.
”Systemen är byggda för att övertyga oss.”
Virginia Dignum, professor i ansvarsfull AI vid Umeå universitet.
AI verkar alltså kunna argumentera tillräckligt bra för att få oss att ändra åsikt – och frågan är om det redan används i syfte att styra diskussioner på nätet.
– Systemen är byggda för att övertyga oss, säger Virginia Dignum, professor i ansvarsfull AI vid Umeå universitet. Hon menar vidare att detta antagligen pågår redan nu, men det största problemet är att vi inte vet. Det finns ingen insyn i företagen bakom AI-modellerna och därmed ingen möjlighet att granska dem.
Experimentet har fått hård kritik för bland annat sin forskningsmetod då användarna på Reddit-forumet inte visste om att de ingick i studien, ett grundläggande krav vid forskning. Studien kommer inte att publiceras, men resultatet kan ändå vara värt att lyfta för vidare diskussion.