OpenAI's ChatGPT gebruikt om een ​​AI-aangedreven 'propagandamachine' te bouwen

FFrits 5 september 2023 00:37

Een anonieme programmeur heeft een door AI aangedreven 'propagandamachine' gebouwd om te illustreren hoe gemakkelijk het is om desinformatie te verspreiden. Met OpenAI's ChatGPT en minder dan 400 euro per maand, toont dit project hoe toegankelijk dergelijke technologie is.

Het bouwen van een AI-gedreven propagandamachine

Met een beetje technische kennis, een beetje geld en toegang tot AI-gereedschappen zoals ChatGPT van OpenAI, kan iemand een krachtige 'desinformatiemachine' bouwen. Dit is wat de anonieme programmeur, die zichzelf Nea Paw noemt, heeft gedaan. In minder dan twee maanden en met minder dan 400 euro per maand heeft Paw de 'CounterCloud' gecreëerd, een machine die massapropaganda kan verspreiden.

Het doel van het CounterCloud-project was niet om desinformatie te verspreiden, maar om te zien hoe gemakkelijk het zou kunnen zijn. Paw en hun team voedden ChatGPT met echte artikelen en lieten de AI vervolgens het tegenovergestelde schrijven. Dit resulteerde in nepverhalen en zelfs geheel verzonnen historische gebeurtenissen. Het project toont aan hoe gemakkelijk het kan zijn om twijfel te zaaien over de juistheid van echte informatie.

Om de AI nog overtuigender te maken, voegden Paw en hun team extra functies toe. Ze bouwden een 'gatekeeper'-functie in de AI die alleen reageert op de meest relevante inhoud. Ze voegden ook audiofragmenten en foto's toe aan de nepartikelen om ze authentieker te doen lijken, evenals nepjournalistprofielen en nepcommentaren. De AI werd zelfs geprogrammeerd om berichten te liken en te delen die het nepverhaal ondersteunen en tegentweets te schrijven voor berichten die dat niet doen.

De ethische dilemma's rond AI en desinformatie

Ondanks de indrukwekkende prestaties van de AI - die 90% van de tijd overtuigende inhoud produceert, 24/7 - hebben Paw en hun team het model nog niet live op internet gezet. Ze zijn zich bewust van de mogelijke gevaren en willen niet actief bijdragen aan de verspreiding van desinformatie en propaganda. Deze voorzichtigheid benadrukt het ethische dilemma rond het gebruik van AI in zo'n context.

Het leren van AI en de bedreigingen voor de democratie

Ondanks de mogelijke gevaren, ziet Paw waarde in hun project. Ze geloven dat het belangrijk is om te begrijpen hoe deze systemen van binnenuit werken. Ze onderstrepen ook de bedreiging die AI kan vormen voor de democratie door het vermogen om desinformatie te creëren en snel te verspreiden. Dit is een van de grootste zorgen in het huidige debat over kunstmatige intelligentie en een onderwerp dat zeker verder onderzocht moet worden.

Meer artikelen

Lees ook

Hier zijn een aantal interessante artikelen op andere sites uit ons netwerk.