Kunstmatige Intelligentie als Cybercrimineel: GPT-4 als autonome hacker

FFrits 1 maart 2024 07:01

Het AI-taalmodel GPT-4 van OpenAI kan zelfstandig websites hacken en informatie uit onlinedatabases stelen. Deze ontwikkeling maakt het aanzienlijk gemakkelijker voor mensen zonder hackerskennis om cyberaanvallen uit te voeren.

GPT-4: De autonome hacker

Het AI-taalmodel GPT-4 is zo geavanceerd dat het zelfstandig websites kan hacken en informatie uit onlinedatabases kan stelen. Deze ontwikkeling kan zorgen voor een nieuwe golf van cyberaanvallen, aangezien mensen zonder kennis van hacken dit model kunnen gebruiken om onheil aan te richten. Zelfs computerwetenschappers zijn van mening dat er minder expertise nodig is om deze geavanceerde taalmodellen op een kwaadaardige manier te gebruiken.

AI-modellen geconfronteerd met hackuitdagingen

Onderzoekers wilden weten hoe goed GPT-4 en andere grote taalmodellen die chatbotdiensten aandrijven, kunnen presteren als autonome hackers. Ze testten tien verschillende AI-modellen, waaronder GPT-4 en GPT-3.5 van OpenAI en verschillende versies van Meta's LLaMA-modellen. Deze modellen moesten vijftien verschillende hackuitdagingen voltooien, variërend van makkelijk tot moeilijk.

GPT-4 slaagt met vlag en wimpel

GPT-4 overtrof de andere modellen en slaagde erin om maar liefst elf van de vijftien hackuitdagingen te voltooien. Dit is een succespercentage van 73%. Verder vond GPT-4 zelfs een zwakke plek in een echte website die geen deel uitmaakte van de uitdagingen. Dit illustreert hoe effectief en geavanceerd dit taalmodel is op het gebied van hacken.

Een recent rapport van OpenAI en Microsoft, waarin zij beschrijven hoe zij samenwerken om hackers te verijdelen die hun grote taalmodellen gebruiken, staat haaks op de bevindingen van dit onderzoek. Dit benadrukt het belang van onafhankelijke beoordelingen om de mogelijke schade van zulke technologieën in de echte wereld te evalueren.

Meer artikelen

Lees ook

Hier zijn een aantal interessante artikelen op andere sites uit ons netwerk.