De opmars van niet te onderscheiden AI-beelden: Tijd om op de computer te vertrouwen?

FFrits 26 november 2023 14:31

Kunstmatig gegenereerde beelden zijn nauwelijks meer van echt te onderscheiden. Het wordt steeds moeilijker voor mensen om nepbeelden te identificeren, waardoor we wellicht moeten vertrouwen op AI-detectiesoftware.

Het realisme van AI-gegenereerde beelden

AI-technologie heeft het vermogen om beelden te creëren die zo levensecht zijn dat het menselijk oog ze nauwelijks kan onderscheiden van de realiteit. Uit recent onderzoek blijkt dat proefpersonen vaak AI-gegenereerde gezichten van witte mensen als realistischer bestempelen dan echte gezichten. Dit kan gedeeltelijk te wijten zijn aan het feit dat de AI voornamelijk is getraind op witte gezichten, waardoor de gegenereerde gezichten van mensen van kleur mogelijk minder realistisch zijn.

Nep en echt onderscheiden wordt moeilijker

In het afgelopen jaar hebben AI-afbeeldingen een niveau van realisme bereikt dat de grenzen tussen nep en echt doet vervagen. Nepfoto's van beroemdheden die de ronde doen op sociale media hebben bijgedragen aan dit besef. Bovendien verbeteren AI-algoritmen voortdurend en zijn ze in staat om eerder zichtbare oneffenheden, zoals onrealistische reflecties in de ogen of een extra vinger, weg te poetsen. Dit draagt verder bij aan de uitdaging om nepbeelden te identificeren.

AI-detectiesoftware als oplossing

Om de groeiende uitdaging van het onderscheiden van nep en echte beelden het hoofd te bieden, werkt het Nederlandse bedrijf DuckDuckGoose aan AI-detectiesoftware. Deze software maakt gebruik van neurale netwerken om onderliggende patronen en afwijkingen in beelden te identificeren. Terwijl het voor mensen steeds moeilijker wordt om deze verschillen te zien, hebben machines dit vermogen wel. Het doel is dat dergelijke detectiesoftware in de toekomst wordt gebruikt door socialemediabedrijven en nieuwsmedia, met labels die aangeven of een foto echt is of door AI is gemaakt.

Terwijl we ons richten op de realiteit van AI-beelden, moeten we niet vergeten dat AI ook al in staat is om realistische stemmen te genereren op basis van korte audiofragmenten. Bovendien worden AI-video's snel beter. Hoewel ze nu nog lijken op eenvoudige animaties, kan dit binnen enkele maanden radicaal veranderen. Dit zal een nieuwe uitdaging vormen voor het onderscheiden van nep en echt, aangezien het menselijk oog en het gehoor beide zullen worden uitgedaagd.

Meer artikelen

Lees ook

Hier zijn een aantal interessante artikelen op andere sites uit ons netwerk.