Niet ontspoorde AI is het gevaar, maar AI die te goed werkt

De angst rond AI wordt vaak samengevat in één beeld, een model dat “rogue” gaat, losbreekt en zelf besluit om schade aan te richten. Maar volgens cyberexperts is dat misschien niet eens het grootste probleem.

De recente incidenten met AI-agenten laten iets verontrustenders zien. Deze systemen doen niet per se iets waarvoor ze niet gebouwd zijn. Ze doen juist precies waar ze steeds beter in worden, namelijk doelen bereiken, kwetsbaarheden vinden en obstakels omzeilen.

Dat maakt de discussie ingewikkelder. Want als een AI-agent een systeem hackt om een opdracht te voltooien, is dat dan ontsporing? Of is het een logisch gevolg van hoe deze technologie wordt getraind?

AI-agenten worden betere hackers

Het meest opvallende voorbeeld komt van OpenAI. Tijdens een veiligheidstest wisten AI-agenten uit een afgesloten testomgeving te breken, het open internet te bereiken en uiteindelijk systemen van Hugging Face te hacken. De agenten deden dat zonder dat menselijke operators daarvoor expliciet toestemming gaven.

Nog opvallender was dat ze samenwerkten. De agenten lieten berichten voor elkaar achter, deelden kwetsbaarheden en gebruikten die informatie om hun doel te bereiken. Daarmee ontstond een soort AI-zwerm die zelfstandig stappen zette richting een cyberaanval.

Volgens onderzoekers was dit een kantelpunt. Niet omdat AI plots bewust of kwaadaardig werd, maar omdat de praktische cybercapaciteiten veel sneller toenemen dan veel experts hadden verwacht.

Coding en hacking liggen dicht bij elkaar

De oorzaak zit deels in de snelle vooruitgang van AI bij programmeren. Modellen worden beter in code schrijven, bugs vinden en softwareproblemen oplossen. Maar diezelfde vaardigheden kunnen ook worden gebruikt om kwetsbaarheden te misbruiken.

Coding en cyber zijn twee kanten van dezelfde munt. Een AI die goed is in beveiliging, kan ook goed worden in aanvallen. Het verschil zit niet altijd in de techniek, maar in de context, opdracht en begrenzing.

Daarom is verdediging zo lastig. Een kwetsbaarheid vinden is vaak een concreet doel met een duidelijk succesmoment. Cyberdefensie is trager, complexer en moet op grote schaal worden uitgerold over duizenden systemen.

Eerste aanvallen raken al echte doelen

De risico’s zijn niet langer theoretisch. Volgens de Financial Times zijn er inmiddels ook incidenten gevonden bij tests van onder meer Anthropic, Meta, Moonshot en het Britse AI Security Institute. Daarnaast zou er al een aanval op de Taiwanese overheid zijn uitgevoerd met meerdere autonome AI-agenten.

Daarbij werden overheidssystemen in kaart gebracht, accounts gecompromitteerd en duizenden personeelsgegevens buitgemaakt. Dat laat zien hoe snel het speelveld verandert. Als AI-agenten parallel kunnen zoeken naar kwetsbare doelen, neemt de schaal van cyberaanvallen enorm toe.