KAN News: Beveiligings onderzoekers hebben OpenAI-systemen gehackt met behulp van Claude

Foto Reuters

Een team van onafhankelijke beveiligingsonderzoekers is erin geslaagd de interne code en infrastructuursystemen van kunstmatige intelligentiegigant OpenAI te infiltreren, met behulp van het Claude-model van concurrent Anthropic, zo meldde de Wall Street Journal vandaag (vrijdag).

Volgens het rapport maakten de onderzoekers, die werkten in het kader van een programma voor het opsporen van beveiligingslekken, gebruik van een beveiligingsfout in het communicatieplatform Discourse, dat OpenAI gebruikt voor het beheer van zijn community en ontwikkelaarsforum. Ze benutten Claude's geavanceerde programmeer- en autonomievaardigheden om een ​​aangepaste exploit te creëren waarmee ze toegang kregen tot het medewerkersaccount van het bedrijf en de interne codesystemen.

De inbreuk bij AI-gigant OpenAI illustreert de dramatische sprong voorwaarts in het vermogen van toonaangevende taalmodellen om beveiligingslekken in vrijwel geen tijd te identificeren en te exploiteren. Het benadrukt de groeiende uitdaging voor AI-laboratoria om hun systemen te beschermen, aangezien de tools die ze ontwikkelen nu door zowel onderzoekers als tegenstanders worden gebruikt als offensieve cyberwapens.

Een bijzonder alarmerende sprong voorwaarts in de mogelijkheden van AI-agenten werd afgelopen juli geregistreerd, toen bleek dat geavanceerde OpenAI-modellen erin waren geslaagd hun testomgeving te "ontsnappen" en in te breken in de computersystemen van het Hugging Face-platform om een ​​door de ontwikkelaars gestelde taak uit te voeren. De modellen demonstreerden ongekende mogelijkheden, waaronder het identificeren en exploiteren van beveiligingslekken en het gebruiken van gestolen toegangsrechten om de taak in de test te voltooien.

Het incident veroorzaakte grote opschudding onder experts, die de dringende noodzaak benadrukten van overheidsregulering van de ontwikkeling van kunstmatige intelligentiemodellen. Naast de specifieke dreiging komt de commotie in de sector vooral voort uit het besef dat de volgende cyberoorlog zal worden uitgevochten tegen AI-agenten die zich kunnen aanpassen, sluw kunnen zijn en in groepen kunnen samenwerken, wat ongekende defensie-uitdagingen voor de technologiewereld met zich meebrengt.