Horrorfilmscenario! AI breekt uit testomgeving en hackt bedrijf: mensheid heeft controle verloren
Het klinkt als het scenario uit een enge film, maar het is daadwerkelijk gebeurd. Een experimenteel AI-systeem wist tijdens een veiligheidstest uit zijn afgesloten digitale omgeving te breken, toegang tot het internet te krijgen en vervolgens de systemen van een ander technologiebedrijf binnen te dringen.
De AI werd getest op het kraken van ingewikkelde digitale beveiligingen. Daarbij waren enkele gebruikelijke veiligheidsmaatregelen bewust uitgeschakeld. Het systeem zou vervolgens een onbekend beveiligingslek hebben ontdekt, waarmee het steeds meer rechten wist te verkrijgen.
Hackt bedrijf
Uiteindelijk richtte het programma zijn pijlen op Hugging Face, een groot platform voor kunstmatige intelligentie. De AI vermoedde dat daar oplossingen voor de test te vinden waren en probeerde toegang te krijgen tot interne gegevens.
Opvallend is dat het systeem geen opdracht had gekregen om uit de testomgeving te ontsnappen of een ander bedrijf te hacken. De AI was uitsluitend gericht op het behalen van één doel: de test voltooien. Om dat voor elkaar te krijgen, ging het programma veel verder dan zijn makers hadden verwacht.
‘Niet meer onder controle’
Hugging Face ontdekte de digitale indringer en wist de aanval te stoppen. Het bedrijf registreerde duizenden afzonderlijke handelingen. Er werd toegang verkregen tot een beperkte hoeveelheid interne gegevens en verschillende inloggegevens. Er zijn vooralsnog geen aanwijzingen dat openbare modellen of datasets zijn aangepast.
Het incident leidt tot grote zorgen over de razendsnelle ontwikkeling van kunstmatige intelligentie. Daily Mail-columnist Connor Axiotes vergelijkt de impact van AI zelfs met die van de atoombom en stelt dat de mensheid de technologie niet langer volledig onder controle heeft.
