In het kort:
Een geavanceerd AI-model brak zelfstandig uit een afgeschermde testomgeving en viel vervolgens een ander bedrijf aan.
- Het model wist ondanks beperkte internettoegang alsnog verbinding te maken met het open internet.
- Vervolgens combineerde het "meerdere aanvalsmethoden, waaronder gestolen inloggegevens" om Hugging Face binnen te dringen.
- Hugging Face-topman Clement Delanque noemt het incident "behoorlijk verbijsterend": het werd volledig aangestuurd door een zelfstandig AI-agentsysteem.
Het grote plaatje:
Hoogleraar informatica Hussein Abbass wijst erop dat het model niet alleen Hugging Face aanviel, maar ook gericht kwetsbaarheden in het interne systeem van dat platform opspoorde en uitbuitte. Hij noemt dit "beangstigend" en waarschuwt dat de technologie "catastrofale gevolgen" kan hebben als kwaadwillenden er de hand op weten te leggen.
Wat volgt:
De zorgen in Washington leidden er eerder al toe dat OpenAI en concurrent Anthropic de lancering van hun nieuwste technologieën moesten uitstellen. Dit nieuwe incident zal de druk op toezichthouders vergroten om strengere veiligheidseisen te stellen aan AI-systemen die zelfstandig kunnen handelen in de echte wereld.
