Anthropic doorbreekt de stilte over open AI-modellen: “Niet verbieden, wel verantwoord beveiligen”
Maandenlang viel één opvallende afwezige op in het debat over open AI-modellen. Terwijl tientallen technologiebedrijven publiekelijk hun steun uitspraken voor open-weight AI-modellen, hield Anthropic zich op de achtergrond. Dat leidde zelfs tot speculaties dat het bedrijf een verbod op open modellen zou steunen om zijn eigen commerciële positie te beschermen. Nu heeft CEO Dario Amodei die geruchten resoluut van tafel geveegd. Zijn boodschap is helder: ‘Anthropic pleit niet voor een verbod op open AI-modellen.’ De echte risico’s liggen volgens hem ergens anders.
Voor de voorbereidingen van de inhoud en creatie van de visuals wordt (uiteraard) gebruikgemaakt van generatieve AI.
Open modellen zijn volgens Anthropic geen probleem op zich
Open-weight modellen maken het mogelijk om krachtige AI lokaal te draaien, aan te passen en verder te ontwikkelen zonder afhankelijk te zijn van één leverancier. Volgens Amodei zijn dergelijke modellen in veel gevallen zelfs een publiek goed. Ze stimuleren innovatie, vergroten de concurrentie en maken geavanceerde AI toegankelijk voor onderzoekers, bedrijven en ontwikkelaars.
Een algemeen verbod zou die voordelen grotendeels tenietdoen zonder de belangrijkste veiligheidsproblemen daadwerkelijk op te lossen. Daarmee neemt Anthropic een duidelijk ander standpunt in dan sommigen het bedrijf de voorbije maanden toeschreven.
Twee risico’s staan centraal
Volgens Amodei moeten beleidsmakers hun aandacht richten op twee fundamentele risico’s.
Het eerste risico is geopolitiek. Hij vreest dat autoritaire staten AI-systemen ontwikkelen die technologisch vooroplopen en vervolgens inzetten voor militaire dominantie, massasurveillance of grootschalige onderdrukking van burgers. Opvallend is dat hij benadrukt dat dit risico nauwelijks afhangt van de vraag of een model open of gesloten wordt gepubliceerd. Een model dat volledig geheim blijft maar uitsluitend voor militaire toepassingen wordt gebruikt, kan volgens hem zelfs gevaarlijker zijn.
Het tweede risico betreft misbruik door kwaadwillenden. Zeer krachtige AI-systemen zouden in de toekomst kunnen worden ingezet voor geavanceerde cyberaanvallen, biologische dreigingen of andere vormen van grootschalige schade. Open modellen brengen daarbij extra uitdagingen met zich mee. Zodra de modelgewichten publiek beschikbaar zijn, kunnen veiligheidsmaatregelen niet langer centraal worden aangepast of ingetrokken.
Niet het model verbieden, maar de middelen beperken
In plaats van open modellen te verbieden, pleit Anthropic voor gerichte maatregelen. De eerste prioriteit is volgens Amodei het beperken van de toegang tot geavanceerde AI-chips en chipproductietechnologie voor autoritaire regimes. Volgens hem vormt rekenkracht de belangrijkste strategische grondstof in de huidige AI-wedloop. Wie geen toegang heeft tot de krachtigste chips, kan ook minder snel de meest geavanceerde modellen ontwikkelen.
Daarnaast vraagt Anthropic meer aandacht voor grootschalige modeldistillatie. Bij distillatie wordt een bestaand krachtig model gebruikt om efficiënter een nieuw model te trainen. Volgens Amodei kan deze techniek de technologische achterstand van concurrenten aanzienlijk verkleinen en daarmee bestaande exportbeperkingen gedeeltelijk ondermijnen. Hij benadrukt echter dat ook hiervoor geen algemeen verbod op open modellen nodig is, maar gerichte juridische en beleidsmaatregelen.
Veiligheidstesten moeten voor iedereen gelden
Misschien wel het meest opvallende voorstel is de oproep tot verplichte veiligheidstesten voor alle voldoende krachtige AI-modellen. Niet alleen open modellen, maar ook gesloten commerciële modellen zouden vooraf uitgebreid moeten worden getest op onder meer:
- cyberveiligheidsrisico’s;
- biologische risico’s;
- alignmentproblemen;
- potentieel misbruik.
Volgens Amodei moeten dergelijke tests bepalen welke risico’s werkelijk bestaan, in plaats van op voorhand te veronderstellen dat open modellen automatisch gevaarlijker zijn.
Het debat verschuift van open versus gesloten
De verklaring laat zien dat het AI-debat stilaan een nieuwe fase ingaat. Waar de discussie lange tijd draaide rond de vraag of open modellen wel of niet wenselijk zijn, verschuift de aandacht steeds meer naar de vraag welke beveiligingsmaatregelen noodzakelijk zijn, ongeacht de distributievorm.
Dat is een belangrijke nuance. Een gesloten model is immers niet automatisch veilig. En een open model is niet automatisch gevaarlijk. Volgens Anthropic hangt verantwoord AI-gebruik veel sterker af van factoren zoals veiligheidstesten, toegang tot geavanceerde hardware, bescherming tegen misbruik en internationale samenwerking.
Ook voor organisaties verandert de discussie
Voor bedrijven en overheden die AI inzetten, bevat de verklaring nog een bredere les. Bij de keuze van een AI-model volstaat het niet langer om alleen te kijken naar prestaties, prijs of beschikbaarheid. Ook vragen rond governance worden steeds belangrijker.
- Hoe werd het model getest?
- Welke veiligheidsmaatregelen bestaan er?
- Welke risico’s zijn bekend?
- Hoe transparant is de ontwikkelaar?
- Welke garanties zijn er wanneer het model verder evolueert?
Van ideologie naar risicobeheer
De verklaring van Anthropic markeert een verschuiving in het AI-debat. Niet langer staat de tegenstelling tussen open en gesloten modellen centraal. Steeds belangrijker wordt de vraag hoe voldoende krachtige AI-systemen –ongeacht hun licentiemodel– veilig kunnen worden ontwikkeld, getest en ingezet.
Daarmee verschuift de discussie van een ideologisch debat over openheid naar een veel praktischer onderwerp: welke governance is nodig om steeds krachtigere AI verantwoord te kunnen gebruiken?