Uitleg in gewone taal
Wat is een frontier-model?
De term die toezichthouders, veiligheidsonderzoekers en AI-labs gebruiken voor de meest capabele AI-systemen die op dit moment bestaan.
De term 'frontier-model' kom je tegen in beleidsstukken, veiligheidstoezeggingen en persberichten van vrijwel elk groot AI-lab. Deze pagina legt uit wat de term werkelijk betekent, hoe drempels voor capaciteit worden vastgesteld en waarom de frontier om de paar maanden opschuift.
Een frontier-model is een AI-systeem dat op of vlak bij de voorhoede staat van wat mogelijk is bij de taken die het meest tellen: redeneren, programmeren, wetenschappelijk begrip en taal. Toezichthouders en AI-labs gebruiken de term om systemen aan te wijzen die de strengste veiligheidstoetsing nodig hebben. Omdat AI-capaciteiten voortdurend toenemen, verandert het binnen enkele maanden, niet jaren, welke modellen als frontier gelden.
Gepubliceerd
Gratis les · geen account nodigMaak kennis met ClaudeWaarom Claude?6 minStart de gratis lesWat een model tot frontier maakt
Vier kenmerken waaraan onderzoekers frontier-systemen herkennen
Geen enkele test trekt de grens, maar deze vier kenmerken komen steeds terug in de manier waarop labs en beleidsmakers AI op frontier-niveau definiëren.
Brede capaciteit
Frontier-modellen presteren tegelijk goed op veel terreinen: tekst, code, wiskunde en beeldbegrip. Smalle specialisten, hoe indrukwekkend ook op hun eigen terrein, vallen hier niet onder.
Topprestaties
Een frontier-model loopt voorop op de evaluaties waarmee onderzoekers systemen vergelijken. Zodra een nieuwer model het op die maatstaven overtreft, valt het oudere model terug van de frontier.
Nieuw risicoprofiel
Frontier-modellen kunnen dingen die eerdere modellen niet konden, en brengen daardoor categorieën van risico mee die veiligheidsteams nog niet volledig in kaart hebben gebracht of beperkt.
Schaal
Om de frontier te bereiken zijn op dit moment enorme hoeveelheden rekenkracht, data en engineering-inspanning nodig. Daarom wordt de frontier wereldwijd door een klein aantal goed gefinancierde labs bepaald.
Waarom de term ertoe doet
Toezichthouders en labs gebruiken 'frontier' om een grens te trekken rond AI met de grootste impact
Overheden die AI-beleid schrijven, hebben een manier nodig om te zeggen 'deze systemen vragen extra toezicht' zonder elk model bij naam te noemen. 'Frontier-model' biedt die aanknopingspunt. Vrijwillige toezeggingen van labs, voorgestelde regelgeving in de EU en het Verenigd Koninkrijk en uitvoerende maatregelen in de VS gebruiken allemaal een versie van de term om hun eisen af te bakenen.
Labs gebruiken de term om dezelfde reden intern. Wanneer een bedrijf een responsible scaling policy publiceert, koppelt het veiligheidsevaluaties, drempels voor uitrol en procedures voor incidentrespons doorgaans aan modellen die een frontier-drempel overschrijden. Die drempel wordt vaak bepaald door een combinatie van de rekenkracht die voor de training is gebruikt en scores op specifieke capaciteitsevaluaties.
De term brengt ook een zekere urgentie mee. Een model frontier noemen geeft aan dat de ontwikkelaars het krachtig genoeg achten om publieke verantwoording te vragen, en niet alleen interne tests. Die framing bepaalt hoe onderzoekers, journalisten en beleidsmakers reageren op een nieuwe release.
De bewegende drempel
Waarom de frontier een verschuivende grens is en geen vaste lat
De frontier is geen blijvende categorie. Een model dat vandaag de voorhoede vormt, wordt binnen enkele maanden ingehaald door nieuwere systemen. Op dat moment is het in beleids- en veiligheidsopzicht geen frontier-model meer, ook al blijft het een krachtig en veelgebruikt hulpmiddel.
Dat geeft regulering een ongewone dynamiek. Beleidsmakers kunnen geen regels schrijven die specifieke modellen noemen en verwachten dat die regels actueel blijven. Effectieve regulering koppelt verplichtingen daarom aan de manier waarop een model is getraind, wat het kan en hoeveel rekenkracht is gebruikt, zodat de regels met de frontier meebewegen en niet verstenen rond de systemen van gisteren.
Voor wie met AI werkt, betekent een verschuivende frontier dat bijblijven continu leren vraagt. Een aanpak die goed werkte bij één generatie modellen kan bijsturing nodig hebben wanneer de volgende generatie komt, met andere sterke punten, andere manieren van falen en ander standaardgedrag.
Veiligheid en governance
Wat frontier-status doorgaans in gang zet
Red-teaming en veiligheidsevaluaties
Voor de uitrol ondergaan frontier-modellen gestructureerde aanvalstests, om gevaarlijke capaciteiten en onverwacht gedrag op te sporen dat tijdens de training is ontstaan.
Model cards en transparantierapporten
Labs publiceren documentatie over wat het model wel en niet kan, welke beperkingen bekend zijn en welke evaluaties het vóór de release heeft doorstaan.
Audits door derden
Overheidsprogramma's en vrijwillige toezeggingen eisen steeds vaker dat frontier-modellen worden beoordeeld door onafhankelijke onderzoekers, en niet alleen door het lab dat ze heeft gebouwd.
Drempels voor uitrol
Responsible scaling policies koppelen bepaalde capaciteiten aan beperkingen bij de uitrol: een model dat een gevaarlijke taak boven een vastgestelde drempel kan uitvoeren, wordt mogelijk pas vrijgegeven als er maatregelen zijn getroffen.
Leer werken met de modellen die er het meest toe doen
Begrijpen wat frontier-modellen zijn is een begin. Ze goed gebruiken is een andere vaardigheid, en die vraagt bewuste oefening. Het curriculum van Nightschool AI is vanaf de eerste les praktisch en gebouwd rond echte taken in plaats van theorie.
Veelgestelde vragen
Is Claude een frontier-model?
Ja. Claude wordt ontwikkeld door Anthropic, een van de toonaangevende AI-veiligheidslabs, en de meest capabele versies staan op de frontier van wat huidige AI-systemen kunnen. Anthropic publiceert een responsible scaling policy waarin specifieke drempels staan, samen met de veiligheidstoezeggingen die gelden wanneer Claude die drempels overschrijdt.
Hoe bepalen labs wat een frontier-model is?
Labs combineren doorgaans drempels voor rekenkracht (hoeveel rekenkracht er bij de training is gebruikt) met capaciteitsevaluaties (wat het model daadwerkelijk kan). Als een model beide soorten drempels overschrijdt, gaan de veiligheids- en governanceprocessen in werking die in de responsible scaling policy van het lab zijn vastgelegd.
Waarom richten toezichthouders zich specifiek op frontier-modellen?
Frontier-modellen hebben de breedste capaciteiten en daarmee de grootste potentiële impact, zowel positief als negatief. Toezichthouders richten zich op de frontier omdat daar nieuwe risico's als eerste opduiken, voordat de rest van de sector is bijgebeend en voordat de samenleving normen heeft ontwikkeld rond de nieuwe mogelijkheden.
Wat is een responsible scaling policy?
Een responsible scaling policy is een openbare toezegging van een AI-lab die beslissingen over uitrol koppelt aan veiligheidsevaluaties. Er staat in welke tests een model moet doorstaan vóór de release en welke capaciteiten reden zouden zijn om de ontwikkeling te pauzeren. Zo brengen labs de governance van frontier-modellen in de praktijk.
Is een model geen frontier meer zodra er een nieuwer model uitkomt?
Over het algemeen wel, althans in beleids- en veiligheidsopzicht. Zodra een nieuwer model een ouder model overtreft op de capaciteitsevaluaties waarmee de frontier wordt bepaald, geldt het oudere model niet meer als frontier-niveau, ook al blijft het capabel en breed in gebruik.
Hoe vaak verschuift de frontier?
De frontier verschuift in een tempo van maanden, doordat labs nieuwe generaties modellen uitbrengen. Bij elke grote release horen evaluatieresultaten die laten zien waar het model staat ten opzichte van eerdere systemen, en de frontier schuift daarmee mee. Door dit tempo is het erg lastig om vaste regelgeving te schrijven.
Gelden voor frontier-modellen bijzondere gebruiksregels?
Frontier-modellen worden grondiger op veiligheid getest en vallen onder uitgebreider gebruiksbeleid dan systemen van eerdere generaties. Ze vallen ook vaker onder meldplichten van overheden en vrijwillige toezeggingen uit de sector, die bepalen hoe ze worden uitgerold, gemonitord en na de lancering bijgewerkt.
Wat is het verschil tussen een frontier-model en een foundation model?
Een foundation model is elk groot model dat op brede data is getraind en voor veel taken kan worden aangepast. Een frontier-model is een specifieke deelverzameling: de foundation models die op dit moment de voorhoede van capaciteit vormen. Alle frontier-modellen zijn foundation models, maar de meeste foundation models zijn geen frontier-model.
Op de frontier wordt AI pas echt interessant
Leer hoe je het goed gebruikt.