Foundation modellen zoals ChatGPT veranderen de samenleving met hun opmerkelijke mogelijkheden, serieuze risico's, snelle implementatie, ongekende adoptie en voortdurende controverse. Ondertussen finaliseert de
als 's werelds eerste uitgebreide regelgeving voor het reguleren van AI, en zojuist heeft het Europees Parlement een ontwerp van de wet aangenomen met 499 stemmen voor, 28 tegen en 93 onthoudingen. De wet omvat expliciete verplichtingen voor foundation model providers zoals OpenAI en
.
In dit bericht beoordelen we in hoeverre grote foundation model providers momenteel voldoen aan deze ontwerpvereisten en constateren we dat dit grotendeels niet het geval is. Foundation model providers verstrekken zelden voldoende informatie over de data, rekenkracht en implementatie van hun modellen, evenals de belangrijkste kenmerken van de modellen zelf. Dit voldoet over het algemeen niet aan de ontwerpvereisten om het gebruik van auteursrechtelijk beschermd trainingsmateriaal te beschrijven, de gebruikte hardware en emissies tijdens de training te specificeren, en hoe ze modellen evalueren en testen. Als gevolg hiervan raden we beleidsmakers aan om transparantie als eerste prioriteit te stellen, geïnformeerd door de vereisten van de AI Act. De beoordeling toont aan dat foundation model providers momenteel kunnen voldoen aan de AI Act, en dat openbaarmaking met betrekking tot de ontwikkeling, het gebruik en de prestaties van foundation modellen de transparantie in het hele ecosysteem zou verbeteren.
Om volledig te voldoen aan de vereisten van de EU AI Act, moeten foundation model providers de volgende stappen ondernemen:
1. Verbeterde transparantie:
Providers moeten adequate informatie verstrekken over de gebruikte trainingsdata, hardware, emissies en evaluatiemethoden van hun modellen. Dit zal zorgen voor een betere verantwoording en naleving van de regelgeving.
2. Copyright-gerelateerde kwesties:
Providers moeten duidelijkheid bieden over het gebruik van auteursrechtelijk beschermd trainingsmateriaal en de maatregelen nemen om het risico op inbreuk op het auteursrecht te verminderen. Wetgevers en regelgevers moeten richtlijnen bieden over hoe copyright zich verhoudt tot het trainingsproces en de output van generatieve modellen.
3. Energieverbruik en emissierapportage:
Het rapporteren van energieverbruik, emissies en maatregelen om emissies te verminderen moet een standaardpraktijk worden voor foundation model providers. Duidelijke richtlijnen en meetmethoden moeten worden ontwikkeld om de energiebehoefte van het trainen van foundation modellen nauwkeurig te meten en de rapportage van deze kosten betrouwbaarder te maken.
4. Risicobeheer en evaluatie:
Foundation model providers moeten een grondige beoordeling maken van de mogelijke risico's die hun modellen met zich meebrengen, zowel op het gebied van kwaadwillig gebruik als onbedoelde schade. Ze moeten transparant zijn over de maatregelen die ze nemen om deze risico's te beperken en de effectiviteit van deze maatregelen te evalueren. Richtlijnen voor evaluatiestandaarden moeten worden ontwikkeld om de prestaties van foundation modellen op een consistente en betrouwbare manier te beoordelen.
5. Release-strategieën: