Hoe open is AI? Kunnen AI-taalmodellen open source zijn? En wat is er mogelijk, ook qua Europese wetgeving? Marlena van Ooijen, AI- en open source-expert bij Logius, vertelt er in een interview met Opensourcewerken meer over.
Dit artikel is een bewerking van ‘AI-expert: “We kunnen niet de Amerikaanse insteek hebben van ‘go fast and break things”’ van de website Opensourcewerken.
Onderlinge versterking van opensourcewerken en AI
De ontwikkelaar van ChatGPT, OpenAI, heeft ‘open’ in de naam, maar hoe open is het? Van Ooijen: “OpenAI noemt zichzelf wel open, maar er is niets open aan. Maar een AI-systeem kán wel volledig open source zijn. En vanuit Europese wetgeving bestaat een transparantieverplichting.”
Daarnaast geeft Van Ooijen aan dat het wel genuanceerd ligt: “Als je enkel spreekt over open source, heb je het vaak over code van systemen die open is. Maar als je kijkt naar AI bestaat die altijd uit verschillende onderdelen. Namelijk de systemen, de modellen en tenslotte de gewichten in de modellen. Als je over ‘traditionele’ open source spreekt, gaat het over systeemcode en het ontwikkelen daarvan.”
Maar een taalmodel, zeker als je naar generatieve AI kijkt, is niet open geeft Van Ooijen aan. “Daar zit alle data in. Je kunt wel zeggen: wat zijn de gewichten? Dan spreek je over ‘open weight’. Je kunt de code van je systeem opendoen en je kunt de gewichten van je model opendoen. Dan rest de vraag wat voor data je gebruikt. Open data die algemeen beschikbaar is, of niet?” Van Ooijen geeft aan dat het bij open source AI het niet alleen gaat over open broncode, maar ook over hoe transparant je bent over de gewichten en over de controlemechanismes. “Hier stelt de Europese AI Act ook eisen aan. En dat maakt ook meteen het verschil tussen Europese en Amerikaanse modellen, waar die eisen niet gelden.”
Van Ooijen is overtuigd van de onderlinge versterking van opensourcewerken en AI: “AI is een nieuwe technologie waarvan we allemaal nog heel veel moeten leren. Openheid en samenwerken helpt om middelen te besparen. Iedereen zit nu op zijn eigen plek wat uit te vinden. Dit kost geld, tijd en mensen. En denk ook aan GPU-rekenkracht! Door echt open source samen te werken kun je je krachten bundelen, meer bereiken en verder komen.”
Interessante AI-initiatieven om te volgen
“Ten eerste Vlam.ai, dat wordt ontwikkeld door SSC-ICT bij het ministerie van Binnenlandse Zaken en Koninkrijksrelaties (BZK). Zij bouwen lokaal een generatieve AI en gebruiken zo veel mogelijk open source”, aldus Van Ooijen. Een ander initiatief dat volgens Van Ooijen mooi is om te volgen is GPT-NL: “Zij beschrijven precies welke onderdelen transparant kunnen zijn en welke niet.”
“Ook vind ik de AI-hub die SURF ontwikkelt interessant”, gaat Van Ooijen verder. “Zij hebben een hele andere toepassing, en natuurlijk ook open source. En dan heb je Europees nog Mistral met Le Chat, dat is ook redelijk open source.”
Lees het volledige interview via de website van Opensourcewerken.
