Het energievraagstuk en de uitdagingen waarmee AI in dat verband te maken heeft, zijn brandend actueel. Onlangs nog raakte bekend dat grote bedrijven intussen rechtstreeks aankloppen bij kerncentrales voor hun energie.
De cijfers spreken voor zich, uit het jaarlijks klimaatrapport van Google is gebleken dat hun CO2-uitstoot in één jaar tijd met 13% is gestegen. Daartegenover houden diezelfde techgiganten zichzelf sterk dat AI op termijn een rol zal spelen in het verminderen van de wereldwijde uitstoot. Zo voorspelt Google in datzelfde klimaatrapport dat AI-technieken die uitstoot tegen 2030 met 5 tot 10% zouden kunnen verminderen.
Het staat in ieder geval buiten kijf dat AI-bedrijven met hun complexe modellen veel energie nodig hebben. Ook het Belgische AI-bedrijf ReBatch ontspringt de dans niet. “Maar,” zo nuanceert medeoprichter en AI-pionier Jorge De Corte, “onze kleinere, gespecialiseerde modellen zijn gemakkelijker in onderhoud en hebben een lagere uitstoot.”
Veel rekenkracht
Maar hoe zit dat juist, waarom hebben kleinere modellen een lagere uitstoot? Het antwoord is voor de hand liggend. Grote – zeg gerust gigantische – modellen zijn generalistisch getraind en moeten in staat zijn om zeer brede functies uit te voeren. Een model zoals dat van ChatGPT is zo ontworpen dat het kan antwoorden op de meest uiteenlopende vragen. Dat vergt enorm veel rekenkracht, en dus veel energie.
Jorge De Corte: “Om je een idee te geven, ons Reynaert-taalmodel heeft 7 miljard parameters. Dat lijkt gigantisch, maar is toch klein bier als je dat vergelijkt met ChatGPT, waarvan gespeculeerd wordt dat het beroep doet op ongeveer 175 miljard parameters. Als deze ruwe inschatting klopt, spreken we toch over een factor die twintig keer hoger ligt. Hun model stoot in die veronderstelling dan ook twintig keer meer uit dan dat van ons.”
Specifieke noden
Onder meer daarom gelooft AI-pionier De Corte rotsvast in het potentieel van kleinere, gespecialiseerde modellen op maat van specifieke organisaties en bedrijven.
“Organisaties hebben vaak heel specifieke noden die perfect door een kleiner AI-model vervuld kunnen worden. Denk bv. aan het verwerken van handleidingen voor het onderhoud van machines. Omdat de taak zo afgelijnd is, weet een kleiner AI-model daar zeker raad mee. En dat brengt heel wat voordelen met zich mee. Zo zijn er minder hardwarevereisten en moet er ook minder geïnvesteerd worden. Omdat zo’n model minder rekenkracht nodig heeft, is het bovendien veel energiezuiniger én onderhoudsvriendelijk. Zo kunnen organisaties aan de slag met kleinere, gespecialiseerde modellen die ze – los van de grote spelers – volledig in eigen beheer kunnen houden”, besluit Jorge De Corte.
Jorge De Corte is oprichter van ReBatch
