Apple lanceert taalmodel OpenELM voor lokaal gebruik

Apple werkt al een hele tijd aan de ontwikkeling van een eigen AI-systeem. Stilaan begint dat werk vruchten af te werpen, al staat er ongetwijfeld meer op de planning.

Apple lanceert vandaag OpenELM. De benaming beschrijft het karakter van dat taalmodel: het is de bedoeling dat de broncode geopensourcet wordt, terwijl ELM voor ‘Efficient Language Model’ staat. In tegenstelling tot andere AI-taalmodellen, gaat het hier namelijk niet om een ‘Large Language Model’ of LLM. Integendeel: hier gaat het om een ‘Small Language Model’.

Geschikt voor lokaal gebruik
De grootte van zo’n model is bepalend voor de rekenkracht die het vereist. Door het model zo klein mogelijk te maken, is het mogelijk om het ook lokaal op je eigen toestel te gebruiken. Vergelijk het met de Gemini-modellen van Google: de sterkste taalmodellen zijn enkel bruikbaar in de cloud, terwijl de Nano-modellen lokaal gedraaid kunnen worden. Zo zal het dus ook gaan voor de OpenELM-modellen van Apple.

Concreet gaat het om vier verschillende modellen, met een verschillend aantal parameters. Apple biedt keuze tussen 270 miljoen, 450 miljoen, 1,1 miljard en 3 miljard parameters. Dat ligt ongeveer in lijn met andere AI-taalmodellen voor lokaal gebruik. Waar dit model precies voor moet gaan dienen, zegt Apple er echter niet bij. Wellicht is het de bedoeling dat ontwikkelaars het taalmodel aanwenden om AI-applicaties te ontwikkelen. Die AI-applicaties zullen dan volledig lokaal kunnen werken, en vereisen geen internetverbinding.

In een paper deelt Apple wat meer precieze details over de OpenELM-modellen. Die werden getraind met de RefinedWeb- en RedPajama-datasets, gegevens van Reddit en boeken uit project Gutenberg. Het model leerde ook van GitHub en StackExchange, waardoor ontwikkelaars de tool ook tijdens hun werk kunnen gebruiken. Nederlands zal het AI-model in eerste instantie wel niet spreken.

De grote vraag is natuurlijk waarvoor deze AI-modellen uiteindelijk gebruikt zal worden. Waarschijnlijk gaat het dan voornamelijk om het schrijven en samenvatten van tekst. Apple komt waarschijnlijk nog met een eigen AI-systeem dat Siri slimmer maakt, al zou het ook kunnen dat de iPhone-fabrikant daarvoor bij Google gaat aankloppen. De ontwikkeling van zo’n eigen AI-systeem lijkt namelijk niet van een leien dakje te lopen bij Apple.