Tech-experts: “Druk op pauzeknop voor ontwikkeling van AI”

Ruim duizend leiders uit de technologiesector waarschuwen voor de risico's van een te snelle ontwikkeling van AI. Ze schreven een open brief.

Onder meer Apple-co-oprichter Steve Wozniak en Tesla-baas Elon Musk hebben de brief ondertekend. Daarin vragen ze dat AI-ontwikkelaars op de pauzeknop duwen en waarschuwen ze voor de mogelijke gevaren van een ongebreidelde evolutie van kunstmatige intelligentie. De techgoeroes stellen dat AI de maatschappij te snel dreigt te veranderen. Zo zouden er op korte tijd te veel banen kunnen sneuvelen, omdat computers menselijke taken gaan overnemen. Bovendien is er nog het risico op fake news, doordat AI mogelijk gevaarlijke of foutieve informatie verspreidt.

Concreet vragen de techneuten die de brief ondertekend hebben aan ontwikkelaars van AI-systemen wereldwijd om zes maanden lang geen programma’s te bouwen die geavanceerder zijn dan GPT-4, de laatste, meest krachtige versie van het taalmodel van OpenAI. Dat is in staat om volledige artikels te schrijven en beelden te genereren.

Meer toezicht op AI
De briefschrijvers vragen dat ontwikkelaars van kunstmatige intelligentie die pauzeperiode gebruiken om onderling afspraken te maken over de risico’s en mogelijk negatieve gevolgen van AI. Bovendien moet er een onafhankelijk toezichtsorgaan komen, vinden de (intussen ruim 1.300) ondertekenaars. Daarbij kijken ze ook voor een stuk naar overheden, die volgens hen dringend nieuwe instellingen moeten oprichten. Ze waarschuwen tot slot voor een gevaarlijke wedloop tussen ontwikkelaar naar steeds meer onvoorspelbare modellen.

“Zouden we alle jobs wel laten automatiseren? En wat met jobs waar werknemers voldoening uit halen? Zouden we niet-menselijke denkers mogen creëren waar mensen niet tegenop kunnen en ons laten vervangen? Zetten we onze beschaving niet op het spel? Dat is te cruciaal om over te laten aan niet-verkozen techmanagers”, klinkt het.