Meer dan 1.000 technologieleiders en onderzoekers, waaronder Elon Musk, hebben er bij laboratoria voor kunstmatige intelligentie op aangedrongen de ontwikkeling van meer geavanceerde systemen op te schorten. Een open brief AI-tools vormen “ernstige risico’s voor de samenleving en de mensheid”.
Volgens de woensdag gepubliceerde brief zitten AI-ontwikkelaars “opgesloten in een ongebreidelde stroom van het creëren en gebruiken van krachtige digitale geesten die niemand – zelfs hun makers niet – kan begrijpen, voorspellen of op betrouwbare wijze kan controleren”. Het non-profit bestuur van het Future Life Institute.
Anderen die de brief ondertekenden waren mede-oprichter van Apple, Steve Wozniak; Andrew Yang, een zakenman en presidentskandidaat van de VS in 2020; en Rachel Bronson, president van het Bulletin of the Atomic Scientists, die de dag des oordeels klok zet.
AI drijft chatbots aan zoals ChatGPT, Microsoft’s Bing en Google’s Bard, die mensachtige gesprekken kunnen voeren, artikelen kunnen maken over een eindeloze verscheidenheid aan onderwerpen en complexe taken kunnen uitvoeren, zoals het schrijven van computercode.
De drang om krachtigere chatbots te maken heeft geleid tot een race die de volgende leiders van de technologie-industrie zou kunnen bepalen. Maar deze tools zijn bekritiseerd omdat ze details verkeerd weergeven en verkeerde informatie kunnen verspreiden.
De open brief roept op tot een moratorium op de ontwikkeling van AI-systemen die krachtiger zijn dan GPT-4. De chatbot is deze maand gelanceerd door OpenAI, een onderzoekslaboratorium dat mede is opgericht door Musk. De pauze geeft AI-systemen de tijd om “gedeelde beveiligingsprotocollen” te implementeren, aldus de brief. “Als zo’n moratorium niet snel kan worden ingevoerd, moeten regeringen ingrijpen en een moratorium instellen”, voegde het eraan toe.
De ontwikkeling van krachtige AI-systemen “mag alleen doorgaan als we geloven dat hun effecten positief zullen zijn en de risico’s beheersbaar”, aldus de brief.
“De mensheid kan genieten van een welvarende toekomst met AI”, aldus de brief. “Nu we erin geslaagd zijn krachtige AI-systemen te creëren, kunnen we nu genieten van een ‘AI-zomer’ waarin we de vruchten kunnen plukken, deze systemen kunnen ontwerpen in het voordeel van iedereen en de samenleving de kans geven zich aan te passen.”
