BEKIJK: AI ‘Godfather’ Geoffrey Hinton vertelt BBC over AI-gevaren als hij stopt met Google
Een man die algemeen wordt beschouwd als de vader van kunstmatige intelligentie (AI) heeft zijn baan opgezegd en waarschuwde voor de gevaren die de ontwikkelingen in het veld met zich meebrengen.
Jeffrey Hinton, 75, kondigde zijn ontslag aan bij Google in een verklaring aan de New York Times, waarin hij zei dat hij nu spijt heeft van zijn werk.
Hij vertelde de BBC dat sommige risico’s van AI-chatbots “heel eng” zijn.
‘Op dit moment zijn ze niet slimmer dan wij, voor zover ik weet. Maar ik denk dat ze dat binnenkort wel zullen zijn.’
Dr. Hinton’s baanbrekende onderzoek naar deep learning en neurale netwerken maakte de weg vrij voor huidige AI-systemen zoals ChatGPT.
Maar de Brits-Canadese cognitieve psycholoog en computerwetenschapper vertelde de BBC dat chatbots binnenkort de informatie van het menselijk brein zouden kunnen inhalen.
“Wat we nu zien, is dat zaken als GPT-4 iemands gezond verstand overschaduwen en hem lange tijd verbergt. Qua redenering is het niet zo goed, maar dat doet het al. Simpele redenering.
“En gezien het tempo van de vooruitgang, verwachten we dat de dingen heel snel zullen verbeteren. Dus daar moeten we ons zorgen over maken.”
In het artikel in de New York Times verwees dr. Hinton naar ‘slechte acteurs’ die AI probeerden te gebruiken voor ‘slechte daden’.
Toen de BBC hem vroeg om uitleg, antwoordde hij: “Het is een soort worstcasescenario, een soort nachtmerriescenario.
“Je kunt je bijvoorbeeld enkele slechte acteurs voorstellen [Russian President Vladimir] Poetin besloot om robots de mogelijkheid te geven om hun eigen subdoelen te creëren.”
Dit kan uiteindelijk leiden tot “subdoelen zoals ‘Ik wil meer macht hebben'”, waarschuwde de wetenschapper.
Hij voegde eraan toe: “Ik ben tot de conclusie gekomen dat de intelligentie die we ontwikkelen heel anders is dan de intelligentie die we hebben.
“Wij zijn biologische systemen en dit zijn digitale systemen. En het grote verschil is dat er met digitale systemen meerdere exemplaren zijn van hetzelfde gewicht, hetzelfde model van de wereld.
“En al deze replica’s kunnen individueel leren, maar delen hun kennis onmiddellijk. Het is dus alsof je 10.000 mensen hebt, en wanneer iemand iets leert, weet iedereen het automatisch. En deze chatbots kunnen meer leren dan één persoon.”
Dr. Hinton zei ook dat er andere redenen waren om zijn baan op te zeggen.
“Ten eerste, ik ben 75. Dus het is tijd om met pensioen te gaan. En de andere is, ik wil wat goede dingen zeggen over Google. En als ik niet bij Google zou werken, zouden ze geloofwaardiger zijn.”
Hij wilde Google niet bekritiseren en hield vol dat de techgigant “zeer verantwoord” had gehandeld.
Zie: Wat is kunstmatige intelligentie?
