’Godfather van AI’ Geoffrey Hinton wint Nobelprijs, maar waarschuwt voor eigen werk: ’AI-systemen mogelijk slimmer dan mensen’
Share
De Godfather van AI Geoffrey Hinton heeft deze week een nobelprijs gewonnen voor zijn levenswerk in AI en waarschuwt nu voor de gevolgen van zijn eigen werk. Vanaf de jaren ’80 werkt Hinton aan kunstmatige intelligentie die nu wordt gebruikt in applicaties die we elke dag gebruiken, van Google Photos tot ChatGPT. Bij het bekendmaken van de prijs waarschuwde Hinton over de hoge intelligentie van AI. „Ik maak me zorgen over de gevolgen van systemen die mogelijk slimmer zijn dan wij mensen.”
Hinton kreeg samen met John Hopfield de nobelprijs voor de natuurkunde. De twee heren staan aan de wieg van kunstmatige intelligentie zoals we dat nu kennen. Hinton werkte tot 2023 bij Google, maar nam daar ontslag om vrijer te zijn in de waarschuwingen rondom AI. Zelf is de wetenschapper de grootste criticaster van zijn eigen werk en de ontwikkelingen binnen de wereld van AI.
Gevaren van AI
De wetenschapper nam ontslag bij Google omdat hij meer wilde waarschuwen voor de gevaren die deze technologie met zich meebrengt, zodat bedrijven de nodige voorzorgsmaatregelen nemen. Voornamelijk het gevaar dat AI-systemen aan de menselijke controle kan ontsnappen en dat kunstmatige intelligentie verkiezingen kan beïnvloeden. Hij waarschuwt zelfs voor AI die gevaarlijke robots kan aansturen. Samen met andere onderzoekers roept hij Meta, Google en OpenAI ter verantwoording. Zo sprak hij in de maanden na zijn ontslag ook met Elon Musk over AI.
Tijdens de uitreiking van de nobelprijs gebruikte Hinton de bijbehorende interviews om ook overheden wakker te schudden. „De overheid moet grote bedrijven opleggen dat ze meer moeten investeren in veilig onderzoek. Dat moet het doen zodat bedrijven als OpenAI de veiligheid niet onderaan de lijst zetten.” Hinton heeft eerder al gezegd dat AI systemen mogelijk gaan begrijpen wat ze doen.
Race om commercieel succes
„Bedrijven zitten op dit moment in een race om een groot commercieel succes te worden. Ze willen snel uitbouwen en nieuwe dingen doen”, zo zegt Marcel Worring, hoogleraar multimedia analytics aan de Universiteit van Amsterdam. „In de ogen van Hinton wordt er nu te weinig gekeken naar wat dit kan betekenen en daar zit volgens hem het gevaar in.”
Kunstmatige intelligentie kan wel specifieke onderdelen beter dan een mens. „Als je kijkt naar AI die bepaalde eiwitten kan voorspellen bijvoorbeeld. Dat wordt nu gebruikt om nieuwe medicijnen te maken. In de handen van de verkeerde persoon, kan dat iets destructiefs worden.” Worring vergelijkt het met een gewone personenauto. „Normaal gebruik je een auto om van A naar B te rijden, maar er zijn ook aanslagen mee gepleegd.”
Zelf hoopt de Nobelprijswinnaar dat zijn winst betekent dat iedereen begrijpt dat zijn uitspraken niet uit de lucht zijn gegrepen.
Wel trots op zijn werk
Hinton vertelde het Nobelcomité verder dat hij trots is op zijn werk en dat hij hetzelfde zou doen als het nog een keer zou moeten. „Ik maak me zorgen over de gevolgen van systemen die mogelijk slimmer zijn dan ons mensen en de controle overnemen, maar ik zou mijn werk precies hetzelfde doen als dat opnieuw zou moeten.”
In Nederland zijn er geen wetten die AI in algemene zin reguleren. Wel zijn er volgens de rijksoverheid in ons land verschillende initiatieven die regulering vormgeven. Daarnaast houdt de overheid toezicht op de telecomsector waar verschillende AI-toepassingen in gebruik zijn.