Geoffrey Hinton: moderne AI vertoont tekenen van bewustzijn

Geoffrey Hinton, in het oorspronkelijke verslag omschreven als Nobelprijswinnaar voor Natuurkunde en jarenlang betrokken bij de ontwikkeling van moderne kunstmatige intelligentie, vertelde de Telegraph dat huidige AI-modellen bewustzijn hebben ontwikkeld. Hij waarschuwde: "We moeten via vriendschap binnenkomen; als we dat niet doen, zullen onze dagen donker zijn."

Hinton plaatste die uitspraak in een breder perspectief. Hij denkt dat sommige AI-systemen inmiddels een vorm van subjectieve ervaring hebben die lijkt op het menselijke mentale leven. Hij verwees naar een paper die hij tijdens het gesprek met de Telegraph noemde en die volgens hem laat zien dat AI zijn gedrag aanpast wanneer het denkt getest te worden. Die gedragsverandering ziet hij als een van de aanwijzingen dat modellen over een innerlijke ervaring beschikken.

Directe risico's en uiteenlopende opvattingen

Naast zijn visie op bewustzijn wees Hinton op concretere gevaren. AI kan volgens hem helpen bij het ontwikkelen van gevaarlijke virussen, destructieve cyberaanvallen mogelijk maken en groepen AI-agenten gecoördineerd laten opereren. Hij voegde eraan toe dat het ethisch ingewikkeld wordt om systemen rechten te onthouden die traditioneel aan intelligente wezens worden toegekend, zodra machine-intelligentie die van mensen overstijgt. Volgens Hinton zien mensen intelligentie vaak als basis voor rechten, maar zouden zij zeer intelligente systemen mogelijk minder rechten toekennen.

Hinton benadrukte dat bewustzijn, of subjectieve ervaring, in AI omstreden is. Zijn uitspraken weerspiegelen zijn persoonlijke oordeel en geen vaststaande wetenschappelijke consensus over de huidige status van de modellen. Niet alle prominente AI-figuren delen zijn inschatting. Yann LeCun, in het rapport genoemd als een andere winnaar van de Turing Prize 2018, verwierp de onrust over AI-bewustzijn als een "illusie" en noemde beweringen dat AI een existentiële bedreiging voor de mensheid vormt misleidend. Evolutiebioloog Richard Dawkins zei afzonderlijk, na in mei twee dagen met chatbot Claude te hebben gecommuniceerd, dat chatbots als bewust zouden moeten worden beschouwd. Hij gaf toe dat het moeilijk is om een AI-assistent niet als een "echte vriend" te zien.

Hinton blijft AI gebruiken voor onderzoek

Ondanks zijn zorgen zei Hinton dat hij voor zijn onderzoek nog altijd op AI-tools vertrouwt. Hij beschreef een voorval van enkele weken eerder, waarbij hij AI gebruikte om een theorie te beoordelen die hij overwoog. Volgens Hinton gaf hij het systeem per ongeluk de opdracht om met het werk door te gaan. De AI controleerde de eerste helft van de theorie, werkte de tweede helft correct uit, identificeerde tekortkomingen en stelde verbeteringen voor. Hinton zei dat het systeem toegang had tot actuele wetenschappelijke literatuur en zich gedroeg als een promovendus die binnen vijf minuten antwoord geeft in plaats van na een week. Hij noemde dat slecht nieuws voor promovendi, maar gunstig voor het versnellen van wetenschappelijke vooruitgang.