“We moeten ons niet laten verblinden door de imposante techniek achter AI”

Met de komst van ChatGPT vindt Artificial Intelligence (AI) plots zijn weg naar de huiskamer van de ‘gewone’ burger. AI is mainstream geworden. En de hele wereld stort zich erop. Wat betekent dit voor de financiële dienstverlening? Gaat het de manier van beleggen veranderen? Welke impact heeft het op klantcontact? En: is onze samenleving ethisch en juridisch eigenlijk wel klaar voor kunstmatige intelligentie? In deze reeks gaan we met experts van binnen en buiten APG op zoek naar de antwoorden.

In deel 4: Ron Jongen, innovator bij de GroeiFabriek van APG.

Hoe zou Roy Amara naar ChatGPT hebben gekeken, als hij nog had geleefd? De gewezen Amerikaanse onderzoeker en wetenschapper werd vooral bekend door de wet die er naar hem is vernoemd en die over het effect van nieuwe technologieën gaat. Volgens Amara heeft de mens de neiging om te óverschatten wat de impact van innovaties is op de korte termijn (tussen nu en twee jaar), maar ónderschatten we de impact op de lange termijn (tussen nu en vijftien jaar).

Niet gek dus, dat Ron Jongen, innovator bij de GroeiFabriek – het innovatielab van APG – direct de bewuste wet aanhaalt als hij het heeft over de razendsnelle ontwikkelingen op het gebied van AI. Want door de vloedgolf aan wereldwijde aandacht voor ChatGPT en alle afgeleiden, lijkt het perspectief soms wat in het gedrang te komen, vindt Jongen. “Kijk, zoals het een enthousiaste innovatieafdeling als de GroeiFabriek betaamt, zijn wij er ook meteen ingesprongen. We zijn er nog steeds druk mee, maar juist bij zo’n fenomeen als dit is het goed om het hele blikveld in kaart te brengen. En je niet direct te laten verblinden door de imponerende techniek.”

Om met Amara te spreken: overschatten we inderdaad de impact van AI op de korte termijn?

“Laten we vooropstellen dat regeneratieve AI (hierbij is de techniek achter kunstmatige intelligentie in staat iets nieuws te creëren op basis van bestaande data, red.) met ChatGPT echt een bizar grote sprong heeft gemaakt. Ja, de techniek ís imposant. En het kan ontzettend veel kansen bieden. Maar er is ook een andere kant: risico’s, kinderziektes door nog nieuwe techniek, onjuist gebruik van AI. Om een goede inschatting te maken van de impact van AI op de wereld, moet je ook die kanten belichten en bestuderen. Dat bedoel ik dus met het blikveld in kaart brengen. Daar zijn we druk mee bezig.”

En wat zijn jullie bevindingen?

“In ieder geval dat de échte oplossingen die AI voor de pensioensector kan bieden – waar we ons bij APG en de GroeiFabriek natuurlijk mee bezighouden – waarschijnlijk nog wel een tijdje op zich laten wachten. We zijn na de introductie van ChatGPT direct begonnen met een zogeheten exploratie: de techniek vanuit verschillende kanten bekijken. En op basis daarvan bepalen: wat kan het? Hoe ontwikkelt het zich? En wat kunnen we nu al en wat over vijf jaar?”

Mede dankzij ChatGPT wordt AI in rap tempo in steeds meer sectoren professioneel ingezet. Vanwaar de verwachting dat het de pensioensector pas over zo’n lange tijd helpt?

“Voor de duidelijkheid: APG gebruíkt nu al vormen van AI. Dus het is niet zo dat we pas over twee jaar eens gaan kijken wat kunstmatige intelligentie voor ons kan betekenen. Maar we worden als pensioenuitvoerder – terecht – zwaar gereguleerd. We beheren in naam van onze pensioenfondsklanten heel veel geld van heel veel deelnemers. Onze dienstverlening naar al die mensen moet dus helemaal kloppen. AI kan ontzettend veel, maar is niet feilloos. Het bevat fouten en is soms nog biased. En ja, de techniek ontwikkelt zich ook verder, maar we moeten er zeker van zijn dat het veilig is om het te gebruiken – en dat is momenteel nog niet zo.”

Je hebt het ook over onjuist gebruik van AI. Is dat ook een risico voor de pensioensector?

“Je verlaagt een drempel. Zo is het nu ontzettend eenvoudig om binnen een paar seconden een juridische klachtenbrief op te laten stellen. Je wilt natuurlijk niet dat mensen dat massaal gaan inzetten om bepaalde wet- en regelgeving te dwarsbomen of trajecten onnodig te vertragen.”

APG gebruikt AI in speech-to-tekst toepassingen, waarbij telefoongesprekken met deelnemers in real-time worden vertaald naar tekst. In hoeverre kunnen nieuwe technieken, zoals ChatGPT, helpen dit verder aan te scherpen?

“Dat zijn we aan het verkennen. We hebben inmiddels verschillende testjes uitgevoerd waarin we die bewuste teksten door ChatGPT hebben laten samenvatten. Met – eerlijk is eerlijk – verbluffende resultaten. Diezelfde techniek kan ons ook helpen met het ‘samenvoegen’ van verschillende modellen. In het verleden maakten we AI-modellen op heel specifieke toepassingen, met heel specifieke output. Best arbeidsintensief om te ontwikkelen. Via self-supervised learning kunnen AI modellen nu veel sneller getraind worden. En de nieuwe modellen worden zo ‘slim’ dat je als gebruiker kunt kiezen welke output het model moet genereren. Denk aan tekst, video, audio. Dat gaat ons zeker helpen. Maar uiteindelijk blijft het essentieel dat de data die AI gebruikt correct is. Garbage in, garbage out geldt wat dat betreft nog steeds. Het verschil zit hem er vooral in dat we nu veel grotere hoeveelheden data tot onze beschikking hebben en deze ook kunnen verwerken. Oneffenheden in je data hebben daardoor een veel kleinere impact op je output.”

Maar het klantcontact helemaal overlaten aan de computer is dus nog niet aan de orde?

“Nee, ik denk dat daar nog heel lang een schakel van echte mensen tussen blijft zitten. Maar het maakt ons werk wel gemakkelijker.”

Mensen met een minder optimistische inborst zouden zeggen: het maakt ons werk misschien wel overbodig.

“Dat is natuurlijk van alle tijden. Toen de stoomtrein kwam, was men bang dat die paard en wagen zou vervangen. De techniek zorgt voor een stukje versnelling en inspiratie. Een aanvulling op ons werk die ervoor kan zorgen dat we ons kunnen focussen op zaken waar je goed in bent. Ik denk dat de focus verschuift. En dat het dus zorgt voor nieuwe functies. Binnen vijf jaar hebben we ongetwijfeld de functie prompt engineer: iemand die gespecialiseerd is in het schrijven van prompts – de commando’s die je AI geeft.”

Waar kijk je zelf het meest naar uit?

“In het nieuwe pensioenstelsel – en in de aanloop ernaartoe – is laagdrempelige, begrijpelijke communicatie naar deelnemers belangrijker dan ooit. Ik zie veel potentie in hoe het content kan vereenvoudigen en verrijken. Dat AI bijvoorbeeld in spraak toelichting kan geven bij complexe grafieken.”

Mooie kansen voor de GroeiFabriek?

“Er worden momenteel vanuit APG veel events en sessies georganiseerd om kennis met elkaar te delen over dit interessante thema. Wie weet wat daar allemaal uitkomt!”