Er komt nog een internationaal symposium aan (23-25 februari 2025). Daar modereert hij een discussie tussen Paul Nemitz, de nummer 1-adviseur over AI voor de EU, en Pavan Duggal, de AI Advisor van het Supreme Court van India. Ook begeleidt hij nog een enkele promovendus. Maar dan is het wel mooi geweest voor de eminence grise van computer science en AI, professor doctor Jaap van den Herik.
In 1991 was internet nog iets voor militairen, een computerbestand ging via de floppydisk op de post, communicatie verliep via fax of brief en de eerste navigatiesystemen kwamen niet verder dan een schermpje met een bewegend autootje. Om een mobiele telefoon mee te nemen had je destijds een rugzak nodig en dat de wereldkampioen schaken het zou afleggen tegen een computer, was zoiets als teleportatie uit Star Trek.
Blik in de toekomst van 33 jaar terug
De NS Reisplanner op een diskette en een geautomatiseerd systeem om de kredietwaardigheid van creditcardhouders in te schatten, zijn de eerste spectaculaire ontwikkelingen op het gebied van kunstmatige intelligentie. De kersverse hoogleraar Informatica aan de Universiteit Maastricht (UM) Jaap van den Herik waagt dan een blik in de toekomst in vakblad Arbo.
Vooral specialisten als urologen en cardiologen en KNO-artsen gaan gebruikmaken van wat toen nog expertsystemen heette, zo voorspelt hij. Met gebruik van die systemen kun je "de kennis veel makkelijker groeperen en veel betere uitspraken doen", laat hij 33 jaar geleden optekenen. Heet hangijzer is de menselijke intuïtie. In de medische wereld en in zijn eigen habitat.
In de arbowereld zag men wel een toepassing voor 'expertsystemen', maar AI in de praktijk was in 1991 nog ver weg”
In de wereld van de arbeidsomstandigheden wordt wel een toepassing gezien voor concrete zaken als lawaaiblootstelling, maar AI in de praktijk is nog ver weg. De menselijke intuïtie valt niet te vangen in kennissystemen, is de dan geldende mening.
Intuïtie wel degelijk te programmeren
Zelfs Max Euwe (wereldkampioen schaken 1935-1937) en zijn promotor Adriaan de Groot zien niets in Van den Heriks voorspelling dat ooit een computer het zal winnen van de wereldkampioen schaken. Een paar jaar later, in 1997, wint computer Deep Blue van de regerend schaakkampioen Kasparov met 3,5 tegen 2,5.
"Ik vroeg in de periode 1980-1982 aan 10 schaakgrootmeesters en 2 ex-wereldkampioenen (Euwe en Botwinnik) of een computer de wereldtop zou verslaan. Van hen antwoordden 11 van niet. Sosonko zei als enige van wel. Zijn tante had een kleedje gelegd over de radio en vermenselijkte het apparaat door het ding 'oompje' te noemen. Hij zag op die manier dat er een verwevenheid kan zijn tussen mens en machine."
"Je kunt intuïtie wel degelijk programmeren. Ook onbewuste keuzes, gestoeld op ervaring en kennis, zijn in AI te vangen. Zeker nu met de opkomst van quantum computing. Ik ben sinds kort voorzitter van het Max Euwe Centrum (MEC) en onze uitdaging is Solving Chess. We denken dat we alle scenario’s mede met hulp van quantumtechnologie kunnen vangen. Deze technologie kan nu al zo veel. Binnenkort zijn wachtwoorden in een mum van tijd ontcijferd. Geen enkel probleem voor deze computers."
Conflicten voorkomen met de computer
"Ik heb mijn hele carrière te maken gehad met oppositie. Vooral tegen mijn bewering dat computers recht zouden gaan spreken. Nu is dat bijna zover. Sterker nog, we kunnen al data gebruiken om conflicten te voorkomen. Ik was op 27 november 2024 promotor van Georgios Stathis die zijn proefschrift Preventing Disputes, Preventive Logic, Law & Technology verdedigde."
Er was oppositie tegen mijn bewering dat computers recht zouden spreken. Nu is het bijna zover”
"Inmiddels krijg ik steeds meer gelijk – ook van mensen uit hogere regionen. De technologie is niet het probleem. Het draagvlak, de autoriteit van de mens en onze sterke hang naar uniciteit vormen het tegenwicht. Vooralsnog terecht. Maar toch zeg ik: maak vooral gebruik van de mogelijkheden van AI."
AI assisteert in civiel, straf- en arbeidsrecht
Dat gebeurt ook. Denk alleen maar aan de Wet Mulder (officieel: Wet administratiefrechtelijke handhaving verkeersvoorschriften) die in 2023 weer eens een update kreeg. "Wie nu een foto uploadt van een door zijn camera geregistreerde auto die een lantaarnpaal ramt, ziet dat politie en justitie die aangifte digitaal afwikkelen. Ook de administratieve afhandeling van snelheidsovertredingen gebeurt geautomatiseerd, zonder menselijke tussenkomst."
"En dat niet alleen. Computers ondersteunen rechters inmiddels bij het vinden van jurisprudentie, het doorzoeken van hele grote (financiële) boekhoudingen, het identificeren van relevante juridische wetgeving en het opsporen van valsheid in geschrifte en computerkraken. AI assisteert dus in civiel, straf- en arbeidsrecht."
Draagvlak is nog wel een probleem
Maar opgepast! In de zomer van 2024 werd een kantonrechter op de vingers getikt omdat diegene een uitspraak over een geschil tussen twee huiseigenaren door ChatGPT had laten schrijven.
"Deze rechter maakte gebruik van een hallucinerende computer. (Dat is AI die op hol slaat en geen gebruikmaakt van data die aan het programma zijn verstrekt. Red.) Bovendien was die kantonrechter niet transparant. Je moet wel melden dat je gebruik hebt gemaakt van AI. De fout ligt dus bij de rechter. De eerste stap voor AI is nu aan de techniek. Dat hallucineren moet eruit."
Draagvlak is nog wel een probleem, erkent Van den Herik. "De maatschappij is nog niet zover dat zij het oordeel van de computer accepteert. Zo’n 90% van de conclusies van informatica accepteren we wel. Maar dat wordt anders als het gaat om de eigen veiligheid en eigen belangen."
"Tegen een rechter willen we ons in zulke gevallen toch graag verdedigen. Dat is logisch. De technologie die je daarbij gebruikt kent geen levensovertuiging. Die kijkt naar het gemiddelde en dat is rafelig. Dus in strafzaken kun je wel gebruikmaken van iets als ChatGPT, maar doe dat transparant. Geef aan dát je het gebruikt hebt en ook wát je gebruikt hebt."
In strafzaken kun je wel gebruikmaken van iets als ChatGPT, maar doe dat transparant”
AI bij ethische kwesties als euthanasie
Deze redenering geldt in nog grotere mate in ethische kwesties als euthanasie. "In mijn jeugd was ik een vaste huisgenoot van de familie Dupuis. Daar leerde ik ook de oudste dochter Heleen kennen. Samen met haar, toen ze al bekend stond als 'waardig levenseinde-professor', had ik het genoegen om Fred Hamburg te begeleiden. Hij deed promotieonderzoek naar een computermodel voor het ondersteunen van euthanasiebeslissingen."
"Voorafgaand aan de promotie in 2005 organiseerden wij een symposium met als sprekers de christelijke voormannen André Rouvoet en Bisschop Eijk. Zij gaven hun input en mening over het ontwikkelde model dat de kwaliteit van leven objectiveerde, in juridische termen vatte, de-medicaliseerde en formaliseerde in een computerprogramma. Je kan dat zien als een nog altijd actueel voorbeeld van transparantie in deze tijd van discussies over vrijwillige levenseinden", aldus Van den Herik.
"AI kan dus veel. Maar toch, ik zou met mijn handen in het haar zitten als de Verenigde Naties me zouden vragen om voor het internationaal strafhof een AI-tool te maken waarin de verschillende rechtssystemen op elkaar zijn afgestemd. Het internationale recht is zo complex en zo niet met elkaar te synchroniseren. Dat duurt misschien wel tot in de volgende eeuw. Heb jij de oplossing voor Gaza? Nou dan. Dus kennissystemen kunnen veel, maar het moet wel binnen bestaande kaders passen."
Gaan computers ooit zelf nadenken?
In de herfst van het vorig jaar sprak Van den Herik in Delhi voor leden van het Supreme Court over How to align different legal systems in ethical issues. De vraag daarbij was of en wanneer computers zelf gaan nadenken.
We zullen over 33 jaar waarschijnlijk niet meer met Van den Herik kunnen terugkijken. Maar een terugblik in 2057 zal hoe dan ook de moeite waard zijn. Want: gaan computers zelf nadenken? En hoe dan? Die stap komt er eerder aan dan we denken. "Daarom is de AI-Act superbelangrijk, een wet die zomer 2024 van kracht werd. Die wet legt grote Tech-bedrijven als Google, Meta en Apple aan banden."
Dat heeft ook zijn effect op bijvoorbeeld uitvoeringsinstanties als het UWV, meent de hoogleraar. Die zitten met de handen in het haar. Want welke informatie mag je googelen of anderszins verkrijgen via de Big Tech companies? Wat is juiste en onjuiste informatie en wat is ronduit criminele info?
Data verzamelen gaat voorbij aan de uniciteit van mensen en dat mag niet. “Dat maakt het werk er niet makkelijker op. Aan de andere kant, als jouw buurvrouw iets over jou zegt tegen het UWV, wordt dat toch ook eerst gecheckt?" (zie kader).
Data kunnen ook discrimineren. Het hangt er maar net vanaf wat je in zo'n kennissysteem stopt”
AI niet als scheidsrechter gebruiken
Dus ook hier geldt: computers als hulpmiddel, niet als scheidsrechter? De conclusie dat de toeslagenaffaire niet had plaatsgevonden als AI de fraude ter hand had genomen, is dus onjuist? "Ja, die is onjuist. Data kunnen ook discrimineren."
"Het hangt er namelijk maar net vanaf wat je in zo'n kennissysteem stopt. We zijn nog lang niet zover dat we de constitutie van ieder individu kunnen wegen. Dat geldt dus ook voor het zoeken naar geschikte banen of het speuren naar fraude. Het gemiddelde bestaat alleen in cijfers."
