Het zit in uw smartphone, het verbergt zich achter nieuwsfeeds, en ook in de winkel wordt er gretig gebruik van gemaakt. Niet alleen in de IT-sector, maar ook in andere bedrijfstakken is het nog altijd een buzzword. Ook u zal ongetwijfeld al gehoord hebben van kunstmatige intelligentie (KI). Wat vroeger zich beperkte tot het herkennen van gezichten op foto’s is nu bezig met zichzelf te leren autorijden en bepaalt binnenkort misschien wel eens welke lening u mag aangaan. Laatst las ik nog een artikel over de mogelijkheid om rechters te vervangen door intelligente computerprogramma’s. “Die zijn minder bevooroordeeld”, klinkt het. Daar heb ik sterk mijn twijfels bij. Verward door wat er nu juist gaande is? Dan is dit hopelijk een handige gids!
KI zit overal
Tegen het cultureel beeld in beperkt KI zich niet tot robots die de wereld proberen te vernietigen. Onder het woord ‘intelligentie’ verstaan de meesten een vermogen om zaken te begrijpen, met als doel een probleem op te lossen. De hoofdreden dat u zo nu en dan van KI hoort is, dat het verbazingwekkend goed is om bepaalde problemen op te lossen, die moeilijk met conventionele technieken kunnen worden opgelost. Het zijn computerprogramma’s, gebaseerd op logica en een aantal wiskundige modellen. Er is dus niets magisch aan, het is gewoon een staaltje sterke wiskunde en het schrijven van vele lijnen programmeercode.
KI bestaat al lang
De eerste experimenten met KI dateren van de jaren 50 van de vorige eeuw. Daarin werd ook het voorstel neergeschreven dat als eerste de naam artificial intelligence (KI) bevatte. Ray Solomonoff, Oliver Selfridge, Trenchard More, Arthur Samuel, Allen Newell en Herbert A. Simon zijn de belangrijkste namen. Zij zouden in de komende decennia de natuurwetten tarten, door bijvoorbeeld de eerste schaakcomputer te maken die niet veel later een menselijk niveau bereikte, een logisch redeneer-systeem dat objecten kon herkennen en ze plaatsen van blokjes in correcte vakjes zoals een kind dat doet, en zelfs een systeem dat een paar wiskundige bewijzen van eerstejaarsstudenten kon nagaan.
KI wordt nu pas financieel rendabel
De reden dat u pas de laatste jaren van KI heeft gehoord heeft dus niets te maken met een of andere ontdekking, maar alles met marketing en de toename van de rekenkracht van computers. In de jaren ’50 hadden ze gewoon de computers niet die wij vandaag de dag hebben, en waren hun opties dus veel beperkter. Verzekeraars maken bijvoorbeeld al geruime tijd gebruik van “Big Data” om te helpen bij het maken van de juiste keuzes, maar het is nu pas dat computerprogramma’s in staat zijn om een enorme rekencapaciteit los te laten op diezelfde enorme hoeveelheden data. Meer nog: de KI-programma’s kunnen beter om met al die informatie dan wij mensen, die steeds meer de weg kwijt raken. Logisch dus, dat bedrijven er zo op inzetten.
KI kent geen empathie of nuance
Een verzekeringsagent kan nog zeggen: “ach, weet je, ik zal een uitzondering maken.”. Een computer kan dat niet. Het raderwerk waaruit computers bestaan zijn kleine elektronische circuits die werken op een hoger voltage (1) en een lager (0). Combineer genoeg van die enen en nullen, en je krijgt software die zich bij wijlen verbazingwekkend menselijk kan gedragen, maar daarom is het nog geen mens. De conclusie die een KI maakt is, gebaseerd op zijn trainingsdata, altijd sluitend. Geef het dezelfde data en het zal altijd tot dezelfde conclusie komen. Dit komt omdat de circuits deterministisch zijn: als je een 1 en een 0 door een NAND-poort gooit, zal het resultaat altijd 1 zijn. Gooi het door een heleboel poorten en het resultaat blijft hetzelfde. Er zijn alternatieve circuits in de maak en er bestaat software die anders werkt, maar vandaag de dag werkt elk commercieel KI-systeem op deze manier.
KI heeft vooroordelen
Een student moest eens een kunstmatige intelligentie maken om wolven van honden te onderscheiden. Het computerprogramma kreeg foto’s voorgeschoteld van de twee diersoorten, en was in staat om in alle gevallen correct te raden welke diersoort het was. Een groot succes. Totdat de professor het programma van naderbij bestudeerde. Hij vond dat het programma zich geheel niet richtte op het gelaat van wolf zelf. In plaats daarvan keek het programma simpelweg of er sneeuw aanwezig was of niet. Nu bleek dat alle foto’s met wolven ook sneeuw hadden, en die met honden niet. Het programma had juist geraden, maar had niets over de wolf zelf geleerd. Wanneer het een paar foto’s kreeg met een hond én met sneeuw erop, gaf het het foute antwoord.
KI kan gevaarlijk zijn
Ik zei eerder dat KI zich niet beperkt tot robots die de aarde vernietigen, maar heb nooit gezegd dat dat onmogelijk is. Er bestaan hele commissies en organisaties die zich dag in dag uit bezighouden met de veiligheid van KI. Het Future of Life Institute is een voorbeeld daarvan. Bekende figuren zoals Elon Musk beweren bovendien met veel show en drama dat KI het einde van de wereld kan betekenen. Ze kunnen juist zijn, maar volgens mij komt het grootste gevaar uit een heel andere hoek: de data waarop de systemen getraind worden. Als nu toevallig 57% van de criminelen zwart is, zal een KI automatisch aannemen dat zwarten meer stelen, en meer zwarten aanhouden dan blanken. Verandert dat binnen een paar jaar, dan zal de bias aanwezig blijven in de KI omdat het getraind was op data van het jaar ervoor. Hetzelfde geldt voor verzekeringen, bankleningen, medische voorspellingen, enzovoort. Zal dat ooit opgelost geraken? Daarvoor zal de industrie-wereld toch nog de handen uit de mouwen moeten steken.