Grootste voordeel van AI zit in samenwerking mens en machine

Over Sang Wook Yi

Sang Wook Yi is hoogleraar filosofie aan de Hanyang Universiteit in Zuid-Korea en directeur van het HY Center for Ethics, Law and Policy of Science and Technology in Hanyang. Hij was voorzitter en commissielid van de Koreanse evenknie van het Rathenau Instituut: het Korean Institute of Science & Technology Evaluation and Planning (KISTEP). In die hoedanigheid speelde hij een belangrijke rol bij het adviseren van het Koreaanse ministerie van Wetenschap en Technologie. Yi is lid van de World Commission on the Ethics of Scientific Knowledge and Technology (COMEST) van UNESCO en een van de 24 experts in UNESCO's Ad Hoc Expert Group Ethics of AI.

Over Zuid-Korea
Zuid-Korea speelt een steeds belangrijkere rol als het gaat om ontwikkelingen en investeringen in AI. De AI-strategie van de Koreaanse overheid is erop gericht om tegen 2022 in de top 4 van mondiale AI-spelers te staan. Om dat te bereiken investeert het land meer dan 2 miljard dollar in AI-onderzoek en AI-training. Een opvallend groot aantal startups in Zuid-Korea biedt AI-technologie aan. En natuurlijk is er Samsung, een voorloper op het gebied van software en hardware voor AI. Naast de economische mogelijkheden die AI te bieden heeft, benadrukt de Koreaanse overheid de kansen die AI biedt om een grote bijdrage te leveren aan het oplossen van maatschappelijke problemen zoals de zorg voor ouderen in deze tijd van vergrijzing, het voorkomen van criminaliteit en het versterken van de openbare veiligheid.

Hoe verloopt het publieke debat over AI in Zuid-Korea?
'In Korea is burgerparticipatie van groot belang. We hebben een geschiedenis van wantrouwen vanuit burgers, want onze overheid koos jarenlang voor een sterke top-downbenadering om met maatschappelijke vraagstukken om te gaan. De overheid baseerde haar houding op het zogeheten information deficit model. Koreaanse ambtenaren dachten dat de mensen hen gewoon zouden geloven als ze zeiden: “Vertrouw ons, wij zijn de experts”. Maar in de jaren tachtig en negentig van de vorige eeuw waren er grote democratische opstanden. Die publieke demonstraties resulteerden in het verdwijnen van de autoritaire regering. Sindsdien hebben we een zeer sterke traditie van publieke betrokkenheid ontwikkeld.'

Hoe begon het nadenken over de sociale impact van technologiebeleid in Zuid-Korea?
'In 2003 heeft de Koreaanse regering, vanwege het succes van het nanotechnologie-initiatief van 2002, een instituut opgericht voor onderzoek en debat over de impact van wetenschap, innovatie en technologie op de samenleving. Dat instituut is het KISTEP, het Korea Institute of Science & Technology Evaluation and Planning (red. min of meer vergelijkbaar met het Rathenau Instituut). Ook is er een specifieke wet ingevoerd die ervoor zorgde dat het verplicht werd om de impact van nieuwe technologieën te beoordelen.'

En hoe ging het verder?
'In 2015 is besloten om publieksparticipatie steeds verder door te voeren. Dat kwam mede door een discussie tussen experts, ambtenaren en KISTEP-leden over hoe we het grote publiek het beste kunnen informeren over de impact van technologie. Op die manier worden verschillende meningen gehoord en gedeeld en worden burgers ondersteund om ook deel te kunnen nemen aan publieke raadplegingen voor het wetenschaps- en technologiebeleid. Publieksparticipatie is heel belangrijk in Zuid-Korea. De geschiedenis leert ons namelijk dat als je keuzes probeert op te dringen aan de samenleving, dat niet zonder maatschappelijke gevolgen blijft. Daar hebben we hier verschillende gevallen van gezien.'

Kunt u een voorbeeld geven?
'Een sprekend voorbeeld, hoewel niet direct gerelateerd aan de impact van de technologie, waren de US Beef Protests in 2008. Dit was een reeks van vreedzame demonstraties in het centrum van Seoel. Zo'n miljoen mensen kwam bijeen met honderdduizenden kaarslichtjes. Ze protesteerden omdat de regering de invoer van Amerikaans rundvlees weer wilde toestaan nadat die sinds 2003 was stilgelegd vanwege de gekkekoeienziekte. Critici zagen de maatregel als een poging van de Koreaanse regering om de Amerikaanse regering te plezieren. Uiteindelijk werd de invoer wel toegestaan, maar onder restricties. Hoewel onze regering niet altijd blij is met het voeren van een publiek debat, weet ze dat het onvermijdelijk is en dat het een averechtse uitwerking kan hebben als zij het publiek niet betrekken.'

Zuid-Korea wil maatschappelijke vraagstukken oplossen met hulp van AI. Wat vindt u daarvan?
'Natuurlijk is AI veelbelovend als het gaat om het verkrijgen van inzichten en het potentieel om bepaalde maatschappelijke problemen beter op te lossen. Toch moet de Koreaanse overheid voorzichtig blijven met wat er echt mogelijk is met AI. Ingenieurs hebben de neiging te denken dat de beste oplossing wordt gevonden wanneer je data optimaliseert. Maar mensen moeten beslissen wélke variabele je wilt optimaliseren als je AI het probleem laten oplossen. Dat is lastig. Zeker als je denkt aan complexe problemen met een sociale- en gedragscomponent. In dat soort gevallen gaat het niet alleen om een engineering problem, maar ook om politieke en maatschappelijke keuzes.'

Kunt u een voorbeeld geven van zo'n technocentrische aanpak?
'Onlangs startte de Koreaanse overheid een onderzoeksproject met als doel AI te gebruiken om jeugdcriminaliteit en daaraan gekoppelde sociale problematiek, beter te reguleren. Ze wilden laten uitzoeken hoe ze het beste kunnen omgaan met tieners die zich slecht gedragen. Onderzoekers verzamelden allerlei gegevens over de tieners: van hun gedragsgewoonten, zoals eten, slapen en bewegen, tot aan data over waar ze rondhangen. Al deze gegevens werden samengebracht in een AI-systeem en vervolgens moest er AI-antwoord komen op de vraag: Wat kunnen we doen om criminaliteit onder Koreaanse tieners te verminderen?'

Waaruit bleek het technische denkpatroon van de ingenieurs?
'Een van de variabelen die de ingenieurs probeerden te optimaliseren en te minimaliseren, was het aantal uren dat Koreaanse tieners na middernacht wakker zijn. Daarbij beweerden de ingenieurs dat Koreaanse tieners die later dan middernacht opblijven vatbaarder zijn voor criminaliteit, vaker de wet overtreden en slechte gewoontes ontwikkelen. Dat is een hypothese. Het is niet iets wat je zomaar kunt aannemen zonder ondersteunend bewijs. Je hebt echt goed sociaal onderzoek nodig om dit te verifiëren. Maar omdat dit project werd uitgevoerd door ingenieurs, vertrouwden zij slechts op boerenverstand en probeerden ze een gedagsprobleem op te lossen door variabelen te optimaliseren in AI.'

En, is de AI-oplossing doorgevoerd?
'Nee, gelukkig niet. Dit was een onderzoek en de resultaten zijn niet toegepast.'

Waar maakt u zich zorgen over?
'Er zijn gebieden waar AI een grote hulp kan zijn. Neem bijvoorbeeld zelfrijdende auto's. AI kan veel sneller en objectiever reageren in het verkeer dan mensen. Maar we moeten ons er wel bewust van zijn dat wanneer AI voor een bepaald onderwerp heel goed werkt, het niet automatisch betekent dat het ook op een ander gebied goed zal werken. Mijn zorg is dat als AI steeds beter wordt in het optimaliseren van dingen en het vinden van oplossingen voor complexe problemen, mensen er als vanzelfsprekend vanuit gaan dat AI élk moeilijk probleem kan oplossen. Ik vind het gebruik van AI om maatschappelijke conflicten te verminderen überhaupt een eng en nogal vreemd concept. En ik hoop maar dat mijn zorgen over mensen die ervan uitgaan dat we AI kunnen gebruiken om élk probleem op te lossen door te kijken naar optimalisatie, ongegrond blijken.'

Is dat technocentrische typisch voor Zuid-Korea?
'Nou, het lijkt erop dat de sterke focus om alles te zien als optimalisatieprobleem, enigszins kenmerkend is voor Zuid-Korea. Kijk, ik ben betrokken bij tal van internationale discussies over ethiek en beleid, en zoals je mag verwachten zijn er verschillende terugkerende discussies over zaken als privacy, uitlegbaarheid, transparantie en het leaving-no-one-behind-principe. Wat mij opviel in de UNESCO-discussies met 23 andere deskundigen uit de hele wereld, is dat de zorgen over het technische denkpatroon van ingenieurs in andere landen niet als prioriteit wordt gezien. Natuurlijk, de andere landen erkennen het en zijn het eens over de spanning die dit met zich meebrengt als het gaat over het inzetten van AI voor sociale kwesties. Maar mijn collega-experts lijken niet echt een eigen nationaal voorbeeld te hebben. '

Iets anders: is Zuid-Korea een ontwikkeld land op AI-gebied of niet?
'Dat is een lastige vraag. Aan de ene kant is Zuid-Korea economisch gezien een ontwikkeld land dat behoorlijk sterk is op het gebied van IT-technologie. Denk maar aan onze computerchipsindustrie. Tegelijkertijd behoort het land niet tot de beste AI-technologielanden. Korea bevindt zich op AI-gebied ergens tussen de ontwikkelde en onderontwikkelde landen.'

Oké, eerst het onderontwikkelde gedeelte?
'Zuid-Korea sympathiseert bijvoorbeeld met Afrikaanse landen op het gebied van datasoevereiniteit. Er is in ons land grote maatschappelijke controverse over hoe Amerikaanse techgiganten zoals Facebook en Google gebruikersgegevens verzamelen. Met name omdat zij een deel van de voordelen die van de vrije toegang tot data niet terugbetalen.'

En dan het ontwikkelde deel?
'Dat zijn de Koreaanse AI-startups die hun bedrijfsactiviteiten uitbreiden naar andere delen van de wereld, naar Zuidoost-Azië, Europa en Zuid-Amerika. Daar is vraag naar onze films, drama's en tekenfilms. Als de UNESCO mondiale richtlijnen gaat aanbevelen dan bevinden deze Zuid-Koreaanse bedrijven zich in dezelfde positie als Facebook of Google.'

Een lastige spagaat?
'Ja, ik denk dat Zuid-Korea, net als elk ander technologieland op middelbaar niveau, moeite heeft met de Amerikaanse techgiganten en hun manier van zakendoen. Maar tegelijkertijd wil ons land er ook deel van uitmaken, dus als er te veel regels zijn, hindert dat hun activiteiten.'

Zien we dat ook weerspiegeld in het nationale beleid van Zuid-Korea?
'Onze regering probeert de juiste balans te vinden tussen het stimuleren van innovatie én goede regelgeving voor AI. Interessant is dat tijdens de consultatie over ethiek en AI van UNESCO in Zuidoost-Azië duidelijk werd dat dit precies zo geldt voor landen als Bangladesh, Singapore, de Filippijnen en Japan. Al deze landen willen een stukje van de AI-taart. Allemaal willen ze kansen om hun eigen AI-technologieën te ontwikkelen. Een al te streng beleid dat innovatie belemmert, is dus niet wenselijk. Tegelijkertijd hebben al deze landen, waaronder ook Zuid-Korea, baat bij (inter)nationale regelgeving die hen beschermt tegen het verzamelen of gebruiken van gegevens op een onethische manier.'

Wat moet volgens u worden benadrukt in de internationale discussies over AI?
'Een specifiek punt dat ik aan de orde wil stellen – en waarvan ik weet dat het verkeerd geïnterpreteerd kan worden – is dat ik denk dat het heel belangrijk is dat we ons niet te veel richten op de bias, op de vooroordelen die in AI-systemen kunnen zitten. Veel discussies gaan over dit aspect. Ik wil dit probleem niet ontkennen, maar ik ben ervan overtuigd dat we AI juíst kunnen gebruiken om meer over onszelf en onze eigen vooroordelen te leren.'

Hoe dan?
'We weten uit tal van onderzoeken op het gebied van de sociale psychologie en de neuroweten­schappen dat de mens ongelofelijk bevooroordeeld is zonder dat hij dat opzettelijk is. Laat ik Malcolm Gladwell als voorbeeld nemen. Hij is een fervent pleitbezorger van wetgeving tegen racisme in Amerika, en zelf verre van racistisch. Hij deed mee aan een experiment waarbij in realtime onder andere de huidreactie op zwarten en blanken werden gemeten. Zijn huidreactie bleek sterker bij zwarte mensen. Dit zijn het soort dingen waar we niet echt aan kunnen ontsnappen, omdat we zijn opgevoed in en gecultiveerd door een maatschappij die op sommige gebieden een zekere vooringenomenheid kan hebben.'

En tot slot?
'Een ander belangrijk onderwerp dat ik meer op de voorgrond wil zetten in de discussies over AI, is dat het veel meer moet gaan over hoe mensen én AI kunnen samenwerken. De grootste voordelen van AI zitten in de samenwerking mens en machine. Laten we dat niet vergeten.'