Waarom artificiële intelligentie dringend nood heeft aan een ethisch kader

Stel u voor: u bent een zeer gedreven gediplomeerde vrouw en wil solliciteren bij Amazon. De ene sollicitatiebrief na de andere blijft onbeantwoord. U raapt uw moed bijeen en belt naar Amazon. Daar krijgt u te horen dat uw sollicitatiebrief, met schitterende CV, niet weerhouden is. Na wat zoekwerk beseft de persoon aan de andere kant van de lijn dat niet alleen uw cv, maar ook die van alle andere vrouwen in de prullenmand zijn beland. Oorzaak: het algoritme, dat werd ontwikkeld om de CV’s te screenen, heeft alleen mannen geselecteerd. 

Dit verhaal is geen science fiction, maar is harde realiteit. Amazon ontdekte dat het algoritme vooral CV’s van mannen screende. Het had zichzelf getraind om vrouwen uit te filteren omdat de date bestond uit CV's van mannen. Amazon moest vrij snel toegeven dat er iets mis was met de sollicitatiebot en schrapte het systeem. 

Ook Microsoft moest het AI-experiment, Tay, terug in de koelkast steken. Tay was een Twitter-chatbot die op een zo natuurlijk mogelijke manier moest interageren met de mensen. Tay ging in minder dan 24 uur van “Mensen zijn geweldig” naar “Hitler had gelijk”. Dit kwam vooral omdat de AI gevoed werd met verkeerde data, lees: scheldende mensen.

Naast stevige servers, die gebruikt worden voor de nodige rekenkracht, heeft AI een andere belangrijke ‘grondstof’ nodig: data. Hoe meer data de AI heeft, hoe beter. Dit is trouwens één van de redenen waarom China op vlak van AI veel verder staat dan Europa en de Verenigde Staten. Het communistische regime beschikt over een bijna onuitputtelijke bron aan gegevens van zijn inwoners. 

De wereldwijde wedloop op vlak van AI wordt vooruitgestuurd door technologiebedrijven, universiteiten en overheden. De universiteiten en bedrijven ontwikkelen de technologie van de toekomst, en de overheden financieren en proberen een zo goed mogelijk wettelijk kader te scheppen. Vooral van dat laatste is er nog geen sprake. De (vooral Amerikaanse en Chinese) technologiebedrijven willen snel gaan met zo weinig mogelijk regulering. En de (vooral Westerse) overheden zijn bekommerd om de privacy van de burgers. 

Maar hoe rijm je die snelle ontwikkeling aan de ene kant, met de bescherming van de privacy aan de andere kant?

Een land dat niet echt wakker ligt van de privacy van haar burgers is China. De Chinese overheid censureert buitenlandse bedrijven en is overal aanwezig. Dit zorgde ervoor dat er voor elke grote (Amerikaanse) technologiebedrijf een Chinese variant bestaat. WeChat is de Chinese WhatsApp, Weibo is de Chinese Twitter, Baidu neemt de plaats in van Google en AliBaba is de Chinese tegenhanger van Amazon. 

Deze bedrijven zijn de afgelopen jaren sterk gegroeid en behoren nu tot de wereldtop. Diezelfde bedrijven gebruiken in China alle data die voorhanden is om hun producten beter te maken. Daardoor krijgen we evoluties die voor ons futuristisch lijken. Neem nu Xiaoice, de virtuele vriendin die je kan bellen als het minder gaat. Zij is nu de grootste celebrity op sociale media. En dat voor een virtuele figuur.

China heeft ook een classificatiesysteem ingevoerd waarbij mensen met slimme camera’s gescreend worden. Iedereen krijgt een bepaalde hoeveelheid punten. Rij je door het rode licht dan worden er punten afgetrokken. Als je teveel punten verliest dan mag je bijvoorbeeld gedurende een periode het openbaar vervoer niet meer gebruiken. Het is een boetesysteem, en de Chinezen, die uit een communistisch regime komen, lijken er zich bij neer te leggen. 

Voeg daarbij een zeer ambitieuze overheid die miljarden in de onderzoek van AI pompt, en dan krijgen we een akelig toekomstbeeld. Dergelijke systemen zijn ondenkbaar bij ons. 

Er is dringend nood aan een regeling op mondiaal niveau, waarom niet onder de paraplu van de Verenigde Naties? Regionaal zijn er al interessante stappen genomen. Neem nu de Europese GDPR. De GDPR – de Europese regeling die de privacy van de burgers garandeert - werd in de VS en China met hoongelach ontvangen omdat het de ontwikkeling afremt. 

Ergens is dat ook zo. Want hier moeten start-ups zich nog teveel bezig houden met de juridische kant van het verhaal. Terwijl de Chinese en Amerikaanse concurrenten meteen uit de startblokken kunnen schieten zonder rekening te houden met de privacy. 

Aan de andere kant zitten de technologiebedrijven niet stil. Als we ze mogen geloven, zijn ze echt bezig met de ethische kant van AI. Zij willen geen AI ontwikkelen die in verkeerde handen komt. Zo heeft Microsoft een aantal opdrachten geweigerd die niet stroken met de filosofie van het bedrijf. Google werd dan weer intern onder druk gezet om een samenwerking met het Amerikaanse leger te schrappen.

Daarnaast bestaan er nobele initiatieven zoals "The Partnership on AI" (PAI). De PAI werd opgericht door technologiereuzen Apple, Google, Microsoft, Facebook en Amazon en wil dat AI veilig ontwikkeld wordt en sociale doeleinden dient. Naast technologiebedrijven zitten ook de Amerikaanse overheid en de VN in PAI. Vorige maand kondigde de PAI de komst van de Chinese zoekrobot Baidu aan. 

Of het alleen maar bij woorden blijft moet nog blijken. Deze week kondigde Google aan dat het een data-analyse platform van een gezondheidstoepassing van Deepmind had overgenomen. Deepmind is een AI-bedrijf dat in 2014 werd overgenomen door Google. Deepmind, die op heel veel symatpthie van de AI-community kon rekenen, heeft altijd beloofd dat er een duidelijke scheiding is tussen hen en moederbedrijf Google.  

Toch groeit het besef dat GDPR een basis kan leggen voor gelijkaardige wetgeving op andere plekken in de wereld. Alleen ben ik er niet zeker van of de Chinese overheid de privacy van haar burgers wil loslaten.