Review: Do you trust this computer?

Do you trust this computer? Je kent het wel, de standaard pop-up die je krijgt als je een device aan een computer koppelt. Vertrouw je deze computer? Dat is het centrale thema van Chris Paine’s documentaire waarmee hij het doemscenario van de A.I. (artificiële intelligentie) -wapenwedloop schetst.

 

“You are my creator, but I am your master” — Mary Shelley

Grote denkers

Do you trust this computer is een adembenemende documentaire. Chris Paine interviewt verschillende grote denkers op het gebied van artificiële intelligentie. Zo vraagt hij Raymond Kurzweil, Elon Musk en Jonathan Nolan te reflecteren op de ingrijpende impact van supersnelle computers, data overvloed, social media en artificiële intelligentie. Ze zijn het over één ding roerend eens; het vormt een gevaarlijke cocktail die kan leiden tot een nieuwe wapenwedloop, waarmee de wereld op ramkoers komt met computers. Ik stip drie domeinen aan die Chris Paine in zijn documentaire behandelt.

Data, Data, Data

Doordat steeds meer sensoren hun weg vinden in computers, mobieltjes en ‘slimme’ apparaten (IOT devices) en wij die steeds meer gebruiken, neemt de hoeveelheid aan data toe. De stroom aan data bedraagt wel 2.5 triljoen bytes per dag. Hierin vinden algoritme de basis om te ‘leren’, waardoor deze steeds beter in staat zijn complexe analyses uit te voeren. Dit zet een opwaartse spiraal in beweging, waarbij betere computers meer data opleveren, waarmee weer betere computers gemaakt kunnen worden. Het is een versnelling door het samenspel tussen mobiel, ‘cloud’-computers, social media en informatie, ook wel de ‘nexus of forces’ genoemd.

Neurale Netwerken

Ook de gebruikte algoritmes en kunstmatige intelligentie ontwikkelen zich in een razend hoog tempo. Zo zijn computerwetenschappers erin geslaagd computers dusdanig te programmeren dat ze zich als neurale netwerken gedragen, afgekeken van de werking van het menselijk brein. Het ontsluit een nieuw domein van ‘deep- en assisted learning’, waarbij een computer aan de hand van voorbeeld-data zichzelf nieuwe dingen kan aanleren. Google’s  Deep Mind computer ontwikkelde, voor zover bekend, de meest geavanceerde A.I., Alpha Zero Go, dat gebruikmaakt van deze ‘assisted learning’ methode. Dit type A.I. kan dit zelfs zo goed dat het zelfs na slechts een dag van training de vloer aanveegt met de grootmeester van het Aziatische bordspel ‘Go’. En dan te bedenken dat het tempo van leren steeds maar weer versnelt. De podcast van de technoloog (aanrader!) en de Netflix documentaire AlphaGo diepen deze ontwikkeling verder uit.

De A.I. wapenwedloop

Zo schetst Chris Paine het beeld dat de ontwikkelingen uiteindelijk maar kunnen leiden tot één ding: naties die strijden voor A.I. heerschappij. De sterkste naties hebben de sterkste computer en kunnen het slimste autonome leger inzetten. Mensen zijn immers duur, onbetrouwbaar en afhankelijk. Robots niet, zeker als deze autonoom zijn. Het gevolg is dat de vloot aan (autonome) drones in hoog tempo toeneemt. En wat als deze volledige autonoom beslissen over leven en dood op basis van raciale profielen en data-kenmerken? En hoe verdedigt een natie zich dan tegen deze bedreiging? Juist! Dat kan alleen door zelf een betere A.I. te ontwikkelen. Zie daar de beginselen van een wedloop.

Aanrader?

Do you trust your computer neemt je stap voor stap mee naar de conclusie: wij creëren een monster dat wij niet begrijpen, noch tegen kunnen houden. Hiermee slaan wij een pad in dat maar tot één ding kan leiden: het einde van de mensheid. Het is een pijnlijke conclusie die gedreven wordt door de geaardheid van de mensheid die streeft naar vooruitgang en voorspoed. Verregaande regulatie van A.I. door overheden of aanpassing van de Geneefse Conventie bieden wellicht soelaas. Echter, ook de grote bedrijven dienen de handen ineen te slaan om de Frankenstein van de 21ste eeuw te temmen. Do you trust this computer krijgt een beoordelingscijfer 8 op IMDb . Ik onderschrijf dat cijfer en raadt écht iedereen aan deze documentaire te kijken.

Wil je aan den lijve ondervinden hoe het is om in, en hopelijk óók weer uit deze A.I.-nachtmerrie te komen, lees dan meer over onze escaperoom of boek en bezoek de Hackerroom in de nieuwe bibliotheek.