Onderstaande is mijn filmrecensie van de film 'Ex Machina' (http://www.moviemeter.nl/film/98608) die momenteel in de bioscopen draait. Omdat het niet alleen een recensie maar ook vooral een uiteenzetting over kunstmatige intelligentie - het onderwerp van de film - is, heb ik besloten om het niet alleen op moviemeter.nl maar ook op deze blog te plaatsen.
In feite is Ex Machina de echte ‘Imitation Game’ (http://www.moviemeter.nl/film/97636): waar die filmtitel
eerder werd gebruikt om vooral de man die de ‘Imitation Game’ bedacht,
Alan Turing, zelf te duiden als autistische man (in de trant van: de man
die wel de Enigma-code maar niet de code van de menselijke interactie
wist te kraken), is de opzet van de film Ex Machina de Turing-test zelf
of althans een variatie daarop: zet mens en robot (in dit geval de
menselijke tester Caleb en de mooie vrouwrobot Ava) bij elkaar en kijk
of de robot echte intelligentie vertoont. Net als in de mijns inziens
slechte KI (=kunstmatige intelligentie)-film Her (http://www.moviemeter.nl/film/95355) is de robot Ava reeds
volmaakt menselijk in haar gedrag, zodat ze glansrijk voor de test
slaagt zonder dat we veel leren over de technische kant van deze
prestatie (in de film wordt dat begrijpelijkerwijs ook opzettelijk
vermeden: de maker van de robot benadrukt erin dat hij geen college gaat
geven over hoe hij de KI heeft gemaakt, maar dat hij slechts wil dat de
test wordt uitgevoerd, al krijgen we wel wat aanwijzingen). Het
spannende of leuke van de film is nu dat de Imitation Game allengs een
serieus spel wordt, hetgeen ook een logisch gevolg lijkt te zijn van
echte intelligentie of bewustzijn: zoals in de film ter sprake gebracht
kan bv. een schaakcomputer wel van elk mens winnen met schaken, maar
omdat dat louter op rekenkracht in plaats van intelligentie berust is
een schaakcomputer niet bewust van zichzelf of dat het überhaupt kan
schaken, laat staan dat het ernaar streeft te winnen. Maar dat verandert
allemaal zodra er sprake is van echte intelligentie (vooropgesteld dat
de robot ook – automatisch met bewustzijn? – een wil en in het bijzonder
een wil tot winnen en overleven heeft gekregen).
Om te testen of een schaakcomputer werkelijk intelligent is, moet het
ook intelligent reageren in situaties waarvoor het niet is
geprogrammeerd: het moet een bewustzijn vertonen. De Turing-test berust
op een functionalistische filosofie (de opvatting dat er geen entiteit
‘ziel’ naast het lichaam bestaat, zoals Descartes wel meende, maar dat
de term ‘ziel’ slechts verwijst naar gedrag, waarbij de psychologie de
empirische vorm van deze opvatting, het behaviorisme, hanteerde waarin
het slechts om de waarneembare input-output gaat zonder iets te beweren
over de ‘black box’ daartussen): het heeft geen zin te speculeren over
bewustzijn (in feite kunnen we net zo min aantonen dat een ander mens
een bewustzijn heeft als dat we kunnen aantonen dat een computer een
bewustzijn heeft) en een computer is geslaagd voor de intelligentietest
als zijn antwoorden op al onze vragen niet verraden dat het een machine
in plaats van mens is. Maar evengoed zag Descartes al scherp dat een
intelligent wezen iets doet wat een mechanische, algoritmisch handelende
machine niet kan: adequaat reageren op elke situatie zonder daarvoor te
(kunnen) zijn geprogrammeerd, omdat precies daarvoor een bewustzijn
nodig is (en Descartes daarom een ziel als aparte substantie aanwezig
achtte bij de mens). Ook in de Turing-test wordt de KI in feite getest
op Descartes’ criterium: kan de computer op elke hem voorgelegde
situatie adequaat reageren, dus ook op situaties waarvoor hij niet is
geprogrammeerd (dus waarin hij ‘zelf’ iets moet bedenken)? De tester
zoekt dan ook naar vragen waarvan hij vermoedt dat de antwoorden niet al
door de programmeur in de computer zijn gestopt.
De moeilijkheid van KI lijkt me de paradox dat een computer per
definitie is geprogrammeerd, dus hoe kan het dan intelligent gedrag
vertonen waarvan de definitie juist is dat dat gedrag niet
geprogrammeerd is voor specifieke taken? Bv. de vraag of een dier
zelfbewustzijn heeft is eenvoudig te beantwoorden: zet het voor een
spiegel en kijk hoe het reageert. Onder meer mensapen, dolfijnen en
olifanten blijken dan zelfbewustzijn te hebben omdat zij voor de spiegel
typisch gedrag vertonen dat naar zelfherkenning verwijst. Nu is het
evident dat deze dieren niet zijn geprogrammeerd om dergelijk vreemd
gedrag voor de spiegel te vertonen (dit typische gedrag heeft ook geen
evolutionair voordeel), zodat het wel om echte zelfherkenning moet gaan.
Maar als een robot dit typische gedrag voor de spiegel vertoont, moet
men zeker niet uitsluiten dat de programmeur dit gedrag heeft
geprogrammeerd zodat het gedrag slechts imitatie van zelfherkenning in
plaats van echte zelfherkenning is en de programmeur ons in feite voor
het lapje houdt (zoals ook in de film de maker van de robot wel met een
goochelaar wordt vergeleken). Paradoxalerwijs is echter precies dat
vermogen tot bedrog en misleiding – dus zelfbewuste imitatie – een
wezenlijk kenmerk van intelligentie: biologen geloven dat het geen
toeval is dat we intelligent gedrag eigenlijk alleen bij sociale dieren
aantreffen dus bij dieren die in een hechte groep leven. Intelligentie
is waarschijnlijk onder evolutionaire druk ontwikkeld in de vorm van
sociale intelligentie die empathie vereist: zoals ik al enigszins
betoogde in Geband van Joop: Het altruïsme van de terrorist - gebandvanjoop.blogspot.nl
is empathie niet alleen een basis voor altruïstisch gedrag (dat bv.
aanspoort een soortgenoot in nood te helpen), maar ook een basis voor
het kunnen leren door de ander na te doen en voor a-sociaal gedrag om de
ander voor eigen voordeel te kunnen manipuleren. Immers, als je je kunt
inleven in de ander, dan kun je zijn gedrag voorspellen en vervolgens
dat gedrag manipuleren (en in feite berust dat dan weer op de aanname
dat het gedrag van de ander 'geprogrammeerd' is om voorspelbaar te
kunnen zijn, zelfs als die ander intelligent is). Zo zien we al bij een
bepaalde apensoort een typisch voorbeeld hiervan: als een aap iets
lekkers op de grond vindt, dan geeft hij aan de groep het
waarschuwingssignaal van een luipaard waardoor de rest de bomen in
schiet en hijzelf het lekkers kan opeten zonder met anderen te hoeven
delen. Het sterke van de film Ex Machina is nu dat het dit thema van
manipulatie, dat weer berust op imitatie, dat zo wezenlijk is voor
intelligentie goed exploiteert: in de driehoeksverhouding Nathan (de
maker van de robot Ava), Caleb (de tester) en Ava (de robot) wordt
intelligentie en daarmee wie zal overleven een zaak van wie het beste de
anderen kan misleiden en manipuleren.
Intelligentie is bovendien het wezen van onze vrijheid: intelligentie
maakt een eigen keuze mogelijk in plaats van te doen waartoe we
‘geprogrammeerd’ zijn. De film lijkt zelfs dit aspect te onderzoeken:
zijn wijzelf vrij of toch ook geprogrammeerd? In dit verband is het
misschien veelzeggend dat de software van de KI van Ava een zoekmachine zou
zijn, hetgeen naar Google lijkt te verwijzen die precies onze vrijheid
ontkent door op basis van ons internetgedrag ons gedrag te voorspellen.
In die zin bestaat manipulatie en bedrog uit de vernedering van de ander
door diens vrijheid en dus intelligentie te ontkennen (waardoor de bedrogene zich dom voelt en zich schaamt) en hem zo louter als middel
in plaats van als ook een doel-op-zichzelf, dat een redelijk wezen is, te
behandelen (zoals Kant leerde). En als toefje op de taart worden in die
driehoeksverhouding ook nog de thema’s van vriendschap, liefde, erotiek,
seksisme, evolutie, ethiek, hoogmoed en het Frankenstein-complex
behandeld, waarbij het een belangrijke rol speelt dat Ava, precies omdat
zij intelligent is, naar vrijheid streeft.
Ex Machina is aldus een leuke, intelligente film over KI en haar
paradoxen die moeilijke maar – gelet op de opkomst van computers en
robotten in onze samenleving – belangwekkende vragen geslaagd weet te
koppelen aan gewoon een spannend verhaal.
Geen opmerkingen:
Een reactie posten