Filosoof Emanuel Rutten heeft op Twitter en later op zijn site een argument uitgewerkt dat volgens hem laat zien dat het brein bewustzijn niet kan verklaren. Hij meent dat het brein een “materieel-functionele structuur” is, wat neerkomt op een “in materie gerealiseerde tekenverwerking door gekoppelde functies”. Hij noemt dit een in materie gerealiseerd functie-tekensysteem (ik zal dat hier afkorten tot IMG FTS). Het is dus een algoritme: stap voor stap wordt het ene teken omgezet in het andere. Dit kan volgens Rutten prima plaatsvinden zonder bewustzijn, dus kan het brein bewustzijn niet verklaren. Hij formuleert dit argument aan het einde van zijn stuk in een aantal stappen. Hij maakt hierbij echter een aantal aannames in die op z’n best discutabel zijn. Ik bespreek hier de belangrijkste twee. 

De eerste is het brein zien als een “in materie gerealiseerde tekenverwerking door gekoppelde functies” (een IMG FTS dus). Berekeningen uitvoeren door algoritmes is dan alles wat het brein doet. Hiermee zouden we de werking van het brein dus volledig kunnen begrijpen. We kunnen ook de software (algoritmes) netjes van de hardware (computer die de berekeningen uitvoert) onderscheiden. 

Dit is een controversiële stelling in de neurowetenschappen en filosofie van de geest. Ze houdt er bijvoorbeeld geen rekening mee dat het brein biologisch is. Dit betekent onder andere dat er geen duidelijk onderscheid is tussen hardware en software, er gigantisch veel interactie is met de fysiologisch omgeving (nodig voor homeostase), het brein zich constant aanpast in vorm en functie en de werking analoog in plaats van digitaal is. Het is totaal niet duidelijk hoe een daadwerkelijk brein met deze eigenschappen, die zeer relevant zijn voor de werking, kan worden gezien als “tekenverwerking door gekoppelde functies”, zoals Rutten meent. Hij doet ook geen enkele poging om dit plausibel te maken, ondanks dat hij weet (of zou moeten weten als filosoof) dat deze stelling controversieel is en dus niet zomaar aangenomen kan worden. 

Er zijn veel gerenommeerde neurowetenschappers en biologen die menen dat de werking van levende systemen helemaal niet als zo’n algoritme gezien kan worden, en zeker het brein niet: Antonio Damasio, Miguel Nicolelis, Anil Seth en Johannes Jaeger. Biologie is veel te rommelig (onvoorspelbare verstoringen) om netjes tekens te verwerken in een algoritme. Om die reden functioneren computers niet meer bij de kleinste verstoringen, terwijl leven zich juist kenmerkt door goed om te kunnen gaan met verstoringen. Dit cruciale verschil tussen biologisch systemen en computers had Rutten kunnen weten als hij zich wat meer verdiept had in de relevante literatuur uit de biologie en neurowetenschappen, in plaats van vanuit zijn filosofische leunstoel te beredeneren hoe het brein zou moeten werken volgens een filosofische aanname. 

Hij meent echter dat kennis van het brein niet nodig is omdat “het formalisme van een neuraal netwerk logisch equivalent is aan dat van een functie-tekensysteem” (premisse uit stap 1). De vraag is echter of het biologische neurale netwerk dat het brein is, ook zo opgevat kan worden. Ik meen, in navolging van heel veel specialisten en op grond van het bovenstaande, dat we dit niet kunnen doen, in ieder geval niet zonder dat uitbereid te beargumenteren, en dat doet Rutten niet.

Rutten reduceert een zeer complex en dynamisch biologisch systeem tot een computer die stap voor stap tekens verwerkt. Dit is dus niet biologisch plausibel, zoals ik hierboven uitgelegd heb. De constante interactie met lichaam en omgeving (embodied, embedded cognition) die nodig is voor de normale werking van het brein, lijkt moeilijk – zo niet onmogelijk – te vatten in het systeem waartoe Rutten het brein wil reduceren. Als we dit echter inzien, vervalt een belangrijke premisse in zijn argument en komt het argument niet van de grond. Een volledig werkend brein zonder bewustzijn is dan net zo onmogelijk als een orkaan zonder daadwerkelijke wind.

Dit neemt niet weg dat bepaalde aspecten van het brein gesimuleerd kunnen worden met computers. Hiervoor worden kunstmatige neurale netwerken gebruikt. Dit zijn simulaties van bepaalde eigenschappen van biologische neurale netwerken, waardoor de werking ook deels gesimuleerd kan worden. Een kunstmatig neuraal netwerk verschilt echter van een biologisch neuraal netwerk op belangrijke punten. Ook al zijn ze beide in materie gerealiseerd (computer en zenuwstelsel respectievelijk), ze kunnen zeker niet volledig aan elkaar gelijkgesteld worden in hun functie, zoals Rutten wel lijkt te denken. Wat voor het ene in materie gerealiseerde neurale netwerk geldt, hoeft dus niet te gelden voor het andere. 

Kunstmatige neurale netwerken blijken bijvoorbeeld erg goed in patroonherkenning en kunnen leren, net als ons brein. Op een vergelijkbare manier kunnen ook bepaalde aspecten van orkanen gesimuleerd worden met computers. Zo’n simulatie van de werking moet echter niet verward worden met de werking zelf. Hoe goed je een orkaan ook simuleert in een computer, het gaat niet echt stormen! We mogen dan net zo goed ook niet verwachten dat een simulatie van de werking van het brein zorgt voor bewustzijn. Voor zowel een orkaan als waarschijnlijk voor bewustzijn zijn alle daadwerkelijke causale interacties nodig, niet slechts de simulatie daarvan door een algoritme. 

Zelfs als we de biologische plausibiliteit negeren, dan nog lijkt het simpele formalisme van Rutten moeilijk te rijmen met een goede simulatie van het brein door kunstmatige neurale netwerken. Deze kunstmatige variant van het brein zou dan vermoedelijke minstens de volgende eigenschappen moeten hebben: leermogelijkheid, parallelle en gedistribueerde informatieverwerking op gigantische schaal, recurrente netwerken, modelvorming van de wereld, zelfmodel, predictive processing en directe perceptie-actiekoppeling. Aan kunstmatige neuronale netwerken die dit kunnen wordt hard gewerkt, maar we zijn nog ver van een systeem met deze eigenschappen op de schaal van het brein. Rutten stelt dat zijn formalisme ook zou gelden voor dit soort zeer grote en complexe kunstmatige neurale netwerken, maar onderbouwt dit verder niet. Waarom zouden we hem hier zomaar geloven?

Zou zo’n kunstmatig systeem, dat dus veel – maar niet alle – kenmerken van een brein heeft, bewust zijn? Of zou het net zo goed kunnen functioneren zonder bewustzijn? Ik heb geen idee. Het is een vraag waar in de toekomst, als dat soort systemen werkelijk gerealiseerd zijn, mogelijk een antwoord op komt. Maar hoe kunnen we het zelfs dan weten? Hoe kunnen wij als biologische wezens weten hoe het is om zo’n kunstmatig systeem te zijn, om de werkelijkheid te ervaren als zo’n systeem? Dit probleem speelt nu ook al bij dieren. Hier hebben we nog het voordeel dat we, afhankelijk van de diersoort, een (groot) deel van de biologie met ze delen, maar bij kunstmatige systemen is die overeenkomst er niet. Intuïtief denk ik dat zo’n systeem niet hetzelfde bewustzijn als wij zal hebben omdat daarvoor onze biologische eigenschappen te belangrijk zijn, zoals ik hierboven heb aangegeven. Of er een andere vorm van bewustzijn mogelijk is in zo’n systeem, weten we nu niet, en misschien wel nooit. 

In een nieuwe Twitterdiscussie gaf Rutten echter aan dat een IMG FTS ook letterlijk molecule-voor-molecule en interactie-voor-interactie gelijk kan zijn aan het ‘echte ding’. Het is dan geen reductie tot een model of simulatie meer omdat alle causale interacties daadwerkelijk onderdeel van het systeem zijn en plaatsvinden. Het IMG FTS is dus het systeem zelf. We kunnen in dat geval dus ook een daadwerkelijke orkaan en het spijsverteringsstelsel zien als een IMG FTS. In die gevallen levert een IMG FTS dus respectievelijk storm en ontlasting op. We moeten dan aannemen dat de overweldigende complexiteit van een werkend brein (zie hierboven) met een simpel formalisme beschreven kan worden, in Ruttens eigen woorden:

“Niets wijst er […] op dat het door een functie afbeelden van een origineel op een beeld zelfs maar *kan* resulteren in gevoelens of andere bewuste ervaringen. […] Om toch […] tot een verklaring voor bewustzijn te komen, zal dus eerst op z'n minst aannemelijk gemaakt moeten worden dat het afbeelden van originelen op beelden überhaupt tot bewustzijn *kan* leiden. Vooralsnog wijst helemaal niets daarop. Laat staan dat iets erop wijst dat een dergelijk afbeeldingsproces […] ook tot bewustzijn *moet* leiden, wat [dan] *ook* aannemelijk gemaakt moet worden […].”

Zo geformuleerd klinkt het inderdaad absurd, maar dat is alleen zo omdat de werking van een heel complex en concreet systeem (brein) beschreven wordt met een heel simpel en abstract formalisme (FTS). De werking van een orkaan op deze manier formuleren klinkt net zo absurd, en om dezelfde reden. We krijgen dan de volgende parodie, waarbij ‘bewustzijn’, ‘gevoelens’ en ‘bewuste ervaring’ vervangen zijn door ‘orkaan’, ‘storm’ en ‘regen’:

“Niets wijst er […] op dat het door een functie afbeelden van een origineel op een beeld zelfs maar *kan* resulteren in storm of regen. […] Om toch […] tot een verklaring voor orkanen te komen, zal dus eerst op z'n minst aannemelijk gemaakt moeten worden dat het afbeelden van originelen op beelden überhaupt tot orkanen *kan* leiden. Vooralsnog wijst helemaal niets daarop. Laat staan dat iets erop wijst dat een dergelijk afbeeldingsproces […] ook tot orkanen *moet* leiden, wat [dan] *ook* aannemelijk gemaakt moet worden […].”

Deze parodie lijkt mij net zo absurd als Ruttens eigen versie over bewustzijn. De daadwerkelijke werking van het brein (of orkaan) in al zijn complexiteit op deze manier kunnen omschrijven lijkt mij erg onwaarschijnlijk (en mij niet alleen, zie de eerder aangehaalde wetenschappers). Rutten doet ook geen poging dit aannemelijk te maken, hij neemt dit gewoon aan. Dit is zijn tweede problematische aanname. Deze aanname lijkt me erg ongeloofwaardig als we de daadwerkelijke complexiteit van de onderhavige systemen in ogenschouw nemen. 

Maar stel dat we dit toch for the sake of argument aannemen, dan is mijn kritiek anders, en hetzelfde als ik eerder gegeven heb op het zombie-argument van filosoof Dave Chalmers. Ruttens argument is dan slechts een herformulering van dit argument. Als IMG FTS-Bart molecule-voor-molecule en interactie-voor-interactie gelijk is aan echte Bart, maar dan zonder bewustzijn, is IMG FTS-Bart een zombie-Bart. In dat geval moeten we dus de premisse uit stap 4 verwerpen. Er zijn dan immers IMG FTS’s die wel een verklaring voor bewustzijn geven, net als dat er (andere!) IMG FTS’s zijn die het laten stormen of voor ontlasting zorgen. Rutten moet dan laten zien waarom een IMG FTS als een volledig brein (in een lichaam, in een omgeving) geen verklaring voor bewustzijn kan geven (premisse uit stap 4). 

Dat probeert hij door te stellen dat een IMG FTS als een brein “consistent [is] met de afwezigheid van bewustzijn”, maar dat zegt vrijwel niets. Er is van alles logisch consistent (leidt niet tot een contradictie), terwijl dat fysisch (feitelijk, daadwerkelijk) onmogelijk is. Hij meent ook dat het “denkbaar” is dat een IMG FTS als een brein geen bewustzijn heeft. Ook dit zegt weinig, want wat denkbaar is, hangt vooral af van kennis. Lange tijd was het voor mensen ondenkbaar dat de aarde on de zon draait omdat ze een onjuist wereldbeeld hadden. Nu is dat prima denkbaar. Ik heb dezelfde kritiek ook al geuit op een ander argument van Rutten. Dat Rutten zich dus niet kan voorstellen hoe een IMG FTS als een volledig brein (in een lichaam, in een omgeving) geen verklaring voor bewustzijn kan geven, zegt dus vooral iets over het voorstellingsvermogen van Rutten, en niet over wat een brein kan. 

Samenvattend kunnen we de kritiek op Ruttens argument op drie manieren geven, afhankelijk van wat een IMG FTS precies is en kan. Als het een reductie is van een concreet en complex systeem (brein, orkaan) tot een simpel en abstract formalisme (FTS), dan gaan daarbij dusdanig veel relevante eigenschappen verloren dat wat voor het formalisme geldt, niet meer voor het systeem zelf geldt. Als we aan de andere kant het systeem zelf, met alle relevante onderdelen en causale interacties, als een IMG FTS zien, dan wordt het ongeloofwaardig dat dit als een simpel formalisme uit te drukken valt, en is het dus geen FTS meer. Als we, ondanks dit probleem, toch aannemen dat het complexe systeem zelf toch een IMG FTS is, dan moet Rutten beter onderbouwen waarom in het geval van het brein bewustzijn net zo goed afwezig kan zijn. Zijn eigen voorstellingsvermogen is daarbij niet genoeg.