laatste wijziging: 10-03-2018

Hoofdstuk 9 : De grote ontkoppeling

 

316 328 Hoofdstuk 9 De grote ontkoppeling

In dit hoofdstuk onderzoekt Harari de praktische implicaties van wetenschappelijke ontdekkingen die de liberale filosofie ondermijnen. Het geloof in vrije markten, democratische verkiezingen en vrije keuzes kunnen in de 21ste  eeuw achterhaald raken door:

  1. Mensen zullen hun economische en militaire nut verliezen, waardoor het economische en politieke systeem niet veel waarde meer aan ze zal hechten.
  2. Het systeem zal menselijk collectief niveau nog wel waardevol vinden, maar uniek individu niet.
  3. Het systeem zal nog steeds waarde hechten aan sommige unieke individuen, maar daarbij zal het gaan om een nieuwe elite van geüpgradede supermensen en niet om de massa.

Het liberalisme werd een succes omdat het op politiek, economisch en militair vlak zo logisch was om ieder mens waardevol te noemen. Op de massale slagvelden van moderne industriële oorlogen en aan de massale lopende banden van de moderne industriële economieën telde ieder mens. (317)

Volgens Harari is het geen toeval dat er universele rechten werden uitgeroepen op het exacte historische kruispunt waarop ook een universele dienstplicht werd ingevoerd. Een zelfde redenering werd na de Eerste Wereldoorlog gebruikt om vrouwen stemrecht te verlenen regeringen beseften dat vrouwen een cruciale rol speelden in industriële totale oorlogen en zagen zich gedwongen zich in vredestijd politieke rechten te geven. (318)  Het is echter mogelijk dat mannen en vrouwen in de 21ste eeuw een militaire en economische nut zullen verliezen. De massale militaire dienstplicht van de twee wereldoorlogen is niet meer. Naar hun onvoorspelbaarheid en hun vorm bereid voor angst, woede en vermoeidheid, denken en bewegen soldaten van vlees en bloed op een tijdschaal die steeds meer achterhaald wordt. Tegenwoordig worden cyberoorlogen gevoerd. (319)

In de 21ste eeuw zal het liberalisme zichzelf veel moeilijker kunnen verkopen. Als de massa zijn economische waarde verliest, zal het morele argument dan genoeg zijn om onze mensen rechten en vrijheden te beschermen? (320) In het verleden waren er veel dingen die alleen mensen konden. Maar nu halen robots en computers ons in en misschien zal het niet lang duren voor ze mensen in de meeste taken overtreffen.

Het lijkt er met name niet op dat computers op het punt staan om bewustzijn te ontwikkelen en gevoelens en sensaties te ervaren. De afgelopen 50 jaar is er een enorme vooruitgang geboekt op het gebied van computer intelligentie, maar nul komma nul vooruitgang op het gebied van een computerbewustzijn. (JST O ja? –> nog verder uitzoeken)

PREMISSE: Mensen dreigen hun economische waarde te verliezen doordat intelligentie wordt losgekoppeld van bewustzijn

Tot voor kort ging een hoge intelligentie altijd hand in hand met een ontwikkeld bewustzijn. Alleen bewuste wezens konden taken uitvoeren die een hoge intelligentievereisten, zoals schaken, autorijden, zitten diagnostiseren of terroristen identificeren. (321) We zijn echter bezig met het ontwikkelen van nieuwe typen niet bewuste intelligentie die dergelijke taken veel beter kunnen uitvoeren dan mensen. Deze taken zijn namelijk gebaseerd op het herkennen van patronen en daarin zouden niet bewuste algoritmen over niet al te lange tijd wel eens beter kunnen worden dan het menselijk bewustzijn.

Vermoedelijk zijn er verschillende wegen die naar superintelligentie kunnen leiden en slechts een paar daarvan volgen de route van het bewustzijn.

PREMISSE: Wat is belangrijker: intelligentie of bewustzijn?

Het is ontnuchterend om te zien dat het antwoord, in elk geval voor legers en bedrijven, heel simpel is: intelligentie is verplicht, bewustzijn is facultatief.

Harari geeft als voorbeeld het lot van paarden tijdens de industriële revolutie. Paarden zijn vervangen door auto’s, omdat die superieur waren in de paar taken die het systeem echt nodig had. (322) Taxichauffeurs zullen waarschijnlijk hetzelfde lot ondergaan als paarden. Als we mensen verbieden om taxi’s te besturen, en dit verbod uitbreiden naar alle voertuigen en het verkeer in handen geven van computeralgoritmen, dan kunnen we alle voertuigen met één groot netwerk verbinden, wat de kans op auto ongelukken sterk verkleind.

Sommige economen voorspellen dat mensen zonder upgrades vroeg of laat geen enkel nut meer zullen hebben. (322) Beurshandelaren (323), juristen, rechters, zelfs artsen (324) kunnen zijn prooi vallen aan algoritmen.

Sommige mensen houden vol dat een algoritme misschien wel beter dan artsen en apothekers kan zijn in de technische aspecten van hun beroep, dat ze nooit de menselijke factor kunnen vervangen. Als je CT-scan zegt dat je kanker hebt, krijg je dat nieuws dan liever van een zorg samen, en Patricia de menselijke as of van een machine? Welnu, hoe zou het zijn om zoiets te horen te krijgen van een zorgzame en Patricia machine die haar woordkeuze aanpast aan jouw persoonlijkheid type? Bedenk goed dat organismen ook maar algoritmen zijn en dat Watson je emotionele toestand net zo accuraat kan detecteren als hij je tumoren detecteert. (327)

2

328 338 De nutteloze klasse

De belangrijkste economische vraag van de 21e eeuw zal wel eens kunnen worden wat we aan moeten met alle overbodige mensen. Wat zullen bewuste mensen doen zodra we uiterst intelligente, niet bewuste algoritmen hebben die bijna alles beter kunnen?

Van oudsher was de arbeidsmarkt verdeeld in 3 grote sectoren: landbouw, industrie en de dienstensector:

In 2010 werken nog maar 2% van de Amerikanen in de Landbouw en 20% in de industrie, terwijl 78% werkzaam was als leraar, arts, werd designer enzovoort. Als geest loze algoritmen beter kunnen onderwijzen, diagnosticeren en ontwerpen dan mensen, wat doen we dan? (329)
*** Dit is geen compleet nieuwe vraag. Sinds het begin van de industriële revolutie waren mensen al bang dat mechanisatie zou leiden tot massale werkloosheid. Dat is nooit gebeurd. Oude beroepen verdwenen, er kwamen nieuwe beroepen voor in de plaats er was altijd nog wel iets wat mensen beter konden dan machines. Maar er is geen natuurwet en niets garandeert dat dit in de toekomst zo zal blijven.

PREMISSE: Mensen hebben in principe 2 soorten vermogens: fysieke en cognitieve.

Het idee dat mensen altijd een uniek vermogen zullen hebben dat niet bewuste algoritmen nooit kunnen verwerven is ijdele hoop. Het huidige wetenschappelijke antwoord op deze hersenschim kan worden samengevat in 3 eenvoudige principes:

  1. Organismen zijn algoritmen. Elk dier (inclusief homo sapiens) is een verzameling organische algoritmen die in miljoenen jaren van evolutie zijn gevormd door natuurlijke selectie.
  2. Algoritmische berekeningen worden niet beïnvloed door het materiaal waaruit de rekenmachine bestaat. Of een telraam nu gemaakt is van hout, ijzer of plastic, 2 kralen + 2 kralen is altijd 4 kralen.
  3. Er is dus geen reden om aan te nemen dat organische algoritmen dingen kunnen die niet organische algoritmen nooit zullen evenaren of overtreffen. Zolang de berekeningen kloppen maakte toch niets uit of de algoritmen zich manifesteren in koolstof of in silicium?

Zaken zoals gezichtsherkenning of schaken of go worden al beter door computers gedaan dan door mensen. Mettertijd wordt het in feite steeds makkelijker om mensen te vervangen door computeralgoritmen, niet alleen omdat de algoritme steeds slimmer worden, maar ook omdat de mensen zich steeds meer specialiseren. (332) De jager-verzamelaars van vroeger beheersten en enorm breed scala aan vaardigheden om te overleven. Maar de laatste paar 1000 jaar zijn mensen zich echter gaan specialiseren. Een taxichauffeur of cardioloog is gespecialiseerd in een veel kleinere niche dan een jager-verzamelaar.

Let wel: 99% van de menselijke eigenschappen en vermogens zijn simpelweg overbodig bij het uitvoeren van de meeste moderne taken. (333)

Als algoritmen mensen van de banenmarkt verdrijven, raken rijkdom en macht mogelijk steeds meer geconcentreerd in handen van een kleine elite die de almachtige algoritmen bezit, wat een ongekende sociale en politieke ongelijkheid zou veroorzaken.

Of de algoritmen zelf kunnen de eigenaren worden. De menselijke wetgeving erkent intersubjectieve entiteiten als bedrijven en naties allang als “rechtspersonen”. Algoritmen krijgen net zoals Toyota en Argentinië misschien op den duur ook een juridische status. (334)
Als het algoritmen die juiste beslissingen neemt, kan het een fortuin vergaren, dat het vervolgens naar eigen inzicht kan investeren, misschien door jou huis te kopen en je huisbaas te worden.

*** Wat gaan de mensen dan doen? (334)

Vaak wordt kunst genoemd als ons ultieme (en uniek menselijke) heiligdom. Maar ook hier zijn misschien algoritmen wel beter. Volgens de bio wetenschappers is kunst niet het product van een geïnspireerde geest of een metafysische ziel, maar van organische algoritmen die wiskundigepatronen herkennen.

In september 2013 verscheen “The Future of Employment”, waarin onderzoekers bekeken hoe waarschijnlijk het was dat verschillende beroepen binnen de komende 20 jaar overgenomen zouden worden door computeralgoritmen.

47% van ALLE Amerikaanse banen was ernstig in gevaar.

Een kans van tussen de 99 en 90% van de telemarketeers, verzekeraars, sportscheidsrechters, caissières, chef-koks, obers, juridische assistenten en reisleiders zouden vervangen kunnen worden door algoritmen.
Een kans van tussen de 89 en 80% van de bakkers, buschauffeurs, bouwvakkers, dierenassistenten, veiligheid personeel, zeelieden
Een kans van tussen de 79 en 70% voor barkeepers, archivarissen, timmerlieden, badmeesters enzovoort.

Er zijn natuurlijk ook “veilige banen“. De kans dat archeologen zullen worden vervangen is maar 0,7%. Natuurlijk zullen er tegen het jaar 2033 waarschijnlijk allerlei nieuwe beroepen ontstaat, zoals bijvoorbeeld dat van virtual-world designer.

PREMISSE: Het cruciale probleem is niet het creëren van nieuwe banen.

Het cruciale probleem is het creëren van nieuwe banen waarin mensen beter zijn dan algoritmen.

De aanstaande technologische goudmijn zal het waarschijnlijk wel mogelijk maken om de nutteloze massa te voeden en te onderhouden zonder dat die daar iets voor hoeft te doen. Maar waarmee zullen ze zich bezighouden en hoe hou je ze tevreden? Mensen moet iets te doen hebben, anders worden ze gek. Wat moeten ze de hele dag beginnen? Een mogelijk antwoord is drugs en computerspelletjes.

Volgens Harari kan het ook nog vriendelijk vreselijk misgaan. Hij geeft als voorbeeld het zogenaamde PI scenario. {wiki} (338)

3

338 351 Een kans van 87 procent

  1. Ik ben een in-dividu. Dat wil zeggen dat ik een ondeelbare essentie het die niet kan worden opgesplitst in delen of subsystemen. Er zitten weliswaar allerlei lagen om deze innerlijke kern heen, maar als ik de moeite nemen om die externe schillen er achter tellen, vind ik diep in mijn binnenste en heldere eenduidige innerlijke stem, die mijn authentieke zelf is.
  2. Mijn authentieke zelf is volkomen vrij.
  3. Uit de eerste twee aannames volgt dat ik dingen over mezelf kan weten die niemand anders te weten kan komen. Ik ben namelijk de enige die toegang heeft tot mijn innerlijke, vrije ruimte en alleen ik kan de stem van mijn authentieke zelf horen. Daarom kent het liberalisme het individu zoveel gezag toe. Ik kan anderen geen keuzes voor mij laten maken, want niemand anders kan weten wie ik precies ben, wat ik voel en wat ik wil. Daarom heeft de kiezer altijd gelijk, daarom is de klant koning en daarom is schoonheid een kwestie van smaak.

De biowetenschappen spreken deze aannames echter alle drie tegen:

  1. Organismen zijn algoritmen en mensen zijn geen individuen, maar dividuen. Dat wil zeggen dat mensen een assemblage vormen van allerlei verschillende algoritmen, zonder een eenduidige innerlijke stem of een ondeelbaar zelf.
  2. De algoritmen waaruit een mens bestaat zijn niet vrij. Ze worden gevormd door genen en invloeden van buitenaf, en hun beslissingen zijn ofwel deterministisch ofwel toevallig, maar in geen geval vrij.
  3. Een extern algoritme kan mij in theorie veel beter kennen dan ik mezelf ooit zal kennen. Een algoritme dat alle systemen waaruit mijn lichaam en hersenen bestaan kan volgen, kan precies weten wie ik ben, wat ik voel en wat ik wil. Als een algoritme eenmaal staat, zou het de kiezer, de klant en zijn smaak kunnen vervangen. Dan heeft het algoritmen altijd gelijk, wordt het algoritme koning en is schoonheid een kwestie van algoritmische berekeningen.

Tussen 1800 en 2000 had het geloof in individualisme desondanks een zekere logica, omdat er geen externe algoritmen waren die me daadwerkelijk effectief konden volgden. Staten en markten wilden dat misschien wel, maar ze hadden er de technologie niet voor. (340)
De technologie van de 21ste eeuw zal echter externe algoritmen kunnen creëren die de mens kunnen herkennen en mij veel beter leren kennen dan het mezelf ken.

PREMISSE: Mensen zullen zichzelf niet meer beschouwen als autonome wezens

** zie: The ghost in the shell

Op het gebied van de geneeskunde zijn we volgens Harari deze grens al over. Harari geeft hier voorbeelden van een kunstmatige alvleesklier voor diabetici (341), slimme luiers die baby poep analyseren op aanwijzingen over de medische toestand van een kind, risico beperking door borst amputatie (Angelina Jolie)(343), Cyborg 2 (film uit 1993) en Google projecten zoals Google Flue Trends (bijhouden van uitbraken van griep), Google Baseline Study (een database van menselijke gezondheid)

Velen van ons zouden het best prettig vinden om een groot deel van onze besluitvorming in handen van zo’n systeem te leggen, of op zijn minst om te kunnen raadplegen voor als we voor belangrijke keuzes staan. (347)

In ruil voor het opgeven van je “eigen zelf” hoeven we alleen maar het idee op te geven dat mensen individuen zijn en dat ieder mens een vrije wil heeft die bepaalt wat goed is, wat mooi is en wat de zin van het leven is. Mensen zullen geen autonome entiteiten meer zijn die worden aangestuurd door de interpretaties van hun verhalende zelf. Ze zullen integrale onderdelen worden van een gigantisch mondiaal netwerk. (348)

Het liberalisme verklaart het verhalende zelf heilig en laat het zelf kiezen in het stemhokje, in de winkel en op de huwelijksmarkt. Net als bij het koud water experiment van Kahneman volgt het verhalende zelf de piek-eind regel als het op politiek aankomt. Eens in de 4 jaar stemmen?

Als ik Google (of het Facebook algoritme) had gemachtigd voor al deze zaken dan zou ik nu pleiten voor de volgende toestand:
“Mensen zouden hun eigen psychologische oordelen kunnen laten varen en zich gaan verlaten op computers als het gaat om belangrijke beslissingen in hun leven, zoals de keuze voor bepaalde activiteiten, carrièrewendingen of zelfs liefdespartners. Het is mogelijk dat deze data gerelateerde beslissingen het leven van mensen zullen verbeteren”

Hoe komen Google en Facebook aan hun gegevens? Die leveren wij, gratis en voor niets . . .  (350)

4

351 356 Van orakel tot heerser — “Google rules the world”

Zodra Google, Facebooken andere algoritmen alwetende orakels zijn geworden, kunnen ze best eens evolueren tot handelende instanties en uiteindelijk zelfs tot heersers. (351)
Harari geeft als voorbeelden “Waze” (351) en Cortana (een manusje van alles met betrekking tot communicatie) (353)
Uiteindelijk bereiken we misschien een punt waarop het onmogelijk wordt om je zelfs maar even los te koppelen van dit alwetende netwerk. Ontkoppeling kan dodelijk worden als hackers spullen in mijn lichaam overnemen. (354)
De verschuiving van autoriteit van mensen naar algoritmen gebeurt overal om ons heen, dit als gevolg van een of andere zwaarwegende overheidsbeslissing, maar door een vloedgolf van alledaagse persoonlijke keuzes (355)
In de 21e eeuw zal het individu waarschijnlijk eerder heel kalmpjes van binnenuit desintegreren in plaats van met bruut geweld verpletterd te worden van buitenaf. In dat hele proces zal het individu niets meer blijken te zijn dan een religieuze fantasie. De realiteit worden maaswerk van biochemische en elektronische algoritmen, zonder duidelijke grenzen en zonder individueel centraal zelf.

5

356 361 Upgrade van de ongelijkheid

Tot dusver hebben we twee praktische bedreigingen aan het adres van het liberalisme bekeken:

  1. Mensen verliezen al hun waarde.
  2. Mensen zijn als collectief nog wel waardevol, maar door hun individuele soevereiniteit op te geven worden ze beheerst door externe algoritmen.

De derde bedreiging voor het liberalisme is dat sommige mensen onmisbaar worden, daarbij gaat het om een kleine geprivilegieerde elite van geüpgradede mensen.

Vanuit liberaal perspectief is het prima dat de één de miljardair is die een weelderig kasteel bewoont, zowel de ander een arme boer is in een strooien hutje. Volgens het liberalisme is de unieke belevingswereld van de boer dan namelijk nog steeds net zo waardevol als die van de miljardair.

PREMISSE: De economische ongelijkheid wordt momenteel alleen maar groter.

Middeleeuwse aristocraten beweerden dat ze superieur blauw bloed in hun aderen hadden en Indiase brahmanen claimden dat ze van nature slimmer waren dan alle anderen, maar dat was pure fictie. In de toekomst zou het echter kunnen gebeuren dat er echte verschillen in fysieke en cognitieve vermogens zullen ontstaan tussen een geüpgradede bovenklasse en de rest van de samenleving. (358)

De grote menselijke projecten van de 20e eeuw (het overwinnen van hongerziekte en oorlog) waren bedoeld om voor iedereen een universele normen op het gebied van welvaart, gezondheid en vrede te vestigen, waarbij niemand werd uitgezonden. Van de nieuwe projecten van de 21e eeuw (het verwerven van onsterfelijkheid, geluk en goddelijke vermogens) wordt ook gehoopt dat ze de hele mensheid een goede zullen komen. Maar aangezien deze projecten gericht zijn op het overtreffen van de norm niet alleen op het waarborgen daarvan, kunnen ze net zo goed leiden tot het ontstaan van een nieuwe kaste van Super mensen die hun liberale verleden van zich af zullen schudden en normale mensen niet beter zullen behandelen dan 19de –eeuwse Europeanen de Afrikanen behandelden.

Als wetenschappelijke ontdekkingen en technologische ontwikkelingen de mensheid verdelen in een massa van nutteloze mensen en een kleine elite van geüpgrade Super mensen, of als de autonomie van mensen steeds meer wordt overgenomen door hyper intelligente algoritmen, dan zal het liberalisme imploderen. Wat voor nieuwe religies kunnen het vacuüm dan vullen en welke ideologieën zullen de verdere evolutie van onze goddelijke nakomelingen aanvoeren?