2019

laatste wijziging: 16-12-2019

21 lessen deel 1 Technologische uitdagingen

17 – Deel 1 : Technologische uitdagingen

De mensheid verliest het vertrouwen in het liberale verhaal dat de politiek de afgelopen decennia overheerste, en dat op een moment waarop de combinatie van biotech en infotech ons confronteert met de grootste uitdagingen waarvoor de mensheid ooit gesteld is

19 – 1 Ontgoocheling : Het einde van de geschiedenis is uitgesteld.

19 Mensen denken niet in feiten, cijfers of wiskundige vergelijkingen, maar in verhalen
19 Drie verhalen, het fascistische verhaal, het communistische verhaal en het liberale verhaal
21 In 1938 hadden mensen drie grote verhalen om uit te kiezen, in 1968 nog maar twee, in 1998 leek één verhaal het te winnen en nu, in 2018, zitten we op nul

22 Van muggen doodslaan tot gedachten doodslaan

24 De komende eeuw zullen biotech en infotech ons in staat stellen om onze binnenwereld te manipuleren en onszelf om te vormen.
25 Kiezers zijn hun geloof in het liberale verhaal en het democratische proces kwijtgeraakt
26 Misschien zullen er in de 21ste eeuw geen populistische revoltes uitbreken tegen een economische elite die mensen uitbuit, maar tegen een economische elite die ze niet meer nodig heeft

26 De liberale feniks

27 De supermarkt bleek veel sterker dan de goelag
28 Vrijheid is niet veel waard zonder een sociaal vangnet. Sociaal-democratische verzorgingsstaten combineerden democratie en mensenrechten met door de staat gefinancierde systemen voor onderwijs en gezondheidszorg
29 Het Trump moment is veel nihilistischer. Alle mooie ideeën houden op bij de grens
30 Poetin (als oligarch) is populair in Rusland, maar niet daarbuiten.
31 Niemand wil naar Rusland emigreren
32 Als puntje bij paaltje komt, zal de mensheid het liberale verhaal niet bij het vuilnis zetten, want er is geen alternatief
34 De meeste mensen hebben nooit meer vrede en voorspoed gekend dan onder het vaandel van de liberale orde van begin eenentwintigste eeuw
34 Het liberalisme heeft alleen geen duidelijke antwoorden op de grootste problemen die nu voor ons oprijzen: ontwrichting van het milieu en technologische ontwrichting
36 De meeste mensen zijn zich niet bewust van de impact wat kunstmatige intelligentie, big-data algoritmen en genetische modificatie op het leven zal hebben
37 Werkloosheid is thema nummer 1

38 – Hoofdstuk 2 : Werk – Als je later groot bent, krijg je misschien geen baan

39 – Mensen hebben twee soorten vaardigheden:
- Fysieke vaardigheden – machines, graafwerk e.d. tuinieren
- Cognitieve vaardigheden – leren , analyseren , communiceren
39 De veel geprezen “menselijke intuïtie” is gewoon een kwestie van patroonherkenning
40 Kunstmatige intelligentie kan met name beter zijn in het vermogen om situaties in te schatten
41 De dreigende teloorgang van banen vloeit voort uit de samenloop van infotech en biotech
41 Twee van de belangrijkste niet-menselijke vaardigheden die kunstmatige intelligentie heeft, zijn connectiviteit en updatebaarheid
- Connectiviteit: 2 zelfrijdende auto’s maken deel uit van hetzelfde algoritme.
- Updatebaarheid: Een update kan tegelijk bij miljoenen digitale artsen worden uitgevoerd
44 Door zelfrijdende auto’s zullen verkeersongelukken waarschijnlijk met 90% afnemen

44 De Mozart in de machine

45 Naast de zorg is creativiteit ook een erg lastig obstakel voor automatisering
45 Op termijn zal geen enkele baan 100% gevrijwaard blijven van automatisering
46 Het kan zijn dat kunstmatige intelligentie op deze manier alle serendipiteit doodslaat.
48 Wat is de definitie van kunst?

49 Nieuwe banen?

50 De arbeidsmarkt van 2050 zou best eens samenwerking in plaats van concurrentie tussen mensen en AI kunnen zijn
51 Toch kan er een nieuwe klasse van “overbodigen” ontstaan, omdat er een hoge mate van expertise voor deze nieuwe banen nodig is
53 Het schaakprogramma AlphaZero leerde zichzelf (in 4 uur . . . ) nieuwe strategieën door tegen zichzelf te spelen en won zodoende van Stockfish-8, de computer-schaak-kampioen van 2016. AlphaZero had niets van mensen geleerd: veel van zijn zetten waren onconventioneel . . .
54 Anno 2018 is er sprake van historisch lage werkeloosheid: maar hoelang nog?
56 Gezien het immense vernietigingspotentieel van onze beschaving kunnen we ons niet nog meer mislukte modellen, wereldoorlogen en bloedig revoluties veroorloven . . .

56 Van uitbuiting tot overbodigheid

59 De succesvolste ijsverkopers zijn niet degenen die het lekkerste ijs maken, maar degenen die het Google-algoritme bovenaan zet
60 Veel banen komen neer op ongeïnspireerd, saai werk en zijn het redden niet waard (bullshit banen . . .)
60 Een nieuw model dat steeds meer aandacht krijgt is het (universele) basisinkomen

61 Wat is universeel?

61 Als mensen het hebben over universele overheidssteun bedoelen ze meestal nationale overheidssteun
62 Kunstmatige intelligentie en 3-d printers nemen al het werk over van laaggeschoold personeel in landen als India en Bangladesh

64 Wat is basis?

64 Naast een biologische armoedegrens heeft elke cultuur ook nog andere behoeften die als “basaal” worden bestempeld
65 Homo sapiens is er gewoon niet op gebouwd om tevreden te zijn
65 Om zijn doelen echt te bereiken, zal het universele basisinkomen aangevuld moeten worden met zinvolle activiteiten, variërend van sport tot religie
67 Als we een universeel economisch vangnet kunnen combineren met sterke gemeenschappen en zinvolle bezigheden, zou het wel eens een zegening kunnen zijn ze banen kwijt te raken aan algoritmen

68 – Hoofdstuk 3 Vrijheid – Big Data is watching you

68 Het liberale verhaal verheerlijkte de menselijke vrijheid, die het als de hoogste waarde beschouwd
68 In de politiek gelooft het liberalisme dat de kiezer altijd gelijk heeft
69 Thatcher: “De samenleving bestaat niet. Er is [een] leventapijt van mannen en vrouwen […] en de kwaliteit van ons leven hangt af van de mate waarin ieder van ons bereid is de verantwoordelijkheid voor zichzelf te nemen “
69 Referenda en verkiezingen draaien altijd om menselijke gevoelens en niet om de menselijke ratio
70 De democratie gaat uit van het idee dat het menselijke gevoel een mysterieuze, diepgaande “vrije wil” weerspiegelt, dat deze “vrije wil” de optimum bron van gezag is en dat alle mensen even vrij zijn

71 Luister naar het algoritme

71 Duizenden jaren langer geloven de mensen dat alle gezag voortvloeide uit de goddelijke wetten oma dus niet uit het menselijk karakter, en dat we het woord van god dus moesten heiligen, en niet de menselijke vrijheid
71 Binnenkort zal hij misschien nog een machtsverschuiving komen, maar dan van mensen na algoritmen
71 Zoals we in het vorige hoofdstuk al zagen, suggereerden wetenschappelijke inzichten in de werking van onze hersenen en lichamen dat onze gevoelens geen puur menselijke, spirituele eigenschap zijn en dat ze op geen enkele manier een “vrije wil” weerspiegelen
71 Gevoelens zijn dus niet het omgekeerde van rationaliteit, maar een belichaming van evolutionaire rationaliteit
72 Het liberalisme zitten dus naast met het idee dat onze gevoelens de weerspiegeling vormen van een vrije wil, maar tot nu toe werkte dat vertrouwen op ons gevoel in praktisch opzicht best goed
73 We zijn nu op een punt beland waarop twee immense ingrijpende revoluties zich tegelijkertijd voltrekken
- 73 Aan de ene kant ontcijferen biologen de mysteriën van het menselijk lichaam en met name ook de hersenen en ons gevoelsleven
- 73 Aan de andere kant biedt de informatica ons ongekende gegevens verwerken de vermogens
73 Als de biotech revolutie gecombineerd wordt met de infotech revolutie zal dat big-data-algoritmen opleveren die mijn gevoelens veel beter kunnen monitoren en doorgronden dan ikzelf en dan zal er waarschijnlijk een machtsverschuiving plaatsvinden van mensen naar computers

Het grote beslissingen drama

75 De belangrijkste uitvinding in de gezondheidszorg is de biometrische sensor, die mensen op of in hun lichaam kunnen dragen in die biologische processen omzet in elektronische informatie die computers kunnen opslaan en harmoniseren
77 TO DO %%% Het geavanceerde algoritme – vergelijk ex machina – vraag naar bewustzijn – via Blue book (soort Google)
77 Het woord “televisie” komt van het Griekse “tele”, dat “ver”betekent en het Latijnse visio, oftewel “zicht “
77 Zoals George Orwell al voorzag in 1984 zal de televisie ons bekijken terwijl wij er nakijken
78 Het algoritme hoeft gemiddeld niet perfect te zijn, maar alleen beter te zijn dan wij mensen
78 Naarmate wetenschappers meer gaan begrijpen over de manier waarop mensen beslissingen nemen oma wordt de verleiding om ons op algoritmen te verlaten waarschijnlijk groter
79 We zoeken geen informatie meer, we googelen
81 Zodra kunstmatige intelligentie betere beslissingen dan wij zelf gaat nemen als het om beroepskeuze en misschien zelfs relaties gaat, zullen onze ideeën over ons mens-zijn en het leven in het algemeen moeten veranderen
81 Mensen zijn gewend het leven te beschouwen als één groot beslissingen-circus
81 De liberale democratie en het vrije markt kapitalisme beschouwen het individu als een autonome eenheid die constant keuzes maken over alles in de wereld
82 Als we de macht steeds meer van mensen op algoritmen overgaat, gaan de wereld misschien steeds minder beschouwen als het domein van autonome individuen die worstelen om de juiste keuzes te maken

82 De filosofische auto

82 Er is geen reden om aan te nemen dat algoritmen de gemiddelde mens niet ook op het gebied van ethiek zullen overtreffen
83 Filosofen discussiëren al duizenden jaren over “trolley problemen”, tot nu toe hebben deze discussies weinig invloed gehad op ons gedrag
84 Volgens Harari tellen menselijke emoties zwaarder dan filosofische theorieën
85 Computeralgoritmen zijn echter niet tot stand gekomen door natuurlijke selectie hebben geen emoties of onbewuste instincten
86 Als puntje bij paaltje komt, rij je dan liever naast een dronken tiener of naast een auto met een algoritme Schumacher – Kant?
87 Het is waarschijnlijk veel makkelijker om de software te debuggen dan om de mens van zijn racistische en misogyne vooroordelen te ontdoen
87 Er zijn maar weinig “trolley problemen “opgelost op een manier waarin alle filosofen zich kunnen vinden en denkers zoals Mill ( die daden beoordelen op de gevolgen ervan) hebben een heel andere kijk op dit soort zaken dan mensen als Kant ( die daden beoordelen aan de hand van absolute regels)
87 Stel je voor dat in de toekomst er gekozen kan worden uit twee zelf rijdende auto’s:
- 87 De Tesla altruïst : deze zal zijn eigenaar opofferen voor een hoger doel
- 87 De Tesla egoïst : deze zal alles doen om zijn eigenaar te redden, zelfs als hij daarvoor twee kinderen moet plat rijden
88 Verder vraag Harari zich af of deze beslissingen niet beter door de staat kunnen worden genomen.

05-12-2019 Nog over nadenken of de staat altijd het laatste woord moet hebben in de toepassing van algoritmen

89 Digitale dictaturen

89 Mensen zijn vaak bang voor kunstmatige intelligentie omdat ze niet op vertrouwen dat kunstmatige intelligentie ons zal blijven gehoorzamen
91 Autonome wapensystemen zijn een potentiële ramp, omdat te veel regeringen in ethisch opzicht niet zuiver op de graat zijn, of zelfs ronduit kwaadaardig
91 Bewakingscamera’s kunnen net zo riskant zijn
94 Stelling van Harari : De democratie kan in haar huidige vorm een fusie tussen biotech en infotech niet overleven
95 Zelfs als de democratie zich kan aanpassen en overleven, dan nog kunnen mensen het slachtoffer worden van nieuwe vormen van onderdrukking en discriminatie.’s nu al gebruiken steeds meer banken, grote concerns en instellingenalgoritmen om gegevens te harmoniseren en beslissingen over ons te nemen

Kunstmatige intelligentie en natuurlijke domheid

97 Het is niet erg waarschijnlijk dat de algoritmen ons bewust zullen gaan manipuleren. Daar zullen ze het bewustzijn niet voor hebben
97 Intelligentie is het vermogen om problemen op te lossen
97 Bewustzijn is is het vermogen om dingen te voelen als pijn, vreugde, liefde en woede
97 Zoals vliegtuigen sneller vliegen dan vogels zonder ooit veren te krijgen, zo zullen computers misschien veel beter worden in het oplossen van problemen dan zoogdieren, zonder ooit iets te voelen
98 In algemene zin zijn er 3 mogelijkheden die we moeten overwegen:
1. Bewustzijn is op de een of andere manier dusdanig verbonden met de organische biochemie dat het nooit mogelijk zal worden om bewustzijn te creëren in an-organische systemen
2. Bewustzijn houdt geen verband met organische biochemie, maar is dusdanig met intelligentie verbonden dat computers eventueel een bewustzijn kunnen ontwikkelen en dat dit ook zal moeten gebeuren om een bepaalde mate van intelligentie te kunnen bereiken
3. Er zijn geen essentiële verbanden tussen bewustzijn en organische biochemie dan wel een hoge intelligentie. Computers kunnen dus een bewustzijn ontwikkelen, maar het hoeft niet per se te gebeuren. Ze zouden ook hyper intelligent kunnen worden zonder enige vorm van bewustzijn
99 We zullen de komende decennia vast niet te maken krijgen met een robot opstand
100 Alle rijkdom en maagd zal in handen kunnen komen van een kleine elite, terwijl de meerderheid van de mensen een akelig lot beschoren is, niet door uitbuiting, maar door iets veel ergers: overbodigheid

101 Hoofdstuk 4 Gelijkheid – Wie de data heeft, heeft de toekomst

101 Gelijkheid heerste al in de steentijd. 30.000 jaar geleden begroeven hun groepen jagers- verzamelaars sommige stamleden in weelderige graven, terwijl anderen het moesten doen met een gat in de grond
101 Jager-verzamelaars waren nog altijd meer egalitair ingesteld dan de mensenmaatschappijen die daarna kwamen
101 Bezit is een vereiste voor duurzame ongelijkheid voor duurzame ongelijkheid
102 Toen de mens land, dieren, planten en gereedschappen in bezit nam, ontstonden er streng hiërarchische samenlevingen, waarin kleine elites van generatie op generatie het grootste deel van alle rijkdom en macht monopoliseerden
102 Hiërarchie was niet alleen de norm, maar ook het hoogste ideaal
102 In de laat-moderne tijd het gelijkheid echter in bijna alle menselijke gemeenschappen een ideaal
102 De geschiedenis van de 20ste eeuw draait dus in hoge mate om het verminderen van de ongelijkheid tussen klassen, rassen en seksen
103 De rijkste 100 mensen bezitten samen meer dan de armste 4 miljard mensen
104 Als de rijken een superieure vermogens gebruiken om zichzelf nog verder te verrijken en als ze met dat extra geld verbeterde lichamen en hersenen kunnen kopen, zal de kloof met de tijd alleen maar breder worden
104 Die twee processen samen (biotechnologie en de opkomst van kunstmatige intelligentie) zouden er dus toe kunnen leiden dat de mensheid zich opsplitst in een kleine klasse van Super mensen en de massale onderklasse van totaal overbodige homo sapiens
104 Al met al lijkt het er dus op dat de globalisering uiteindelijk niet zal leiden tot wereldwijde’s voorspoed, maar tot “speciatie“: het ontstaan van verschillende biologische kasten of zelfs verschillende mensen soorten
104 Zie ook de film Elysium : Hoge muren.
105 In dit boek gebruikt Harari vaak de eerste persoon meervoud als Harari het over de toekomst van de mensheid heeft. Hij vraagt zich af of er nog een “wij” is. Wat moeten “wij” doen aan “onze” problemen?

106 Van wie zijn de data?

106 Eerst was land het belangrijkste bezit, in de moderne tijd werden machines en fabrieken belangrijker dan land en spitste de politieke strijd zich toe op het beheersen van deze vitale productiemiddelen
106 In de 21ste eeuw zullen gegevens ( data) veel belangrijkere bezittingen worden dan land en machines en zal politiek een strijd worden om de data stroom te beheersen
106 We zijn niet de klanten van Facebook, Google en Twitter, wij zijn hun product
107 Zodra algoritmen keuze voor ons gaan maken en dingen voor ons gaan kopen, zal de reclame-industrie failliet gaan
107 Data kunnen miljarden euro’s opleveren ( TO DO : HOE DAN ? )
108 In de grote veldslag tussen gezondheid en privacy is al gezondheid het waarschijnlijk glansrijk winnen
108 Zijn de gegevens over mijn DNA, mijn hersenen en mijn leven van mij, van de regering, van een bedrijf of van de collectieve mensheid?
109 In tegenstelling tot het eigendomsrecht van land en industrieën hebben we niet veel ervaring in het reguleren van data eigendommen en dat is op zich ook veel moeilijker, want eens tegenstelling tot land en machines zijn gegevens overal en nergens tegelijk oma ze kunnen zich razendsnel verplaatsen en je kunt er net zoveel kopieën van maken als je maar wilt