Gesprek tussen Mark Zuckerberg en Yuval Noah Harari in 2019

In een YouTube gesprek tussen Mark Zuckerberg en Yuval Noah Harari legt Yuval uit (zie o.a. vanaf 54.20) dat nieuwe technologie ervoor zou kunnen zorgen dat centraal gestuurde systemen wel gaan werken. In het verleden, denk bijvoorbeeld aan Rusland, ging het mis omdat de Russische leiders onvoldoende informatie hadden om de juiste beslissingen te nemen. Met behulp van kunstmatige intelligentie gaat het China nu misschien wel lukken om maximaal voordeel te halen uit haar centraal gestuurde economie.

Mark Zuckerberg is niet overtuigd. Hij verwacht dat democratische systemen misschien langzamer op gang komen, maar als mensen op een gegeven moment snappen waar het naartoe zou moeten, dan is een democratie het beste systeem om welvaart/ welzijn te verspreiden over de hele bevolking.

Yuval zegt op 1.03.00 dat in het verleden leiders weinig wisten van het individu. In het verleden kende je moeder je het beste, maar die had ook het beste met je voor. Nu weet een systeem als Facebook of een overheid meer van je dan je moeder. Maar kunnen er andere belangen spelen.

Mark denkt dat het belangrijk is dat 'goede' waarden in de systemen geïmplementeerd worden. Mark denkt dat democratieën beter in staat zijn om te doen wat mensen willen. Maar kun je dat manipuleren met nieuwe technologie vraagt Yuval rond 1.06.00. Yuval verwacht dat mensen niet eens door hebben dat ze gemanipuleerd worden. Dezelfde tools die je producten kunnen laten kopen die je niet nodig hebt, worden gebruikt om je op een politicus te laten stemmen die je echt niet nodig hebt. Het is dezelfde tool.

Mark zegt dat het belangrijk is dat we systemen zo opzetten dat misbruik voorkomen kan worden. We zullen detectie mechanismen moeten bouwen die misbruik detecteren. Maar je zult ook bij het ontwerp al moeten nadenken over het doel van het systeem. Volgens Mark willen mensen niet alleen passief content consumeren. Ze willen connecten. Facebook nodigt mensen uit om ze te vertellen wat hun meest waardevolle momenten waren. Volgens Mark is het niet in het belang van Facebook om mensen zoveel mogelijk tijd op Facebook te laten doorbrengen. Op de lange termijn werkt dit niet. Volgens Mark heeft Facebook juist de video-content gereduceerd om gebruikers meer waardevolle content te bieden.

Yuval zegt dat hij heel vaak het volgende hoort: de mens heeft een keuze, als de consument of de kiezer kiest, dan is dat een goede keuze. Maar is dit nog steeds waar nu er technologie is waarmee je de mens kunt hacken. Misschien zijn de keuzes van mensen niet meer het beste.

Mark stelt daar tegenover dat technologie ook kansen biedt om samenlevingen meer democratischer te maken.

Yuval vertelt rond 1:18:00 dat hij veel mediteert en dat wat hij ervaart is dat er in z'n hoofd 'crazyness' afspeelt. Hij is van mening dat er nooit sprake is geweest van een vrije keuze. Hoe mensen tot beslissingen komen is waarschijnlijk uiterst complex. Maar nu heb je dus die technologie die ook nog eens met je hoofd gaat fucken. 1000 jaren geleden vonden in je hoofd battles plaats tussen datgeen wat er in je omgeving afspeelde, jeugdherinneringen, enz. Nu zijn er in toenemende mate externe factoren die een poging doen om zich in je hoofd te nestelen. Hoe kun je je inner voice nog vertrouwen?

Mark zegt: wij hebben een systeem waarmee je zou kunnen zien welke vrienden voor jou het meest waardevol zijn en hun content een hogere ranking geven. Maar Mark denkt niet dat er al een AI is die jou beter begrijpt dan jezelf en het duurt waarschijnlijk ook nog een hele tijd voordat dit punt bereikt wordt. Maar er is zeker misbruik (denkbaar). Mark denkt dat dit een waarden en policy vraagstuk is. Bij Facebook moet je bijvoorbeeld jezelf zijn. Dus je weet in ieder geval van de persoon is die hij zegt te zijn.

Mark zegt: als je content ziet die resoneert bij jou, is dat dan omdat het het matcht met je interesses of zit daar manipulatie achter in de zin dat iemand je iets wil verkopen of laten geloven. Uit psychologisch onderzoek blijkt dat als mensen content zien die ze niet geloven, dan zullen ze het negeren. Het is natuurlijk wel waar dat je een systeem zou kunnen bouwen dat je zaken laat verlopen. En dat zou je moeten tegen gaan. Als bedrijf, maar ook als overheid. Mark lijkt toe te geven dat Facebook lange tijd mss niet heeft gezien wat het gevaar was.

Yuval ziet op 1.25.16 twee gevaren: de kans dat de macht van autoritaire regimes enorm gaat toenemen, Mark noemt dit misbruik, maar deze regimes zullen het toch gaan inzetten. Deze regimes zullen mensen vanaf de dag dat ze geboren worden gaan volgen, manipuleren, enz. Het zou zo maar kunnen zijn dat mensen het niet als een probleem ervaren. Omdat hun waarden vanaf jonge leeftijd gelijk worden gesteld aan de waarden van het regime. Je hoeft mensen nu niet meer te martelen. Je kunt ze via allerlei kanalen manipuleren. Het 2e gevaar is dat algoritmen zich steeds meer gaan bemoeien met je. Het is nog niet zo erg dat algoritmen aanbevelingen doet over welke film of muziek te luisteren, maar het systeem zal straks gaan voorstellen in welke community je eens zou moeten participeren. Yuval zegt dat we jarenlang hebben geleerd dat het leven over beslissingen gaat. Wat betekent het als algoritmen beslissingen gaan nemen? Wat betekent dit voor het leven?

Mark zegt: ik denk niet dat algoritmes dit gaan doen. Hij verwacht dat mensen in staat zijn om zelf keuzes te maken. Via Facebook kun je ook zien hoe andere mensen leven. Overigens is dat precies de reden dat Rusland een eigen internet wil (dit laatste was geen opmerking van Mark).