Gesprek tussen Mark Zuckerberg en Yuval Noah Harari in 2019

In een YouTube gesprek tussen Mark Zuckerberg en Yuval Noah Harari legt Yuval uit (zie o.a. vanaf 54.20) dat nieuwe technologie ervoor zou kunnen zorgen dat centraal gestuurde systemen wel gaan werken. In het verleden, denk bijvoorbeeld aan Rusland, ging het mis omdat de Russische leiders onvoldoende informatie hadden om de juiste beslissingen te nemen. Met behulp van kunstmatige intelligentie gaat het China nu misschien wel lukken om maximaal voordeel te halen uit haar centraal gestuurde economie.

Mark Zuckerberg is niet overtuigd. Hij verwacht dat democratische systemen misschien langzamer op gang komen, maar als mensen op een gegeven moment snappen waar het naartoe zou moeten, dan is een democratie het beste systeem om welvaart/ welzijn te verspreiden over de hele bevolking.

Yuval zegt op 1.03.00 dat in het verleden leiders weinig wisten van het individu. In het verleden kende je moeder je het beste, maar die had ook het beste met je voor. Nu weet een systeem als Facebook of een overheid meer van je dan je moeder. Maar kunnen er andere belangen spelen.

Mark denkt dat het belangrijk is dat 'goede' waarden in de systemen geïmplementeerd worden. Mark denkt dat democratieën beter in staat zijn om te doen wat mensen willen. Maar kun je dat manipuleren met nieuwe technologie vraagt Yuval rond 1.06.00. Yuval verwacht dat mensen niet eens door hebben dat ze gemanipuleerd worden. Dezelfde tools die je producten kunnen laten kopen die je niet nodig hebt, worden gebruikt om je op een politicus te laten stemmen die je echt niet nodig hebt. Het is dezelfde tool.

Mark zegt dat het belangrijk is dat we systemen zo opzetten dat misbruik voorkomen kan worden. We zullen detectie mechanismen moeten bouwen die misbruik detecteren. Maar je zult ook bij het ontwerp al moeten nadenken over het doel van het systeem. Volgens Mark willen mensen niet alleen passief content consumeren. Ze willen connecten. Facebook nodigt mensen uit om ze te vertellen wat hun meest waardevolle momenten waren. Volgens Mark is het niet in het belang van Facebook om mensen zoveel mogelijk tijd op Facebook te laten doorbrengen. Op de lange termijn werkt dit niet. Volgens Mark heeft Facebook juist de video-content gereduceerd om gebruikers meer waardevolle content te bieden.