Dit artikel is een update van het gelijknamige artikel van 21 oktober 2019
Inleiding. De wereld digitaliseert razendsnel en wordt daardoor steeds meer beheerst wellicht zelfs overheerst door digitale systemen, met daarachter partijen die die digitale systemen ontwikkelen, gebruiken, uitventen, manipuleren. Het gaat uiteraard om heel veel nuttige en nette partijen, maar evenzeer om criminele groepen of regeringen, tech-billionaires en grote tech bedrijven, waarbij het eigen belang boven het belang van de samenleving staat. De rechten- of wetteloosheid op internet en sociale media maakt dat veel aan de aandacht en grip van overheden ontsnapt. Het feit dat het vrijwel allemaal globale systemen betreft, maakt de situatie nog moeilijker. Als samenleving dreigen we in een wereldwijde digitale fuik te belanden, waarop de burger geen grip heeft en regeringen slechts in beperkte mate. Het probleem is met name dat wereldwijd inmiddels zowel ieder mens als ieder bedrijf of organisatie geheel afhankelijk is geworden van internet en de sociale media. Niet gebruiken is geen optie. Wel gebruiken kent vele, grote en toenemende risico’s.
Overheden verliezen de controle. Door achterblijvende wetgeving en nationale onmacht verliezen overheden de controle over digitale bedrijven, cybercriminaliteit, tal van nieuwe digitale ontwikkelingen zoals AI, de groeiende digitale economie en ten slotte de samenleving als geheel. In feite staat de democratie op het spel. Wie dit niet gelooft, moet het artikel lezen van Shoshana Zuboff, professor emeritus aan de Harvard Business School, en de auteur van “The Age of Surveillance Capitalism” in the New York Times of 29 January 2021. We lopen het risico om in een ongeordende samenleving te belanden, waar het – digitale – recht van de sterkste de norm zal worden. Allereerst enkele voorbeelden.
Cybercriminaliteit is volledig uit de hand gelopen en de kosten daarvan zijn in 2023 gestegen naar ca. 11,5 biljoen dollar (meer dan 10% van de wereld economie van ongeveer 100 biljoen dollar), met een jaarlijkse stijging van 3 biljoen dollar. De criminele wereld is volledig op zijn kop gezet door de mogelijkheden van digitale technologie (ransomware, phishing, etc.) en criminele platforms, zodat criminelen met weinig risico (nul kans om gepakt te worden), verwaarloosbare kosten en zonder fysieke slachtoffers maximale resultaten kunnen behalen. AI heeft hieraan een nieuwe boost gegeven, waardoor het maken van fake berichten, video’s nog gemakkelijker is geworden. Als voorbeeld kan ransomware as a Service (RaaS) worden genoemd, waarmee IT-systemen gegijzeld kunnen worden. RaaS kan goedkoop worden gekocht op het zogenaamde darkweb, een website voor criminelen, als een dienst voor cybercriminelen. Overheden verdedigen zich nauwelijks, met name omdat deze afpersing gebruik maakt van ondoorzichtige internationale routes. Samenzwering is nog nooit zo gemakkelijk geweest. Het lijkt alsof we wachten op CaaS: Criminaliteit als een Service.
De bescherming van de privacy van gegevens in het algemeen is een nachtmerrie. China, Rusland, de VS en andere landen vergroten hun greep op gegevensbestanden vanwege het belang voor de nationale veiligheid. Techreuzen gebruiken en manipuleren privégegevens om hun bedrijf te versterken. Regelmatig komen privégegevens per ongeluk in het publieke domein terecht, door slordige gegevensbescherming van organisaties of door hackers. Dus niemand kan er zeker van zijn dat zijn privégegevens niet worden geroofd, gegijzeld of gecontroleerd door de overheid of andere partij of per ongeluk worden gepubliceerd. De politie bestrijdt vooral traditionele diefstallen. Maar waar kunt u terecht voor digitale ongelukken met uw privégegevens?
Informatie wordt vrijwel altijd in de cloud opgeslagen. Overheden, burgers en bedrijven weten vaak niet waar hun gegevens zich bevindt of wat er mee gebeurt. De meeste Europese bedrijven en particulieren slaan hun gegevens op in clouds van Amerikaanse bedrijven die onder de Amerikaanse veiligheidsbevoegdheden vallen. Geen prettig idee.
De financiële wereld wordt steeds meer gedomineerd door algoritmes die deels autonoom functioneren, waardoor binnen milliseconden kapitaal van het ene deel van de wereld naar het andere kan worden getransporteerd ten behoeve van de superrijken, criminelen of financiële bedrijven. Nationale overheden hebben nauwelijks nog inzicht in internationale geldtransacties.
Fake news, deep-fake en complottheorieën vormen een directe bedreiging voor de democratie. De verkiezingen in de VS en andere landen worden systematisch beïnvloed. Deep-fake technieken versterkt met AI stellen de makers in staat om bekende mensen te laten zeggen wat ze willen dat ze zeggen. Burgers weten niet meer wie of wat ze moeten geloven en worden gemanipuleerd door algoritmen of kunnen worden meegesleept in complottheorieën. Sommige politici gebruiken deze technologieën actief om kiezers te beïnvloeden. Daar valt niet veel aan doen, omdat de zaken vaak op internationale schaal zijn georganiseerd.
De digitale macht van grote landen als China, Rusland en de VS is onbekend, maar is in ieder geval aanzienlijk. Ze kunnen moeiteloos elkaars infrastructuur of andere gevoelige systemen hacken. Dat ze vrij ver gevorderd zijn met betrekking tot het kunnen voeren van een cyberoorlog met elkaar of met andere landen wordt aanschouwelijk gemaakt in de Oekraïne en de Gaza oorlog.
De wereld komt in een groeiende digitale chaos terecht naarmate de economie verder verschuift naar de cyberruimte. De cyberruimte is een ongereguleerde digitale jungle, waarin nauwelijks geaccepteerde of formele regels bestaan. Sociale media zouden beschouwd moeten worden als digitale nutsvoorzieningen, maar omdat de systemen global functioneren is er een wereldmacht nodig om regels te stellen en toezicht te houden. Maar die ontbreekt. Onherroepelijk zullen er de komende jaren steeds meer ernstige digitale incidenten gaan plaatsvinden, zoals de klimaatverandering steeds meer tornado’s, droogtes of overstromingen veroorzaakt. Net als bij de klimaatverandering moet de conclusie zijn dat we de groeiende digitale problemen alleen kunnen beheersen door wereldwijde samenwerking tussen landen en grote tech bedrijven. Er moet een soort wereldwijde “digitale overeenkomst” worden gesloten om consensus te krijgen over de regulering van een groot aantal digitale onderwerpen. Net als in het geval van de klimaatverandering is de tijd gekomen voor een radicale verandering in de manier waarop we de cyberruimte in de samenleving beheren: de digitale risico’s worden te groot en zijn onbeheersbaar voor individuele landen.
Conclusie. Een wereldconsensus over digitale ontwikkelingen is verder weg dan ooit, gezien de huidige geopolitieke conflicten, de klimaatproblemen en andere zaken die de politieke aandacht krijgen. Maar als zo’n wereldwijd overleg uitblijft, dreigt de menselijke samenleving stap voor stap in een digitaal zwart gat terecht te komen. Big Tech bedrijven, billionaires en oligarchen, criminelen en corrupte regimes zullen dankzij nieuwe technologieën hun greep op burgers, bedrijven en de samenleving blijven vergroten. Steeds meer nieuwe technologieën zullen worden toegepast zonder vorm van regulering of controle, terwijl ethische richtlijnen eenvoudigweg helemaal niet bestaan. Door alle digitale ontwikkelingen dreigt de maatschappij gegijzeld te worden in een digitaal zwart gat door groepen ongrijpbare mensen, organisaties en door talloze ongecontroleerde technologieën.
