Ontmenselijking

Als een AI-machine bijvoorbeeld de opdracht krijgt een complete strategie te ontwikkelen die het rendement van een farmaceutisch bedrijf drastisch moet verhogen, dan ligt het voor de hand dat het ding een manier zoekt om zoveel mogelijk mensen ziek te maken. Zieke mensen zijn immers de afnemers van de betreffende producten. Een dergelijk apparaat zal dat op een uiterst geraffineerde, snelle en effectieve manier kunnen doen, maar beschikt niet over een geweten dat het in staat stelt om te beseffen dat het ziek maken van mensen onethisch is. Natuurlijk kan het systeem worden opgedragen om bepaalde routes te vermijden, maar uiteindelijk volgt het altijd zijn digitale protocollen, hoe geavanceerd die ook mogen zijn. Als het voor de opdrachtgever duidelijk is dat mensen in verweer zullen komen wanneer ze merken dat ze voor commerciële doeleinden ziek gemaakt worden, dan moet dat strategisch worden verhuld, en dat kan een AI-systeem probleemloos als het daartoe de opdracht krijgt. Die opdracht zou dan kunnen zijn: vergroot de afzet van onze producten, maar vermijd dat mensen opmerken dat ze schadelijk zijn voor hun gezondheid. Het systeem zal het zonder enige morele remming uitvoeren, en komt daarbij – in tegenstelling tot mensen – nooit in ‘hinderlijke’ gewetensnood.

In die zin lijkt AI in zijn manier van werken nog het meest op een ander verschijnsel dan intelligentie, namelijk psychopathie. Psychopaten kunnen uiterst intelligent zijn, maar het ontbreekt ze aan een geweten, en dus aan iedere vorm van moraliteit en empathie, precies zoals dat het geval is bij een AI-systeem. Psychopaten gaan altijd berekenend op hun doel af en worden daarbij niet gehinderd door ethische overwegingen. Net zoals AI. Misschien is Artificiële Psychopathie (AP) daarom een betere term voor deze technologie. En misschien is het daarmee ook eerder een aantrekkelijk instrument voor psychopathische, gewetenloze machtszoekers dan voor de rest van de mensheid.

Het menselijk geweten is voor heersers hinderlijk, omdat het voor een belangrijk deel bepalend is voor de beslissingen van mensen en tevens lastig controleerbaar is. Hun wens om dat onberekenbare aspect van menselijkheid buitenspel te zetten is daarom begrijpelijk. De moderne digitale technologie, die met de komst van AI een ongekend dominante rol zal gaan spelen in de samenleving, leent zich daar dus uitstekend voor. Het overklast de mathematische intelligentie van mensen, en maakt moeilijk aanstuurbare menselijke kwaliteiten onschadelijk voor degenen die uit zijn op controle. En dat zijn precies diegenen die over de middelen beschikken om het ontwikkelen van dergelijke geavanceerde technologieën te financieren. Uiteraard zullen ze dat alleen doen als het hun belangen dient.

Daarbij is het natuurlijk wel een vereiste dat het publiek die technologieën omarmt, maar dat kan eenvoudig gerealiseerd worden door er aantrekkelijke speeltjes in te stoppen. Speeltjes waarmee mensen gemakkelijk te verleiden zijn, waardoor de technologie gretig wordt afgenomen en deel gaat uitmaken van het dagelijks leven, zodat we binnen de kortste keren niet meer zonder kunnen. Precies zoals we dat gezien hebben bij andere technologieën, zoals het internet en smartphones, die onbegrensde en vrije toegang tot informatie en communicatie beloofden en daarom op groot publiek enthousiasme konden rekenen. We zijn er inmiddels allemaal afhankelijk van, en dus zullen de leuke attracties de komende tijd stap voor stap worden weggenomen, bijvoorbeeld door de introductie van voorwaardelijke internet-ID’s, waardoor uiteindelijk alleen de afhankelijkheid overblijft. Missie voltooid.