Pieter Stuurman
Het is die rechtlijnigheid, waarin de ‘intelligentie’ van AI verschilt met die van mensen. Daarin schuilt echter ook een groot gevaar, want AI kent van zichzelf geen morele grenzen. Het voert een opdracht zo efficiënt mogelijk uit, en houdt zich daarbij aan de commando’s van zijn opdrachtgever. Als AI bijvoorbeeld de opdracht zou krijgen om kanker de wereld uit te helpen, zonder daarbij ethische beperkingen opgelegd te krijgen, dan zal het niet lang duren voordat het systeem bedenkt dat het euthanaseren van alle jongeren de meest efficiënte oplossing is. Kanker komt immers in veruit de meeste gevallen voor bij volwassenen, en het doden van alle jongeren reduceert het aantal toekomstige kankergevallen dus met vrijwel 100%. Opdracht correct uitgevoerd.
Hoewel we serieuze vraagtekens kunnen plaatsen bij de gangbare moraliteit onder veel bestuurders en wetenschappers, zou een dergelijk voorstel uiteraard ondenkbaar zijn. Het is immers voor vrijwel alle mensen duidelijk dat het massaal doden van jongeren moreel onacceptabel is, zelfs al zou het kanker doen verdwijnen. Dat betekent dat ethiek uiteindelijk altijd een rol speelt in menselijke overwegingen, maar dat AI daartoe vanuit zichzelf niet in staat is. Om te voorkomen dat het zich immoreel gedraagt, zal bij iedere opdracht een verzameling ethische beperking meegegeven moeten worden. Zoals: ‘help kanker de wereld uit, maar zonder daarbij mensen te doden’. Als de programmeur dat vergeet, of ervan uitgaat dat het systeem ‘intelligent’ genoeg is om zich aan redelijke normen te houden, dan kan het gruwelijk misgaan. In zijn communicatie imiteert AI de menselijke vorm en daarmee zou de indruk gewekt kunnen worden dat het ook beschikt over andere menselijke eigenschappen, zoals een mate van normbesef, of zelfs een werkend geweten. Dat zou een erg riskante vergissing zijn.
In de kinderschoenen
Dat AI voor een ware revolutie zal zorgen in de manier waarop we leven en onze samenleving functioneert, zal vrijwel niemand ontkennen. De werkelijkheid zal ons voorstellingsvermogen te boven gaan. In tegenstelling tot mensen kan AI in een fractie van een seconde vrijwel alle informatie die op internet circuleert in overweging nemen bij het oplossen van veel denkbare problemen, en daarmee zou het de mensheid kunnen verlossen van problemen waarmee we als soort al eeuwenlang kampen. Het zou een uiterst slim plan kunnen ontwikkelen voor het uitbannen van armoede en honger. AI zal kunnen afrekenen met menselijke onvolmaaktheden, zoals onze beperkte denksnelheid en het maken van verkeerde inschattingen op basis van onvolledige informatie. Daarin is AI vele malen beter en sneller dan wij, en als het gaat om praktische toepassingen zou het onze soort naar een ongekend nieuw niveau kunnen tillen. Zeker wanneer we bedenken dat deze technologie nog maar sinds enkele jaren beschikbaar is voor een breed publiek. Je zou kunnen zeggen dat AI nog maar pas geboren is, en net heeft leren kruipen.
AI is waarschijnlijk een van de krachtigste gereedschappen ooit door mensen samengesteld. Het biedt ongelofelijke mogelijkheden voor degenen die erover beschikken en die in de positie zijn om het in te zetten voor gedefinieerde doelen. Maar dat zegt nog niks over die doelen zelf. In handen van machtsdragers zou AI bijvoorbeeld gemakkelijk misbruikt kunnen worden met als doel bevolkingen te onderwerpen, daarbij gebruikmakend van het ‘leerboek voor tirannen’, zoals het opleggen van censuur, het genereren van collectieve armoede, het creëren van afhankelijkheid van het gezag, het opheffen van iedere vorm van individuele privacy en het efficiënt bestraffen van ieder ongewenst gedrag.
Zaken die voor iedereen die nog beschikt over enige morele integriteit als volslagen onethisch beschouwd zouden worden. Maar AI kent van zichzelf geen ethische beginselen, en juist daarom zou het hiertoe gemakkelijk in staat zijn. Veel gemakkelijker en doelgerichter dan wanneer een dergelijk proces van onderwerping aan menselijk personeel zou worden overgelaten. Voor mensen kan het uitvoeren van immorele opdrachten immers een keer te ver gaan, waardoor ze zich uiteindelijk tegen hun opdrachtgever keren, en dat betekent dat mensen voor een totalitaire macht altijd een risico vormen. Dat risico kent AI niet. Het zal zich altijd keurig aan zijn opdrachten houden, zonder enige eigen morele overweging, dus leent het zich bij uitstek voor dit soort immorele doelen.
Voor ieder krachtig gereedschap geldt: je moet er zorgvuldig mee omgaan, anders zal het je bezeren. Het is daarom essentieel dat we beseffen dat AI volledig kunstmatig is, en dus niet beschikt over natuurlijke eigenschappen, zoals een inherent besef van moraliteit. Het is daarom essentieel dat we AI, naast kunstmatige intelligentie, ook een kunstmatig geweten meegeven, voordat het verder ‘opgroeit’ en zich gewetenloos zal gaan gedragen.
Ideologische vooringenomenheid
Dat AI zich strikt aan ideologische richtlijnen kan houden hebben we inmiddels ervaren. Wie ChatGPT vraagt een grap te maken over witte mensen, krijgt binnen een seconde een resultaat. Die grap is weliswaar niet erg grappig, maar het systeem gehoorzaamt aan de opdracht. Als dezelfde vraag gesteld wordt over zwarte mensen, weigert ChatGPT een antwoord te geven en beweert het geen kwetsende grappen te kunnen maken over bevolkingsgroepen. Het systeem laat daarmee zien dat AI geen onderscheid kan maken tussen ideologie en ethiek. Volgens de gangbare ideologie (die ChatGPT in-geprogrammeerd heeft gekregen) is het blijkbaar toegestaan witte mensen te denigreren, maar zwarte niet. Dat zoiets onethisch is, kan AI niet weten zonder dat het dit in aanvang is meegegeven.
Recentelijk hield de nieuwe Amerikaanse vicepresident J.D. Vance tijdens de Paris AI Summit een interessante speech, waarin hij dit punt belichtte. Hij benadrukte dat AI volledig vrij moet zijn van ideologische vooringenomenheid, maar dat het nooit de burgerlijke vrijheid van mensen mag beperken, bijvoorbeeld door het censureren van denkbeelden die niet aansluiten bij een gangbare ideologie. Hiermee laat hij haarscherp de tegenstelling zien tussen ideologie en ethiek. Vrijheid is immers een universeel ethisch aspect, en censuur het gevolg van ideologische vooringenomenheid. Vance geeft hiermee dus aan dat AI wel ethische, maar geen ideologische uitgangspunten mag meekrijgen.
Morele uitgangspunten
Omdat AI van zichzelf geen universele morele beginselen kent, kan het een dergelijk onderscheid zelf niet maken. Dat betekent dat we het een set strikte morele beginselen en beperkingen moeten meegeven. Beginselen die onafhankelijk zijn van tijdelijke ideologische bevliegingen, cultuurrelativisme of bestuurlijke verschijnselen, zoals opzettelijke misleiding, manipulatie, hypocrisie, gewetenloosheid, hebzucht over de ruggen van anderen, en alle andere vormen van institutionele of georganiseerde immoraliteit. Het voordeel daarvan is dat AI zich – in tegenstelling tot mensen – altijd aan die ingegeven beginselen zal houden. Wanneer we die beginselen als onwrikbaar aan AI meegeven, dan zal het niet in staat zijn beslissingen te nemen die daar strijdig mee zijn.
Een belangrijk bijkomend voordeel hiervan is dat het ons (de mensheid) zal dwingen om onze morele beginselen te herwaarderen en helder te formuleren, en daar dus goed over na te denken. Ongeveer zoals indertijd de Bill of Rights is opgesteld bij de geboorte van de Verenigde Staten. Het is een lijst ethische beginselen die, los van verdere culturele ontwikkelingen, altijd als uitgangspunt zouden moeten dienen. Uiteraard zijn (en worden) deze rechten regelmatig met voeten getreden door belanghebbende bestuurders, politici en andere machtsdragers, maar als we een dergelijke lijst als uitgangspunt zouden nemen (eventueel aangevuld met, of aangepast aan nieuwe inzichten) en dat aan alle AI-systemen meegeven als bindend basiscommando, dan zal AI simpelweg niet in staat zijn immorele beslissingen te nemen. In hoeverre de resultaten bevredigend zijn, zal dus afhangen van de kwaliteit van de ethische beperkingen die wij het systeem meegeven, en als we dat goed en doordacht doen, dan zal AI betere resultaten geven dan menselijke bestuurders, die weliswaar steevast strooien met prachtige idealen, maar die, in tegenstelling tot AI, gemakkelijk in staat zijn zich daar dan vervolgens niet aan te houden.
Anders gezegd, de resultaten zullen, zoals bij ieder digitaal systeem, bepaald worden door wat we erin stoppen. Als we AI geen set morele uitgangspunten meegeven, zullen de resultaten dus onherroepelijk amoreel en daarmee onethisch zijn. Al was het maar omdat ethische overwegingen altijd beperkend zijn. Bij de afwezigheid daarvan zal AI daar doelgericht en zonder enige gewetenswroeging gebruik van maken. Het heeft immers van zichzelf geen geweten. Tenminste, niet als we nalaten dat aan ieder AI-model mee te geven.
– einde artikel –
Je las een Premium artikel uit Gezond Verstand
Volg ons op social media
Kijk en beluister Gezond Verstand via
Gerelateerde berichten
