Richard Rijsdijk
Diella is een AI-systeem dat werkt op basis van geavanceerde algoritmen en ‘machine learning’. Het is zo geprogrammeerd dat het onregelmatigheden in aanbestedingsprocessen kan signaleren, fraude kan detecteren en suggesties kan doen voor verbetering van transparantie. Premier Edi Rama, tevens kunstenaar en schrijver en sinds 2013 premier van Albanië, presenteerde Diella als een middel om de corruptie in Albanië – een land dat bekend staat om zijn problemen hiermee – effectiever aan te kunnen pakken.
Diella kreeg de virtuele avatar van een jonge, traditioneel geklede vrouw, waardoor ze binnen het politieke landschap een ‘persoonlijkheid’ kreeg. De digitale minister maakt gebruik van gegevens van verschillende overheidsinstanties en is toegankelijk voor burgers die vermoedens van corruptie willen melden.
De benoeming van Diella is omstreden binnen het Albanese parlement. Haar aanwezigheid stuitte op aanzienlijke weerstand, vooral vanuit de oppositie. Het leidde tot heftige discussies en zelfs ongeregeldheden tijdens debatten. Tegenstanders brachten verschillende juridische bezwaren naar voren, gebaseerd op bepalingen uit de Albanese grondwet. Zo bepaalt artikel 103 dat personen alleen minister mogen zijn wanneer ze voldoen aan bepaalde voorwaarden voor parlementair lidmaatschap, waaronder leeftijdseisen en staatsburgerschap. Als AI-programma voldoet Diella duidelijk niet aan deze eisen, aangezien deze niet-menselijke entiteit geen Albanees staatsburger kan zijn en tevens niet de vereiste leeftijd heeft.
De grondwet stelt dat ministers persoonlijk verantwoordelijk zijn voor hun beslissingen en dat ze kunnen worden vervolgd voor schendingen van wet- en regelgeving. Deze artikelen benadrukken ook dat ministers instructies moeten geven, toezicht moeten houden op en verantwoordelijkheid moeten dragen voor de uitvoering van beleid. Maar Diella kan niet juridisch aansprakelijk worden gesteld. Het is vooralsnog niet duidelijk wie verantwoordelijk kan worden gesteld voor eventuele foutieve beslissingen en/of schade die door deze virtuele ‘minister’ zou kunnen worden veroorzaakt.
Ook kan niet worden voldaan aan bepaalde grondwettelijke procedurele eisen. Ministers mogen alleen benoemd worden door de president, op voordracht van de premier, en deze benoemingen moeten door het parlement worden goedgekeurd. Hoewel premier Edi Rama Diella tijdens de persconferentie op 12 september presenteerde als een “digitale minister die corruptie gaat bestrijden” was het onduidelijk of het AI-programma benoemd is conform de grondwettelijke procedures, of slechts een technologisch geavanceerd stuk gereedschap is dat een politieke titel ontving zonder status als kabinetslid. Tot op dit moment zijn er geen publieke documenten beschikbaar waaruit blijkt dat de benoeming plaatsvond per presidentieel decreet, noch of er sprake was van parlementaire goedkeuring.
Een ander punt is de vraag wie juridisch verantwoordelijk is voor de door Diella genomen beslissingen. Critici vragen zich af hoe er toezicht wordt gehouden op de werking van deze AI-minister, dus welke menselijke controle er is, en hoe transparant haar algoritmes zijn. Dit zijn cruciale vragen voor de rechtszekerheid en legitimiteit van de door Diella genomen besluiten.
De Democratische Partij, onder leiding van Sali Berisha, heeft aangekondigd de benoeming aan te vechten bij het Grondwettelijk Hof. Hoewel deze partij haar bezwaar al officieel publiekelijk heeft gemaakt en heeft aangegeven een klacht voor te bereiden, is het op dit moment niet duidelijk of er al een formele procedure bij het Hof loopt.
De introductie van Diella, gericht op corruptiebestrijding, kan in een breder verband gezien worden als een poging de EU gunstig te stemmen inzake het EU-lidmaatschap van Albanië, dat al sinds 2011 kandidaat-lid is. De EU heeft in het verleden diverse malen in de zogenaamde Country Reports geconstateerd dat Albanië op het gebied van corruptiebestrijding te weinig voortgang boekt. Er waren zelfs concrete maatregelen vanuit de EU toen corruptie inzake het beheer van landbouwsubsidies via het IPARD-programma werd vastgesteld. De EU schortte de subsidies vervolgens op. In het rapport van 2023 over Albanië staat: “Ondanks enige vooruitgang en voortdurende inspanningen in de strijd tegen corruptie, blijft het een punt van ernstige zorg. Corruptie is wijdverbreid in veel sectoren van het openbare en zakelijke leven. Preventieve maatregelen blijven een beperkte impact hebben, met name in kwetsbare sectoren.” Die sectoren zijn onder meer het onderwijs, de zorg, de politie en ook het beheer van de openbare aanbestedingen, waarvoor Diella nu is ‘benoemd’.
De benoeming heeft ook wereldwijd reacties opgeroepen, die uiteenlopen van bewondering voor innovatie, tot bezorgdheid over ethiek en rechtmatigheid. In een opiniestuk in The Washington Post werd benadrukt dat hoewel AI kan bijdragen aan meer transparantie, het succes vooral afhankelijk is van goed leiderschap en menselijke verantwoordelijkheid. Zweedse AI-experts waarschuwen dat AI-systemen net zo vatbaar zijn voor manipulatie als mensen, en bekritiseren het geven van een ‘vrouwelijk gezicht’ aan Diella in een politiek systeem dat traditioneel mannelijk is. The Times in het VK noemt de benoeming een innovatieve stap, maar wijst op de politieke verdeeldheid die het momenteel in Albanië veroorzaakt. Andere landen zijn wat positiever. In Pakistan richtten de commentaren in de media zich vooral op het praktische nut van Diella bij het bestrijden van corruptie en het verbeteren van transparantie bij overheidsaanbestedingen.
Alhoewel mensenrechtenorganisaties er nog niet op reageerden, waarschuwen Amnesty International en Human Rights Watch al langer voor het ontbreken van menselijke verantwoordelijkheid bij AI-besluiten, met name in overheidszaken.
Internationale zorgen over het ontbreken van een juridisch kader voor AI worden steeds nadrukkelijker geuit. Meer dan tweehonderd wereldleiders – waaronder voormalige staatshoofden, Nobelprijswinnaars en AI-pioniers als Geoffrey Hinton – ondertekenden de Global Call for AI Red Lines. Deze oproep benadrukt de noodzaak van internationale grenzen voor de ontwikkeling van AI, met speciale aandacht voor het voorkomen van onveilige praktijken als het nabootsen van mensen en zelfreplicatie. Onder zelfreplicatie wordt verstaan dat AI-bots zelf hun oorspronkelijke programmering herschrijven, waardoor ze exponentieel complexer kunnen worden. Dat zou menselijk toezicht en juridische aansprakelijkheid aanzienlijk compliceren. Initiatiefnemers als CeSIA, The Future Society en het Center for Human-Compatible AI van UC Berkeley pleiten voor preventieve regelgeving en een onafhankelijk orgaan dat toezicht houdt op alle AI-toepassingen.
De waarschuwingen van deze organisaties weerspiegelen de bredere bezorgdheid over het gebruik van AI bij de overheid. Rond 2015 waarschuwden invloedrijke denkers als Elon Musk en Stephen Hawking al voor de risico’s, wegens het oncontroleerbare ervan. Musk stelde dat zonder adequate regelgeving de zogenaamde ‘intelligentie’ van AI een van de grootste bedreigingen voor de mensheid kan gaan vormen. Hawking waarschuwde dat het zelfs het einde van de menselijke beschaving zou kunnen betekenen wanneer het zichzelf zonder adequaat toezicht steeds verder ontwikkelt.
Deze waarschuwingen draaien om de afwezigheid van menselijke controle, de onvoorziene gevolgen van geautomatiseerde systemen, het belang van aansprakelijkheid, en de gevaren van sociale ongelijkheid en machtsconcentratie.
Internationale inspanningen op het gebied van broodnodige afspraken over kunstmatige intelligentie (AI) zijn geconcentreerd rond verschillende grote initiatieven, maar de samenwerking tussen politieke verbanden blijft beperkt en versnipperd. Onder deze internationale initiatieven bevindt zich het al genoemde Global Call for AI Red Lines. Daarnaast is er het Global Partnership on AI (GPAI), opgericht in 2020. Dit is een samenwerkingsverband van meer dan 25 landen dat ethische en verantwoorde AI-ontwikkeling stimuleert via onderzoek, kennisdeling en beleidsafstemming. Daarnaast stelde de Organisation for Economic Co-operation and Development (OECD) in 2019 haar AI Principles vast, onderschreven door 48 landen, die transparantie, veiligheid en mensgerichtheid benadrukken. Beide initiatieven vormen belangrijke fundamenten, maar missen bindende handhavingsmechanismen.
Politieke verbanden, zoals de EU, G20 en de Verenigde Naties, zijn in gesprek over AI, maar hun inspanningen zijn qua schaal en impact vrij beperkt. De AI Act van de EU richt zich vooral op het reguleren van burgers en bedrijven binnen Europa en wordt door critici gezien als bureaucratisch en intern gericht, zonder voldoende internationale afdwingbaarheid. G20 en VN voeren incidentele dialogen, maar concrete, bindende mondiale afspraken ontbreken, waardoor een race naar de bodem van ethische standaarden dreigt.
Tot op heden vervullen burgerinitiatieven een leidende rol in de discussie over deze complexe materie. Terwijl geopolitieke verschuivingen zich in snel tempo voltrekken en internationale beïnvloeding nieuwe vormen aanneemt, is het gebruik van AI-instrumenten voor datavergaring en -verwerking en de eventuele problemen die daarmee samenhangen, een onderwerp dat grote belangstelling verdient.
– einde artikel –
Je las een Premium artikel uit Gezond Verstand
Volg ons op social media
Kijk en beluister Gezond Verstand via
Gerelateerde berichten
