Palantir, de algoritmische kristallen bol van de staat

Palantir Technologies is een Amerikaans bedrijf dat gehuld is in een sluier van bedrijfsgeheimen en dat banden heeft met westerse inlichtingendiensten, waaronder de CIA. Samengevat biedt Palantir software voor data-analyse van grote en complexe datasets en ondersteuning bij besluitvorming op basis van de resultaten daarvan. De ingangsinformatie bestaat daarbij uit reeds voorhanden zijnde bronnen. De software is gebaseerd op een combinatie van geavanceerde algoritmen, machine learning en data-integratietechnieken. De crux zit hem in de gevoeligheid van de datasets en de toepassingsgebieden.

Zo worden Palantirs softwaresystemen in Amerika bijvoorbeeld gebruikt door tal van overheidsorganisaties, waaronder de landmacht, luchtmacht, en U.S. Space Force. Vanuit de Amerikaanse federale overheid zijn contracten afgesloten met het Amerikaanse ministerie van Defensie en enkele inlichtingendiensten, waaronder de CIA, de NSA en de National Geospatial-Intelligence Agency (NGA). Deze laatste levert belangrijke informatie aan de Amerikaanse inlichtingengemeenschap en het ministerie van Defensie, om de prioriteiten van de president op het gebied van nationale veiligheid te ondersteunen. Andere gebruikers zijn de NAVO en het ministerie van Defensie van zowel Engeland als Israël.

Palantir is dan ook veel meer dan een hulpmiddel voor handig zoeken, of voor het maken van een samenvatting vanuit zeer grote hoeveelheden data. Zo wordt het bij de Amerikaanse strijdkrachten ingezet als onderdeel van een systeem dat op basis van AI enorme hoeveelheden data op het slagveld kan verwerken voor het aanwijzen van doelen en het ondersteunen van besluitvorming voor alle strijdkrachtencommando’s, de zogenaamde Combatant Commands. Dit zijn verenigde militaire commando’s binnen het Amerikaanse ministerie van Defensie, die elk verantwoordelijk zijn voor militaire operaties in specifieke geografische of functionele gebieden. In essentie zijn de Combatant Commands (CCMD) de operationele armen van het Amerikaanse leger, elk met een specifieke missie om de Amerikaanse belangen te verdedigen. Momenteel zijn er elf CCMD’s. Voorbeelden hiervan zijn het U.S. Central Command (USCENTCOM), U.S. European Command (USEUCOM) en U.S. Cyber Command (USCYBERCOM). Hiermee wordt Palantirs algoritmische intelligentie onlosmakelijk verbonden met de kernactiviteiten van het Pentagon.

Tevens is Palantir door het Amerikaanse leger gevraagd om een blauwdruk te ontwikkelen voor het hart van het Robotic Combat Vehicle (RCV), oftewel het brein van toekomstige autonome oorlogsmachines.

Behalve defensieorganisaties en inlichtingendiensten zijn er ook gebruikers binnen de civiele hoek. Hieronder bevinden zich onder meer het Amerikaanse Department of Homeland Security (DHS), het Department of Health and Human Services (HHS) en de Centers for Disease Control and Prevention (CDC) ofwel de Amerikaanse evenknieën van de NCTV, het ministerie van Volksgezondheid en het RIVM. De Social Security Administration en de Belastingdienst (IRS) staan inmiddels in de planning. Ook Interpol en de Nederlandse Politie maken gebruik van de software van Palantir. Kortgeleden is via WOO-stukken boven water gekomen dat de Nederlandse Politie er al sinds 2012 gebruik van maakt en dat het ook is ingezet tijdens de coronaperiode. Dit geheel in strijd met de AVG.

In de mainstream media wordt Palantir geprezen om zijn voortrekkersrol bij de inzet van kunstmatige intelligentie en big data-analyse. Zo wist het NRC in 2023 te rapporteren dat met software als die van Palantir de derde militaire revolutie al is ingeluid. Dit na de uitvinding van het buskruit en de atoombom. Omdat Palantirs software ook wordt gebruikt in de civiele hoek, zoals dus door de politie, is toen ook al kritiek geuit betreffende het schenden van de privacy van burgers.

Er ontvouwt zich een patroon van systematische samensmelting van datastromen, van zowel bedrijven als overheden, waarmee een integraal systeem ontstaat dat niet alleen gedrag kan voorspellen, maar ook ‘bedreigingen’ in kaart kan brengen en gewenste reacties kan orkestreren. Alle voorhanden zijnde informatie die van een burger is opgeslagen, wordt hiermee geconsolideerd tot één enkel profiel, oftewel een op algoritmes gebaseerd construct. De toepassingsgebieden zijn legio. Hierbij moet worden gedacht aan preventieve surveillance en opsluiting (‘pre-crime’), en gedragsprofilering waarmee bijvoorbeeld het politieke debat kan worden beïnvloed (‘nudging’). Ook kan worden gedacht aan zaken als het ondersteunen van besluitvorming (wie, wat, wanneer, waarmee en hoe) en bestuur op basis van algoritmen. Dit alles resulteert in een volledig gebrek aan transparantie.

In 2023 heeft het Duitse Grondwettelijk Hof (Bundesverfassungsgericht) al bepaald dat het gebruik van Palantir zoals ingezet door politie van Hessen strijdig was met de grondwet.

Los van de ethische bezwaren, kleven er ook grote risico’s aan deze nieuwe technologische ontwikkelingen. Uit recent onderzoek van Apple blijkt dat de technologie waarop de huidige AI is gebaseerd, haar beperkingen kent en dat het niet mogelijk is om een vorm van kunstmatige intelligentie te ontwikkelen die een mens kan evenaren bij het uitvoeren van welke intellectuele taak dan ook. De kwaliteit van een beoordeling of uitkomst neemt namelijk fors af naarmate een vraagstuk meer complex wordt. Bekende gevolgen hiervan zijn het onterecht bestempelen van hele bevolkingsgroepen als fraudeur. Het geeft zonder meer te denken aan wat er kan gebeuren bij besluitvorming in oorlogssituaties.

Palantir werd in 2003 opgericht door Peter Thiel, Alex Karp (thans CEO), Joe Lonsdale en Stephen Cohen (thans president). De als filosoof en jurist opgeleide Peter Thiel is ook bekend als mede-oprichter van PayPal. Thans heeft hij geen bestuurlijke functie bij Palantir, maar hij is lid van de stuurgroep van de Bilderberg Group. Van Peter Thiel is bekend dat hij actief vorm wil geven aan de digitale revolutie. Dat doet hij middels ondernemingen die de grenzen tussen innovatie, toezicht en controle willen vervagen. Zijn ondernemingen worden gedreven vanuit een diepgewortelde behoefte aan orde en een grote afkeer van chaos. Thiels wereldbeeld bestaat dan ook uit een strijdtoneel tussen die twee, evenals tussen goed en kwaad. Hij interpreteert het Bijbelboek Openbaring als een gids voor het navigeren door de moderniteit. De antichrist wordt hierbij beschouwd als een wereldwijd aanwezige totalitaire entiteit, die schijnvrede en veiligheid belooft. Hij ziet zichzelf als een redder, belast met het wegleiden van de menselijke beschaving van de afgrond. In Palantir ziet hij een instrument waarmee een betere toekomst kan worden vormgegeven en waarmee catastrofale gevolgen ten gevolge van chaos kunnen worden voorkomen.

De eveneens als filosoof en jurist opgeleide Alexander Karp staat bekend als een raadselachtige figuur, met een onconventionele leiderschapsstijl, die uitgesproken meningen niet schuwt. In zijn verontrustende boek, The Technological Republic, is de integratie van AI in overheidsfuncties niet zomaar een technologische stap voorwaarts, maar een fundamentele herinterpretatie van het besturen op zich. Daarmee gaat het om een verschuiving van menselijk toezicht en menselijke besluitvorming naar algoritmisch leiderschap. Karp heeft in de loop der jaren voor nogal wat controverse gezorgd, onder meer door openlijk Palantirs samenwerking met overheidsinstanties en het leger te verdedigen, of door tijdens een lezing te melden “er trots op te zijn dat de dood en de pijn die onze vijanden wordt aangedaan, grotendeels – alhoewel niet uitsluitend – door Palantir wordt veroorzaakt”. Ook heeft hij in een persbericht gesteld dat de door de VS aangestuurde AI-revolutie nu echt op gang is gekomen en dat de wereld verdeeld zal zijn in AI-rijke en AI-arme mensen.

De herkomst van de naam Palantir is interessant, en mogelijk – bedoeld of onbedoeld – profetisch. Het verwijst naar een verzonnen object: een van de onverwoestbare kristallen bollen uit Tolkiens fantasyroman In de Ban van de Ring. De door elven vervaardigde ‘palantírs’ werden gebruikt voor communicatie en om gebeurtenissen in andere delen van de wereld, of in het verleden of de toekomst, te zien. Men kon echter niet vertrouwen op het getoonde, omdat wat niet getoond werd belangrijker kon zijn dan wat selectief werd gepresenteerd.

Verder school er een risico in het feit dat gebruikers met voldoende macht konden kiezen wat ze via andere palantírs wilden tonen en wat ze wilden verbergen. In Tolkiens boek is een palantír in handen van de vijand gevallen, waardoor het nut van de andere bollen twijfelachtig is geworden. Commentatoren van de geschriften van Tolkien hebben gewezen op het gebruik van de bollen voor onder meer het verspreiden van oorlogspropaganda.