Traditioneel ligt de verantwoordelijkheid voor doelbepaling en geweldstoepassing (targeting) volledig bij de commandant. De inzet van AI binnen militaire besluitvorming ontwikkelt zich echter in hoog tempo. AI biedt duidelijke operationele voordelen, vooral op het gebied van snelheid en schaal. Besluitvormingsprocessen kunnen sneller verlopen en worden gebaseerd op veel grotere hoeveelheden data dan voorheen mogelijk was. Daardoor krijgt AI in de praktijk steeds meer invloed op de uiteindelijke besluitvorming. Deze ontwikkelingen raken de kernbeginselen van het humanitair oorlogsrecht (HOR), in het bijzonder de beginselen van onderscheid, proportionaliteit en voorzorg.
Kunstmatige intelligentie (AI) is niet meer weg te denken uit de samenleving en speelt inmiddels ook een prominente rol op het gevechtsveld. In recente gewapende conflicten, zoals in Oekraïne en in de strijd tussen Israël, Hamas en Hezbollah, wordt AI ingezet in autonome en onbemande wapensystemen, waaronder drones en UAV’s. Daarnaast versterkt AI ook cyberoperaties en wordt dit toegepast in militaire besluitvormingssystemen, de zogeheten AI-enabled Decision Support Systems (AI-DSS).[1] AI-DSS is een vorm van het gebruik van AI. Dit zijn systemen die met behulp van algoritmen grote hoeveelheden data analyseren ter ondersteuning van militaire besluitvorming. Voorbeelden hiervan zijn systemen zoals Lavender en Gospel, gebruikt door de Israeli Defense Forces (IDF), en het AIP-platform van Palantir, dat door de Oekraïense krijgsmacht wordt ingezet.[2]

Brandend voertuig in Gaza na een drone-aanval van het Israëlische leger, dat bij operaties meerdere AI-enabled Decision Support Systems gebruikt. Foto ANP/Anadolu, Abdalhkem Abu Riash
Traditioneel ligt de verantwoordelijkheid voor doelbepaling en geweldstoepassing (targeting) volledig bij de commandant. De inzet van AI binnen militaire besluitvorming ontwikkelt zich echter in hoog tempo. AI biedt duidelijke operationele voordelen, vooral op het gebied van snelheid en schaal. Besluitvormingsprocessen kunnen sneller verlopen en worden gebaseerd op veel grotere hoeveelheden data dan voorheen mogelijk was. Daardoor krijgt AI in de praktijk steeds meer invloed op de uiteindelijke besluitvorming.[3] Zo is gerapporteerd dat de inzet van AI-DSS door de IDF heeft geleid tot een toename van ongeveer vijftig doelwitten per jaar naar circa honderd per dag.[4] Een recent voorbeeld van de zorgen rondom militaire AI-DSS betreft het mogelijke gebruik van het Amerikaanse Maven Smart System (MSS) tijdens operaties tegen Iran (Operation Epic Fury). Volgens berichtgeving stond een Iraanse meisjesschool op een Amerikaanse doelwitlijst en kwamen bij een bombardement ruim 175 kinderen om het leven.[5] Hoewel niet duidelijk is in welke mate AI daadwerkelijk een rol speelde bij deze doelwitselectie, illustreert het incident wel de risico’s van AI-ondersteunde targeting in moderne oorlogvoering. Volledige verificatie blijft daarbij lastig, omdat militaire inlichtingen, operationele procedures en gebruikte systemen grotendeels vertrouwelijk zijn.
Deze ontwikkeling roept juridische vragen op. Naarmate AI een grotere rol speelt in besluitvorming, verandert de aard van de betrokkenheid van de commandant. De commandant blijft formeel verantwoordelijk voor de uiteindelijke beslissing, maar in de praktijk bestaat het risico dat de inhoudelijke beoordeling steeds sterker leunt op de door het AI-DSS gegenereerde analyses en aanbevelingen. Dit hangt samen met fenomenen zoals automation bias en cognitive offloading.
Bij automation bias bestaat de neiging om de door het systeem voorgestelde opties impliciet als de beste of meest juiste aan te nemen, waardoor een kritische beoordeling van alternatieven of onderliggende aannames afneemt. Cognitive offloading houdt in dat mentale taken worden uitbesteed aan externe hulpmiddelen, zoals AI-DSS, om de cognitieve belasting te verminderen. In plaats van zelfstandig alle informatie te analyseren of afwegingen te maken, wordt een deel van die cognitieve inspanning overgelaten aan het AI-systeem. Hierdoor kan de commandant weliswaar betrokken blijven bij het besluitvormingsproces, maar verschuift een deel van de feitelijke beoordeling en analyse naar het systeem.
Deze ontwikkelingen raken de kernbeginselen van het humanitair oorlogsrecht (HOR), in het bijzonder de beginselen van onderscheid, proportionaliteit en voorzorg zoals neergelegd in de artikelen 48, 51, 52 en 57 van het Eerste Aanvullende Protocol (AP I) uit 1977.[6] Door de snelle technologische groei ontstaat daarmee een spanningsveld over de inpasbaarheid van AI-DSS binnen bestaande juridische kaders.
De centrale vraag in dit artikel is in hoeverre de inzet van AI-DSS binnen het targetingproces verenigbaar is met deze beginselen van het HOR.[7] Ter beantwoording daarvan wordt eerst het relevante juridische kader geschetst. Vervolgens wordt de rol van AI binnen de Joint Targeting Cycle (JTC) geanalyseerd. Tot slot worden de belangrijkste juridische knelpunten besproken en mogelijke oplossingen verkend.
Onderscheid, proportionaliteit en voorzorgsmaatregelen
Het humanitair oorlogsrecht (HOR) vormt het juridisch kader voor het handelen tijdens gewapende conflicten. Het beoogt een balans te waarborgen tussen militaire noodzaak en de bescherming van de humaniteit tijdens een conflict.[8] Het HOR bestaat uit verdragen, maar primair uit het internationaal gewoonterecht. Dat is relevant want niet alle landen hebben het AP I-verdrag geratificeerd, maar de principes ervan zijn wel via het gewoonterecht van toepassing op alle landen.[9]
Het HOR maakt onderscheid tussen verschillende soorten militaire operaties, variërend van de aanval van een divisie tot een inlichtingenoperatie of een logistiek konvooi. In dit artikel staat de ‘aanval’ centraal, zoals gedefinieerd in artikel 49 lid 1 AP I: ‘daden van geweld gericht tegen de tegenstander, hetzij offensieve hetzij defensieve’.[10] Binnen het HOR geldt voor aanvallen een strenger beschermingsregime dan voor andere militaire operaties. De beginselen van onderscheid, proportionaliteit en voorzorg zijn in dat kader van doorslaggevend belang, terwijl zij bij andere operaties slechts beperkt toepassing vinden.[11]
Het onderscheidingsbeginsel, neergelegd in artikel 48 AP I en nader uitgewerkt in de artikelen 51 en 52, vormt een kernnorm van het HOR. Het vereist dat te allen tijde onderscheid wordt gemaakt tussen combattanten en burgers, en tussen militaire doelen en civiele objecten.[12] Aanvallen mogen uitsluitend worden gericht op militaire doelen en moeten burgers en civiele objecten zoveel mogelijk ontzien.[13] Burgers en de burgerbevolking mogen geen doelwit zijn van aanvallen (art. 51 lid 2 AP I), en ook handelingen die gericht zijn op het zaaien van terreur onder de burgerbevolking zijn verboden.

Bij twijfel dient een object als civiel te worden aangemerkt, maar deze beoordeling is in moderne, gedigitaliseerde conflicten steeds complexer geworden. Foto MCD, Christian Schrik
In de praktijk is het onderscheid tussen burgers en combattanten echter niet altijd eenvoudig te maken, vooral bij milities, vrijwilligerskorpsen of burgers die spontaan de wapens opnemen (levée en masse).[14] Voor objecten geldt dat zij in beginsel civiel zijn en daarmee beschermd, tenzij zij door hun aard, locatie, bestemming of gebruik een effectieve bijdrage leveren aan militaire operaties en hun vernietiging een duidelijk militair voordeel oplevert.[15] Bij twijfel dient een object als civiel te worden aangemerkt.[16] Deze beoordeling is in moderne, gedigitaliseerde conflicten steeds complexer geworden. Waar traditionele militaire doelen, zoals tanks of gevechtsvliegtuigen, relatief eenvoudig te identificeren zijn, geldt dat minder voor civiele infrastructuur met een dual-use karakter, zoals ICT-systemen die zowel civiele als militaire functies vervullen.
Het proportionaliteitsbeginsel, vastgelegd in onder meer de artikelen 51 en 57 AP I, verbiedt aanvallen waarbij de verwachte nevenschade aan burgers of civiele objecten buitensporig is in verhouding tot het concrete en directe militaire voordeel.[17] Het voorzorgsbeginsel, onder meer neergelegd in artikel 57 lid 2 AP I, verplicht partijen bij een conflict om alle praktisch mogelijke maatregelen te nemen om burgerslachtoffers en civiele schade te voorkomen of te beperken. Dit omvat onder meer een voortdurende en zorgvuldige verificatie van doelen, evenals de keuze van middelen en methoden die het risico op disproportionele schade minimaliseren.[18]
Besluitvorming via de Joint Targeting Cycle
AI-DSS ondersteunen, zoals eerder uiteengezet, complexe besluitvormingsprocessen door middel van geautomatiseerde en deels autonome data-analyse. Deze systemen verwerken grote hoeveelheden informatie en presenteren de menselijke beslisser handelingsopties, onder meer binnen het proces van targeting.[19]
Binnen een NAVO-context hanteert de militair commandant voorafgaand aan en tijdens een aanval de zogeheten Joint Targeting Cycle (JTC).[20] Targeting betreft het proces van doelselectie en prioritering, gericht op het behalen van militaire doelstellingen binnen de grenzen van operationele capaciteit en haalbaarheid.
De NAVO verdeelt de JTC in zes opeenvolgende fasen (zie figuur 1). De cyclus heeft een iteratief karakter: uitkomsten van eerdere operaties worden gebruikt om latere besluitvorming te verbeteren. Binnen dit proces speelt de inlichtingenanalyse van de commandant en het advies van de militair juridisch adviseur een centrale rol.

Figuur 1 De zes fasen van targeting volgens de NAVO-doctrine
Gegevens vanuit het gevechtsveld over de daadwerkelijke inzet van AI in militaire besluitvormingsprocessen zijn schaars, mede doordat veel relevante operaties nog gaande zijn. In de volgende secties wordt daarom uitgegaan van bestaande literatuur en eerder onderzoek naar AI in besluitvorming, aangevuld met inzichten uit expertinterviews binnen zowel Defensie als de academische wereld.[21]
Het gebruik van AI in de JTC
De vraag is vervolgens op welke wijze AI een rol speelt binnen de JTC en welke voor- en nadelen daarmee gepaard gaan.
In de eerste fase van de JTC, waarin de commandant de doelstellingen en richtlijnen van de operatie formuleert, is de rol van AI beperkt. Het vaststellen van doelen en het overbrengen van de intentie vergt strategische, militair-operationele en ethische afwegingen en blijft daarmee in essentie een menselijk proces. AI kan in deze fase wel ondersteunend zijn, bijvoorbeeld door het genereren van scenario’s of het structureren van informatie.
In de tweede fase, waarin potentiële doelen worden geïdentificeerd en geprioriteerd, ligt de grootste operationele meerwaarde van AI. Systemen kunnen grote hoeveelheden satellietbeelden en sensordata verwerken en analyseren. De kracht van AI ligt hier in snelheid, schaal en patroonherkenning, waardoor doelidentificatie aanzienlijk wordt versneld.
Ook in de derde fase, waarin de commandant beoordeelt welke middelen en methoden geschikt zijn en welke nevenschade kan optreden (Collateral Damage Estimate, CDE), speelt AI een belangrijke rol. AI-DSS kan verschillende inzetopties vergelijken, structureren en categoriseren, en ondersteunt bij het inschatten van civiele aanwezigheid en mogelijke nevenschade.
In de vierde fase neemt de commandant de uiteindelijke beslissing over de inzet van middelen. In de praktijk is deze beslissing echter steeds vaker gebaseerd op door AI gegenereerde en geprioriteerde opties. Dit versnelt de besluitvorming, maar betekent ook dat AI een aanzienlijke invloed heeft op de keuzeruimte van de commandant.
De vijfde fase betreft de uitvoering van de operatie en het aansturen van eenheden. Dit is de meest risicovolle fase voor het gebruik van AI, omdat hier een directe koppeling bestaat met wapensystemen, zoals drones.[22] In deze fase kunnen fouten of onvolkomenheden in eerdere besluitvorming direct doorwerken in de feitelijke inzet van geweld.
In de zesde fase evalueert de commandant of de aanval het beoogde effect heeft gehad en welke nevenschade is opgetreden.[23] Hoewel AI kan ondersteunen bij het identificeren van schade en neveneffecten, blijft deze evaluatie in hoofdzaak een juridische en normatieve beoordeling die bij de commandant berust.
Samenvattend speelt AI een beperkte rol in de normatieve fasen van de JTC (fase 1 en 6), maar wordt intensief ingezet in de meer datagedreven fasen (fase 2 tot en met 5). AI-DSS ondersteunt daarmee vooral de analytische en uitvoeringsgerichte onderdelen van het proces, zoals target development, capabilities analysis, commander’s decision en mission execution.
Hieruit volgt een centraal spanningsveld. Hoewel AI formeel een ondersteunend instrument blijft, krijgt het in de praktijk een steeds grotere invloed op de besluitvorming. Dit roept vragen op over menselijke controle, verantwoordelijkheid en de naleving van het humanitair oorlogsrecht. Artikel 57 lid 2 onder a AP I verwijst immers expliciet naar ‘zij die een aanval voorbereiden of tot een aanval besluiten’, waarmee wordt gedoeld op menselijke actoren. Vanuit juridisch perspectief ligt het voor de hand om het inzetten van AI te zien als een menselijk besluit, waardoor ook de gevolgen daarvan onder menselijke verantwoordelijkheid blijven vallen. Het spanningsveld ontstaat echter doordat AI-systemen in de praktijk steeds autonomer analyses en aanbevelingen genereren, terwijl menselijke actoren die uitkomsten niet altijd volledig kunnen doorgronden of controleren. Daardoor bestaat het risico dat menselijke controle vooral formeel blijft, terwijl AI feitelijk een groot deel van de besluitvorming stuurt.
Juridische uitdagingen
Hoewel staten en de Verenigde Naties erkennen dat het internationale recht onverkort van toepassing is op AI,[24] roept de inzet van AI in de praktijk spanningen op met de kernbeginselen van het humanitair oorlogsrecht (HOR).
Onderscheid
Het onderscheidingsbeginsel (art. 48 en 51 AP I) vereist dat aanvallen uitsluitend worden gericht tegen militaire doelen en dat bij twijfel een persoon of object als civiel moet worden aangemerkt en derhalve niet mag worden aangevallen. Deze beschermingsregel is dwingend van aard: zolang geen voldoende zekerheid bestaat dat sprake is van een militair doel, is het uitvoeren van een aanval niet toegestaan. In de praktijk genereren en classificeren AI-DSS in fase 2 (target development) echter op grote schaal potentiële doelen. De operationele kracht van deze systemen ligt in hun vermogen om grote hoeveelheden data te analyseren en patronen te herkennen die voor menselijke analisten moeilijk waarneembaar zijn. Juist daardoor ontstaat spanning met het onderscheidingsbeginsel. Wanneer een systeem correlaties of gedragsindicatoren als aanwijzing voor vijandelijke activiteit presenteert, bestaat het risico dat twijfel over de civiele status van personen of objecten onvoldoende zichtbaar blijft of ten onrechte wordt gereduceerd tot een statistische waarschijnlijkheid. Het humanitair oorlogsrecht laat in dat geval echter geen ruimte voor een ‘aanvaardbare foutmarge’: bij blijvende twijfel dient van een aanval te worden afgezien.
Tegelijkertijd brengt deze schaal en snelheid aanzienlijke risico’s met zich mee. Volledige menselijke verificatie van AI-output is vaak niet haalbaar, waardoor foutieve doelidentificatie kan optreden op basis van onjuiste of onvolledige data-interpretaties. De beoordeling van onderscheid verschuift daarmee deels naar het systeem, terwijl dit juist een voortdurende, contextuele en normatieve menselijke afweging vereist.
Deze risico’s worden versterkt door verschillende vormen van bias. Automation bias kan ertoe leiden dat gebruikers de uitkomsten van AI-systemen te snel als correct aannemen,[25] terwijl data-bias ontstaat wanneer onderliggende datasets selectief, onvolledig of historisch gekleurd zijn.[26]
Daarnaast zijn AI-uitkomsten doorgaans probabilistisch van aard: zij geven waarschijnlijkheden in plaats van zekerheden. Indien commandanten deze waarschijnlijkheden als feitelijke juistheden interpreteren, kan dit leiden tot foutieve classificatie van civiele objecten als militaire doelen. Dit staat op gespannen voet met artikel 52 AP I, dat vereist dat bij twijfel civiele bescherming prevaleert.
Fase 2 vormt daarmee zowel het punt van grootste operationele meerwaarde als het moment waarop juridische risico’s en verantwoordingsvragen het scherpst naar voren treden.

Het proportionaliteitsbeginsel verbiedt aanvallen waarbij de verwachte nevenschade buitensporig is in verhouding tot het concrete en directe militaire voordeel. Foto MCD, Hilbert Buter
Proportionaliteit
Het proportionaliteitsbeginsel (art. 51 en 57 AP I) verbiedt aanvallen waarbij de verwachte nevenschade buitensporig is in verhouding tot het concrete en directe militaire voordeel. AI-DSS kan worden ingezet om de CDE te ondersteunen en inzetopties te structureren, maar is niet in staat een juridische proportionaliteitsafweging te maken. Die afweging vereist namelijk meer dan een technische berekening van verwachte schade, ook contextuele en normatieve factoren spelen een rol zoals de aard van het doelwit, de betrouwbaarheid van de informatie en de vraag wanneer nevenschade juridisch als ‘buitensporig’ moet worden beschouwd. AI-DSS kan gegevens analyseren en scenario’s vergelijken, maar begrijpt deze normatieve begrippen niet en kan daarom geen zelfstandige juridische beoordeling verrichten. Hierdoor dreigt proportionaliteit te worden gereduceerd tot een technische berekening, terwijl het juridisch kader juist een contextuele en normatieve beoordeling vereist.[27]
AI beïnvloedt deze afweging bovendien door de wijze waarop informatie wordt gepresenteerd. In fase 3 (capabilities analysis) ondersteunt AI bij het inschatten van burgerslachtoffers en het vergelijken van inzetopties. Hoewel de uiteindelijke beslissing bij de commandant blijft, bestaat onder tijdsdruk of vermoeidheid het risico dat te veel wordt vertrouwd op AI-output. De juridische norm wordt daarmee deels vertaald in cijfers en modellen.
Dit risico neemt verder toe in fase 5 (mission execution), in het bijzonder wanneer AI binnen vooraf ingestelde drempelwaarden zelfstandig doelen selecteert of aanvallen uitvoert. In dat geval dreigt een normatieve en contextafhankelijke beoordeling te worden vervangen door een technische drempelwaarde. Proportionaliteit wordt ook hier een rekenkundige uitkomst, terwijl het in wezen een zorgvuldige menselijke belangenafweging vereist.
Voorzorg
Het voorzorgsbeginsel (art. 57 AP I) verplicht commandanten om alle praktisch uitvoerbare maatregelen te nemen om schade aan burgers en civiele objecten te voorkomen of te beperken. In de praktijk presenteren AI-DSS in fase 4 (commander’s decision) en vooral fase 5 voorbewerkte en geprioriteerde opties, waardoor commandanten opereren binnen een door AI gevormd besliskader.
In fase 4 bestaat het risico dat commandanten minder kritisch toetsen, omdat AI bepaalt welke opties zichtbaar zijn en hoe deze worden gepresenteerd. Relevante risico’s zijn onder meer automation bias, cognitive offloading, waarbij de gebruiker de analyse aan het systeem overlaat,[28] en beperkte transparantie van AI-systemen. Hierdoor wordt de ruimte voor zelfstandige en kritische beoordeling verkleind, terwijl het juridisch kader juist actieve menselijke betrokkenheid vereist.
In fase 5, waar AI direct gekoppeld kan zijn aan wapensystemen, nemen de risico’s verder toe. Probabilistische systemen kunnen leiden tot false positives, waarbij objecten ten onrechte als militair doel worden aangemerkt.[29] Het vereiste van positive identification, voldoende zekerheid over de aard van het doel, vraagt juist om zorgvuldige menselijke verificatie.[30]
Vanuit het voorzorgsbeginsel is daarom niet alleen formele verantwoordelijkheid van belang, maar vooral feitelijke controle. Naarmate AI besluitvorming versnelt en informatie filtert, komt de ruimte voor aanvullende verificatie en reflectie onder druk te staan, terwijl de verplichting tot voorzorg volledig bij de commandant blijft rusten.[31]
Het juridisch kader van AP I veronderstelt voortdurende menselijke controle en normatieve oordeelsvorming. Hoewel deze formeel behouden blijft, zetten schaal, snelheid, probabilistische uitkomsten en bias de feitelijke controle onder druk, vooral in de fasen 2, 4 en 5 van de JTC. Het grootste risico doet zich voor in fase 5, waar de directe koppeling tussen AI en wapensystemen de beginselen van onderscheid, proportionaliteit en voorzorg het meest kwetsbaar maakt.
Oplossingsgerichte maatregelen
De opkomst van AI, alsook van autonome systemen, zal een fundamentele invloed hebben op het targetingproces. Dergelijke systemen opereren sneller, vereisen minder personeel en zijn minder afhankelijk van directe menselijke interventie, waardoor hun rol naar verwachting verder zal toenemen.
Uit het voorgaande volgt dat AI vooral wordt ingezet als decision support system binnen de analytische en uitvoeringsgerichte fasen van de Joint Targeting Cycle (fase 2 tot en met 5). AI verwerkt grote hoeveelheden data, genereert en prioriteert doelen en presenteert beslisopties. Hoewel de commandant formeel verantwoordelijk blijft, verschuift de feitelijke invloed onder meer door schaal, snelheid en automation bias in toenemende mate naar het systeem. In de normatieve fasen (fase 1 en 6) speelt AI daarentegen een beperkte rol. Tegelijkertijd doen zich knelpunten voor, zoals beperkte menselijke verificatie, gebrekkige transparantie, data-bias en het risico dat verantwoordelijkheid en feitelijke controle uiteenlopen, vooral in fase 5 waar AI direct gekoppeld kan zijn aan wapensystemen.
Een eerste oplossingsgerichte maatregel is het verplaatsen van normatieve keuzes naar eerdere fasen van de besluitvorming, of zelfs voorafgaand aan de JTC. Door vooraf juridische en operationele kaders en drempelwaarden vast te stellen, kan worden geborgd dat AI binnen duidelijke grenzen opereert.[32] AI is bij uitstek geschikt voor kwantitatieve analyses, zoals het inschatten van nevenschade, maar normatieve afwegingen bijvoorbeeld over militair voordeel, twijfel en proportionaliteit dienen expliciet door mensen te worden vastgesteld en ingebed. De kern van de uitdaging ligt daarmee niet primair in de technologie, maar in het juridisch en organisatorisch borgen van menselijke controle en verantwoordelijkheid.
Een tweede maatregel betreft het strikt begrenzen van de rol van AI. AI-DSS dient ondersteunend te blijven en mag geen zelfstandige normatieve beslissingen nemen. In de eerste en zesde fase van de JTC kan AI hooguit een informerende functie vervullen, zoals het structureren van informatie of het analyseren van data. Beslissingen over doelstellingen, intentie, proportionaliteit en rechtmatigheid moeten expliciet menselijk blijven.
Ten derde is versterking van menselijke verificatie en controle noodzakelijk. De schaal en snelheid van AI-output maken volledige controle lastig, maar dit ontslaat de commandant niet van zijn verantwoordelijkheid. Het is daarom van belang om verificatiemomenten in te bouwen, verantwoordelijkheden helder toe te wijzen en te voorkomen dat AI-output automatisch doorwerkt naar latere fasen van het besluitvormingsproces.
Een vierde maatregel is het tegengaan van automation bias. Commandanten en operators dienen zich bewust te zijn van de beperkingen van AI-systemen en voldoende professionele afstand te bewaren ten opzichte van AI-gegenereerde aanbevelingen. Dit vereist aanpassing van opleiding, training en doctrine. AI-output moet worden gepresenteerd als ondersteuning, niet als impliciet juiste of beste keuze.

Het verdient aanbeveling om het gebruik van AI in de uitvoeringsfase (fase 5) strikt te beperken: juist in deze fase is de koppeling met wapensystemen direct en zijn de gevolgen voor burgers het grootst. Foto MCD, Phil Nijhuis
Ten vijfde is transparantie en uitlegbaarheid van AI-systemen belangrijk. Wanneer niet inzichtelijk is hoe een systeem tot bepaalde aanbevelingen komt, ontstaat een verantwoordelijkheidshiaat dat moeilijk te verenigen is met het HOR.
Tot slot verdient het aanbeveling om het gebruik van AI in de uitvoeringsfase (fase 5) strikt te beperken. Juist in deze fase is de koppeling met wapensystemen direct en zijn de gevolgen voor burgers het grootst. AI mag daarom geen autonome rol spelen bij doelselectie of geweldstoepassing. De menselijke controle dient hier doorslaggevend te blijven, mede ter waarborging van de beginselen van onderscheid, proportionaliteit en voorzorg.
Conclusie
De toereikendheid van het humanitair oorlogsrecht (HOR) bij autonome besluitvorming door AI-systemen staat onder druk. Wanneer systemen (deels) zelfstandig beslissingen nemen, ontstaat onzekerheid over de toepassing van de kernbeginselen van onderscheid, proportionaliteit en voorzorg. Deze rechtsonzekerheid heeft verstrekkende gevolgen. Voor militaire organisaties betekent dit dat operaties zich kunnen afspelen in een juridisch grijs gebied, met het risico op schendingen van het HOR.[33] Voor burgers in conflictgebieden vergroot dit de kans op schade, bijvoorbeeld door foutieve doelidentificatie.[34] Daar komt bij dat commandanten onder invloed van automation bias geneigd kunnen zijn AI-uitkomsten zonder voldoende kritische toetsing over te nemen.[35]
De inzet van AI-DSS binnen de Joint Targeting Cycle is daarmee niet per definitie onverenigbaar met de artikelen 48, 51, 52 en 57 AP I. De rechtmatigheid ervan is echter afhankelijk van strikte voorwaarden. Doorslaggevend zijn daadwerkelijke en niet louter formele menselijke controle, expliciete verificatie van AI-output en transparantie ten aanzien van aannames en onzekerheden. Hoofdzakelijk in de uitvoeringsfase is een terughoudende inzet van AI vereist. Zodra normatieve oordeelsvorming feitelijk verschuift naar het systeem, of wanneer verantwoordelijkheid en materiële controle uiteenlopen, ontstaat een situatie die moeilijk verenigbaar is met het HOR.
Deze nuancering is ook op de totstandkoming van dit artikel zelf van toepassing. AI is gebruikt als ondersteunend instrument bij het structureren en redigeren van de tekst, maar de inhoudelijke keuzes, juridische duiding en normatieve afwegingen zijn door de auteurs gemaakt. Juist deze verhouding, waarbij AI ondersteunend is en de menselijke beoordeling leidend blijft, weerspiegelt de norm die ook in de militaire context centraal zou moeten staan.
Dit artikel betoogt dan ook niet dat AI als zodanig onwenselijk is. Integendeel, AI biedt aanzienlijke operationele voordelen. Tegelijkertijd maakt de analyse duidelijk dat de spanning tussen technologische ontwikkeling en juridisch kader niet primair ligt in een tekort aan regelgeving, maar in de wijze waarop deze wordt toegepast. Daarbij moet worden onderkend dat niet alleen AI-systemen fouten kunnen maken of beïnvloed kunnen worden door bias, maar dat ook menselijke besluitvorming in oorlogssituaties vatbaar is voor vergissingen, vooroordelen en onjuiste inschattingen. De kernvraag is daarmee niet alleen of AI inpasbaar is binnen het bestaande recht, maar in hoeverre staten en militaire actoren bereid en in staat zijn de bestaande normen daadwerkelijk na te leven. Wanneer tegenstanders het humanitair oorlogsrecht niet naleven, kan het gebruik van AI de ongelijkheid tussen partijen verder vergroten. De vraag verschuift daarmee van wat juridisch is toegestaan naar wat strategisch en moreel verantwoord is.
* Frank Peereboom LL.B. is jurist. Hij voerde het onderzoek uit als student aan de Thorbecke Academie (NHL Stenden Hogeschool) in opdracht van de Faculteit Militaire Wetenschappen van de NLDA; Peter Pijpers is hoogleraar Cyberoperaties bij de Faculteit Militaire Wetenschappen van de Nederlandse Defensie Academie en bijzonder hoogleraar Military Law of Cyber Security Operations aan de Faculteit der Rechtsgeleerdheid van de Universiteit van Amsterdam.
[1] Yuval Abraham, ‘“Lavender”: The AI Machine Directing Israel’s Bombing Spree in Gaza’ (2024) +972 Magazine; Marc Hijink, ‘AI is de killer-app in Gaza en Oekraïne’, NRC Handelsblad, 19 april 2024.
[2] Irem Cakmak, ‘Klaudia Klonowska : ‘The Calls for ‘Human Judgement’ in AI Warfare Are Not Matched by Developments in Military Defence’, Asser Institute, 22 april 2025.
[3] Marta Bo en Jessica Dorsey, ‘Symposium on Military AI and the Law of Armed Conflict : The ‘Need’ for Speed – The Cost of Unregulated AI- Decision Support Systems to Civilians’, Opinio Juris, 4 april 2024.
[4] Laura Bruun en Marta Bo, ‘Bias In Military Artificial Intelligence and Compliance with International Humanitarian Law’, Sipri (augustus 2025) 25.
[5] ‘Zorgen over gebruik van AI in oorlogen, menselijke afweging blijft nodig’, NOS/Nieuwsuur, 5 april 2026.
[6] De complete tekst van AP I is te vinden op de site van het ICRC.
[7] Dit artikel is een bewerking van de afstudeerscriptie van Frank Peereboom (HBO NHLStenden). Het thema van de juridische implicaties van AI binnen het militaire domein is veelomvattend. In dit artikel is bewust de inkadering gemaakt naar AI-DSS en naar AP I.
[8] Het HOR bestaat uit een veelheid aan verdragen waaronder de Haagse en Geneefse verdragen. In dit artikel richten wij ons specifiek op het 1e aanvullende protocol (AP I) van 1977. Zie ook ICRC, International Humanitarian Law Databases of Aanvullend Protocol bij de Verdragen van Genève van 12 augustus 1949.
[9] Landen die AP I niet hebben geratificeerd zijn onder meer Iran, Israël, India, Pakistan, Turkije en de VS. Zie ook Jonathan Cuénoud, ‘40th Anniversary of the Additional Protocols of 1977 ofthe Geneva Conventions of 1949’, European Journal of International Law, 8 juni 2017.
[10] Artikel 49 lid 1 AP I.
[11] Zie bijvoorbeeld Artikel 51 AP I. Het artikel heeft 8 onderdelen, maar enkel lid 1 gaat specifiek over de militaire operatie, de overige leden zijn een verbijzondering voor de aanval.
[12] ‘Legality of the Threat or Use of Nuclear Weapons – Advisory Opinion of 8 July 1996’, ICJ Reports, item 78, blz. 257.
[13] In art. 48, 51 en 52 AP I.
[14] David Wallace en Shane Reeves, ‘Levée En Masse in Ukraine. Applications, Implications and Open Questions’, Articles of War, 11 maart 2022.
[15] Art. 52 lid 2 AP I.
[16] Art. 52 lid 3 AP I.
[17] Art. 51 lid 5 sub b AP I.
[18] Art. 48 en 57 AP I.
[19] Arthur Holland Michel, ‘Decisions, Decisions, Decisions, Computation and Artificial Intelligence in Military Decision-Making’, ICRC Observations on External Report, 13 (mei 2024) 17.
[20] Allied Joint Doctrine for Joint Targeting 2021, paragraaf 1.2.
[21] De geïnterviewden willen anoniem blijven maar zijn bekend bij de redactie.
[22] J.S. Thurnher, ‘Means and Methods of the Future. Autonomous Systems’, in: P.A.L. Ducheine e.a. (red.), Targeting. The Challanges of Modern Warfare (Den Haag, T.M.C. Asser Press, 2016) paragraaf 9.3.2.
[23] Zie ook: Paul A.L. Ducheine en Terry D. Gill, ‘From Cyber Operations to Effects. Some Targeting Issues’, Militair Rechtelijk Tijdschrift, 111 (3) (2018), 37-41.
[24] UN General Assembly, ‘Artificial intelligence in the military domain and its implications for international peace and security’, A/Res/79/239, 24 december 2024.
[25] Laura Bruun en Marta Bo, ‘Bias In Military Artificial Intelligence and Compliance with International Humanitarian Law’, Sipri (augustus 2025) 15.
[26]I. Bode en I. Bhila, ‘The problem of algorithmic bias in AI-based military decision support systems’, ICRC Humanitarian Law & Policy, 3 september 2024.
[27] Eric H. Pouw en Peter B.M.J. Pijpers , ‘Ai-Enabled Offensive Cyber Operations. Legal Challenges in the Shadows of Automation' (Cycon 2025 Series) Articles of War, 22 augustus 2025.
[28]M. Gerlich, ‘AI Tools in society. Impacts on cognitive offloading and the future of critical thinking’, Societies 2025/15 (1) 2.
[29] J. Dorsey en M. Bo, ‘AI-Enabled Decision-Support Systems in the Joint Targeting Cycle. Legal Challenges, Risks, and the Human(e) Dimension’, International Law Studies (106) 2025, 34-35; Marko Milanovic, ‘AI and the Commission and Facilitation of International Crimes. On Accountability Gaps and the Minab School Strike’, EJIL Talk!, 9 maart 2026).
[30] Dorsey en Bo, ‘AI-Enabled Decision-Support Systems in the Joint Targeting Cycle’, 43.
[31] Art. 57 lid 2 sub ii API.
[32] Denk daarbij ook aan Art 36 AP I, wat stelt dat nieuwe wapens voorafgaande aan de inzet getoetst moeten worden. Zie ook: Klaudia Klonowska, ‘Article 36. Review of AI Decision-Support Systems and Other Emerging Technologies of Warfare’ in: T.D. Gill e.a. (red.), Yearbook of International Humanitarian Law (YIHL), Volume 23 (2020) (Den Haag, T.M.C. Asser Press, 2021).
[33] Taylor K. Woodcock, ‘Human/Machine(-Learning) Interactions. Human agency and the international humanitarian law propotionality standard’, Global Society (38) (2023) 101.
[34] Marten Zwanenburg en Ardan Folwaij, ‘Grijze gebieden in het humanitair oorlogsrecht en het gewapend conflict in Oekraine’, Ars Aequi, 2022/AA20220877, blz. 879-880.
[35] Dorsey en Bo, ‘AI-Enabled Decision-Support Systems in the Joint Targeting Cycle’, 4.