Dat Call of Duty fundamenteel verschilt van oorlogsvoering in de praktijk, lijkt haast een overbodige opmerking. Hoewel er voor de hand liggende verschillen tussen beide bestaan, ligt een van de meer subtiele verschillen in de hoeveelheden data waar (virtuele) soldaten op het slagveld toegang toe hebben. Althans, met de investering van $ 21,9 miljard door het Amerikaanse leger in ruim 120.000 Augmented Reality (AR) headsets van Big Tech bedrijf Microsoft, lijkt dit inmiddels verleden tijd te zijn. Terwijl deze technologie Amerikaanse soldaten toegang verleent tot de nodige inzichten om potentiële vijanden een stap voor zijn, wordt hiermee tegelijkertijd een bij uitstek nationale aangelegenheid uit handen gegeven aan een multinationale beursgenoteerde onderneming met wellicht tegenstrijdige belangen. Dit doet mij de vraag opwerpen in hoeverre een dergelijke samenwerking en de potentiële gevolgen daarvan überhaupt juridisch geframed kunnen worden.  

Slimme brillen wijzen militairen de weg
Eind maart sloot Microsoft een miljarden overeenkomst met het Amerikaanse ministerie van Defensie.[1] Microsoft en het Amerikaanse leger werkten de afgelopen twee jaar al aan prototypes en deze eerdere opdracht leidt nu tot deze overeenkomst. De techgigant gaat daarmee de komende tien jaar AR headsets leveren aan het Amerikaanse leger.[2] De bril die is aangepast aan de wensen van het leger wordt door Microsoft de IVAS-headset genoemd,  afgeleid van de Microsoft HoloLens die in 2015 voor het eerst werd aangekondigd en visuele informatie toevoegt aan de werkelijkheid. De bril wordt aangesloten op datacenters van Microsoft om aldaar de beeldanalyse te laten plaatsvinden, waarna relevante informatie wordt teruggekoppeld aan de betreffende militair. Volgens het Amerikaanse concern zijn er talloze scenario's denkbaar waarin deze slimme technologie militairen kan helpen om te overleven en efficiënter te werk te gaan ten tijde van een militair conflict. De slimme brillen behoren militairen tijdens een missie beter bewust te maken van alles wat in hun omgeving gebeurt, ook ‘s nachts, en hun in staat te stellen makkelijker informatie met elkaar delen en beslissingen te nemen. De bril wordt daarnaast niet enkel op het veld gebruikt, maar ook gedurende militaire trainingen en niet enkel door de Verenigde Staten – eerder werd de bril al geleverd aan Israël en andere landen zullen in de nabije toekomst naar alle waarschijnlijkheid volgen.[3]

De Amerikaanse overheid blijkt overigens een lucratieve opdrachtgever voor Microsoft. In 2019 leverde Microsoft de nieuwe kantoorsystemen voor het Pentagon en twee jaar terug sloot de techgigant een contract met het Amerikaanse ministerie van Defensie om cloud-diensten te leveren aan het Pentagon.[4] Dit project met een looptijd van tien jaar en een waarde van $10 miljard werd bekend als het Jedi-project. Concurrent Amazon zag daarmee een miljardencontract aan zijn neus voorbij gaan en tot op heden probeert het bedrijf de deal ongedaan te maken in de rechtszaal op grond van het argument dat het ministerie van Defensie geen objectief besluit zou hebben genomen, maar zich zou hebben laten leiden door de aversie van voormalig president Trump tegen Amazon-oprichter Jeff Bezos.[5]

HoloLens voor het goede, niet de oorlog
Ook Microsoft-werknemers keren zich tegen de samenwerking tussen de Amerikaanse defensie en hun werkgever. Zij weigeren technologie te maken voor oorlogsvoering en onderdrukking. “Gebruik de HoloLens voor het goede, niet de oorlog”, schreven werknemers twee jaar terug boven een open brief met hun bezwaren.[6] Daarin benadrukten zij bovendien hun afkeer tegen de productie van technologieën die militairen ‘dodelijker’ maken. Dit bleek echter weinig effect hebben. Zo reageerde Microsoft President Brad Smith hierop met het argument dat diegenen die de Verenigde Staten verdedigen toegang behoren te krijgen tot de beste technologie.[7] Microsoft beschikt klaarblijkelijk over de nodige middelen om zulke technologie te kunnen leveren en daar blijft het niet bij. Volgens kenners is de miljardendeal die eind maart werd gesloten slechts een voorbode voor een uitgebreider gebruik van dergelijke technologieën op massale schaal door overheidsinstanties, privé bedrijven en consumenten. Bovendien lijken naast Microsoft ook andere bekende techgiganten, waaronder Apple, Google en Facebook, hierin een behoorlijk graantje mee te pikken.[8]

Waarom baart dit juridische zorgen?
Dat technologie een in dominantie toenemende rol speelt in ons dagelijks bestaan is geen verrassing. Ook de relatie tussen technologie en krijgsmacht is op zichzelf niets nieuws. Dat dergelijke technologieën door private partijen aan de krijgsmacht worden geleverd, al evenmin. Waarom dan reden tot zorg naar aanleiding van deze nieuwe deal? Hoewel Microsoft eerder technologie aan het Amerikaanse leger heeft gelicenseerd, is het nooit de grens overgegaan van wapenontwikkeling noch is zij eerder overgegaan tot actieve en intrinsieke betrokkenheid bij oorlogsvoering.[9] Met deze nieuwe deal lijkt daar echter fundamenteel verandering in te komen. Naast de levering van de nieuwe AR headsets, zou de Big Tech gigant nu ook direct controle krijgen over de olie die het Amerikaanse leger bij het gebruik van de nieuwe slimme brillen lopende houdt – ongekende hoeveelheden en soorten data. Dit roept onvermijdelijk vragen op over integriteit, verantwoordelijkheid en aansprakelijkheid. Kan de krijgsmacht een multinationale beursgenoteerde onderneming wel als een integere partner die dezelfde belangen nastreeft, beschouwen? Wie is verantwoordelijk voor wat wanneer de controle over militaire activiteiten vervaagt? En bij wie ligt de aansprakelijkheid als er iets fout gaat?   

Ook de verzameling van enorme hoeveelheden data roept vragen op in het kader van privacy en de bescherming van persoonsgegevens. AR-technologieën vereisen de verwerking van aanzienlijke hoeveelheden data, met name gegevens over uiterlijk, het volgen van het lichaam, locatie, communicatie en ander gedrag.[10] Dataverzameling in het kader van AR-applicaties verschilt echter op bepaalde punten aanzienlijk van dataverzameling in het kader van andere technologieën. De betreffende technologiebedrijven verzamelen vaak andere soorten gegevens, waaronder gegevens over de bewegingen van een apparaat en de afmetingen van de ruimte waarin de gebruiker de AR-apparatuur gebruikt. Bovendien verwerken AR-systemen doorgaans biometrische gegevens, gegevens die onder artikel 9 van de Algemene Verordening Gegevensbescherming (AVG) extra bescherming vergen.[11] Met name in een Europese context roept het gebruik van militaire AR headsets dan ook vragen op ten aanzien van de bescherming van privacy en persoonsgegevens. Met het oog op de Regeling Gegevensbescherming Militaire Operaties is het bijvoorbeeld maar de vraag welke gegevens als persoonsgegevens kwalificeren en derhalve bescherming genieten.[12]

Tot slot is ook de concepttekst van de nieuwe Europese AI-verordening in dit verband toonaangevend. De Europese Commissie heeft in februari 2020 in het Whitepaper Artificial Intelligence 2020 haar visie gegeven op de ontwikkeling van beleid en regelgeving op het gebied van AI.7 In essentie komt dit nieuwe voorstel erop neer dat de EU Artificiële Intelligentie (AI) strenger gaat reguleren. Er komt een lijst met verboden toepassingen en aan veel nu al ingezette AI-technologieën wordt naar alle waarschijnlijkheid een hoog-risicoclassificering toegekend. Deze strenge regels gelden echter niet voor de toepassing van AI voor militaire doeleinden.[13] Zo blijkt uit overweging 16 dat AI-systemen die uitsluitend worden gebruikt voor het besturen van wapens of voor andere militaire doeleinden, buiten de reikwijdte van de verordening vallen. Bovendien stelt artikel 2(4) dat de nieuwe AI-verordening nadrukkelijk niet van toepassing is op AI-systemen die uitsluitend worden gebruikt voor de bediening van wapens of voor andere militaire doeleinden. Hoewel niet altijd van toepassing op AR-technologieën, is dit wederom karakteriserend voor de wijze waarop de toepassing van nieuwe technologieën in de militaire context door bestaande wettelijke kader wordt geadresseerd. Namelijk, niet of niet voldoende.  

Conclusie
Dit zijn slecht enkele voorbeelden van juridische vraagstukken en complicaties die de samenwerking tussen de krijgsmacht en BigTech doet opwerpen. Ook in Nederland nemen de zorgen omtrent de ontwikkeling en toepassing van zeer geavanceerde technologieën  in oorlogsvoering toe. Zo heeft vredesorganisatie Pax staten al opgeroepen om internationale afspraken te maken over militaire toepassingen van kunstmatige intelligentie, en volledig autonome wapens te verbieden.[14] Commerciële bedrijven zouden volgens deze organisatie niet moeten meewerken aan het ontwikkelen van deze wapens. BigTech laat ook wat dit betreft van zich horen. “Geen militair wil wakker worden en ontdekken dat machines een oorlog zijn begonnen. Om dat te voorkomen en een wijze discussie te kunnen voeren, moet de tech-sector zich niet afzijdig houden”, aldus Smith.[15] Met het oog op de toekomst lijkt dit mij een buitengewoon goed voornemen, maar niet alvorens juridisch meer helderheid wordt geschapen.  


1. ‘Microsoft zet 120.000 AR-brillen op hoofden Amerikaanse militairen’, RTL Nieuws 1 april 2021.
2. Ibid.
3. ‘Microsoft sluit miljardendeal met Amerikaans leger over AR-headsets’, NU.nl 1 april 2021.
4. Ibid.
3. H. Nauta, ‘Slimme bril van Microsoft wijst militairen de weg’, Trouw 2 april 2021.
5. ‘Werknemers Microsoft eisen einde Hololens-deal met leger VS’, RTL Nieuws 24 februari 2019. 6. Zie noot 3.
7. Zie noot 5.
8. ‘TechNotes: Top 10 issues for AR/VR’, Simmons & Simmons 30 april 2020.
9. Agentschap Telecom, ‘Regelgeving kunstmatige intelligentie (AI)’, z.d.
10. Regeling van de Staatssecretaris van Defensie van 4 mei 2018, Stcrt. 2018, 28239.
11. Voorstel voor een Verordening van het Europees Parlement en de Raad tot vaststelling van geharmoniseerde regels betreffende artificiële intelligentie (wet op de artificiële intelligentie) en tot wijziging van bepaalde wetgevingshandelingen van de Unie (COM(2021) 206 final).
12. Nauta 2021.
13. Nauta 2021.