De toekomst van robot- en AI-regulering?

Geschreven door Hadassah Drukarch & Eduard Fosch-Villaronga op 11-04-2021

Technologische innovatie, waaronder de ontwikkeling van robots en Artificiële Intelligentie (AI), weergeeft de vooruitgang van de wetenschap. Er zijn dan ook hoge verwachtingen rondom deze nieuwe technologieën en deze betreffen toepassingen op vele nieuwe gebieden en in vele, voorheen ondenkbare, vormen, waaronder industriële robots, drones, zelfrijdende auto’s en zorgrobots. Hoewel technologische ontwikkelingen veelal gepaard gaan met de opvatting dat zij hoop en positieve verandering zullen bieden, verstoren zij haast onvermijdelijk de manier waarop we de realiteit beleven.[1] Ten gevolge hiervan raken we steeds meer geneigd bestaande normen in twijfel te trekken en te streven naar juridische hervorming.

De mogelijke voor- en nadelen die door nieuwe technologieën in het leven worden geroepen, vereisen een zorgvuldige analyse en afweging door alle betrokken partijen, waaronder ontwikkelaars en producenten, maar ook door autoriteiten met de nodige wet- en regelgevende capaciteiten. Terwijl technologische innovatie zich ongestoord en in rap tempo voortzet, blijft een juridische respons echter veelal ver achter. Dit roept een – wellicht cruciale – vervolgvraag op: hebben we met het oog op de toekomst wel een passende aanpak voor robot- en AI-regulering?

Waar innovatie, onzekerheid en regulering elkaar kruisen
Hoewel technologische innovatie en de regulering daarvan niet in gelijke lijnen lopen, wil dit niet zeggen dat er sprake is van volledige miscommunicatie tussen juridische en technologische ontwikkeling.[2] Ons rechtssysteem is vormgegeven aan de hand van een zogeheten horror vacui-model. In de praktijk uit dit zich in het fenomeen dat wij als mensen vanaf de dag dat we geboren worden tot aan de dag dat we sterven, en zelfs ver daarna, geneigd zijn alles binnen onze samenleving te reguleren. Als zodanig streven we ernaar juridische lacunes te voorkomen en rechtszekerheid te allen tijde te garanderen; ons menselijk streven naar zekerheid zet ons ertoe aan continu meer duidelijkheid te scheppen ten aanzien van de grenzen die binnen onze samenleving gerespecteerd moeten worden en de consequenties die verbonden zijn aan de overschrijding hiervan.  

Het resultaat hiervan is dat ons rechtssysteem in de loop der eeuwen een enorme hoeveelheid wet- en regelgeving heeft voortgebracht die een breed scala aan fenomenen en ontwikkelingen bestrijkt, waaronder ook de ontwikkeling van robot en AI technologieën. Het is precies om deze reden dat het vanzelfsprekend is dat wet- en regelgevers zich tot de al bestaande juridische kaders werpen wanneer zij worden geconfronteerd met de vraag om een nieuw verschijnsel binnen deze kaders te plaatsen; aan de hand van al bestaande juridische kaders beoordelen zij aldus of nieuwe verschijnselen verband houden met een al eerder geregeld fenomeen, alvorens nieuwe wet- en regelgeving te ontwikkelen. Desalniettemin kan het voorkomen dat nieuwe technologische ontwikkelingen bestaande juridische kaders in twijfel trekken en dit kan ontwikkelaars, of zelfs wet- en regelgevers, ertoe aanzetten om naar een alternatief antwoord te zoeken en wellicht een tot nog toe onbekend pad te bewandelen.

Robot- en AI-regulering: hoe staat het ervoor?
Hoewel de snelheid waarmee technologische ontwikkelingen zich voordoen een uitdaging vormt voor de wet- en regelgevende autoriteiten, is dit zeker geen nieuw verschijnsel. Desalniettemin moedigt dit ons aan om vraagtekens te plaatsen bij de effectiviteit van de huidige regulerende instrumenten en methoden en opnieuw na te denken over de wijze waarop de noodzaak om nieuwe technologieën te reguleren het best kan worden geadresseerd.

Met de introductie van nieuwe wet- en regelgeving worden middels het vaststellen van rechten en plichten binnen een rechtssysteem kaders gesteld voor de machtsverdeling en het gedrag van individuen binnen de samenleving; met iedere significante verandering van de samenleving, verandert daarmee ook het bestaande juridische kader. Gelijktijdig vertegenwoordigt technologische innovatie wetenschappelijke en technologische vooruitgang, ten gevolge waarvan deze kaders op hun beurt op de proef worden gesteld. Hoewel zowel technologie alsook deze kaders met de tijd evolueren, doen ze dat echter niet altijd gelijktijdig of in dezelfde richting.

Wet- en regelgeving en de factoren die bij het opstellen daarvan een rol spelen, zijn vaak erg gecompliceerd en vereisen een samenspel tussen verschillende beperkende factoren, waaronder de pluraliteit en decentrale aard van onze rechtsstelsels, onduidelijkheden in de toepassing van bestaande juridische kaders wanneer nieuwe technologieën worden geïntroduceerd en de onvoorzienbare gevolgen van dergelijke opkomende technologieën. De race om robots en AI als eerste te reguleren, heeft dan ook geleid tot talloze, vaak ineffectieve en onvoldoende doordachte, resoluties en regelgevende initiatieven door Europese instellingen,[5] maar ook vanuit het bredere mondiale landschap.[6] Het onvermogen van deze instanties om middels adequate instrumenten het hoge  tempo van technologische innovatie bij te houden, heeft ertoe geleid dat private actoren (bijv. ISO, BSI, IEEE), hoewel tevergeefs, in toenemende mate het voortouw genomen hebben om schriftelijke normen te ontwikkelen die erop gericht zijn de ethische en juridische risico's en zorgen voortvloeiend uit de introductie van nieuwe technologieën zo veel mogelijk te beperken. De snelheid waarmee technologische ontwikkelingen vorderen en het gebrek aan een formeel communicatie- en leerproces tussen regelgevers en de technologie-ontwikkelaars, belemmeren het begrip dat technologie-specifieke, lange termijn en adequate juridische en normatieve kaders noodzakelijk zijn, zowel voor publieke als ook private actoren.[7]  Bovendien ontbreekt het momenteel vooralsnog aanzienlijk aan harmonisatie van bestaande normen op Europees niveau. Zo bleek uit een recente open raadpleging van de Europese Commissie dat de huidige Europese geharmoniseerde normen geen betrekking hebben op onder meer geautomatiseerde voertuigen en collaboratieve robots.[8] In het kader van deze ontbrekende communicatieprocessen, het bestaan van meerdere wet- en regelgevende autoriteiten met niet-overeenstemmende belangen en het gebrek aan inzicht in de exacte hiaten en inconsistenties in bestaande wettelijke kaders die van toepassing zijn op de betreffende technologieën, lijken noch de wet- en regelgever, noch de technologie-ontwikkelaars te begrijpen welke vervolgstappen genomen dienen te worden. Dit, terwijl de rechten van de gebruikers van de betreffende technologieën in ieder geval in het geding zijn. Vanuit het perspectief van de fundamentele en veelal constitutionele rechten en beginselen met betrekking tot de bescherming van leven, veiligheid, privacy, waardigheid en autonomie, is het daarom dan ook van cruciaal belang om in het kader hiervan meer helderheid te scheppen.

De toekomst is hybride
Binnen ons traditionele rechtssysteem vormen zogeheten ‘top-down’ benaderingen veelal de basis voor de juridische en ethische regulering van onze samenleving.[9] Deze benadering veronderstelt dat een wettelijk kader in een concreet geval, bijvoorbeeld in het geval van een nieuwe robottechnologie, direct kan worden toegepast. Door ontwikkelaars op deze wijze naar een wettelijk kader te leiden, wordt de rechtszekerheid gewaarborgd en kunnen zij de gegeven juridische voorschriften in theorie eenvoudig naleven. In de praktijk is dit echter veel genuanceerder. Daar technologische ontwikkelingen in rap tempo vorderen, garandeert deze benadering namelijk niet dat het bestaande wettelijke kader zelf voldoende toereikend en up-to-date is met deze nieuwe technologische ontwikkelingen.  

In de literatuur is dit probleem al eerder aangehaald. Zo is daarin al de noodzaak voor een zogeheten ‘issue manager’ benadrukt en is er inmiddels ook al een voorstel gedaan om zogeheten ‘Governance Coordinating Committees’ (GCC)[10] in het leven te roepen; beide met het doel om de ontwikkeling van opkomende technologieën in de gaten te houden. Bovendien ging ook het Europees Parlement hierin mee toen het in 2017 voorstelde een Europees Agentschap voor robotica en AI op te richten.[11] Wat tot voor kort echter ontbrak en wat in de literatuur lang over het hoofd is gezien, was een communicatieproces tussen alle revelante partijen, waarbij naast regelgevers juist ook technologie-ontwikkelaars een actieve rol vervullen in de regulering van de door hen ontwikkelde technologieën en dat gebruikt zou kunnen worden om bestaande en nieuwe juridische en normatieve kaders nader in te vullen en vorm te geven.  

In de literatuur werd de afwezigheid hiervan in 2018 benadrukt en werd een voorstel gedaan voor de introductie van een zogeheten ‘hybride iteratief reguleringsproces’[12] voor robottechnologie, een mechanisme dat technologische ontwikkeling en regulering daadwerkelijk op elkaar zou afstemmen (middels een zogeheten ‘technology impact assessment’, ‘shared data repository’ en ‘regulatory impact assessment’) en zou dienen als de modus operandi voor de voornoemde managers en agentschappen.[13]

Middels het LIAISON-onderzoeksproject aan het eLaw Center for Law and Digital Technologies aan de Universiteit Leiden wordt getoetst wat de effectiviteit en toegevoegde waarde van een dergelijk model is.[14] Hiertoe focust het onderzoeksproject op bestaande normen, opgesteld door standaardisatieorganisaties, op het gebied van zorgrobots, rehabilitatie-robots en landbouw-robots en wordt er zorg voor gedragen dat alle relevante partijen (ontwikkelaars, wet- en regelgevers en gebruikers) hier actief bij betrokken zijn. Uitgaande van het ideaal dat regulering onder meer proactiever en dynamischer moet zijn, vormt het LIAISON-model een aanvulling op het in de praktijk toegepaste ‘top-down’ model, door daarbovenop een ‘bottom-up’ model te introduceren. Door niet enkel regelgevers, maar juist ook technologie-ontwikkelaars te betrekken, kan meer duidelijkheid geschept worden over welke regulerende maatregelen genomen dienen te worden in het kader van de continue technologische vooruitgang van onze samenleving.

Vooruitblik
Ervan uitgaande dat de cyclus van regulering pas echt rond is wanneer deze weer opnieuw kan starten ten gevolge van nieuwe uitdagingen, lijkt de introductie van een zogeheten ‘dynamisch iteratief reguleringsproces’ in de praktijk een noodzakelijkheid.[15] Een dergelijk model streeft ernaar een communicatieproces tussen wet- en regelgevers en technologie-ontwikkelaars tot stand te brengen, waarbij de deur open wordt gehouden voor toekomstige ontwikkelingen en de ten gevolge daarvan benodigde wijzigingen in regulering.[16] Dit is met name relevant gezien het innovatieve karakter van opkomende technologieën en de daaraan gekoppelde onduidelijkheden in het kader van het toepasselijke juridische en normatieve kader. Hoewel passende regels en relevante rechterlijke uitspraken op dit gebied momenteel nog ontbreken, zal dat ontwikkelaars er echter niet van weerhouden nieuwe technologieën en andere toepassingen van al bestaande technologieën te ontwikkelen en op de markt te brengen.  

In het kader hiervan lijkt het bekende motto “to try first and ask for forgiveness later” een erg verleidelijke optie; zeker wanneer een nieuw ontwikkelde technologie veelbelovend lijkt te zijn, maar het bestaande juridische en normatieve kader – of het ontbreken daarvan – naar alle waarschijnlijkheid de introductie daarvan zal bemoeilijken. Het is juist om deze reden van belang ontwikkelaars die hiertoe in een gegeven situatie naar alle waarschijnlijk geneigd zullen zijn institutionele handvatten toe te reiken en ruimte te bieden om hun perspectief mee te laten wegen bij de regulering van deze nieuwe technologieën. Alleen tijd zal leren of een dergelijk model in de praktijk, met het oog op de toekomst, ook daadwerkelijk een passende aanpak voor robot en AI regulering zal bieden, hoewel het nou juist voldoende tijd is wat ons hier lijkt te ontbreken.



Hadassah Drukarch is redacteur van dit blad en onderzoeksassistent bij eLaw - Centrum voor Recht en Digitale Technologie. Dr. Eduard Fosch-Villaronga is universitair docent bij eLaw.

1. Ph. Boucher e.a., Disruption by technology. Impacts on politics, economics and society (PE 652.079 van de EPRS), september 2020.
2.  E. Fosch-Villaronga & M.A. Heldeweg, ‘“Regulation, I presume?” said the robot – Towards an iterative regulatory process for robot governance’, Comp. L. & Sec. Rev. (34) 2018, afl. 6, p. 1258-1277.
3. ‘Definition of horror vacui’, Merriam-Webster z.d., opgeroepen 19 februari 2021.
4. Europese Commissie (DG JUST), Opinion of the sub-group on artificial intelligence (AI), connected products and other new challenges in product safety to the consumer safety network, Europese Commissie december 2020, ec.europa.eu.
5. Resolutie van het Europees Parlement van 12 februari 2019 inzake een alomvattend Europees industriebeleid inzake artificiële intelligentie en robotica (2018/2088(INI)).
6 A. Jobin, M. Ienca & E. Vayena, ‘The global landscape of AI ethics guidelines’, Nat. Mach. Intel. (1) 2019, p. 389-399.
7. E. Fosch-Villaronga, ‘Robots, standards and the law: Rivalries between private standards and public policymaking for robot governance’, Comp. L. & Sec. Rev. (35) 2019, afl. 2, p. 129-144.
8. M. Spiliopoulou-Kaparia, ‘The evaluation of Directive 85/374/EEC on liability for defective products and Directive 2006/42/EC on machinery’, Europese Commissie 1 februari 2017, ec.europa.eu.
9. C. Leroux & R. Labruto, ‘A green paper on legal issues in robotics’, Researchgate december 2012.
10. G.E. Marchant & W. Wallach, ‘Coordinating technology governance’, Issues in Science and Technology (31) 2015, afl. 4, p. 43.
11. Resolutie van het Europees Parlement van 16 februari 2017 met aanbevelingen aan de Commissie over civielrechtelijke regels inzake robotica (2015/2103(INL)).
12. E. Fosch-Villaronga & M.A. Heldeweg, ‘“Meet Me Halfway,” Said the Robot to the Regulation: Linking Ex-Ante Technology Impact Assessments to Legislative Ex-Post Evaluations via Shared Data Repositories for Robot Governance’, in: J. Pons (red.), Inclusive Robotics for a Better Society: Selected Papers from INBOTS Conference 2018, 16-18 October, 2018, Pisa, Italy, Cham (CH): Springer 2019, p. 113-119.
13. Fosch-Villaronga & Heldeweg 2018.
14. Zie de LIAISON-website.
15. Fosch-Villaronga & Heldeweg 2018.
16. Fosch-Villaronga & Heldeweg 2018.

Terug naar nieuwsoverzicht