Technologische innovatie, waaronder de ontwikkeling van robots en Artificiële Intelligentie (AI), weergeeft de
vooruitgang van de wetenschap. Er zijn dan ook hoge verwachtingen rondom deze
nieuwe technologieën en deze betreffen toepassingen op vele nieuwe gebieden en
in vele, voorheen ondenkbare, vormen, waaronder industriële robots, drones,
zelfrijdende auto’s en zorgrobots. Hoewel technologische ontwikkelingen veelal
gepaard gaan met de opvatting dat zij hoop en positieve verandering zullen
bieden, verstoren zij haast onvermijdelijk de manier waarop we de realiteit
beleven.[1] Ten gevolge hiervan raken we steeds meer geneigd bestaande normen in
twijfel te trekken en te streven naar juridische hervorming.
De mogelijke voor- en nadelen die door
nieuwe technologieën in het leven worden geroepen, vereisen een zorgvuldige
analyse en afweging door alle betrokken partijen, waaronder ontwikkelaars en
producenten, maar ook door autoriteiten met de nodige wet- en regelgevende
capaciteiten. Terwijl technologische innovatie zich ongestoord en in rap tempo
voortzet, blijft een juridische respons echter veelal ver achter. Dit roept een
– wellicht cruciale – vervolgvraag op: hebben we met het oog op de toekomst wel
een passende aanpak voor robot- en AI-regulering?
Waar innovatie, onzekerheid en regulering elkaar kruisen
Hoewel technologische innovatie en de
regulering daarvan niet in gelijke lijnen lopen, wil dit niet zeggen dat er
sprake is van volledige miscommunicatie tussen juridische en technologische
ontwikkeling.[2] Ons rechtssysteem is vormgegeven aan de hand van een zogeheten horror vacui-model. In de praktijk uit
dit zich in het fenomeen dat wij als mensen vanaf de dag dat we geboren worden
tot aan de dag dat we sterven, en zelfs ver daarna, geneigd zijn alles binnen
onze samenleving te reguleren. Als zodanig streven we ernaar juridische lacunes
te voorkomen en rechtszekerheid te allen tijde te garanderen; ons menselijk
streven naar zekerheid zet ons ertoe aan continu meer duidelijkheid te scheppen
ten aanzien van de grenzen die binnen onze samenleving gerespecteerd moeten
worden en de consequenties die verbonden zijn aan de overschrijding hiervan.
Het resultaat hiervan is dat ons
rechtssysteem in de loop der eeuwen een enorme hoeveelheid wet- en regelgeving
heeft voortgebracht die een breed scala aan fenomenen en ontwikkelingen
bestrijkt, waaronder ook de ontwikkeling van robot en AI technologieën. Het is
precies om deze reden dat het vanzelfsprekend is dat wet- en regelgevers zich
tot de al bestaande juridische kaders werpen wanneer zij worden geconfronteerd
met de vraag om een nieuw verschijnsel binnen deze kaders te plaatsen; aan de
hand van al bestaande juridische kaders beoordelen zij aldus of nieuwe
verschijnselen verband houden met een al eerder geregeld fenomeen, alvorens
nieuwe wet- en regelgeving te ontwikkelen. Desalniettemin kan het voorkomen dat
nieuwe technologische ontwikkelingen bestaande juridische kaders in twijfel
trekken en dit kan ontwikkelaars, of zelfs wet- en regelgevers, ertoe aanzetten
om naar een alternatief antwoord te zoeken en wellicht een tot nog toe onbekend
pad te bewandelen.
Robot- en AI-regulering: hoe staat het ervoor?
Hoewel de
snelheid waarmee technologische ontwikkelingen zich voordoen een uitdaging
vormt voor de wet- en regelgevende autoriteiten, is dit zeker geen nieuw
verschijnsel. Desalniettemin moedigt dit ons aan om vraagtekens te plaatsen bij
de effectiviteit van de huidige regulerende instrumenten en methoden en opnieuw
na te denken over de wijze waarop de noodzaak om nieuwe technologieën te
reguleren het best kan worden geadresseerd.
Met de
introductie van nieuwe wet- en regelgeving worden middels het vaststellen van
rechten en plichten binnen een rechtssysteem kaders gesteld voor de
machtsverdeling en het gedrag van individuen binnen de samenleving; met iedere
significante verandering van de samenleving, verandert daarmee ook het
bestaande juridische kader. Gelijktijdig vertegenwoordigt technologische
innovatie wetenschappelijke en technologische vooruitgang, ten gevolge waarvan
deze kaders op hun beurt op de proef worden gesteld. Hoewel zowel technologie
alsook deze kaders met de tijd evolueren, doen ze dat echter niet altijd
gelijktijdig of in dezelfde richting.
Wet- en
regelgeving en de factoren die bij het opstellen daarvan een rol spelen, zijn
vaak erg gecompliceerd en vereisen een samenspel tussen verschillende
beperkende factoren, waaronder de pluraliteit en decentrale aard van onze
rechtsstelsels, onduidelijkheden in de toepassing van bestaande juridische
kaders wanneer nieuwe technologieën worden geïntroduceerd en de onvoorzienbare
gevolgen van dergelijke opkomende technologieën. De race om robots en AI als
eerste te reguleren, heeft dan ook geleid tot talloze, vaak ineffectieve en
onvoldoende doordachte, resoluties en regelgevende initiatieven door Europese
instellingen,[5] maar ook vanuit het bredere mondiale landschap.[6] Het onvermogen
van deze instanties om middels adequate instrumenten het hoge tempo van technologische innovatie bij te
houden, heeft ertoe geleid dat private actoren (bijv. ISO, BSI, IEEE), hoewel
tevergeefs, in toenemende mate het voortouw genomen hebben om schriftelijke
normen te ontwikkelen die erop gericht zijn de ethische en juridische risico's
en zorgen voortvloeiend uit de introductie van nieuwe technologieën zo veel
mogelijk te beperken. De snelheid waarmee technologische ontwikkelingen
vorderen en het gebrek aan een formeel communicatie- en leerproces tussen
regelgevers en de technologie-ontwikkelaars, belemmeren het begrip dat
technologie-specifieke, lange termijn en adequate juridische en normatieve
kaders noodzakelijk zijn, zowel voor publieke als ook private actoren.[7] Bovendien ontbreekt het momenteel vooralsnog
aanzienlijk aan harmonisatie van bestaande normen op Europees niveau. Zo bleek
uit een recente open raadpleging van de Europese Commissie dat de huidige
Europese geharmoniseerde normen geen betrekking hebben op onder meer
geautomatiseerde voertuigen en collaboratieve robots.[8] In het kader van deze
ontbrekende communicatieprocessen, het bestaan van meerdere wet- en
regelgevende autoriteiten met niet-overeenstemmende belangen en het gebrek aan
inzicht in de exacte hiaten en inconsistenties in bestaande wettelijke kaders
die van toepassing zijn op de betreffende technologieën, lijken noch de wet- en
regelgever, noch de technologie-ontwikkelaars te begrijpen welke vervolgstappen
genomen dienen te worden. Dit, terwijl de rechten van de gebruikers van de
betreffende technologieën in ieder geval in het geding zijn. Vanuit het
perspectief van de fundamentele en veelal constitutionele rechten en beginselen
met betrekking tot de bescherming van leven, veiligheid, privacy, waardigheid
en autonomie, is het daarom dan ook van cruciaal belang om in het kader hiervan
meer helderheid te scheppen.
De toekomst is hybride
Binnen ons traditionele rechtssysteem
vormen zogeheten ‘top-down’ benaderingen veelal de basis voor de juridische en
ethische regulering van onze samenleving.[9] Deze benadering veronderstelt dat
een wettelijk kader in een concreet geval, bijvoorbeeld in het geval van een
nieuwe robottechnologie, direct kan worden toegepast. Door ontwikkelaars op
deze wijze naar een wettelijk kader te leiden, wordt de rechtszekerheid
gewaarborgd en kunnen zij de gegeven juridische voorschriften in theorie
eenvoudig naleven. In de praktijk is dit echter veel genuanceerder. Daar
technologische ontwikkelingen in rap tempo vorderen, garandeert deze benadering
namelijk niet dat het bestaande wettelijke kader zelf voldoende toereikend en
up-to-date is met deze nieuwe technologische ontwikkelingen.
In de literatuur is dit probleem al
eerder aangehaald. Zo is daarin al de noodzaak voor een zogeheten ‘issue
manager’ benadrukt en is er inmiddels ook al een voorstel gedaan om zogeheten ‘Governance
Coordinating Committees’ (GCC)[10] in het leven te roepen; beide met het doel om
de ontwikkeling van opkomende technologieën in de gaten te houden. Bovendien
ging ook het Europees Parlement hierin mee toen het in 2017 voorstelde een
Europees Agentschap voor robotica en AI op te richten.[11] Wat tot voor kort
echter ontbrak en wat in de literatuur lang over het hoofd is gezien, was een communicatieproces
tussen alle revelante partijen, waarbij naast regelgevers juist ook
technologie-ontwikkelaars een actieve rol vervullen in de regulering van de
door hen ontwikkelde technologieën en dat gebruikt zou kunnen worden om
bestaande en nieuwe juridische en normatieve kaders nader in te vullen en vorm
te geven.
In de literatuur werd de afwezigheid
hiervan in 2018 benadrukt en werd een voorstel gedaan voor de introductie van
een zogeheten ‘hybride iteratief reguleringsproces’[12] voor robottechnologie,
een mechanisme dat technologische ontwikkeling en regulering daadwerkelijk op
elkaar zou afstemmen (middels een zogeheten ‘technology impact assessment’,
‘shared data repository’ en ‘regulatory impact assessment’) en zou dienen als
de modus operandi voor de
voornoemde managers en agentschappen.[13]
Middels het LIAISON-onderzoeksproject aan het eLaw Center for Law and Digital Technologies aan de Universiteit Leiden
wordt getoetst wat de effectiviteit en toegevoegde waarde van een dergelijk
model is.[14] Hiertoe focust het onderzoeksproject op bestaande normen, opgesteld
door standaardisatieorganisaties, op het gebied van zorgrobots,
rehabilitatie-robots en landbouw-robots en wordt er zorg voor gedragen dat alle
relevante partijen (ontwikkelaars, wet- en regelgevers en gebruikers) hier actief
bij betrokken zijn. Uitgaande van het ideaal dat regulering onder meer
proactiever en dynamischer moet zijn, vormt het LIAISON-model een aanvulling op
het in de praktijk toegepaste ‘top-down’ model, door daarbovenop een
‘bottom-up’ model te introduceren. Door niet enkel regelgevers, maar juist ook
technologie-ontwikkelaars te betrekken, kan meer duidelijkheid geschept worden
over welke regulerende maatregelen genomen dienen te worden in het kader van de
continue technologische vooruitgang van onze samenleving.
Vooruitblik
Ervan uitgaande dat de cyclus van
regulering pas echt rond is wanneer deze weer opnieuw kan starten ten gevolge
van nieuwe uitdagingen, lijkt de introductie van een zogeheten ‘dynamisch
iteratief reguleringsproces’ in de praktijk een noodzakelijkheid.[15] Een
dergelijk model streeft ernaar een communicatieproces tussen wet- en
regelgevers en technologie-ontwikkelaars tot stand te brengen, waarbij de deur
open wordt gehouden voor toekomstige ontwikkelingen en de ten gevolge daarvan
benodigde wijzigingen in regulering.[16] Dit is met name relevant gezien het
innovatieve karakter van opkomende technologieën en de daaraan gekoppelde
onduidelijkheden in het kader van het toepasselijke juridische en normatieve
kader. Hoewel passende regels en relevante rechterlijke uitspraken op dit
gebied momenteel nog ontbreken, zal dat ontwikkelaars er echter niet van
weerhouden nieuwe technologieën en andere toepassingen van al bestaande
technologieën te ontwikkelen en op de markt te brengen.
In het kader hiervan lijkt het bekende
motto “to try first and ask for forgiveness later” een erg verleidelijke optie;
zeker wanneer een nieuw ontwikkelde technologie veelbelovend lijkt te zijn,
maar het bestaande juridische en normatieve kader – of het ontbreken daarvan –
naar alle waarschijnlijkheid de introductie daarvan zal bemoeilijken. Het is
juist om deze reden van belang ontwikkelaars die hiertoe in een gegeven
situatie naar alle waarschijnlijk geneigd zullen zijn institutionele handvatten
toe te reiken en ruimte te bieden om hun perspectief mee te laten wegen bij de
regulering van deze nieuwe technologieën. Alleen tijd zal leren of een
dergelijk model in de praktijk, met het oog op de toekomst, ook daadwerkelijk
een passende aanpak voor robot en AI regulering zal bieden, hoewel het nou
juist voldoende tijd is wat ons hier lijkt te ontbreken.
Hadassah Drukarch is redacteur van dit blad en onderzoeksassistent bij eLaw - Centrum voor Recht en Digitale Technologie. Dr. Eduard Fosch-Villaronga is universitair docent bij eLaw.
1. Ph. Boucher e.a., Disruption by technology. Impacts on politics, economics and society (PE 652.079 van de EPRS), september 2020.
2. E. Fosch-Villaronga & M.A. Heldeweg, ‘“Regulation, I presume?” said the robot – Towards an iterative regulatory process for robot governance’, Comp. L. & Sec. Rev. (34)
2018, afl. 6, p. 1258-1277.
3. ‘Definition of horror vacui’, Merriam-Webster z.d., opgeroepen 19 februari 2021.
4.
Europese Commissie (DG JUST), Opinion of the sub-group on artificial
intelligence (AI), connected products and other new challenges in product
safety to the consumer safety network, Europese Commissie december 2020,
ec.europa.eu.
5. Resolutie van het Europees Parlement
van 12 februari 2019 inzake een alomvattend Europees industriebeleid inzake
artificiële intelligentie en robotica (2018/2088(INI)).
6 A. Jobin, M. Ienca & E. Vayena, ‘The global landscape of AI ethics guidelines’, Nat. Mach. Intel.
(1) 2019, p. 389-399.
7. E. Fosch-Villaronga, ‘Robots, standards and the law: Rivalries between private standards and public policymaking for robot governance’, Comp. L.
& Sec. Rev. (35) 2019, afl. 2, p. 129-144.
8.
M. Spiliopoulou-Kaparia, ‘The evaluation of Directive 85/374/EEC on liability for defective products and Directive 2006/42/EC on machinery’,
Europese Commissie 1 februari 2017, ec.europa.eu.
9.
C. Leroux &
R. Labruto, ‘A green paper on legal issues in robotics’, Researchgate
december 2012.
10. G.E. Marchant & W. Wallach, ‘Coordinating technology governance’, Issues in Science and Technology
(31) 2015, afl. 4, p. 43.
11. Resolutie van het Europees
Parlement van 16 februari 2017 met aanbevelingen aan de Commissie over
civielrechtelijke regels inzake robotica (2015/2103(INL)).
12. E. Fosch-Villaronga & M.A.
Heldeweg, ‘“Meet Me Halfway,” Said the Robot to the Regulation: Linking Ex-Ante Technology Impact Assessments to Legislative Ex-Post Evaluations via Shared Data Repositories for Robot Governance’, in: J. Pons (red.), Inclusive Robotics for a Better
Society: Selected Papers from INBOTS Conference 2018, 16-18 October, 2018,
Pisa, Italy, Cham (CH): Springer 2019, p. 113-119.
13. Fosch-Villaronga & Heldeweg 2018.
14. Zie de LIAISON-website.
15. Fosch-Villaronga & Heldeweg
2018.
16.
Fosch-Villaronga & Heldeweg 2018.