Artikelen bij COM(2022)496 - Aanpassing van de regels inzake niet-contractuele civielrechtelijke aansprakelijkheid aan artificiële intelligentie (AI)

Dit is een beperkte versie

U kijkt naar een beperkte versie van dit dossier in de EU Monitor.

dossier COM(2022)496 - Aanpassing van de regels inzake niet-contractuele civielrechtelijke aansprakelijkheid aan artificiële intelligentie (AI).
document COM(2022)496 NLEN
datum 28 september 2022

Inhoudsopgave

Artikel 1 - Onderwerp en toepassingsgebied

1. Bij deze richtlijn worden gemeenschappelijke regels vastgesteld betreffende:

(a)de openbaarmaking van bewijsmateriaal over artificiële-intelligentiesystemen (AI-systemen) met een hoog risico, zodat een eiser in staat is om op niet-contractuele schuldaansprakelijkheid gebaseerde civielrechtelijke vorderingen tot schadevergoeding, te motiveren;

(b)de bewijslast in geval van op niet-contractuele schuldaansprakelijkheid gebaseerde civielrechtelijke vorderingen tot vergoeding van door een AI-systeem veroorzaakte schade die bij een nationale rechter aanhangig zijn gemaakt.

2. Deze richtlijn is van toepassing op op niet-contractuele schuldaansprakelijkheid gebaseerde civielrechtelijke vorderingen tot schadevergoeding in gevallen waarin de door een AI-systeem veroorzaakte schade zich voordoet na [het einde van de omzettingstermijn].

Deze richtlijn is niet van toepassing op strafrechtelijke aansprakelijkheid.

3. Deze richtlijn doet geen afbreuk aan:

(a)regels van het Unierecht betreffende de voorwaarden voor aansprakelijkheid op het gebied van vervoer;

(b)de rechten die een gelaedeerde ontleent aan nationale voorschriften ter uitvoering van Richtlijn 85/374/EEG;

(c)de vrijstellingen van aansprakelijkheid en de zorgvuldigheidsverplichtingen zoals vastgelegd in [de wet inzake digitale diensten] en

(d)nationale regels die bepalen op welke partij de bewijslast rust, welke mate van zekerheid vereist is met betrekking tot de bewijsstandaard of hoe de schuld wordt omschreven, onder voorbehoud van hetgeen in de artikelen 3 en 4 is bepaald.

4. De lidstaten kunnen nationale regels vaststellen of in stand houden die eisers nog beter in staat stellen om op niet-contractuele schuldaansprakelijkheid gebaseerde civielrechtelijke vorderingen tot schadevergoeding te motiveren, mits die regels verenigbaar zijn met het Unierecht.

Artikel 2 - Definities

Voor de toepassing van deze richtlijn wordt verstaan onder:

(1) “AI-systeem”: een AI-systeem als gedefinieerd in [artikel 3, lid 1, van de AI-verordening];

(2) “AI-systeem met een hoog risico”: een AI-systeem als bedoeld in [artikel 6, van de AI-verordening];

(3) “aanbieder”: een aanbieder als gedefinieerd in [artikel 3, lid 2, van de AI-verordening];

(4) “gebruiker”: een gebruiker als gedefinieerd in [artikel 3, lid 4, van de AI-verordening];

(5) “vordering tot schadevergoeding”: een op niet-contractuele schuldaansprakelijkheid gebaseerde civielrechtelijke vordering tot vergoeding van de schade die is veroorzaakt door een output van een AI-systeem of het verzuim van een dergelijk systeem om output te genereren terwijl die output wel gegenereerd had moeten zijn;

(6) “eiser”: een persoon die een vordering tot vergoeding van schade instelt en die:

(a)schade heeft geleden door een output van een AI-systeem of door het verzuim van een dergelijk systeem om output te genereren terwijl die output wel gegenereerd had moeten zijn;

(b) krachtens de wet of een overeenkomst rechtsopvolger is van of is gesubrogeerd in het recht van een gelaedeerde partij; of

(c)handelt namens een of meer gelaedeerde personen, overeenkomstig het Unierecht of het nationale recht.

7) potentiële eiser”: een natuurlijke persoon of rechtspersoon die overweegt een vordering tot schadevergoeding in te stellen, maar dat nog niet heeft gedaan;

8) “verweerder”: de persoon tegen wie een vordering tot schadevergoeding is ingesteld;

9) “zorgvuldigheidsplicht”: een in het nationale of Unierecht voorgeschreven gedragsnorm ter voorkoming van schade aan op het niveau van het nationale recht of het recht van de Unie erkende rechtsbelangen, met inbegrip van het recht op leven, fysieke integriteit, eigendom en de bescherming van grondrechten.

Artikel 3 - Openbaarmaking van bewijsmateriaal en weerlegbaar vermoeden van niet-nakoming

1. De lidstaten zorgen ervoor dat de nationale rechterlijke instanties bevoegd zijn om, hetzij op verzoek van een potentiële eiser die eerder een aanbieder, een persoon voor wie de verplichtingen van een aanbieder uit hoofde van [artikel 24 of artikel 28, lid 1, van de AI-verordening] gelden, of een gebruiker, heeft verzocht om tot diens beschikking staand relevant bewijsmateriaal over een specifiek AI-systeem met een hoog risico waarvan wordt vermoed dat het schade heeft veroorzaakt of dat schade heeft veroorzaakt, openbaar te maken, maar aan wie inwilliging van dat verzoek is geweigerd, hetzij op verzoek van een eiser, die personen te gelasten dergelijk bewijsmateriaal openbaar te maken.

Ter onderbouwing van dit verzoek moet de potentiële eiser feiten en bewijzen overleggen die volstaan om de geloofwaardigheid van een vordering tot schadevergoeding te staven.

2. In het kader van een vordering tot schadevergoeding gelast de nationale rechter de openbaarmaking van bewijsmateriaal door een van de in lid 1 genoemde personen alleen indien de eiser alles heeft gedaan wat redelijk is om het relevante bewijsmateriaal van de verweerder te verkrijgen.

3. De lidstaten zorgen ervoor dat de nationale rechter bevoegd is om, op verzoek van een eiser, specifieke maatregelen te gelasten om het in lid 1 genoemde bewijsmateriaal te bewaren.

4. De nationale rechterlijke instanties beperken de openbaarmaking van bewijsmateriaal tot hetgeen noodzakelijk en evenredig is ter ondersteuning van een potentiële vordering of een vordering tot schadevergoeding en de bewaring tot hetgeen noodzakelijk en evenredig is om een dergelijke vordering tot vergoeding van schade te ondersteunen.

Bij het bepalen of een bevel tot openbaarmaking of bewaring van bewijsmateriaal evenredig is, houden de nationale rechterlijke instanties rekening met de rechtmatige belangen van alle partijen, met inbegrip van de betrokken derden, met name wat betreft de bescherming van bedrijfsgeheimen in de zin van artikel 2, lid 1, van Richtlijn (EU) 2016/943 en van vertrouwelijke informatie, zoals informatie in verband met de openbare of nationale veiligheid.

De lidstaten zorgen ervoor dat, wanneer de openbaarmaking wordt gelast van een bedrijfsgeheim of een vermeend bedrijfsgeheim dat door de rechter als vertrouwelijk in de zin van artikel 9, lid 1, van Richtlijn (EU) 2016/943 is aangemerkt, de nationale rechterlijke instanties de bevoegdheid hebben om, op een met redenen omkleed verzoek van een partij of op eigen initiatief, specifieke maatregelen te nemen die nodig zijn om de vertrouwelijkheid te waarborgen wanneer dat bewijsmateriaal wordt gebruikt of daarnaar wordt verwezen in gerechtelijke procedures.

De lidstaten zorgen er ook voor dat er voor de persoon die wordt gelast het in lid 1 of lid 2 genoemde bewijsmateriaal openbaar te maken of te bewaren, passende rechtsmiddelen voorhanden zijn met betrekking tot een dergelijk bevel.

5. Indien een verweerder in het kader van een vordering tot schadevergoeding geen gevolg geeft aan een bevel ingevolge lid 1 of lid 2 van een nationale rechter om bewijsmateriaal waarover hij beschikt, openbaar te maken of te bewaren, gaat de nationale rechter uit van het vermoeden dat de verweerder, met name in de in artikel 4, lid 2, of lid 3 bedoelde omstandigheden, een relevante zorgvuldigheidsplicht waarvoor het gevraagde materiaal als bewijs moest dienen met het oog op de desbetreffende vordering tot schadevergoeding, niet is nagekomen.

De verweerder heeft het recht dit vermoeden te weerleggen.

Artikel 4 - Weerlegbaar vermoeden van causaal verband in geval van schuld

1. Met inachtneming van de in dit artikel vastgestelde vereisten gaan de nationale rechterlijke instanties voor de toepassing van aansprakelijkheidsregels op een vordering tot schadevergoeding uit van het causaal verband tussen de schuld van de verweerder en de door het AI-systeem gegenereerde output of het verzuim door het AI-systeem output te genereren, indien aan alle volgende voorwaarden is voldaan:

(a) de eiser heeft de schuld aangetoond of het gerecht heeft overeenkomstig artikel 3, lid 5, de schuld aangenomen van de verweerder of van een persoon voor wiens gedrag de verweerder verantwoordelijk is, welke schuld bestaat in de niet-nakoming van een zorgvuldigheidsplicht uit hoofde van het Unierecht of het nationale recht die rechtstreeks bedoeld is om bescherming te bieden tegen de geleden schade;

(b)op basis van de omstandigheden van het geval kan redelijkerwijs worden aangenomen dat de schuld de door het AI-systeem gegenereerde output of het verzuim door het AI-systeem om output te genereren heeft beïnvloed;

(c)de eiser heeft aangetoond dat de door het AI-systeem gegenereerde output of het verzuim door het AI-systeem om output te genereren, de schade heeft veroorzaakt.

2. In het geval van een vordering tot schadevergoeding tegen een aanbieder van een AI-systeem met een hoog risico voor wie de vereisten van de hoofdstukken 2 en 3 van Titel III van [de AI-verordening] gelden of een persoon voor wie de verplichtingen van de aanbieder uit hoofde van [artikel 24 of artikel 28, lid 1, van de AI-verordening] gelden, wordt alleen aan de voorwaarde van lid 1, punt a), voldaan indien de eiser heeft aangetoond dat de aanbieder of, in voorkomend geval, de persoon voor wie de verplichtingen van de aanbieder gelden, niet heeft voldaan aan een van de volgende in die hoofdstukken vastgestelde vereisten, rekening houdend met de stappen die zijn ondernomen binnen en de resultaten van het risicobeheersysteem overeenkomstig [artikel 9 en artikel 16, punt a), van de AI-verordening]:

(a) het AI-systeem betreft een systeem dat technieken gebruikt die het trainen van modellen met data omvatten en dat niet werd ontwikkeld op basis van datareeksen voor training, validatie en tests die voldoen aan de kwaliteitscriteria als bedoeld in [artikel 10, leden 2, 3 en4, van de AI-verordening];

(b) het AI-systeem werd niet zodanig ontworpen en ontwikkeld dat het voldoet aan de transparantievereisten van [artikel 13 van de AI-verordening];

(c)het AI-systeem werd niet zodanig ontworpen en ontwikkeld dat hierop tijdens de periode dat het AI-systeem wordt gebruikt op doeltreffende wijze toezicht kan worden uitgeoefend door natuurlijke personen, overeenkomstig [artikel 14 van de AI-verordening];

(d)het AI-systeem werd niet op zodanige wijze ontworpen en ontwikkeld dat dit, met het oog op zijn beoogde doel, een passend niveau van nauwkeurigheid, robuustheid en cyberbeveiliging biedt, overeenkomstig [artikel 15 en artikel 16, punt a), van de AI-verordening]; of

(e)er werden niet onmiddellijk de nodige corrigerende maatregelen genomen om het AI-systeem in overeenstemming te brengen met de verplichtingen van [titel III, hoofdstuk 2, van de AI-verordening] of om het systeem, naargelang het geval, uit de handel te nemen of terug te roepen overeenkomstig [artikel 16, punt g), en artikel 21 van de AI-verordening].

3. In het geval van een vordering tot schadevergoeding tegen een gebruiker van een AI-systeem met een hoog risico ten aanzien waarvan de vereisten gelden van de hoofdstukken 2 en 3 van Titel III van [de AI-verordening], wordt aan de voorwaarde van lid 1, punt a), voldaan wanneer de eiser aantoont dat de gebruiker:

(a)niet heeft voldaan aan zijn verplichtingen om het AI-systeem te gebruiken of te monitoren overeenkomstig de bijgevoegde gebruiksaanwijzing of, in voorkomend geval, het gebruik ervan heeft onderbroken overeenkomstig [artikel 29 van de AI-verordening]; of

(b)het AI-systeem heeft blootgesteld aan inputdata waarover hij controle heeft en die niet relevant zijn voor het beoogde doel van het systeem overeenkomstig [artikel 29, lid 3, van de verordening].

4. In het geval van een vordering tot schadevergoeding met betrekking tot een AI-systeem met een hoog risico gaat een nationale rechter niet van het in lid 1 bedoelde vermoeden uit wanneer de verweerder aantoont dat de eiser redelijkerwijs over voldoende bewijsmateriaal en deskundigheid kan beschikken om het in lid 1 bedoelde causaal verband aan te tonen.

5. In het geval van een vordering tot schadevergoeding met betrekking tot een AI-systeem dat geen AI-systeem met een hoog risico is, gaat een nationale rechter alleen van het in lid 1 bedoelde vermoeden uit wanneer hij het voor de eiser buitensporig moeilijk acht om het in lid 1 bedoelde causaal verband aan te tonen.

6. In het geval van een vordering tot schadevergoeding tegen een verweerder die het AI-systeem heeft gebruikt in het kader van een persoonlijke, niet-professionele activiteit, wordt van het in lid 1 bedoelde vermoeden alleen uitgegaan wanneer de verweerder de voorwaarden voor de werking van het AI-systeem wezenlijk heeft verstoord of wanneer de verweerder verplicht en in staat was de voorwaarden voor de werking van het AI-systeem vast te stellen en dit heeft nagelaten.

7. De verweerder heeft het recht het in lid 1 bedoelde vermoeden te weerleggen.

Artikel 5 - Evaluatie en gerichte herziening

1. Uiterlijk op [DATUM vijf jaar na het einde van de omzettingsperiode] evalueert de Commissie de toepassing van deze richtlijn en dient zij een verslag in bij het Europees Parlement, de Raad en het Europees Economisch en Sociaal Comité, in voorkomend geval vergezeld van een wetgevingsvoorstel.

2. In het verslag worden de gevolgen van de artikelen 3 en 4 voor de verwezenlijking van de doelstellingen van deze richtlijn onderzocht. De beoordeling in het verslag zou zich met name moeten uitstrekken tot de geschiktheid van regels inzake risicoaansprakelijkheid voor vorderingen tegen exploitanten van bepaalde AI-systemen, voor zover deze niet reeds onder andere aansprakelijkheidsregels van de Unie vallen, alsook tot de noodzaak van verzekeringsdekking, rekening houdend met het effect en de gevolgen voor de uitrol en aanvaarding van AI-systemen, met name voor kmo’s.

3. De Commissie stelt een monitoringprogramma op voor de opstelling van het verslag overeenkomstig de leden 1 en 2, waarin wordt vermeld hoe en met welke tussenpozen de gegevens en ander noodzakelijk bewijsmateriaal zullen worden verzameld. In het programma wordt tevens vermeld welke actie de Commissie en de lidstaten moeten ondernemen om de gegevens en ander bewijsmateriaal te verzamelen en te analyseren. Voor de toepassing van dat programma delen de lidstaten de Commissie uiterlijk op [31 december van het tweede volledige jaar na het einde van de omzettingsperiode] en aan het einde van elk daaropvolgend jaar de relevante gegevens en bewijsstukken mee.

Artikel 6 - Wijziging van Richtlijn (EU) 2020/1828

In bijlage I bij Verordening (EU) 2020/1828 40 wordt het volgende punt 67 toegevoegd:

“67) Richtlijn (EU).../... van het Europees Parlement en de Raad van... betreffende de aanpassing van de regels inzake niet-contractuele civielrechtelijke aansprakelijkheid aan artificiële intelligentie (richtlijn betreffende aansprakelijkheid inzake AI) (PB L... van..., blz....).”.

Artikel 7 - Omzetting

1. De lidstaten doen de nodige wettelijke en bestuursrechtelijke bepalingen in werking treden om uiterlijk [twee jaar na inwerkingtreding] aan deze richtlijn te voldoen. Zij delen de Commissie de tekst van die bepalingen onmiddellijk mee.

Wanneer de lidstaten die bepalingen aannemen, wordt in die bepalingen zelf of bij de officiële bekendmaking daarvan naar deze richtlijn verwezen. De regels voor de verwijzing worden vastgesteld door de lidstaten.

2. De lidstaten delen de Commissie de tekst van de belangrijkste bepalingen van intern recht mee die zij op het onder deze richtlijn vallende gebied vaststellen.

Artikel 8 - Inwerkingtreding

Deze richtlijn treedt in werking op de twintigste dag na die van de bekendmaking ervan in het Publicatieblad van de Europese Unie.

Artikel 9 - Adressaten

Deze richtlijn is gericht tot de lidstaten.