Toelichting bij COM(2018)640 - Voorkoming van de verspreiding van terroristische online-inhoud - Bijdrage aan de bijeenkomst van de leiders, september 2018 - Hoofdinhoud
Dit is een beperkte versie
U kijkt naar een beperkte versie van dit dossier in de EU Monitor.
| dossier | COM(2018)640 - Voorkoming van de verspreiding van terroristische online-inhoud - Bijdrage aan de bijeenkomst van de leiders, september 2018. |
|---|---|
| bron | COM(2018)640   |
| datum | 12-09-2018 |
1.1.Motivering en doel van het voorstel
Door de alomtegenwoordigheid van het internet kunnen de gebruikers communiceren, werken, socialiseren en informatie en inhoud creëren, verkrijgen en delen met honderden miljoenen mensen over de hele wereld. Internetplatforms genereren aanzienlijke voordelen voor het economische en sociale welzijn van de gebruikers, zowel in de Unie als daarbuiten. De mogelijkheid zoveel mensen tegen minimale kosten te bereiken trekt echter ook criminelen aan die het internet willen misbruiken voor illegale doeleinden. De recente terroristische aanslagen op Europese bodem hebben laten zien dat terroristen het internet misbruiken om aanhangers te indoctrineren en te werven, terroristische activiteiten voor te bereiden en te faciliteren, hun wreedheden te verheerlijken, anderen ertoe aan te zetten in hun sporen te treden en het grote publiek angst in te boezemen.
Terroristische inhoud die met die bedoeling online wordt gedeeld, wordt verspreid via aanbieders van hostingdiensten waarop inhoud van derden kan worden geüpload. Bij verschillende recente terroristische aanslagen in Europa is gebleken dat terroristische online-inhoud radicalisering mede in de hand heeft gewerkt en zogeheten lone wolves tot aanslagen heeft geïnspireerd. Dergelijke inhoud heeft niet alleen aanzienlijk negatieve effecten op mensen en de samenleving in het algemeen, maar vermindert ook het vertrouwen van de gebruikers in het internet en tast de bedrijfsmodellen en de reputatie van de getroffen ondernemingen aan. Terroristen misbruiken niet alleen grote socialemediaplatforms, maar steeds vaker kleinere aanbieders die wereldwijd verschillende soorten hostingdiensten aanbieden. Dit misbruik van het internet laat zien dat internetplatforms een bijzondere maatschappelijke verantwoordelijkheid hebben om hun gebruikers te beschermen tegen blootstelling aan terroristische inhoud, en dat deze inhoud ernstige veiligheidsrisico’s met zich meebrengt voor de samenleving als geheel.
Naar aanleiding van verzoeken van overheidsinstanties hebben aanbieders van hostingdiensten bepaalde maatregelen genomen om terroristische inhoud op hun diensten te bestrijden. Er is vooruitgang geboekt via vrijwillige kaders en partnerschappen, zoals het EU-internetforum dat in december 2015 van start ging in het kader van de Europese veiligheidsagenda. Het EU-internetforum heeft vrijwillige samenwerking tussen de lidstaten en de aanbieders van hostingdiensten bevorderd en maatregelen ondersteund om terroristische online-inhoud minder toegankelijk te maken en het maatschappelijk middenveld de middelen aan te reiken een doeltreffend alternatief discours op grotere schaal online te verspreiden. Deze inspanningen hebben bijgedragen aan meer samenwerking, betere reacties van bedrijven op doorverwijzingen van nationale autoriteiten en de eenheid voor de doorverwijzing van internetuitingen van Europol, de invoering van vrijwillige proactieve maatregelen om de automatische opsporing van terroristische inhoud te verbeteren, meer samenwerking tussen de bedrijven uit de sector, onder meer bij de ontwikkeling van de 'databank van hashcodes' om te voorkomen dat bekende terroristische inhoud wordt geüpload op aangesloten platforms, en grotere transparantie van de inspanningen. Hoewel de samenwerking in het kader van het EU-internetforum in de toekomst moet worden voortgezet, is ook gebleken dat de vrijwillige regelingen hun beperkingen hebben. Ten eerste zijn niet alle getroffen aanbieders van hostingdiensten bij het forum betrokken en ten tweede volstaan de schaal en het tempo van de vooruitgang bij de aanbieders van hostingdiensten in hun geheel niet om dit probleem adequaat aan te pakken.
Dit maakt duidelijk dat de Europese Unie meer actie moet ondernemen tegen terroristische online-inhoud. Op 1 maart 2018 heeft de Commissie een aanbeveling aangenomen over maatregelen om illegale online-inhoud effectief te bestrijden, die voortbouwt op de mededeling van de Commissie van september 1 en de inspanningen in het kader van het EU-internetforum. In de aanbeveling is een hoofdstuk specifiek gewijd aan een aantal maatregelen om het uploaden en delen van terroristische onlinepropaganda effectief te stoppen, zoals verbeteringen van het doorverwijzingsproces, een termijn van één uur om te reageren op doorverwijzingen, proactievere opsporing, doeltreffende verwijdering en voldoende waarborgen om terroristische inhoud correct te beoordelen 2 .
Dat er meer actie moet worden ondernomen tegen terroristische online-inhoud, komt ook terug in oproepen van de lidstaten van de EU. Sommige lidstaten hebben reeds wetgeving aangenomen of hebben laten weten dat zij dat van plan zijn. Na een reeks terroristische aanslagen in de EU en gelet op het feit dat terroristische online-inhoud gemakkelijk toegankelijk blijft, heeft de Europese Raad van 22-23 juni 2017 de sector opgeroepen nieuwe technologie en instrumenten te ontwikkelen 'waarmee inhoud die aanzet tot terroristische daden, beter automatisch kan worden opgespoord om vervolgens te worden verwijderd. Dit moet zo nodig worden aangevuld met ter zake doende wetgevingsmaatregelen op EU-niveau'. De Europese Raad van 28 juni 2018 heeft zich ingenomen getoond met 'het voornemen van de Commissie om een wetgevingsvoorstel in te dienen ter verbetering van het opsporen en verwijderen van inhoud die tot haat en terreurdaden aanzet'. Voorts heeft het Europees Parlement er in zijn resolutie over onlineplatforms en de digitale eengemaakte markt van 15 juni 2017 bij de platforms op aangedrongen 'krachtigere maatregelen te nemen om illegale en schadelijke inhoud online aan te pakken' en heeft het de Commissie verzocht voorstellen in te dienen om deze problemen aan te pakken.
Om deze uitdagingen aan te pakken en gevolg te geven aan de oproepen van de lidstaten en het Europees Parlement, beoogt dit Commissievoorstel een duidelijk en geharmoniseerd rechtskader tot stand te brengen om misbruik van hostingdiensten voor de verspreiding van terroristische online-inhoud te voorkomen, teneinde de goede werking van de digitale eengemaakte markt te waarborgen en tegelijkertijd het vertrouwen en de veiligheid te garanderen. Deze verordening beoogt duidelijkheid te verschaffen over de verantwoordelijkheid van aanbieders van hostingdiensten voor het nemen van alle passende, redelijke en evenredige maatregelen die noodzakelijk zijn om de veiligheid van hun diensten te garanderen en om terroristische online-inhoud snel en doeltreffend op te sporen en te verwijderen, rekening houdend met het fundamentele belang van de vrijheid van meningsuiting en van informatie in een open en democratische samenleving. Zij voert ook een aantal waarborgen in die noodzakelijk zijn om te garanderen dat grondrechten zoals de vrijheid van meningsuiting en van informatie in een democratische samenleving ten volle worden geëerbiedigd, en voorziet tevens in de mogelijkheid rechtsmiddelen in te stellen, die wordt gegarandeerd door het recht op een doeltreffende voorziening in rechte dat in artikel 19 VEU en artikel 47 van het Handvest van de grondrechten van de EU is neergelegd.
Door de vaststelling van een minimale reeks zorgplichten voor aanbieders van hostingdiensten, waaronder enkele specifieke regels en verplichtingen, alsook verplichtingen voor de lidstaten, beoogt het voorstel de huidige maatregelen voor het opsporen, identificeren en verwijderen van terroristische online-inhoud doeltreffender te maken, zonder dat grondrechten, zoals de vrijheid van meningsuiting en van informatie, in het gedrang komen. Dit geharmoniseerde rechtskader zal de verlening van onlinediensten in de hele digitale eengemaakte markt faciliteren, een gelijk speelveld garanderen voor alle aanbieders van hostingdiensten die hun diensten op de Europese Unie richten, en een solide rechtskader bieden voor de opsporing en verwijdering van terroristische inhoud dat ook voorziet in passende waarborgen ter bescherming van de grondrechten. Met name de verplichtingen inzake transparantie zullen het vertrouwen bij de burgers, en in het bijzonder de internetgebruikers, versterken en zullen de verantwoordingsplicht voor en de transparantie van de maatregelen van de ondernemingen vergroten, onder meer tegenover overheidsinstanties. Het voorstel bevat ook de verplichting rechtsmiddelen en klachtenmechanismen in te voeren om ervoor te zorgen dat gebruikers de verwijdering van hun inhoud kunnen aanvechten. De verplichtingen voor de lidstaten zullen aan deze doelstellingen bijdragen en de betrokken autoriteiten beter in staat stellen passende actie te ondernemen tegen terroristische online-inhoud en criminaliteit te bestrijden. Als aanbieders van hostingdiensten de verordening niet naleven, kunnen de lidstaten sancties opleggen.
1.2.Verenigbaarheid met het bestaande EU-rechtskader op het beleidsgebied
Dit voorstel is in overeenstemming met het acquis dat verband houdt met de digitale eengemaakte markt en met name met de richtlijn inzake elektronische handel. De door de aanbieder van hostingdiensten in naleving van deze verordening genomen maatregelen, waaronder proactieve maatregelen, mogen op zich niet ertoe leiden dat die dienstverlener de vrijstelling van aansprakelijkheid verliest waarin artikel 14 van de richtlijn inzake elektronische handel onder bepaalde voorwaarden voorziet. Een besluit van de nationale autoriteiten om evenredige en specifieke proactieve maatregelen op te leggen, mag er in beginsel niet toe leiden dat de lidstaten een algemene toezichtverplichting in de zin van artikel 15, lid 1, van Richtlijn 2000/31/EG wordt opgelegd. Gezien de bijzonder ernstige risico’s die met de verspreiding van terroristische inhoud gepaard gaan, kunnen de besluiten op grond van deze verordening echter in uitzonderingsgevallen afwijken van dit in het EU-recht vastgelegde beginsel. Alvorens een dergelijk besluit te nemen, moet de bevoegde autoriteit een billijke afweging maken tussen de behoeften op het gebied van openbare veiligheid en de betrokken belangen en grondrechten, waaronder met name de vrijheid van meningsuiting en van informatie, de vrijheid van ondernemerschap en de bescherming van persoonsgegevens en de persoonlijke levenssfeer. De zorgplichten van aanbieders van hostingdiensten moeten dit in de richtlijn inzake elektronische handel vastgelegde evenwicht weerspiegelen en eerbiedigen.
Het voorstel is ook in overeenstemming met en sluit nauw aan bij Richtlijn (EU) 2017/541 inzake terrorismebestrijding, die een harmonisatie van de wetgevingen van de lidstaten waarbij terroristische misdrijven strafbaar worden gesteld, tot doel heeft. Artikel 21 van de richtlijn inzake terrorismebestrijding verplicht de lidstaten alleen maatregelen te nemen om te zorgen voor de snelle verwijdering van online-inhoud die het publiekelijk uitlokken betreft, en laat de lidstaten de keuze van de maatregelen. Omdat deze verordening preventief van aard is, betreft zij niet alleen materiaal dat tot terrorisme aanzet, maar ook materiaal voor wervings- of opleidingsdoeleinden, waardoor zij rekening houdt met andere misdrijven in verband met terroristische activiteiten, die ook onder Richtlijn (EU) 2017/541 vallen. Deze verordening legt de aanbieders van hostingdiensten rechtstreeks een zorgplicht op om terroristische inhoud te verwijderen en harmoniseert de procedures voor verwijderingsbevelen, met als doel terroristische online-inhoud minder toegankelijk te maken.
De verordening vult de in de toekomstige richtlijn audiovisuele mediadiensten vastgestelde regels aan, in die zin dat haar personele en materiële toepassingsgebied ruimer is. De verordening heeft niet alleen betrekking op platforms voor het delen van video’s, maar op alle verschillende soorten aanbieders van hostingdiensten. Bovendien heeft zij niet alleen betrekking op video’s, maar ook op beelden en tekst. Voorts gaat deze verordening in materieel opzicht verder dan de richtlijn, doordat de regels voor verzoeken tot verwijdering van terroristische inhoud en de proactieve maatregelen worden geharmoniseerd.
De voorgestelde verordening bouwt voort op de aanbeveling van de Commissie van maart 2018 over illegale inhoud 3 . De aanbeveling blijft van kracht en allen die een rol kunnen spelen om illegale inhoud - waaronder terroristische inhoud - minder toegankelijk te maken, moeten hun inspanningen blijven afstemmen op de in de aanbeveling genoemde maatregelen.
1.3.Samenvatting van de voorgestelde verordening
De personele werkingssfeer van het voorstel omvat aanbieders van hostingdiensten die hun diensten aanbieden in de Unie, ongeacht hun plaats van vestiging of hun omvang. De voorgestelde wetgeving voorziet in een aantal maatregelen om te voorkomen dat hostingdiensten worden misbruikt voor de verspreiding van terroristische online-inhoud, teneinde de goede werking van de digitale eengemaakte markt te waarborgen en tegelijkertijd vertrouwen en veiligheid te garanderen. De definitie van illegale terroristische inhoud is in overeenstemming met de definitie van terroristische misdrijven in Richtlijn (EU) 2017/541: het gaat om informatie die wordt gebruikt om aan te zetten tot het plegen van terroristische misdrijven of het plegen van terroristische misdrijven te verheerlijken, en waarin het bijdragen aan het plegen van terroristische misdrijven wordt aangemoedigd en daarvoor instructies worden gegeven alsook het deelnemen aan terroristische groeperingen wordt bevorderd.
Om de verwijdering van illegale terroristische inhoud te garanderen, voert de verordening een verwijderingsbevel in, dat kan worden uitgevaardigd als een administratief besluit of rechterlijke beslissing van een bevoegde autoriteit in een lidstaat. In die gevallen is de aanbieder van hostingdiensten verplicht de inhoud te verwijderen of de toegang daartoe onmogelijk te maken binnen één uur. Daarenboven harmoniseert de verordening de minimumvereisten voor doorverwijzingen die door bevoegde autoriteiten van de lidstaten en organen van de Unie (zoals Europol) worden gezonden aan aanbieders van hostingdiensten, die de betrokken inhoud moeten toetsen aan hun eigen voorwaarden. Ten slotte schrijft de verordening voor dat aanbieders van hostingdiensten, waar passend, proactieve maatregelen moeten nemen die in verhouding staan tot de omvang van het risico, en terroristisch materiaal van hun diensten moeten verwijderen, onder meer met behulp van automatische opsporingsinstrumenten.
De maatregelen ter vermindering van terroristische online-inhoud gaan vergezeld van een aantal belangrijke waarborgen om de volledige bescherming van grondrechten te garanderen. Als onderdeel van de maatregelen om inhoud die geen terroristische inhoud is tegen onterechte verwijdering te beschermen, bevat het voorstel de verplichting rechtsmiddelen en klachtenmechanismen in te voeren waarmee gebruikers de verwijdering van hun inhoud kunnen aanvechten. Daarnaast bevat de verordening verplichtingen inzake transparantie voor de maatregelen die door aanbieders van hostingdiensten ten aanzien van terroristische inhoud worden genomen, wat zorgt voor verantwoordingsplicht tegenover gebruikers, burgers en overheidsinstanties.
De verordening verplicht de lidstaten ook ervoor te zorgen dat hun bevoegde autoriteiten over de nodige capaciteit beschikken om tegen terroristische online-inhoud op te treden. Daarnaast zijn de lidstaten verplicht elkaar op de hoogte te houden en met elkaar samen te werken: om te zorgen voor coördinatie met betrekking tot verwijderingsbevelen en doorverwijzingen kunnen zij gebruikmaken van de door Europol opgezette kanalen. De verordening voorziet ook in verplichtingen voor aanbieders van hostingdiensten om meer in detail verslag uit te brengen over de genomen maatregelen en de rechtshandhaving in te lichten wanneer zij inhoud detecteren die mensenlevens of de veiligheid in gevaar brengt. Ten slotte zijn aanbieders van hostingdiensten verplicht de door hen verwijderde inhoud te bewaren, wat een waarborg vormt tegen onterechte verwijdering en ervoor zorgt dat potentieel bewijsmateriaal niet verloren gaat voor het voorkomen, opsporen, onderzoeken en vervolgen van terroristische misdrijven.
2. RECHTSGRONDSLAG, SUBSIDIARITEIT EN EVENREDIGHEID
2.1.Rechtsgrondslag
De rechtsgrondslag is artikel 114 van het Verdrag betreffende de werking van de Europese Unie, dat voorziet in de vaststelling van maatregelen om de werking van de interne markt te garanderen.
Artikel 114 VWEU is de passende rechtsgrondslag om de voorwaarden te harmoniseren waaronder aanbieders van hostingdiensten diensten kunnen verlenen over grenzen heen in de digitale eengemaakte markt, en de verschillen tussen de bepalingen van de lidstaten aan te pakken die anders de werking van de interne markt zouden kunnen belemmeren. Het voorkomt ook het ontstaan van toekomstige belemmeringen voor de economische bedrijvigheid als gevolg van verschillen in de wijze waarop de nationale wetgevingen zich kunnen ontwikkelen.
Artikel 114 VWEU kan ook worden gebruikt om verplichtingen op te leggen aan dienstverleners die buiten het grondgebied van de EU zijn gevestigd, wanneer hun dienstverlening van invloed is op de interne markt, aangezien dit noodzakelijk is voor het nagestreefde doel van de interne markt.
2.2.Keuze van het instrument
Inhoudsopgave
Artikel 114 VWEU geeft de wetgever van de Unie de mogelijkheid verordeningen en richtlijnen vast te stellen.
Aangezien het voorstel betrekking heeft op verplichtingen van dienstverleners die gewoonlijk in meer dan één lidstaat diensten aanbieden, zouden verschillen in de toepassing van deze regels een belemmering vormen voor de verlening van diensten door dienstverleners die in meerdere lidstaten actief zijn. Een verordening maakt het mogelijk dezelfde verplichting op uniforme wijze in de hele Unie op te leggen, is rechtstreeks van toepassing, zorgt voor duidelijkheid en meer rechtszekerheid en voorkomt dat de omzetting in de lidstaten uiteenloopt. Daarom wordt een verordening geacht de meest geschikte vorm voor dit instrument te zijn.
2.3.Subsidiariteit
Gezien de grensoverschrijdende dimensie van de problemen die dit voorstel aanpakt, moeten de erin opgenomen maatregelen op het niveau van de Unie worden vastgesteld teneinde de doelstellingen te bereiken. Het internet is van nature grensoverschrijdend en inhoud die in één lidstaat wordt gehost, is normaal gesproken toegankelijk vanuit alle andere lidstaten.
Er is een onsamenhangend kader van nationale regels ter bestrijding van terroristische online-inhoud aan het ontstaan, waardoor de omvang van de risico’s alleen maar zal toenemen. Dit zou leiden tot een last voor het bedrijfsleven dat uiteenlopende regels zou moeten naleven, tot ongelijke voorwaarden voor ondernemingen en tot lacunes in de beveiliging.
Een optreden van de EU zorgt dus voor meer rechtszekerheid en maakt de maatregelen van aanbieders van hostingdiensten tegen terroristische online-inhoud doeltreffender. Daardoor zullen meer bedrijven, ook van buiten de EU, actie kunnen ondernemen, waardoor de integriteit van de digitale eengemaakte markt wordt versterkt.
Een optreden van de EU is dus gerechtvaardigd, zoals ook blijkt uit de conclusies van de Europese Raad van juni 2018, waarin de Commissie wordt verzocht een wetgevingsvoorstel op dit gebied in te dienen.
2.4.Evenredigheid
Het voorstel bevat regels voor aanbieders van hostingdiensten, die maatregelen moeten nemen om terroristische inhoud snel van hun diensten te verwijderen. Essentiële onderdelen ervan beperken het voorstel tot wat nodig is om de beleidsdoelstellingen te verwezenlijken.
Het voorstel houdt rekening met de last voor de aanbieders van hostingdiensten en bevat waarborgen, onder meer ter bescherming van de vrijheid van meningsuiting en van informatie en van andere grondrechten. Het tijdsbestek van één uur voor verwijdering geldt alleen voor verwijderingsbevelen voor inhoud waarvan de bevoegde autoriteiten in een aan rechterlijke toetsing onderworpen besluit hebben vastgesteld dat die illegaal is. Voor doorverwijzingen is er een verplichting maatregelen te nemen om de snelle toetsing van terroristische inhoud te faciliteren, echter zonder dat daarvoor verplichtingen tot verwijdering of absolute termijnen worden opgelegd. Het uiteindelijke besluit blijft een vrijwillig besluit van de aanbieder van hostingdiensten. De last voor ondernemingen ten gevolge van de toetsing van de inhoud wordt verlicht door het feit dat de bevoegde autoriteiten van de lidstaten en de organen van de Unie moeten uitleggen waarom de inhoud als terroristische inhoud kan worden beschouwd. Aanbieders van hostingdiensten nemen, waar passend, proactieve maatregelen om hun diensten te beschermen tegen de verspreiding van terroristische inhoud. De specifieke verplichtingen in verband met proactieve maatregelen blijven beperkt tot die aanbieders van hostingdiensten die aan terroristische inhoud worden blootgesteld, wat blijkt uit de ontvangst van een definitief geworden verwijderingsbevel, en moeten in verhouding staan tot de omvang van het risico en de middelen van het bedrijf. De bewaring van de verwijderde inhoud en bijbehorende gegevens wordt beperkt tot een termijn die in verhouding staat tot het doel dat procedures voor administratieve of rechterlijke toetsing en het voorkomen, opsporen, onderzoeken en vervolgen van terroristische misdrijven mogelijk moeten zijn.
3. EVALUATIE, RAADPLEGING VAN BELANGHEBBENDEN EN EFFECTBEOORDELING
3.1.Raadpleging van belanghebbenden
Bij de voorbereiding van dit wetgevingsvoorstel heeft de Commissie alle belanghebbenden geraadpleegd om hun standpunten te begrijpen en een mogelijke koers voor te stellen. De Commissie heeft een openbare raadpleging gehouden over maatregelen om de strijd tegen illegale inhoud doeltreffender te maken, waarop 8 961 antwoorden werden ontvangen, waarvan 8 749 van particulieren, 172 van organisaties, 10 van overheidsdiensten en 30 van andere categorieën respondenten. Parallel hiermee is een Eurobarometer-enquête over illegale online-inhoud gehouden met een willekeurige steekproef van 33 500 inwoners van de EU. De Commissie heeft in mei en juni 2018 ook de autoriteiten van de lidstaten en aanbieders van hostingdiensten geraadpleegd over specifieke maatregelen om terroristische online-inhoud aan te pakken.
De meeste belanghebbenden zijn van mening dat terroristische online-inhoud een ernstig maatschappelijk probleem vormt voor de internetgebruikers en de bedrijfsmodellen van aanbieders van hostingdiensten. Meer in het algemeen is 65 % van de respondenten van de Eurobarometer-enquête 4 van mening dat het internet niet veilig is voor zijn gebruikers en vindt 90 % van de respondenten het belangrijk om de verspreiding van illegale online-inhoud tegen te gaan. Uit overleg met de lidstaten is gebleken dat vrijwillige regelingen weliswaar resultaten opleveren, maar dat velen vinden dat er bindende verplichtingen inzake terroristische inhoud moeten komen, wat in de conclusies van de Europese Raad van juni 2018 is herhaald. Hoewel de aanbieders van hostingdiensten doorgaans voorstander waren van de voortzetting van vrijwillige maatregelen, hebben zij gewezen op de potentiële negatieve effecten van de toenemende versnippering van de wetgeving in de Unie.
Veel belanghebbenden hebben ook erop gewezen dat alle regelgevende maatregelen voor de verwijdering van inhoud, in het bijzonder proactieve maatregelen en strikte termijnen, moeten worden afgewogen tegen de waarborgen voor de grondrechten, meer bepaald de vrijheid van meningsuiting. De belanghebbenden hebben gewezen op een aantal noodzakelijke maatregelen op het gebied van transparantie en verantwoordingsplicht en op het feit dat het gebruik van automatische instrumenten menselijke controle vereist.
3.2.Effectbeoordeling
De Raad voor regelgevingstoetsing heeft een positief advies met voorbehoud uitgebracht over de effectbeoordeling en heeft een aantal voorstellen voor verbetering gedaan 5 . Naar aanleiding van dit advies is het effectbeoordelingsverslag gewijzigd om met de belangrijkste opmerkingen van de Raad rekening te houden, door de focus specifiek op terroristische inhoud te leggen terwijl de gevolgen voor de werking van de digitale eengemaakte markt verder worden benadrukt en het effect op de grondrechten en de werking van de in de opties voorgestelde waarborgen diepgaander worden geanalyseerd.
Als er geen aanvullende maatregelen worden genomen, wordt verwacht dat de vrijwillige maatregelen in het kader van het basisscenario worden voortgezet en tot enige vermindering van terroristische online-inhoud leiden. Waarschijnlijk zullen echter niet alle aanbieders van hostingdiensten die aan dergelijke inhoud worden blootgesteld, vrijwillige maatregelen nemen en de verdere versnippering van de wetgeving zal naar verwachting extra belemmeringen voor grensoverschrijdende dienstverlening doen ontstaan. Naast het basisscenario zijn drie belangrijke beleidsopties in overweging genomen, die in toenemende mate doeltreffend zijn voor de verwezenlijking van de in de effectbeoordeling beschreven doelstellingen en de algemene beleidsdoelstelling terroristische online-inhoud te verminderen.
In de drie opties is het toepassingsgebied van de verplichtingen gefocust op alle aanbieders van hostingdiensten (personeel toepassingsgebied) die in de EU en in derde landen zijn gevestigd, in zoverre zij hun diensten in de Unie aanbieden (geografisch toepassingsgebied). Gezien de aard van het probleem en het feit dat misbruik van kleinere platforms moet worden voorkomen, is in geen van de opties voorzien in uitzonderingen voor kmo’s. Alle opties vereisen dat aanbieders van hostingdiensten, ook die van buiten de EU, een wettelijke vertegenwoordiger in de EU aanwijzen, zodat de EU-regels kunnen worden gehandhaafd. In alle opties moeten de lidstaten sanctiemechanismen ontwikkelen.
Alle opties voorzien in de oprichting van een nieuw, geharmoniseerd systeem van wettelijke verwijderingsbevelen met betrekking tot terroristische online-inhoud die door de nationale autoriteiten worden uitgevaardigd tegen aanbieders van hostingdiensten, en in de verplichting om die inhoud binnen één uur te verwijderen. Deze bevelen vereisen niet noodzakelijkerwijs een beoordeling door de aanbieder van hostingdiensten en er kan een rechtsmiddel tegen worden ingesteld.
De drie opties hebben als gemeenschappelijk kenmerk dat wordt voorzien in waarborgen, meer bepaald klachtenprocedures en doeltreffende voorzieningen in rechte, met inbegrip van rechtsmiddelen en andere bepalingen ter voorkoming van de onterechte verwijdering van inhoud die geen terroristische inhoud is, om te garanderen dat de grondrechten worden geëerbiedigd. Voorts omvatten alle opties verslagleggingsverplichtingen in de vorm van openbare transparantie en verslaglegging aan de lidstaten en de Commissie, alsook aan de autoriteiten in geval van vermeende misdrijven. Daarnaast wordt voorzien in verplichtingen tot samenwerking tussen nationale autoriteiten, aanbieders van hostingdiensten en, in voorkomend geval, Europol.
De belangrijkste verschillen tussen de drie opties betreffen de reikwijdte van de definitie van terroristische inhoud, de mate van harmonisatie van de doorverwijzingen, de omvang van de proactieve maatregelen, de coördinatieverplichtingen van de lidstaten en de vereisten inzake bewaring van gegevens. Bij optie 1 zou het materiële toepassingsgebied worden beperkt tot inhoud die wordt verspreid om rechtstreeks aan te zetten tot het plegen van een terroristische handeling, volgens een enge definitie, terwijl de opties 2 en 3 voorzien in een ruimere aanpak, die ook materiaal betreffende werving en opleiding omvat. Wat de proactieve maatregelen betreft, zouden aanbieders van hostingdiensten die aan terroristische inhoud worden blootgesteld, bij optie 1 een risicobeoordeling moeten uitvoeren, maar proactieve maatregelen om het risico aan te pakken, zouden vrijwillig blijven. Bij optie 2 zouden aanbieders van hostingdiensten een actieplan moeten opstellen, dat kan voorzien in het gebruik van automatische instrumenten om te voorkomen dat reeds verwijderde inhoud opnieuw wordt geüpload. Optie 3 omvat uitgebreidere proactieve maatregelen waarbij aanbieders van hostingdiensten die aan terroristische inhoud worden blootgesteld, ook nieuw materiaal moeten identificeren. Bij alle opties zouden de vereisten met betrekking tot proactieve maatregelen in verhouding staan tot de mate van blootstelling aan terroristisch materiaal en de economische draagkracht van de dienstverlener. Wat de doorverwijzingen betreft, zou optie 1 de aanpak van doorverwijzingen niet harmoniseren, terwijl optie 2 dit wel zou doen voor Europol en optie 3 tevens doorverwijzingen door de lidstaten zou harmoniseren. Bij de opties 2 en 3 zouden de lidstaten verplicht zijn elkaar in te lichten en met elkaar te coördineren en samen te werken, en in optie 3 zouden zij er ook voor moeten zorgen dat hun bevoegde autoriteiten de capaciteit hebben om terroristische inhoud op te sporen en te melden. Tot slot omvat optie 3 ook een verplichting tot bewaring van gegevens als een waarborg in gevallen van onterechte verwijdering, en om strafrechtelijke onderzoeken te faciliteren.
Naast de wettelijke bepalingen zouden alle wetgevingsopties vergezeld gaan van een reeks ondersteunende maatregelen, met name om de samenwerking tussen de nationale autoriteiten en Europol alsook de samenwerking met aanbieders van hostingdiensten te faciliteren, en van steun voor onderzoek, ontwikkeling en innovatie met het oog op de ontwikkeling en invoering van technologische oplossingen. Na de goedkeuring van het rechtsinstrument zouden ook aanvullende bewustmakings- en ondersteuningsinstrumenten voor kmo's kunnen worden ingezet.
De effectbeoordeling concludeerde dat een reeks maatregelen nodig is om de beleidsdoelstelling te verwezenlijken. De uitgebreide definitie van terroristische inhoud, die op het schadelijkste materiaal zou slaan, zou de voorkeur genieten boven een enge definitie van inhoud (optie 1). Proactieve verplichtingen die ertoe beperkt blijven te voorkomen dat terroristische inhoud opnieuw wordt geüpload (optie 2), zouden minder effect hebben dan verplichtingen inzake de opsporing van nieuwe terroristische inhoud (optie 3). De bepalingen inzake doorverwijzingen zouden zowel doorverwijzingen door Europol als door de lidstaten moeten omvatten (optie 3) en niet enkel beperkt mogen blijven tot doorverwijzingen door Europol (optie 2), aangezien doorverwijzingen door de lidstaten een belangrijke bijdrage vormen in het kader van de algemene inspanning om terroristische online-inhoud minder toegankelijk te maken. Deze maatregelen zouden moeten worden uitgevoerd bovenop de maatregelen die alle opties gemeenschappelijk hebben, waartoe ook solide waarborgen tegen onterechte verwijdering van inhoud behoren.
3.3.Grondrechten
Onlinepropaganda van terroristen is bedoeld om individuen ertoe aan te zetten terroristische aanslagen te plegen, onder meer door het geven van gedetailleerde instructies om maximale schade toe te brengen. Verdere propaganda wordt meestal verspreid nadat dergelijke wreedheden hebben plaatsgevonden, en bestaat eruit die handelingen te verheerlijken en anderen aan te moedigen het voorbeeld te volgen. Deze verordening draagt bij aan de bescherming van de openbare veiligheid door terroristische inhoud die de schending van grondrechten bevordert en aanmoedigt, minder toegankelijk te maken.
(a)rechten van de aanbieder van inhoud: het recht op vrijheid van meningsuiting, het recht op bescherming van persoonsgegevens, het recht op eerbiediging van het privéleven en van het familie- en gezinsleven, het non-discriminatiebeginsel en het recht op een doeltreffende voorziening in rechte;
(b)rechten van de dienstverlener: het recht op vrijheid van ondernemerschap, het recht op een doeltreffende voorziening in rechte;
(c)rechten van alle burgers: het recht op vrijheid van meningsuiting en van informatie.
Rekening houdend met het desbetreffende acquis zijn in de voorgestelde verordening passende en solide waarborgen opgenomen om ervoor te zorgen dat de rechten van deze personen worden beschermd.
Een eerste element in dit verband is dat de verordening een definitie van terroristische online-inhoud vaststelt die in overeenstemming is met de definitie van terroristische misdrijven in Richtlijn (EU) 2017/541. Deze definitie is van toepassing op verwijderingsbevelen en doorverwijzingen, alsook op proactieve maatregelen. Deze definitie garandeert dat alleen illegale inhoud die aan een voor de hele Unie geldende definitie van daarmee verband houdende strafbare feiten beantwoordt, moet worden verwijderd. Daarnaast omvat de verordening algemene zorgplichten voor aanbieders van hostingdiensten: zij moeten op zorgvuldige, evenredige en niet-discriminerende wijze handelen ten aanzien van inhoud die zij opslaan, met name wanneer zij hun eigen voorwaarden toepassen, teneinde te voorkomen dat inhoud wordt verwijderd die geen terroristische inhoud is.
Meer in het bijzonder is de verordening zodanig vormgegeven dat wordt gegarandeerd dat de maatregelen die met betrekking tot de grondrechten worden genomen, evenredig zijn. Met betrekking tot verwijderingsbevelen rechtvaardigt de beoordeling van de inhoud (met inbegrip van juridische controles, zo nodig) door een bevoegde autoriteit dat voor deze maatregel een tijdsbestek van één uur voor verwijdering geldt. Voorts gelden de bepalingen in deze verordening die betrekking hebben op doorverwijzingen, alleen voor de doorverwijzingen die door de bevoegde autoriteiten en de organen van de Unie zijn gezonden en waarin wordt uitgelegd waarom de inhoud als terroristische inhoud kan worden beschouwd. Voor het verwijderen van in een doorverwijzing geïdentificeerde inhoud blijft weliswaar de aanbieder van hostingdiensten verantwoordelijk, maar zijn besluit wordt gefaciliteerd door bovenvermelde beoordeling.
Bij proactieve maatregelen blijft de verantwoordelijkheid voor het identificeren, beoordelen en verwijderen van inhoud bij de aanbieders van hostingdiensten en zijn zij verplicht te voorzien in waarborgen om te garanderen dat inhoud niet ten onrechte wordt verwijderd, onder meer door menselijke evaluatie, in het bijzonder wanneer met een grotere context rekening moet worden gehouden. Bovendien zou, anders dan in het basisscenario waarin de meest getroffen bedrijven automatische instrumenten zonder publiek toezicht invoeren, aan de bevoegde instanties in de lidstaten verslag moeten worden uitgebracht over de vormgeving van de maatregelen en de uitvoering daarvan. Deze verplichting vermindert het risico op onterechte verwijderingen, zowel voor bedrijven die nieuwe instrumenten ontwikkelen als voor bedrijven die er al gebruik van maken. Daarnaast zijn aanbieders van hostingdiensten verplicht gebruiksvriendelijke klachtenmechanismen in te voeren waarmee aanbieders van inhoud het besluit tot verwijdering van hun inhoud kunnen betwisten, en moeten zij transparantieverslagen voor het grote publiek publiceren.
Tot slot moeten aanbieders van hostingdiensten, mochten inhoud en bijbehorende gegevens ondanks deze waarborgen ten onrechte worden verwijderd, die inhoud en gegevens gedurende zes maanden bewaren om die inhoud opnieuw te kunnen plaatsen en zo de doeltreffendheid te garanderen van de klachten- en toetsingsprocedures ter bescherming van de vrijheid van meningsuiting en van informatie. Tegelijkertijd dient de bewaring ook rechtshandhavingsdoeleinden. Aanbieders van hostingdiensten moeten zorgen voor technische en organisatorische waarborgen om te voorkomen dat de gegevens voor andere doeleinden worden gebruikt.
De voorgestelde maatregelen, meer bepaald die welke betrekking hebben op verwijderingsbevelen, doorverwijzingen, proactieve maatregelen en de bewaring van gegevens, moeten niet alleen de internetgebruikers beschermen tegen terroristische inhoud, maar ook bijdragen aan de bescherming van het recht op leven van de burgers doordat terroristische online-inhoud minder toegankelijk wordt gemaakt.
4. GEVOLGEN VOOR DE BEGROTING
Het voorstel voor een verordening heeft geen gevolgen voor de begroting van de Unie.
5. OVERIGE ELEMENTEN
5.1.Uitvoeringsplanning en regelingen betreffende monitoring, evaluatie en rapportage
De Commissie zal binnen [één jaar na de datum waarop deze verordening van toepassing wordt] een gedetailleerd programma vaststellen voor de monitoring van de outputs, resultaten en effecten van deze verordening. Het monitoringprogramma stelt de indicatoren vast en de middelen waarmee en de tijdstippen waarop gegevens en ander noodzakelijk bewijsmateriaal zullen worden verzameld. Het specificeert de maatregelen die de Commissie en de lidstaten bij het verzamelen en analyseren van de gegevens en ander bewijsmateriaal moeten nemen om de voortgang te monitoren en deze verordening te evalueren.
Op basis van het vastgestelde monitoringprogramma zal de Commissie binnen twee jaar na de inwerkingtreding van deze verordening verslag uitbrengen over de uitvoering van deze verordening op basis van de door de bedrijven gepubliceerde transparantieverslagen en de door de lidstaten verstrekte informatie. De Commissie zal ten vroegste vier jaar na de inwerkingtreding van de verordening een evaluatie verrichten.
Op basis van de bevindingen van de evaluatie, onder meer of bepaalde lacunes of kwetsbaarheden blijven bestaan, en rekening houdend met de technologische ontwikkelingen, zal de Commissie nagaan of het toepassingsgebied van de verordening moet worden uitgebreid. Zo nodig zal de Commissie voorstellen indienen om deze verordening aan te passen.
De Commissie zal de uitvoering, monitoring en evaluatie van de verordening ondersteunen via een deskundigengroep van de Commissie. De groep zal ook de samenwerking tussen aanbieders van hostingdiensten, rechtshandhavingsautoriteiten en Europol faciliteren, uitwisselingen en praktijken bevorderen om terroristische inhoud op te sporen en te verwijderen, zijn deskundigheid inzake de ontwikkeling van de modus operandi van terroristen op het internet ter beschikking stellen en, waar passend, advies en richtsnoeren verstrekken met het oog op de uitvoering van de bepalingen.
De uitvoering van de voorgestelde verordening kan worden gefaciliteerd door middel van een aantal ondersteunende maatregelen. Daarbij gaat het onder meer om de mogelijke ontwikkeling van een platform binnen Europol om bijstand te verlenen in de coördinatie van doorverwijzingen en verwijderingsbevelen. Door de EU gefinancierd onderzoek over de ontwikkeling van de modus operandi van terroristen vergroot het inzicht en de kennis van alle belanghebbenden. Daarnaast ondersteunt Horizon 2020 onderzoek met het oog op de ontwikkeling van nieuwe technologieën, bijvoorbeeld om het uploaden van terroristische inhoud automatisch te voorkomen. Voorts zal de Commissie blijven analyseren hoe bevoegde autoriteiten en aanbieders van hostingdiensten bij de uitvoering van deze verordening kunnen worden ondersteund met financieringsinstrumenten van de EU.
5.2.Artikelsgewijze toelichting
Artikel 1 beschrijft het onderwerp en geeft aan dat de verordening regels vaststelt om te voorkomen dat hostingdiensten worden misbruikt voor de verspreiding van terroristische online-inhoud, met inbegrip van zorgplichten voor aanbieders van hostingdiensten en door de lidstaten te nemen maatregelen. Het vermeldt ook het geografische toepassingsgebied, namelijk aanbieders van hostingdiensten die diensten aanbieden in de Unie, ongeacht hun plaats van vestiging.
Artikel 2 bevat definities van in het voorstel gebruikte termen. Het voorziet ook in een definitie van terroristische inhoud met het oog op preventie, die gebaseerd is op de richtlijn inzake terrorismebestrijding zodat zij slaat op materiaal en informatie die aanzetten tot het plegen van terroristische misdrijven of het bijdragen aan terroristische misdrijven, of dit aanmoedigen of verdedigen, die instructies geven voor het plegen van dergelijke misdrijven of het deelnemen aan de activiteiten van een terroristische groepering bevorderen.
Artikel 3 voorziet in zorgplichten die aanbieders van hostingdiensten moeten nakomen wanneer zij overeenkomstig deze verordening maatregelen nemen, en met name om de betrokken grondrechten naar behoren te eerbiedigen. Het voorziet in passende bepalingen die in de voorwaarden van aanbieders van hostingdiensten moeten worden opgenomen en die vervolgens moeten worden toegepast.
Artikel 4 bepaalt dat de lidstaten de bevoegde autoriteiten de bevoegdheid moeten verlenen om verwijderingsbevelen uit te vaardigen, en vereist dat dienstverleners binnen één uur na ontvangst van een verwijderingsbevel inhoud verwijderen. Het bepaalt ook de elementen die verwijderingsbevelen ten minste moeten bevatten, en stelt de procedures vast die aanbieders van hostingdiensten moeten volgen om feedback te geven aan de uitvaardigende autoriteit, of om die autoriteit ervan in kennis te stellen dat het niet mogelijk is aan het bevel te voldoen of als verdere verduidelijking nodig is. Het vereist ook dat de autoriteit die toeziet op proactieve maatregelen van de lidstaat die rechtsmacht heeft ten aanzien van de aanbieder van hostingdiensten, door de uitvaardigende autoriteit in kennis wordt gesteld.
Artikel 5 bepaalt dat aanbieders van hostingdiensten maatregelen moeten nemen om inhoud die door een bevoegde autoriteit in een lidstaat of een orgaan van de Unie is doorverwezen, zo snel mogelijk te beoordelen, echter zonder de verplichting op te leggen de betrokken inhoud te verwijderen en zonder specifieke termijnen voor actie vast te stellen. Dit artikel bepaalt ook de elementen die doorverwijzingen ten minste moeten bevatten, en stelt de procedures vast die aanbieders van hostingdiensten moeten volgen om feedback te geven aan de uitvaardigende autoriteit, of om de autoriteit die de inhoud heeft doorverwezen om verduidelijking te verzoeken.
Artikel 6 verplicht aanbieders van hostingdiensten, waar passend, doeltreffende en evenredige proactieve maatregelen te nemen. Het voorziet in een procedure die garandeert dat bepaalde aanbieders van hostingdiensten (d.w.z. die welke een definitief geworden verwijderingsbevel hebben ontvangen) zo nodig aanvullende proactieve maatregelen nemen om de risico’s te beperken naargelang de blootstelling aan terroristische inhoud op hun diensten. De aanbieder van hostingdiensten moet met de bevoegde autoriteit samenwerken met betrekking tot de noodzakelijke maatregelen die moeten worden genomen; indien geen overeenstemming kan worden bereikt, kan de autoriteit de aanbieder van hostingdiensten maatregelen opleggen. Het artikel voorziet ook in een toetsingsprocedure met betrekking tot het besluit van de autoriteit.
Krachtens artikel 7 moeten aanbieders van hostingdiensten gedurende zes maanden verwijderde inhoud en bijbehorende gegevens bewaren met het oog op toetsingsprocedures en voor onderzoeksdoeleinden. Deze termijn kan worden verlengd als de toetsing nog niet is afgerond. Dit artikel verplicht aanbieders van hostingdiensten ook om waarborgen in te voeren om te garanderen dat bewaarde inhoud en bijbehorende houdende gegevens niet om andere doeleinden worden geraadpleegd of verwerkt.
Artikel 8 voorziet in een verplichting voor aanbieders van hostingdiensten om hun beleid ter bestrijding van terroristische inhoud toe te lichten en jaarlijkse transparantieverslagen over de in dit verband genomen maatregelen te publiceren.
Artikel 9 voorziet in specifieke waarborgen voor het gebruik en de uitvoering van proactieve maatregelen wanneer automatische instrumenten worden gebruikt om ervoor te zorgen dat besluiten correct en goed onderbouwd zijn.
Artikel 10 verplicht aanbieders van hostingdiensten om klachtenmechanismen voor verwijderingen, doorverwijzingen en proactieve maatregelen in te voeren en elke klacht snel te onderzoeken.
Artikel 11 verplicht aanbieders van hostingdiensten om aan de aanbieder van inhoud informatie over de verwijdering beschikbaar te stellen, tenzij de bevoegde autoriteit om redenen van openbare veiligheid voorschrijft dat die informatie niet openbaar mag worden gemaakt.
Artikel 12 verplicht de lidstaten ervoor te zorgen dat de bevoegde autoriteiten over voldoende capaciteit en middelen beschikken om hun verantwoordelijkheden uit hoofde van deze verordening te kunnen nakomen.
Artikel 13 verplicht de lidstaten onderling en, in voorkomend geval, met Europol samen te werken om dubbel werk en inmenging in onderzoeken te voorkomen. Het artikel voorziet ook in de mogelijkheid voor lidstaten en aanbieders van hostingdiensten om gebruik te maken van speciale instrumenten, waaronder die van Europol, voor de verwerking van en de feedback over verwijderingsbevelen en doorverwijzingen, en voor de samenwerking in verband met proactieve maatregelen. Het artikel legt de lidstaten ook op over passende communicatiekanalen te beschikken om ervoor te zorgen dat informatie tijdig wordt uitgewisseld in het kader van de toepassing en handhaving van de bepalingen van deze verordening. Het artikel verplicht ook de aanbieders van hostingdiensten om de betrokken autoriteiten in te lichten wanneer zij kennis hebben van bewijs van terroristische misdrijven in de zin van artikel 3 van Richtlijn (EU) 2017/541 inzake terrorismebestrijding.
Artikel 14 voorziet in de aanwijzing van contactpunten, zowel door de aanbieders van hostingdiensten als door de lidstaten, om hun onderlinge communicatie te vergemakkelijken, met name met betrekking tot doorverwijzingen en verwijderingsbevelen.
Artikel 15 stelt de rechtsmacht van de lidstaten vast met het oog op het toezicht op proactieve maatregelen, het opleggen van sancties en het monitoren van de inspanningen.
Artikel 16 vereist dat aanbieders van hostingdiensten die geen vestiging hebben in een lidstaat maar wel diensten aanbieden in de Unie, een wettelijke vertegenwoordiger in de Unie aanwijzen.
Op grond van artikel 17 moeten de lidstaten autoriteiten aanwijzen voor het uitvaardigen van verwijderingsbevelen, voor het doorverwijzen van terroristische inhoud, voor het toezicht op de uitvoering van proactieve maatregelen en voor de handhaving van de verordening.
Artikel 18 bepaalt dat de lidstaten regels inzake sancties bij niet-naleving moeten vaststellen, en voorziet in criteria waarmee de lidstaten rekening moeten houden bij het bepalen van het soort en de hoogte van de sancties. Gezien het bijzondere belang van snelle verwijdering van terroristische inhoud die in een verwijderingsbevel geïdentificeerd is, moeten specifieke regels worden vastgesteld inzake financiële sancties bij systematische inbreuken op dit vereiste.
Artikel 19 voorziet in een snellere en flexibelere procedure voor de wijziging van de modellen die voor verwijderingsbevelen en geauthenticeerde indieningskanalen worden verstrekt, door middel van gedelegeerde handelingen.
Artikel 20 stelt de voorwaarden vast waaronder de Commissie gedelegeerde handelingen kan vaststellen om te voorzien in de nodige wijzigingen van de modellen en technische vereisten voor verwijderingsbevelen.
Artikel 21 vereist dat de lidstaten specifieke informatie verzamelen en rapporteren met betrekking tot de toepassing van de verordening, teneinde de Commissie bij te staan in de uitoefening van haar taken uit hoofde van artikel 23. De Commissie stelt een gedetailleerd programma vast voor de monitoring van de outputs, resultaten en effecten van deze verordening.
In artikel 22 wordt bepaald dat de Commissie twee jaar na de inwerkingtreding van deze verordening verslag uitbrengt over de uitvoering ervan.
In artikel 23 wordt bepaald dat de Commissie ten vroegste drie jaar na de inwerkingtreding van deze verordening verslag uitbrengt over de evaluatie ervan.
Artikel 24 bepaalt dat de voorgestelde verordening in werking zal treden op de twintigste dag na de bekendmaking ervan in het Publicatieblad en van toepassing zal zijn zes maanden na de datum van haar inwerkingtreding. Deze termijn wordt voorgesteld rekening houdend met het feit dat uitvoeringsmaatregelen nodig zijn, terwijl tegelijkertijd wordt erkend dat de volledige toepassing van de regels van de voorgestelde verordening dringend is. De termijn van zes maanden is vastgesteld op basis van de aanname dat de onderhandelingen snel zullen verlopen.