|
Commission
de la Justice |
Commissie
voor Justitie |
|
du Mercredi 7 juin 2023 Après-midi ______ |
van Woensdag 7 juni 2023 Namiddag ______ |
La réunion publique de commission est ouverte à 13 h 59 et présidée par Mme Kristien Van Vaerenbergh.
De openbare commissievergadering wordt geopend om 13.59 uur en voorgezeten door mevrouw Kristien Van Vaerenbergh.
01.01 Katja Gabriëls (Open Vld): Mijnheer de staatssecretaris, wie alleenstaand is zonder kinderen, een groep die alsmaar groeit, wordt soms geconfronteerd met praktische problemen, des te meer op latere leeftijd als er nog weinig familieleden in leven zijn of in de buurt wonen. Helemaal problematisch wordt het wanneer zo iemand over een klein netwerk beschikt. Dan dreigt alsmaar vaker vereenzaming.
De zorgvolmacht kan soelaas brengen voor wilsonbekwame personen. Ook de wet op de patiëntenrechten biedt de mogelijkheid van vertegenwoordiging, maar helaas zijn die instrumenten onvoldoende ingeburgerd of zien mensen op jongere leeftijd het nut er niet van in om daarvoor regelingen te treffen.
Waakzame buren of vrienden die bij ziekenhuizen willen informeren, omdat iemand kennelijk van de radar is verdwenen, stoten op de wet op de privacy. Ook alleenstaanden zonder familie die in het ziekenhuis belanden, hebben nood aan mensen die hen bij dagelijkse beslommeringen helpen.
Mijnheer de minister, zult u de grenzen rond privacy evalueren en desgevallend aanpassen om te voorkomen dat derden op onredelijke grenzen stoten wanneer ze zich willen vergewissen over de toestand van kinderloze alleenstaanden?
Zult u een actie opzetten om alleenstaanden duidelijk te maken welke mogelijkheden ze hebben om personen op de hoogte te brengen of recht te geven op informatie in het geval van een ziekenhuisopname of verdwijning?
Zult u alleenstaanden sensibiliseren om tijdig maatregelen te nemen en personen aan te duiden?
Zult u eventueel een digitaal systeem uitrollen om ziekenhuizen, politie en andere relevante diensten op de hoogte brengen van het bestaan van documenten zoals de zorgvolmacht? Of zou een kopie van het document bij de aangeduide vertrouwenspersoon kunnen worden bewaard, die dat dan aan de betrokken instanties kan voorleggen?
01.02 Staatssecretaris Mathieu Michel: Ik wil eerst het hardnekkige misverstand uit de weg ruimen als zou de bescherming van de privacy vooral een hindernis zijn die mensen, bedrijven en instellingen moeten overkomen om bepaalde handelingen te kunnen stellen of opdrachten uit te voeren. Zeker, het recht op privacy werd in het begin beschouwd als een recht op niet-inmenging vanwege de overheid. Dat recht zou de drang van de overheid moeten bedwingen om geheimen van een burger in een rechtszaal te onthullen. Dat is een negentiende-eeuwse interpretatie. Intussen is het recht op privacy geëvolueerd tot een soort van zelfbeschikkingsrecht dat iedere burger in staat moet stellen zichzelf ten volle te ontplooien. In die positivistische evolutie, die u en mij als liberaal kan smaken, wordt het recht op privacy een fundamenteel mensenrecht dat vertrekt vanuit het geloof in het individu en de kracht van het individu om zijn omgeving en de samenleving mee vorm te helpen geven. Evengoed is het recht op privacy dus een sociaalliberaal grondrecht, dat mee ten grondslag ligt aan het sterke socialezekerheidssysteem in België, waarbij met de nodige waarborgen enorme hoeveelheden persoonsgegevens worden uitgewisseld tussen zorginstellingen ten behoeve van de patiënten en zorgbehoevenden.
U vraagt mij of de privacywet moet worden geëvalueerd en aangepast, alsof er een obstakel moet worden weggeruimd. Mijn antwoord daarop is volmondig neen. De privacywet hoeft wat dat betreft niet aangepast te worden, maar gewoonweg toegepast. Indien onze samenleving gebaat is bij een zorgvolmacht en de regering beslist dat die maatregel moet worden ingevoerd, dan moet daarvoor een passend wettelijk kader uitgewerkt worden waarin de essentiële elementen van het privacyrecht worden geïntegreerd, niet meer en niet minder.
U dicht mij in dat opzicht trouwens ook andere bevoegdheden toe dan dewelke waarover ik beschik. Het is uiteraard niet aan mij om een register voor zorgvolmachten uit te werken, net zoals de digitalisering van Justitie ook niet mijn bevoegdheid is. Daarvoor is de bevoegde minister verantwoordelijk.
Voor een meer gedetailleerd antwoord op uw vragen wil ik u dan ook graag verzoeken om in debat te gaan met de bevoegde minister of ministers.
01.03 Katja Gabriëls (Open Vld): Omdat mijn vraag toch over privacy ging, dacht ik dat ik ze aan u moest stellen. Ik zal hier zeker verder op doorgaan met onze eigen minister van Justitie.
Het recht op privacy is inderdaad belangrijk, zeker voor ons als liberalen, maar vaak is een pragmatische toepassing van de noodzakelijke regelgeving toch nog een probleem bij vele diensten in onze samenleving.
Het incident is gesloten.
L'incident est clos.
02.01 Erik Gilissen (VB): Mijnheer de staatssecretaris, om het rijassistentiesysteem van de Teslavoertuigen te sturen, zijn de auto’s niet enkel uitgerust met verschillende sensoren, maar ook met verscheidene camera’s. Personeelsleden van Tesla hebben toegang tot de beelden om de rijassistentiesystemen te kunnen verbeteren.
Uit een onderzoek van Reuters blijkt dat er bij Tesla geregeld beelden uit de auto's van klanten werden rondgestuurd tussen collega's. Sommige werknemers hebben gevoelige beelden gedeeld voor smakeloos en onrechtmatig amusement. Ze hebben opnames van Teslaklanten in private en gênante situaties verspreid. Het is mogelijk om te bepalen waar de beelden opgenomen zijn, waardoor de eigenaars van de voertuigen geïdentificeerd kunnen worden.
In de privacyvoorwaarden van Tesla staat te lezen dat de beelden van de autocamera’s altijd anoniem blijven en niet worden gelinkt aan een specifiek voertuig. Volgens het onderzoek van Reuters en getuigenissen van ex-werknemers is dat echter helemaal niet het geval en kan Tesla wel degelijk de locatiegegevens van de voertuigen en dus ook de eigenaars achterhalen. Dat stemt uiteraard niet overeen met de privacywetgeving. De Amerikaanse autofabrikant Tesla wordt dan ook aangeklaagd voor inbreuken op de privacy.
Welke klachten werden er al ingediend over Teslaopnames in België? Welke maatregelen zult u treffen om de privacy te beschermen van diegenen waarvan opnames worden gemaakt in en rond de Teslavoertuigen? Hebt u hierover al overleg gehad?
02.02 Staatssecretaris Mathieu Michel: Mijnheer Gilissen, de Gegevensbeschermingsautoriteit laat mij weten dat zij recent een beperkt aantal klachten over dit thema ontving. In termen van maatregelen ligt de oplossing altijd in de naleving van de AVG. De verwerking van beelden waarop natuurlijke personen herkenbaar voorkomen, brengt een verplichting tot naleving van de AVG met zich mee. Dit omvat de beginselen privacy by design en privacy by default. Ook moet elke verwerking een rechtsgrond hebben en moet het beginsel van minimale gegevensverwerking gerespecteerd worden.
Ten slotte, aangezien de klachten nog in behandeling zijn bij de GBA, wacht ik hun afhandeling door de GBA af voor de eventuele opvolging.
02.03 Erik Gilissen (VB): Mijnheer de staatssecretaris, elke Tesla lijkt wel een rijdend testplatform te zijn. We kunnen ons daarbij de vraag stellen of dat een goede zaak is of niet. Het heeft meer weg van iets wat niet klaar is, maar wat men toch snel op de markt wil brengen. Men monitort het dan om de problemen die opduiken nadien op te lossen.
De registratie van gegevens van deels of geheel zelfrijdende voertuigen, om die uit te lezen na bijvoorbeeld een ongeval is één zaak. Dat is een soort black box. Dat is natuurlijk heel wat anders dan medewerkers die zomaar camerabeelden kunnen inkijken en deze beelden via allerlei kanalen intern of extern kunnen rondsturen. Dat gaat niet één, maar meerdere bruggen te ver en is een grove schending van de privacy. Het is misschien wachten tot de beelden massaal op TikTok zullen verschijnen.
Tesla houdt zich blijkbaar niet aan de AVG-regels en ik verwacht dat u daar nauw op zult toezien en zult ingrijpen wanneer nodig.
Het incident is gesloten.
L'incident est clos.
03.01 Erik Gilissen (VB): Mevrouw de voorzitster, mijnheer de staatssecretaris, zolang Liberty Global slechts meerderheidsaandeelhouder is van Telenet, blijft het telecombedrijf buiten het bereik van de Amerikaanse wetgeving. Als de overname van Telenet door Liberty Global echter doorgaat, worden uiteraard Amerikaanse wetten van toepassing op het bedrijf. Die wetten geven Amerikaanse speurders bijvoorbeeld toegang tot alle data op de servers van Amerikaanse bedrijven, ook als die servers zich buiten de Verenigde Staten bevinden. Een overname heeft dus vergaande gevolgen op het vlak van privacy en gegevensbescherming.
Ik las vandaag toevallig in de krant dat Liberty Global donderdag, dus morgen, met de overname van Telenet start.
De Europese Unie is van oordeel dat de Amerikaanse regelgeving niet strookt met de GDPR-wetgeving die Europese burgers, bedrijven en overheden moet beschermen tegen het misbruiken van persoonsgegevens. De Verenigde Staten kunnen niet garanderen dat de gegevens die ze inkijken, voldoende worden beschermd. Er is ook geen onafhankelijke rechtbank waar gedupeerden terechtkunnen.
Ik heb daarover de hiernavolgende vragen.
Ten eerste, welke problemen ziet u bij een mogelijke overname van Telenet door het Amerikaanse Liberty Global?
Ten tweede, hebt u daarover al overleg gehad met Telenet, de GBA en de Europese Gegevensbeschermingsautoriteiten?
Ten derde, welke bevoegdheidsconflicten rijzen er tussen de Amerikaanse overheid, de GBA en de Europese Gegevensbeschermingsautoriteiten?
Ten vierde, het klantenbestand van Telenet omvat zowel burgers als federale administraties, instellingen uit de gezondheidssector en het onderwijs, kmo’s en grote bedrijven. Is de veiligheid van de gegevens van al die klanten gewaarborgd?
Ten slotte, welke maatregelen zult u treffen om de privacy veilig te stellen?
03.02 Staatssecretaris Mathieu Michel: Mevrouw de voorzitster, geacht Kamerlid, het zou onvoorzichtig zijn als ik u een analyse geef terwijl ik niet over alle elementen van dat specifiek dossier beschik.
Meer in het algemeen gaat uw vraag over de problematiek van gegevensoverdracht tussen de EU en de Verenigde Staten. In die context definieert artikel 3 van de AVG een vrij breed territoriaal toepassingsgebied voor de verordening, terwijl artikel 44 en volgende de regels voor gegevensoverdracht naar derde landen uiteenzetten. Die regels moeten we bekijken om de situatie te analyseren.
Zoals u wellicht weet, is er een akkoord in de maak tussen de Europese Unie en de Verenigde Staten over een betere bescherming van de persoonsgegevens van Europese burgers in geval van gegevensoverdracht naar Amerikaans grondgebied. De Europese Commissie onderhandelt namelijk een nieuw adequaatheidsbesluit met beide administraties dat een antwoord moet bieden op het tweede arrest-Schrems van het Hof van Justitie van de Europese Unie. In de komende weken zouden we meer zicht moeten krijgen op de exacte bijkomende waarborgen die van toepassing zullen zijn. Ik kan u verzekeren dat ik die onderhandelingen van nabij opvolg.
Tot slot, indien er zich in het geval van het dossier-Telenet een inbreuk of mogelijke inbreuk op de Belgische privacywet of op de AVG zou voordoen, dan beschikken onze Gegevensbeschermingsautoriteit en het Europees Comité voor Gegevensbescherming over de mogelijkheid om een onderzoek in te stellen en sancties op te leggen. Ik beschik vandaag niet over enige indicatie dat er een onderzoek ingesteld zou zijn.
03.03 Erik Gilissen (VB): Mijnheer de staatssecretaris, voortdurend duiken er berichten op over boetes die Amerikaanse bedrijven krijgen voor het verzamelen van gegevens van gebruikers in Europa. Meta kreeg een boete van 1,2 miljard en Microsoft zet 400 miljoen opzij en treft een schikking voor 200 miljoen voor het verzamelen van data van kinderen. Heel wat andere bedrijven hebben ondertussen al boetes gekregen of hebben er boven het hoofd hangen, maar zij lijken zich daar niet al te veel van aan te trekken. Big tech- en big money-bedrijven doen gewoon verder. Zolang de boetes lager zijn dan wat zij eraan kunnen verdienen, zullen ze gewoon verder doen.
Via Amerikaanse bedrijven met vestigingen, klanten en gebruikers in Europa en België heeft de Amerikaanse overheid toegang tot gegevens. Gaan de Verenigde Staten, met het verzamelen van gegevens van iedereen uit de hele wereld, dezelfde weg op als China?
U spreekt over een nieuwe overeenkomst tussen Europa en Amerika over de uitwisseling van gegevens, maar zal die voor meer vrijheid zorgen voor die bedrijven om gegevens te verzamelen of zal die meer bescherming bieden? Ik hoop alvast het laatste, want de privacy van de burger moet worden beschermd en mag niet te grabbelen gegooid worden voor buitenlandse overheden, of het nu China, Rusland, de Verenigde Staten of eender welk ander land is. Ik dring erop aan dat u daarop toeziet en al het mogelijke doet om de Belgische burgers te beschermen tegen bigbrotherpraktijken.
Het incident is gesloten.
L'incident est clos.
De voorzitster: De heer Prévot is verhinderd. Van mevrouw Reuter hebben we niets vernomen.
04.01 Erik Gilissen (VB): Mijnheer de staatssecretaris, om de algoritmen die het AI-chatprogramma ChatGPT stutten, te trainen, hebben de ontwikkelaars het programma grote delen van het internet laten lezen. Daarbij werden ook persoonsgegevens opgeslagen. Volgens de Italiaanse tegenhanger van onze Gegevensbeschermingsautoriteit is die verzameling en opslag van persoonsgegevens ongerechtvaardigd. Het programma zou persoonsgegevens op onnauwkeurige wijze verwerken. Het heeft de personen wier gegevens werden verzameld, hiervan ook niet op de hoogte gebracht. Het is ook niet mogelijk om te achterhalen op welke informatie ChatGPT zich baseert, noch om foutieve gegevens te laten verwijderen. Vaak wordt informatie zelfs gewoon verzonnen. Bij een recent datalek werden eveneens mailadressen, betalingsadressen, gebruikte betaalmethoden en de laatste vier cijfers en vervaldatum van de creditcard van een aantal gebruikers onbedoeld zichtbaar.
De Italiaanse privacytoezichthouder wil daarom dat ChatGPT in Italië wordt geblokkeerd, totdat het voldoet aan de privacyregels. Inmiddels zijn ook Frankrijk, Ierland, Duitsland en Spanje met een onderzoek gestart. De Europese privacyregulatoren zijn nog niet klaar met de Europese Artificial Intelligence Act.
Mijnheer de staatssecretaris, wat is uw reactie op de beslissing van de Italiaanse privacytoezichthouder?
Hebt u hierover al overleg gehad met de GBA?
Hoe werd de naleving van privacyregels door ChatGPT in ons land gecontroleerd? Welke inbreuken werden er vastgesteld?
Bent u het ermee eens dat er beter proactief kan worden ingegrepen in plaats van te wachten op de Europese AI Act?
Welke maatregelen zult u nemen om de veiligheid van de gegevens van onze burgers te verzekeren?
04.02 Staatssecretaris Mathieu Michel: Mijnheer Gilissen, artificiële intelligentie (AI) is onmiskenbaar onze samenleving aan het veranderen. We staan nog maar aan het begin van die evolutie. Zoals bij elke grote innovatie zijn er zowel kansen als risico’s, maar ik blijf optimistisch en geloof in de mensheid en haar vermogen om te innoveren omwille van de toekomst en het algemeen belang. Het is alleszins essentieel dat de mensheid controle houdt over haar technologie.
Ik heb de familie van de man die zelfmoord pleegde na een gesprek met de ELIZA-chatbot, ontmoet. Het verhaal heeft me diep geraakt en zet de donkere kant van ongecontroleerde AI in de verf. De oproep van verschillende internationale experts voor een moratorium van zes maanden op de meest risicovolle vormen van AI kan ik dan ook perfect begrijpen.
Op het Europese niveau ligt de focus veeleer op de opstelling van regelgeving voor de ontwikkeling en het gebruik van kunstmatige intelligentie. Sinds twee jaar werken de Europese Unie en haar lidstaten aan de AI Act. Dat juridische instrument is bedoeld om duidelijke eisen en verplichtingen te stellen aan het specifieke gebruik van AI. Duidelijkheid en transparantie zullen bijdragen aan een vertrouwensrelatie tussen Europese burgers en AI. Op pragmatische wijze berust de wet op een risicogebaseerde aanpak. Er zijn vier risiconiveaus vastgesteld: een onaanvaardbaar risico, een hoog risico, een beperkt risico en een minimaal of nulrisico. Voor elk risiconiveau zullen duidelijke regels gelden, wat zal helpen om de transparantie en het vertrouwen te versterken.
Ik ben ervan overtuigd dat we met die Europese wetgeving voorloper zullen zijn in de verzoening van innovatie en snel ontwikkelende nieuwe technologieën met onze fundamentele Europese waarden.
Tegelijk worden we in dat wetgevend werk geconfronteerd met de ontwikkelingskracht van AI. De positie over artificiële intelligentie van de Raad dateert al van zes maanden geleden, toen er van ChatGPT nog geen sprake was. Daarom moeten wij, mijns inziens, het Europese debat over het risiconiveau van bepaalde vormen van artificiële intelligentie heropenen tijdens de triloog met het Europees Parlement, die binnenkort begint. We pleiten hier al voor op het Europese niveau en het zal ook een van onze prioriteiten zijn tijdens het Belgische voorzitterschap van de Raad van de Europese Unie begin volgend jaar.
Een van onze doelstellingen voor het Europees voorzitterschap is te zorgen voor de grootst mogelijke transparantie in het gebruik van de algoritmen achter de systemen van AI. In die context heb ik vorige week op de Raad Telecom in Luxemburg bij mijn Europese collega’s gepleit voor de oprichting van een Europees agentschap voor algoritmen. De toegevoegde waarde van een dergelijk Europees agentschap voor algoritmen zou zijn dat het de werking van de toepassingen die burgers gebruiken, effectief garandeert en ervoor zorgt dat ze volledig en transparant worden geïnformeerd. Het is essentieel dat burgers vertrouwen kunnen hebben wanneer ze digitale toepassingen gebruiken.
Meer algemeen hebben we in België ook initiatieven genomen om het bewustzijn inzake AI te vergroten, zoals de opmaak van het Nationaal Convergentieplan voor de Ontwikkeling van Kunstmatige Intelligentie, waarvan de eerste doelstelling de bevordering van betrouwbare AI is. Dat plan heeft ook geleid tot de oprichting van een specifieke taskforce voor bedreigingen. Daarnaast wordt weldra een campagne gelanceerd om de bevolking bewust te maken van de bedreigingen die het gebruik van AI met zich meebrengt, en wordt er gewerkt aan een aantal andere initiatieven.
Mijnheer Gilissen, wat het besluit van de Italiaanse autoriteiten inzake ChatGPT betreft, volgens mijn informatie werd de beslissing van de Italiaanse toezichthouder ingegeven door het datalek bij ChatGPT.
De toezichthouder heeft dus gewoon zijn werk gedaan, wat een goede zaak is. Ik twijfel er niet aan dat de Gegevensbeschermingsautoriteit op dezelfde manier zou handelen, als ze met een soortgelijk geval te maken krijgt. ChatGPT heeft de nodige maatregelen genomen en ondertussen is het weer operationeel in Italië.
Ik heb het met de Gegevensbeschermingsautoriteit niet over die zaak gehad, maar wel over artificiële intelligentie in het algemeen. Naar mijn mening is de beste optie om waakzaam te blijven ten opzichte van elke nieuwe technologie waarbij persoonsgegevens worden verwerkt en om in afwachting van de implementatie van de EU AI Act de beginselen van de AVG te handhaven.
Ik besluit. Het is dus cruciaal een evenwicht te vinden tussen de benutting van de kansen die AI biedt en de bescherming van individuen tegen mogelijke risico’s. Adequate regelgeving, transparantie van algoritmes en een verantwoordingsplicht van belanghebbenden zijn allemaal nodig om ervoor te zorgen dat AI ethisch wordt gebruikt en ten goede komt aan de samenleving als geheel.
04.03 Erik Gilissen (VB): Mijnheer de staatssecretaris, mijn vraag heb ik inderdaad opgesteld naar aanleiding van het Italiaanse datalek. De geheel verzonnen berichten van ChatGPT zijn één zaak, maar de Europese Unie wil dat techbedrijven generatieve AI-desinformatie van labels zullen voorzien. Mensen kunnen uiteraard zelf berichten verzinnen of door AI gegenereerde berichten wat aanpassen. Volledige bibliotheken bulken van fictieboeken, verzonnen materiaal dus. De lezer is dan ook mee verantwoordelijk om vast te stellen of een tekst al dan niet fictie betreft. Wanneer AI echter persoonlijke gegevens van personen gebruikt en misbruikt, dan is dat zeer gevaarlijk.
Er kunnen berichten worden verspreid met valse, verzonnen inhoud die mensen van van alles en nog wat beschuldigen, er kunnen persoonlijke gegevens worden gelekt. U en de Gegevensbeschermingsautoriteit hebben als taak om de privacy van de burger te beschermen. Ik reken erop dat u dat doet.
Het incident is gesloten.
L'incident est clos.
De voorzitster: Vraag nr. 55036813C van de heer Verduyckt wordt uitgesteld, aangezien hij deelneemt aan een andere commissievergadering.
De behandeling van de vragen eindigt om 14.26 uur.
Le développement des questions se termine à 14 h 26.