|
Commissie voor Economie, Consumentenbescherming en
Digitalisering |
Commission
de l'Économie, de la Protection des consommateurs et de la Digitalisation |
|
van Woensdag 11 december 2024 Namiddag ______ |
du Mercredi 11 décembre 2024 Après-midi ______ |
La réunion publique de commission est ouverte à 13 h 50 et présidée par M. Roberto D'Amico.
De openbare commissievergadering wordt geopend om 13.50 uur en voorgezeten door de heer Roberto D'Amico.
Les textes figurant en italique dans le Compte rendu intégral n’ont pas été prononcés et sont la reproduction exacte des textes déposés par les auteurs.
De teksten die cursief zijn opgenomen in het Integraal Verslag werden niet uitgesproken en steunen uitsluitend op de tekst die de spreker heeft ingediend.
01.01 Ismaël Nuino (Les Engagés): Monsieur le secrétaire d'État, la France vient de franchir une étape décisive en ordonnant le blocage de plusieurs sites pornographiques pour leur incapacité à vérifier l'âge des utilisateurs.
En Belgique, bien que le Code pénal interdise de rendre accessible du contenu pornographique aux mineurs, les plateformes continuent d'offrir un accès facile en ligne. Vous avez récemment mentionné que la solution passerait par un certificat digital permettant de vérifier l'âge des utilisateurs, tout en garantissant l'anonymat des données personnelles via le portefeuille numérique "MyGov.be".
Où en est le projet de certificat digital pour restreindre l'accès des mineurs aux sites pornographiques en Belgique?
À quel stade de développement se trouve l'outil technologique envisagé pour la vérification d'âge?
Quels sont les obstacles juridiques ou techniques que ce projet rencontre encore, notamment en termes de conformité avec les législations européennes? Comment pensez-vous surmonter ces défis pour assurer une mise en place rapide?
Finalement, le certificat digital belge sera-t-il compatible avec d'autres initiatives européennes visant à harmoniser la protection des mineurs en ligne? Comment la Belgique compte-t-elle coopérer avec d'autres États membres sur ce dossier sensible?
01.02 Mathieu Michel, secrétaire d'État: Merci monsieur le député pour votre question qui me permet de faire le point sur un dossier important. Pour votre information, je précise qu'en France c'est bien la cour d'appel de Paris qui a estimé que plusieurs sites, qui avaient déposé un recours contre la loi sur les violences domestiques, ne prenaient pas suffisamment de mesures pour vérifier l'âge des utilisateurs.
Cette décision judiciaire rejoint les constatations auxquelles je suis arrivé lorsque nous avions négocié le Digital Service Act (DSA). Un cadre légal robuste est nécessaire, mais il faut également les outils technologiques qui permettent de mettre en œuvre les obligations légales.
C'est la raison pour laquelle j'en ai fait une priorité lors de la présidence belge de l'Union européenne. Il y a quelque mois, sous mon initiative, nous avons franchi une étape décisive avec l'adoption de la déclaration de Louvain-la-Neuve qui a été adoptée par les 27 États membres de l'Union européenne.
Je vous invite à prendre connaissance de cette déclaration qui marque un engagement collectif à instaurer un dispositif commun de vérification d'âge pour tous les contenus nocifs et pas uniquement pour les contenus pornographiques.
Il s'agit là d'une avancée clé vers une harmonisation européenne. Sur la base de cette déclaration, la Commission européenne a tout de suite agi avec le lancement d'un marché visant à développer une solution technologique interopérable et transnationale, fondée sur la reconnaissance de l'âge et les standards définis dans une autre réglementation européenne, qui est le eIDAS C'est d'ailleurs sur ces mêmes standards que s'est fondé le développement de MyGov.be, le fameux portefeuille digital belge qui est aujourd'hui opérationnel et qui se trouve, j'en suis sûr, dans les applications favorites de votre smartphone.
Pour résumer l'ampleur de cette décision, alors que l'Europe est en train de construire la serrure qui permet d'accéder à ces contenus, en Belgique, nous avons déjà, à travers le portefeuille digital, construit la clé. Nous nous réjouissons d'avoir été à l'initiative d'un combat juste dans ce dossier, qui défend davantage nos enfants dans les mondes virtuels. Ainsi, le projet de mise en place d'un certificat digital permettant de restreindre l'accès des mineurs aux sites pour adultes, est en plein développement avec pour cadre central l'application MyGov.be, ce fameux portefeuille digital. Une fonctionnalité de vérification de l'âge sera d'ailleurs intégrée. Ce mécanisme permettra à un utilisateur de prouver sa majorité sans divulguer d'autres informations personnelles. Seul l'attribut de majorité sera partagé, garantissant l'anonymat total et respectant ainsi le cadre du règlement eIDAS sur l'identification électronique et les services de confiance. En pratique, cela signifie que l'utilisateur mineur ne pourra pas accéder aux plateformes concernées.
En outre, la Belgique participe activement aux travaux de la task force européenne dédiée à la vérification de l'âge. Cette démarche s'inscrit naturellement dans la mise en œuvre du DSA qui impose aux grandes plateformes en ligne de protéger efficacement les mineurs. En outre, nous restons extrêmement vigilants sur les évolutions législatives européennes afin d'ajuster notre approche si nécessaire, et de garantir une mise en œuvre rapide et efficace.
En conclusion, monsieur le député, la Belgique avance de manière résolue sur ce dossier. Les solutions législatives et technologiques que nous mettons en place s'intègrent parfaitement dans le cadre européen, avec une harmonisation croissante entre les États membres. Nous espérons finaliser ces mesures rapidement pour garantir une protection renforcée des mineurs en ligne, tout en préservant les droits fondamentaux des utilisateurs adultes. Notre ambition est claire: mettre en place un environnement numérique sécurisé pour les jeunes tout en respectant les libertés individuelles. Je vous remercie.
01.03 Ismaël Nuino (Les Engagés): Merci monsieur le secrétaire d'État pour votre réponse qui montre que nous partageons cette ambition de garantir un espace numérique plus sûr pour tout le monde – mais particulièrement pour les jeunes. Je comprends que l'initiative se situe, dès lors, dans un cadre européen – et c'est bien normal car c'est l'option la plus optimale. En revanche, je serai très attentif à la manière dont l'Union européenne envisagera de faire appliquer le DSA dans la pratique. Nous avons vu ces derniers mois comment l'ancien commissaire européen Thierry Breton a mis en garde le réseau social X pour non-respect du DSA, entre autres, et comment la Commission n'a pas été complètement solidaire par rapport à cette mise en garde. Je pense que veiller à la bonne application de ce DSA dans l'Union européenne et en Belgique représentera vraiment un grand enjeu.
Vous avez bien fait de notifier également – vous avez été plus large que moi – que ce sont effectivement tous les contenus nocifs, pas seulement la pornographie, mais aussi la violence, qui sont concernés. Bref, je pense que nous devrions avancer le plus rapidement possible en cette matière, idéalement avec l'Union européenne, mais à condition que ça avance. Cela représente un réel enjeu.
Nous devrons aussi veiller à ne pas démultiplier les outils à notre disposition. Itsme à ma connaissance est une solution qui fonctionne aujourd'hui plutôt bien et a été bien adoptée par les Belges. Il faudra donc veiller à ne pas créer une concurrence entre plusieurs outils en Belgique, alors même que certains sont déjà bien adoptés. Je resterai attentif à la suite du dossier. Je vous remercie déjà pour vos réponses.
L'incident est clos.
Het incident
is gesloten.
02.01 Ismaël Nuino (Les Engagés): Monsieur le secrétaire d’État, le récent rapport de la Commission européenne sur le plan Digital Decade pointe deux faiblesses majeures pour la Belgique. La première concerne l’infrastructure et la connectivité. Seulement 40 % des ménages belges seraient couverts par la 5G, contre une moyenne européenne de 89,3 %. Le constat est le même concernant le raccordement à la fibre optique au domicile: seulement 25 % des domiciles y seraient raccordés, contre une moyenne de 64 % dans l'Union européenne.
La deuxième grande faiblesse se rapporte aux spécialistes en technologies de l'information et de la communication (TIC). Le taux d’étudiants en sciences informatiques est de 3 %, bien en dessous de la moyenne européenne, qui est, elle, de 4,5 %. Je sais que ce deuxième point ne relève pas d'une compétence fédérale, mais que des interconnexions pourraient permettre de favoriser ces initiatives.
Quelle analyse portez-vous sur ces retards et quelles actions avez-vous mises en place pour y remédier? Quelles mesures urgentes pourraient-elles être mises en œuvre pour que la Belgique rattrape son retard?
Quelles initiatives avez-vous lancées pour corriger ce déficit et attirer plus de jeunes vers ces filières stratégiques?
Encore une fois, je sais que tout ne repose pas sur vos épaules, mais la politique numérique de la Belgique est excessivement complexe car elle repose sur quasiment toutes les entités du pays. Je me demande donc si vous, en tant que membre du gouvernement fédéral, avez pu tenir une forme de rôle de coordination et d'impulsion pour faire en sorte que les différentes entités fédérées puissent prendre des initiatives.
Vous aviez mis en place une Commission interministérielle "Digital", qui, je pense, ne s'est pas beaucoup réunie. Comment cette collaboration entre entités fédérées et État fédéral fonctionne-t-elle?
02.02 Mathieu Michel, secrétaire d'État: Monsieur le député, permettez-moi de profiter de votre question pour me féliciter de l'excellent rapport Digital Decade, qui définit la Belgique comme, et je cite, "un précurseur dans la numérisation des services publics, notamment grâce à l'application du portefeuille numérique pour lequel la Belgique est en avance". Je me permets aussi de souligner que l'accès aux services publics en ligne progresse significativement, avec 69 % des citoyens belges utilisant internet pour interagir avec leurs administrations, soit 30 % de plus que la moyenne européenne. C'est ainsi que nous surclassons notamment nos voisins français et luxembourgeois. Aujourd'hui, avec MyGov.be, nous franchissons une étape supplémentaire. En effet, le citoyen ne doit plus se connecter à des systèmes différents. MyGov.be a pour objectif de se placer au centre de la vie numérique du citoyen.
Sur le plan du recours à l'intelligence artificielle par les PME belges dans leurs processus, nous observons une augmentation de 3,2 % entre 2021 et 2023 à 12,5 %. Bien sûr, il est toujours possible de faire mieux, mais nous nous positionnons déjà extrêmement bien. Je suis donc très satisfait d'avoir atteint tous les objectifs que je m'étais assignés en ce domaine. Les bases de la numérisation ont été consolidées, comme le démontre le rapport susnommé.
Du reste, pas plus tard qu'hier, la Belgique a été classée troisième par l'Université de Stanford pour l'engagement de ses administrations en faveur de l'IA dans différents domaines, derrière les États-Unis et le Royaume-Uni. Le plan de convergence pour l'IA que j'ai porté en 2022 au Conseil des ministres a fait gagner quatre places à la Belgique, qui était classée septième en 2022. Ce bilan positif au regard de mes compétences et la reconnaissance du travail accompli me permettent aussi de remercier les différentes administrations pour les efforts fournis au cours des quatre dernières années, bien que nous ayons été parfois malmenés. Le résultat me semble donc positif. Je tiens également à souligner le travail remarquable qui a été accompli en vue de l'inclusion numérique, pour laquelle les standards belges sont en train de s'améliorer.
S'agissant des questions de télécommunication, que vous avez soulevées, elles relèvent des compétences de ma collègue Petra De Sutter, qui vous répondra probablement à propos du retard en matière de connectivité, qui est manifestement en train de se résorber. Quant à la seconde question, elle relève, comme vous l'avez dit, des compétences communautaires, en particulier en termes d'enseignement et de formation. Pour les compétences fédérales, je puis souligner que le coût élevé du travail en Belgique, qui nous rend moins compétitifs pour attirer des talents du numérique, constitue un réel problème. Cependant, comme vous ne l'ignorez pas, les négociations au sein de la majorité Arizona font de la compétitivité belge une priorité. Nous avons bon espoir de pouvoir résorber notre retard en la matière.
En ce qui concerne la coordination des différents niveaux de pouvoir, comme vous l'avez noté, nous avons mis en place la Conférence interministérielle du numérique qui ne s'est pas encore réunie.
Trouver une date constitue une priorité. Nous sommes tombés dans la complexité des élections, ce qui nous a fait prendre un peu de retard. Je tiens, néanmoins, à souligner que toute une série de commissions et de groupes de travail sont déjà transversaux. Je citerai Single Digital Gateway et le développement de MyGov et d'autres outils de digitalisation, où les réflexions transversales sont déjà présentes.
02.03 Ismaël Nuino (Les Engagés): Merci, monsieur le secrétaire d'État, pour vos réponses. Je suis ravi de vous avoir donné l'occasion de vous délivrer un satisfecit pour le travail effectué, c'est toujours avec grand plaisir que je tends des perches. Cependant, même si certains aspects nous semblent positifs, il ne faut pas oublier que la Belgique, par rapport à la législature 2014-2019, n'a fait que perdre des places dans le classement DESI mis en place par l'Union européenne – si, c'est vrai, désolé –, alors que l'ambition du gouvernement précédent était d'être dans le tiercé de tête du classement DESI. Nous sommes aujourd'hui plutôt dans le top 16. Par conséquent, il y a encore des difficultés et des choses à améliorer.
J'entends que nous adoptons mieux l'IA et que nous nous servons mieux de l'administration digitale. Ces points sont certes positifs mais je reste sur ma faim quant à la réponse concernant la coordination, considérant le fait que la Conférence interministérielle, malgré le fait qu'elle ait été mise en place à la mi-2023, ne s'est pas encore réunie.
Je ne jette pas la pierre de manière bête et méchante, je pense que dans une compétence telle que le numérique, qui est excessivement "splittée" entre les entités fédérées et l'État fédéral, ce dernier pourrait jouer un rôle moteur de coordination et de centralisation. Même si du travail a été accompli – je peux le reconnaître et vous en féliciter – il reste beaucoup à faire et je pense que cela ne pourra se concrétiser que via une concertation et une coordination entre toutes ces entités.
02.04 Mathieu Michel, secrétaire d'État: Monsieur le président, je souhaite apporter un complément d'information sur la forme pour informer M. le député que le classement DESI n'existe plus depuis 2023. Il a été remplacé par le classement dont référence. Je suis le premier à le regretter parce que je pense que l'effet de latence d'un certain nombre de projets nous aurait permis de progresser. Le classement a été remplacé par le rapport auquel je faisais référence à l'instant.
02.05 Ismaël Nuino (Les Engagés): Nous étions sixième dans ce classement en 2017 et seizième en 2022. Nous avons donc inévitablement pris du retard. Nous nous sommes certainement améliorés et je vous en félicite mais le constat au niveau de l'Union européenne demeure et nous ne pouvons pas nous contenter de nous féliciter des bonnes avancées sans avoir un regard critique sur ce qu'il reste encore à faire.
Het incident is gesloten.
L'incident est
clos.
03.01 Funda Oru (Vooruit): Mijnheer de staatssecretaris, als mama van twee jonge kinderen maak ik mij veel zorgen over hoe we voor onze kinderen een veilige digitale omgeving kunnen creëren.
Ik heb het gevoel dat in ons land de negatieve impact van de sociale media op het leven van onze kinderen en jongeren onderschat wordt. Talloze studies tonen keer op keer aan welke de nadelige effecten van de sociale media zijn. Kinderen en jongeren geven zelf aan dat ze steeds meer met mentale gezondheidsproblemen als angst, depressie of een laag zelfbeeld kampen. Als oorzaak wijzen ze vaak de sociale media aan.
Een kind opvoeden doet men niet alleen. Als ouder werkt men samen met leerkrachten, grootouders, vrienden. Steeds vaker is er echter een andere opvoeder in het spel, namelijk de sociale media.
De sociale media zijn vandaag dus niet alleen een communicatiemiddel, maar ze zijn een opvoedingsruimte geworden, waar kinderen waarden en normen meekrijgen en ideeën oppikken. Helaas zijn die waarden en die normen niet altijd positief. Via hun schermen worden kinderen geconfronteerd met schadelijke content, cyberpesten, geweld, en met gevaarlijke challenges die vaak genormaliseerd worden.
Bovendien hebben ouders, waaronder ikzelf, weinig grip op wat online gebeurt. Als zij hun kind een app verbieden of die verwijderen, kan het kind die heel eenvoudig opnieuw downloaden.
Begrijp mij zeker niet verkeerd. Ik wil vooral dat die kwestie ernstig wordt genomen. Ik vraag hier niet dat u de gsm's van onze kinderen afneemt of dat u hen een verbod op de sociale media oplegt, maar het is essentieel dat we een veilige digitale omgeving creëren waar onze kinderen beschermd worden.
Een week nadat ik deze vraag had ingediend, kondigde Australië aan om een leeftijdsgrens van 16 jaar in te voeren voor het gebruik van sociale media. In België ligt die grens nu op 13 jaar. Voor kinderen jonger dan 13 jaar is expliciete toestemming nodig van een ouder of een wettelijke vertegenwoordiger. We weten echter dat in de praktijk socialemediaplatformen hun gebruikers alleen om een geboortedatum vragen. Ik hoef u niet uit te leggen hoe eenvoudig het is een valse leeftijd op te geven.
Kortom, eigenlijk bestaat er vandaag weinig regelgeving inzake het gebruik van sociale media door minderjarigen. De privacywetgeving is van toepassing, dat klopt, en inzake de verantwoordelijkheden van de platformen zelf gelden de verplichtingen van de Europese Digital Service Act, waarover u het daarnet al had.
Mijnheer de staatssecretaris, ik heb een aantal vragen.
Vindt u dat minderjarigen voldoende beschermd worden tegen de risico's van het gebruik van sociale media?
Vindt u dat de verantwoordelijkheid van de platformen ten aanzien van minderjarige gebruikers vandaag ver genoeg gaat?
Vindt u dat we ook in België de leeftijd zouden moeten verhogen tot 16 jaar?
Op welke manier kunnen we de leeftijdsgrens voor het gebruik van sociale media, die vandaag op 13 jaar ligt, beter controleren? Zult u daartoe iets ondernemen of hebt u al iets gedaan?
03.02 Sophie Thémont (PS): Monsieur le secrétaire
d'État, des études récentes montrent que l'utilisation excessive des réseaux
sociaux peut avoir des conséquences graves sur la santé mentale des jeunes.
Selon un rapport de l'Organisation mondiale de la santé (OMS), 11 % des
adolescents présentent des signes d'utilisation problématique des réseaux
sociaux, contre 7 % quatre ans auparavant. Cette utilisation problématique
est associée à des symptômes similaires à ceux de l'addiction, tels que
l'incapacité à contrôler l'utilisation, la sensation de manque et l'abandon
d'autres activités au profit des réseaux sociaux. Les adolescents qui utilisent
les réseaux sociaux plus de deux heures par jour sont significativement plus
susceptibles d'évaluer leur santé mentale comme "passable" ou
"mauvaise" par rapport aux utilisateurs occasionnels
Pourtant
les enfants ont très facilement accès à ces réseaux sociaux! En France, la loi
impose aux plateformes de vérifier l'âge des utilisateurs et de recueillir le
consentement des parents pour les moins de 15 ans.
En
Belgique, l'âge minimum pour accéder aux réseaux sociaux est fixé à
13 ans, avec une autorisation parentale requise pour les enfants de moins
de 13 ans. Mais on sait combien il est facile pour les enfants de contourner
cette restriction en fournissant une fausse date de naissance lors de
l'inscription.
Monsieur
le secrétaire d'État, mes questions sont donc les suivantes. Pensez-vous que
les mineurs en Belgique sont suffisamment protégés contre les risques liés à
l'utilisation des réseaux sociaux? Disposez-vous de données chiffrées sur le
nombre de mineurs utilisant les réseaux sociaux? Pouvez-vous fournir des
données sur les cas de contournement de cette limite d'âge? Comment
analysez-vous la législation française à ce sujet? Quelles mesures supplémentaires
pourraient être mises en place pour renforcer la responsabilité des plateformes
envers les mineurs? Disposez-vous d'exemples d'actions entreprises par les
plateformes pour protéger les mineurs?
03.03 Staatssecretaris Mathieu Michel: Mevrouw Oru, mevrouw Thémont, digitale meerderjarigheid is de leeftijd waarop de wet jongeren beschouwt als eigenaar van hun persoonlijke gegevens. Zij zijn vanaf dat moment in staat te beslissen of zij diensten van derden al dan niet toegang willen geven tot hun gegevens en die willen laten verzamelen voor commerciële doeleinden. Op basis van die definitie is digitale meerderjarigheid gebaseerd op het vermogen toestemming te geven of te weigeren voor de toegang tot persoonlijke gegevens.
De leeftijd is ter zake niet het probleem. De vraag is immers op welke manier we ervoor kunnen zorgen dat de toestemming geïnformeerd is en dat mensen alle middelen ter beschikking hebben om te oordelen of het al dan niet gepast is hun persoonlijke gegevens te delen.
Als liberaal ben ik voor keuzevrijheid en voor onderwijs, vooral door kritisch te denken. Ik pleit al jaren voor cursussen digitaal burgerschap om jongeren en iedereen die dat wil, toe te laten kritische denkvaardigheden te ontwikkelen en te verfijnen. Op Europees niveau heb ik gevochten voor een instrument om kinderen te beschermen met de Verklaring van Louvain-la-Neuve en ook om platforms meer verantwoordelijk te maken met de DSA (Digital Services Act).
Si nous voulons fixer l’âge minimum à 16 ans, comme le proposent les autorités australiennes, ou à 15 ans, selon la proposition des autorités françaises, il faut tenir compte des besoins de socialisation et d’apprentissage des jeunes tout en garantissant la protection de leur bien-être mental et émotionnel. Il ne m’appartient pas de prendre une décision à cet égard, mais bien aux différents parlements des Communautés ou au Parlement européen et, plus largement, à la société en général.
Ma part de réponse à cette question se trouve dans la déclaration de Louvain-la-Neuve. Cette déclaration des 27 États membres de l’Union européenne ouvre la voie à davantage de démocratie en ligne et de protection des plus vulnérables, tels que les enfants. Elle responsabilise les utilisateurs tout en leur offrant des outils concrets pour mieux interagir avec les plateformes numériques.
Een van de centrale aspecten van de verklaring betreft de bescherming van minderjarigen tegen schadelijke inhoud. Door de mechanismen voor de leeftijdscontrole te versterken, probeert de verklaring de toegang van kinderen tot aangepaste sites, bijvoorbeeld met pornografie, te beperken en tegelijkertijd de privacy van de gebruikers te respecteren.
En conclusion, ce n'est pas en limitant l'accès à certaines plateformes en fonction de l'âge que le problème sera résolu, mais bien en renforçant la responsabilité des plateformes et en mettant en place des mécanismes robustes de vérification. Ces efforts, combinés à une meilleure éducation des jeunes et de leurs familles, peuvent contribuer à un environnement numérique plus sûr pour tous.
03.04 Funda Oru (Vooruit): Dank u voor de toelichting. Ik begrijp dat het niet evident is, omdat er telkens met de 27 lidstaten moet worden gezocht naar de grenzen van wat kan en niet kan. Het is niet evident, maar ik denk dat het ook onze taak in België is om te bekijken hoe we onze kinderen kunnen beschermen. Ik vind keuzevrijheid en kritisch denken als socialist heel belangrijk. Ik vind het een heel goed idee om na te denken over digitaal burgerschap. Ik denk dat u en uw opvolger hiervan de komende jaren werk kunnen maken.
03.05 Sophie Thémont (PS): Merci, monsieur le ministre, pour votre réponse.
Quand vous parlez de cours de formation de citoyenneté digitale sur les médias sociaux, vous parlez d'une chose importante. Il s'agit d'une bonne initiative. En effet, des dangers existent. Il faut surveiller, mais il est parfois difficile de surveiller les jeunes. Même avec un faux profil, un jeune peut créer un nouveau profil sur les réseaux sociaux. Nous devons œuvrer pour la vie privée et la sécurité des jeunes, qui peuvent être vulnérables à certains prédateurs sur les réseaux sociaux, au vol d'identité ou encore à toute autre forme d'exploitation. En outre, nous devons considérer également la collecte des données personnelles. Même si la liberté de choix et d'attention doit rester pour les parents, je pense quand même qu'il y a un danger certain. J'espère donc que ce que vous proposez pourra voir le jour au cours de cette législature.
Het incident is gesloten.
L'incident est
clos.
04.01 Dieter Keuten (VB): Mijnheer de staatssecretaris, ik heb een vraag over de AI-technologie van tegenwoordig. We zijn ondertussen vertrouwd met deepfakevideo’s, die vaak heel grappig, maar ook verontrustend zijn. Hier gaat het echter over een technologie die minder goed bekend is, namelijk het klonen van stemmen.
Die technologie is de voorbije jaren heel sterk verbeterd. Door het opnemen van een enkele seconde van iemands stem is het mogelijk een synthetische stem na te maken. De technologie kan worden misbruikt om zich voor te doen als iemand anders om op die manier het vertrouwen te winnen en persoonlijke informatie te verkrijgen of zelfs om iemand onder druk te zetten om banktransacties te verrichten. In verschillende banken in onze buurlanden wordt namelijk gebruikgemaakt van spraakherkenningstechnologie om via telefonisch bankieren toegang te krijgen tot zijn of haar bank.
Een journalist is erin geslaagd om via een gekloond stemfragment, gegenereerd met AI, het beveiligingssysteem van de bank te omzeilen en transacties op de bankrekening uit te voeren. De effectiviteit van stem-ID kan dus ernstig in vraag worden gesteld. Die stem-ID bevat heel wat beveiligingsrisico’s.
Mijnheer de staatssecretaris, zijn er in België al dergelijke problemen met AI-gegenereerde klonen voorgevallen? Bent u op de hoogte van Belgische banken die van spraakherkenningstechnologie gebruikmaken? Bent u van oordeel dat stemgedreven biometrische beveiliging voldoende bescherming biedt? Ik heb van de Gegevensbeschermingsautoriteit immers nog geen aanbevelingen daaromtrent teruggevonden.
De inzet van AI-gegenereerde stemklonen is een nieuwe vorm van telefonische oplichting of phishing. Welke maatregelen acht u aangewezen, om phishing te ontmoedigen of onder de aandacht te brengen?
De AI Act classificeert deepfakes als low-risk. Wat is uw mening daarover?
04.02 Staatssecretaris Mathieu Michel: Dank u voor uw vraag, mijnheer Keuten. Bij mijn weten gebruikt geen enkele bank in België een spraakherkenningssysteem als authenticatiemethode. Belfius, KBC en BNP Paribas bieden diensten aan die gebruik maken van spraakherkenning via hun digitale assistent, maar dat maakt altijd deel uit van een multifactorauthenticatie. Authenticatie via andere methoden is dus systematisch vereist, bijvoorbeeld via een wachtwoord, een klantnummer, een vingerafdruk, gezichtsherkenning enzovoort.
Spraakherkenning is te gemakkelijk aan te vallen. Het is geen betrouwbare authenticatiemethode. We raden het gebruik ervan als multifactorauthenticatie-element af. Spraakbiometrische technologie garandeert niet dat een persoon is wie hij beweert te zijn, alleen dat zijn stem overeenkomt met het originele model. Gelet op die logica kan spraakbiometrie het meest riskante punt in het traject van de gebruiker niet beveiligen, namelijk het instappen.
Om de toegangsbeveiliging te verbeteren, is het mogelijk om een reeks verificatiefactoren te implementeren door gebruik te maken van multifactorauthenticatie. Multifactorauthenticatie vereist het gebruik van meerdere bewijsstukken om toegang te verlenen tot de identiteit, een persoon of machine, die verbinding maakte.
Om gebruikers te beschermen tegen deze vorm van fraude, hebben het CCB en het BIPT een reeks richtlijnen opgesteld. Die richtlijnen bevatten specifieke acties die gebruikers kunnen ondernemen wanneer ze vermoeden dat ze een onverwachte oproep van een onbekend nummer hebben ontvangen. Wees altijd op uw hoede. Geef nooit persoonlijke bankgegevens door. Neem onmiddellijk actie indien nodig. Bel niet terug naar het onbekende nummer.
Deepfakes worden in de AI Act ook expliciet hypertrucage genoemd. Dat wil zeggen: een afbeelding, audio- of video-inhoud die door AI is gegenereerd of gemanipuleerd. Op grond van artikel 50, lid 4 is een transparantieverplichting van toepassing op de uitvoerders.
De uitvoerders van een AI-systeem dat beelden of een audio of video-inhoud genereert of manipuleert en zo een hypertrucage vormt, moeten aangeven dat de inhoud gegenereerd of gemanipuleerd werd door AI. Die verplichting geldt niet wanneer het gebruik wettelijk is toegestaan met het oog op het voorkomen, onderzoeken, opsporen of vervolgen van strafbare feiten.
Wanneer de inhoud deel uitmaakt van een duidelijk artistiek, creatief, satirisch, fictief of soortgelijk werk of programma, zijn de in dit lid uiteengezette transparantieverplichtingen beperkt tot het bekendmaken van het bestaan van de gegenereerde of gemanipuleerde inhoud op een passende wijze die de weergave of het genot van het werk niet belemmert. In praktische termen moet worden begrepen dat het bestaande wettelijke kader de risico’s van de identiteitsdiefstal al dekt. Zoals hierboven vermeld, moet het gebruik van dit type stembiometrie voor beveiligings- of authenticatiedoeleinden worden ontmoedigd.
Wat deepfakes in België betreft, hebben we geen specifieke gevallen vastgesteld van stemvervalsing of van een groot media-incident, bijvoorbeeld van politieke manipulatie. Het land zag echter een aanzienlijke toename van het aantal deepfakes in 2024. In België worden deepfakes vooral in verband gebracht met gevallen van cyberpesten, met name door pornografische deepfakes. Sinds 2022 bevat een hervorming van het Wetboek van strafrecht een bepaling om die handelingen te bestraffen, in het bijzonder artikel 417/8, dat gaat over voyeurisme en opnamen die zonder toestemming zijn gemaakt.
04.03 Dieter Keuten (VB): Mijnheer de staatssecretaris, ik dank u voor de duidelijke antwoorden. Het is zeer geruststellend dat er geen Belgische banken van stemtechnologie gebruikmaken en dat multifactorauthenticatie in ons land zo wijdverspreid is. Het is positief dat jullie het gebruik ervan afraden en dat dit ook zo in de CCB- en BIPT-richtlijnen is terug te vinden. Het lijkt mij nuttig als ook de GBA een afradende aanbeveling zou opnemen in de volgende publicatie.
Het is ook positief dat er nog geen grote deepfakeincidenten in ons land zijn vastgesteld. Het gebruik of de melding ervan stijgt wel, zoals u zegt. Laten we hopen dat het niet verder escaleert. We moeten zo veel mogelijk samen ons best doen om burgers hiervoor te sensibiliseren.
Het incident is gesloten.
L'incident est
clos.
05.01 Dieter Keuten (VB): Mijnheer de staatssecretaris, in heel wat winkels is het de gewoonte om de identiteitskaart van de klant uit te lezen om zo op een snelle manier nuttige gegevens te verzamelen, bijvoorbeeld in het kader van een loyaltyprogramma.
Freedelity, een aanbieder van klantenkaarten die samenwerkt met verschillende winkelketens, werd recent door de Gegevensbeschermingsautoriteit op de vingers getikt voor die praktijk. Het verzamelt namelijk meer gegevens dan geoorloofd, zoals het identiteitskaartnummer, de geldigheidsdatum en de gemeente van afgifte. De klant heeft geen andere keuze, als hij of zij wil genieten van de klantenkaart. Alle informatie wordt overgedragen aan Freedelity. De centrale opslag van de persoonlijke informatie houdt een groot privacyrisico in, zo oordeelde de Gegevensbeschermingsautoriteit. Freedelity moet nu die persoonsgegevens verwijderen en de bewaartermijn terugbrengen van 8 naar 3 jaar.
Behalve retailers maken ook onder andere banken, verzekeringsmaatschappijen, event- en beursorganisatoren, verhuurbedrijven en onthaaldiensten gebruik van het elektronisch inlezen van identiteitskaarten. Worden die gegevens correct verwerkt?
De Economische Inspectie staat in voor de controle van de handelszaken, maar aangezien ook kleine handelszaken van de technologie gebruikmaken, is de vraag of de inspectie in staat is om al die handelszaken te controleren en te waarschuwen.
Bestaat een register met daarin alle organisaties die elektronische identiteitskaarten controleren en bijgevolg in de mogelijkheid zijn om de data op te slaan?
Bent u van oordeel dat de Belgische identiteitskaarten beter beveiligd moeten worden, bijvoorbeeld via multifactorauthenticatie, zodat niet alle bedrijven zomaar alle gegevens van de kaarten kunnen raadplegen?
Welke maatregelen acht u aangewezen om misbruik, zoals werd aangetoond door de Gegevensbeschermingsautoriteit bij Freedelity, door andere bedrijven te voorkomen?
05.02 Staatssecretaris Mathieu Michel: Mijnheer Keuten, vooreerst wijs ik erop dat de kwestie onder de bevoegdheid van de minister van Binnenlandse Zaken valt. Niettemin zal ik trachten u enkele elementen van antwoord te geven.
Ik herinner eraan dat het basisprincipe wordt uiteengezet in artikel 6, 4° van de wet van 19 juli 1991 betreffende de bevolkingsregisters, de identiteitskaarten, de vreemdelingenkaarten en de verblijfsdocumenten. Daarin wordt duidelijk gesteld dat de gegevens op de elektronische identiteitskaart, zowel de met het blote oog zichtbare als de met een kaartlezer leesbare gegevens, met uitzondering van de foto van de houder, het rijksregisternummer en het digitale beeld van de vingerafdrukken, kunnen worden gelezen en/of geregistreerd met inachtneming van de wettelijke en reglementaire bepalingen inzake de bescherming van de persoonlijke levenssfeer en de bescherming van persoonsgegevens.
Het rijksregisternummer en de foto van de houder mogen alleen worden gebruikt, indien dat bij wet, decreet of ordonnantie is toegestaan of bepaald. De elektronische identiteitskaart mag alleen worden gelezen of gebruikt met de vrije, specifieke en geïnformeerde toestemming van de houder van de elektronische identiteitskaart.
Bovendien kan de houder van de elektronische identiteitskaart, onverminderd artikel 1 van het koninklijk besluit van 25 maart 2003 betreffende de identiteitskaart, weigeren dat diens gegevens worden gelezen en/of opgeslagen, behalve in de gevallen bepaald door de Koning.
De invoering van een register gaat gepaard met moeilijkheden. Burgers zijn enkel verplicht hun identiteitskaart voor te leggen wanneer zij dat willen. Een gecentraliseerde controle en dus een lijst van alle partijen die de kaarten van burgers lezen, is niet mogelijk. Een register zou dus alleen mogelijk zijn op basis van een meldingsplicht aan degenen die de kaart lezen.
Ten slotte, een van de meest veelbelovende oplossingen om misbruik bij het verzamelen van persoonsgegevens te voorkomen, is gebaseerd op de in 2024 gelanceerde digitale portefeuille MyGov.be, die de houder ervan in staat stelt alleen die gerichte gegevens te delen die nodig of wenselijk zijn, in overeenstemming met het nieuwe wettelijke kader, zijnde de eiDAS2.0-verordening.
Dankzij de app MyGov.be zullen houders beter in staat zijn om met vrije, specifieke en geïnformeerde toestemming hun gegevens te delen. Vandaag bepaalt de persoon die de kaart leest, welke gegevens hij of zij gebruikt en de kaarthouder moet daarop vertrouwen. Met de app MyGov.be beslissen kaarthouders voortaan zelf welke gegevens ze willen delen.
05.03 Dieter Keuten (VB): Mijnheer de staatssecretaris, dank voor het antwoord, ook al blijkt het uw bevoegdheid te overschrijden. De essentie is inderdaad dat ik als consument, wanneer ik mijn identiteitskaart afgeef of laat inlezen, wil kunnen kiezen welke gegevens erbij worden gehaald. Mijn voornaam en achternaam wil ik wel geven, maar mijn locatiegegevens deel ik bijvoorbeeld liever niet. Het is veelbelovend dat de digitale portefeuille MyGov hier een oplossing voor biedt. We kijken dan ook verwachtingsvol uit naar de verdere adoptie van de applicatie door privéspelers.
Je souhaiterais obtenir une précision qui concerne la première question de mon collègue Nuino, qui était très intéressante. Vous avez mentionné la norme numérique eIDAS. Comment cela s’écrit-il?
05.04 Mathieu Michel, secrétaire d'État: eIDAS.
05.05 Staatssecretaris Mathieu Michel: We zitten nu al aan de tweede versie, eIDAS 2.0, met nieuwe standaarden van authenticatie, herkenning en identiteit voor de digital wallet.
L'incident est clos.
Het incident is
gesloten.
Le président: La question n° 56001423C de M. Patrick Prévot est transformée en question écrite.
06.01 Ismaël Nuino (Les Engagés): Monsieur le secrétaire d'État, récemment, des inquiétudes ont été soulevées concernant la collecte de données par Microsoft, notamment à la suite de l'utilisation des documents Word, Excel et PowerPoint pour entraîner ses intelligences artificielles (IA). Les utilisateurs redoutent que des informations sensibles soient exploitées sans leur consentement. Microsoft a démenti ces accusations, expliquant que la fonctionnalité "expériences connectées facultatives" vise uniquement à améliorer les recherches dans les documents et non à entraîner des IA.
Cette affaire révèle tout de même un problème plus large: les géants de la technologie – Microsoft, Google, Meta – collectent massivement des données issues de sources diverses – réseaux sociaux, contenus protégés par des droits d'auteur, forums, sites piratés – pour alimenter leurs IA. Si certaines données sont collectées légalement, d'autres suscitent des doutes.
Par exemple, des bases comme Google C4, utilisées pour entraîner les IA, incluent des contenus protégés par des droits d'auteur, tandis que les réseaux sociaux exploitent des données publiques souvent sans que les utilisateurs en soient pleinement conscients. Cette collecte soulève des préoccupations éthiques, liées à la vie privée, aux droits d'auteur et à l'impact écologique que peuvent avoir ces IA.
Monsieur le secrétaire d'État, face à ces nouveaux défis technologiques, quelles actions le gouvernement a-t-il mises en place pour renforcer la transparence et le contrôle sur la collecte des données par les entreprises technologiques pour leurs IA?
Comment a-t-il garanti que les citoyens étaient informés et avaient donné leur consentement avant l'utilisation de leurs données pour entraîner des IA?
Quelles mesures ont-elles été instaurées pour protéger les créateurs et médias belges contre l'utilisation non autorisée de contenus protégés?
En cas d'abus, quelles sont les sanctions prévues contre les entreprises responsables? S'agit-il de sanctions financières?
06.02 Mathieu Michel, secrétaire d'État: Monsieur le président, monsieur Nuino, je vous remercie pour votre question. Comme vous le savez certainement, ce sont des défis qui dépassent largement les frontières de la Belgique, raison pour laquelle le travail que nous avons réalisé s'est vraiment fait au niveau européen et l'Europe a développé pas mal d'outils auxquels nous avons contribué largement. Notamment, la collecte des données pour alimenter les systèmes IA est strictement encadrée par le AI Act, dont la négociation s'est terminée sous présidence belge. L'idée était d'éviter les abus, en particulier le moissonnage de données non ciblées. Et, en cas de non-respect de pratiques interdites, les montants peuvent aller jusqu'à 35 millions d'euros ou 7 % du chiffre d'affaires mondial de l'entreprise concernée.
Bien que le AI Act soit récent, nous n'oublions pas non plus l'importance du RGPD, qui reste pleinement d'application quant aux droits que les personnes peuvent exercer vis-à-vis de l'utilisation de leurs données à caractère personnel, et notamment au sujet de leur consentement libre, spécifique et éclairé. Le RGPD aussi prévoit un cadre réglementaire strict avec des sanctions pécuniaires non négligeables.
L'exigence de transparence est un acte fondamental de la confiance que le AI Act vise à instaurer. Elle couvre les aspects de traçabilité, infrastructure, collecte et étiquetage des données d'entraînement, "l'explicabilité", processus de décision du système, valeur ajoutée et modèle économique, impact sur la décision prise, ainsi que la communication, marquage des résultats comme généré par de l'IA, évaluation et publicité des capacités du système.
Ces devoirs s'appliquent aux fournisseurs de solutions et font l'objet de droits pour les déployeurs et les utilisateurs de systèmes d'intelligence artificielle.
La question de la transparence a toujours été au cœur de mon travail, que ce soit dans le cadre du projet MyData, qui vise à donner aux citoyens une vue claire des données dont l'État dispose et le cadre dans lequel ces données sont utilisées, ou que ce soit avec le Plan national de convergence pour le développement de l'intelligence artificielle qui, dès son premier chapitre, promeut une IA digne de confiance et dont un des projets concrets est le développement d'un AI Ethic Self Assessment Tool accessible en open source. Je vous invite d'ailleurs à découvrir le Plan national de convergence, dans lequel vous trouverez des exemples d'actions qui répondent à vos préoccupations en matière d'éthique, de la vie privée ou d'impact écologique de l'IA et grâce auquel la Belgique est montée récemment sur le podium dans le ranking prestigieux de l'université de Stanford.
06.03 Ismaël Nuino (Les Engagés): Monsieur le secrétaire d’État, comme vous l’avez précisé, il s’agit là d’enjeux qui dépassent largement l’État belge et qui doivent donc être abordés principalement au niveau européen. Sauf erreur de ma part – mais n’hésitez pas à me contredire si je me trompe –, le règlement européen sur l’intelligence artificielle n’a pas été transposé dans le droit belge. Nous resterons donc extrêmement attentifs aux modalités de cette transposition et espérons que celle-ci se fera dans les plus brefs délais.
De même, nous serons attentifs aux mécanismes pratiques qui seront mis en place en vue de favoriser l’efficacité de son application pour les citoyens. Il est, en effet, primordial que cette transposition soit lisible et applicable pour ces derniers.
06.04 Mathieu Michel, secrétaire d'État: La mise en œuvre sera obligatoire dès le mois de février 2026.
L'incident est clos.
Het incident is gesloten.
La réunion publique de commission est levée à 14 h 34.
De openbare commissievergadering wordt gesloten om 14.34 uur.