OTTAWA – Comme l’avaient anticipé ces derniers jours plusieurs médias (lire ici), le gouvernement canadien a finalement présenté un nouveau projet de loi sur la sécurité en ligne, le projet de loi C-34, intitulé « Loi sur les médias sociaux sécuritaires », visant à renforcer la protection des enfants et des adolescents dans la « jungle numérique », pleine de risques liés non seulement aux réseaux sociaux, mais aussi à l’intelligence artificielle.
Dans son préambule, le document gouvernemental — présenté officiellement mercredi après-midi (ici) — souligne que l’utilisation des plateformes numériques a profondément transformé la vie sociale des citoyens, contribuant à une augmentation significative des « préjudices en ligne », en particulier chez les jeunes. Les statistiques citées font état d’une hausse des cas de cyberharcèlement, d’une augmentation des abus sexuels en ligne sur mineurs, ainsi que d’une dégradation de la santé mentale des jeunes exposés à la victimisation numérique, y compris des cas d’idées suicidaires.
Le gouvernement souligne également que les dommages en ligne ne sont pas uniquement le résultat des comportements individuels, mais aussi de la manière dont les plateformes sont conçues : les algorithmes de recommandation, les fils infinis, la lecture automatique et les systèmes basés sur l’engagement peuvent amplifier les contenus nuisibles et augmenter l’exposition des utilisateurs — en particulier des mineurs — à des contenus potentiellement dangereux.
L’intelligence artificielle ajoute désormais une nouvelle complexité, notamment à travers les chatbots capables d’interagir directement avec les utilisateurs et, dans certains cas, de renforcer des comportements à risque ou de fournir des réponses inappropriées dans des situations sensibles.
Pour répondre à ces phénomènes, le projet de loi du gouvernement libéral introduit un nouveau cadre réglementaire qui obligerait les réseaux sociaux et les services d’IA à réduire les risques, à adopter des conceptions plus sûres et à garantir des outils efficaces de signalement et de blocage des contenus nuisibles.
Parmi les principales innovations figure la définition de sept catégories de contenus nuisibles ou strictement encadrés, incluant les contenus intimes non consentis, les contenus d’abus sexuels sur mineurs, les discours de haine, les contenus terroristes et ceux incitant à la violence ou à l’automutilation. Les plateformes seraient également tenues de publier des plans de sécurité numérique et d’accroître la transparence sur leurs mesures de protection. Les réseaux sociaux devraient en outre supprimer les contenus particulièrement graves et rendre inaccessibles les deepfakes à caractère sexuel.
Concernant les mineurs, le gouvernement prévoit d’introduire un âge minimum de 16 ans pour l’accès aux réseaux sociaux, tout en laissant la possibilité d’exemptions pour les plateformes capables de démontrer des mesures de protection suffisantes. Toutefois, le texte ne précise pas de méthode obligatoire de vérification de l’âge, laissant ainsi une certaine liberté aux plateformes, sous la supervision d’un futur organisme indépendant, la Commission canadienne de la sécurité numérique, chargée de faire appliquer les règles, de surveiller les plateformes, de traiter les plaintes des utilisateurs et d’imposer des sanctions en cas de non-respect. Ces sanctions pourraient être lourdes, avec des amendes allant jusqu’à 3 % du chiffre d’affaires mondial brut des entreprises.
Le gouvernement fédéral affirme que cette loi répond à une demande croissante de responsabilité des grandes plateformes numériques, jugées incapables de s’autoréguler efficacement. L’initiative s’inscrit également dans un contexte international où plusieurs pays, comme l’Australie, ont déjà adopté ou envisagent des restrictions similaires pour les mineurs sur les réseaux sociaux.
Mais la question centrale demeure : les plus jeunes utilisateurs — nés et élevés dans l’ère numérique — seront-ils réellement incapables de contourner ces restrictions ? Et surtout, les géants du web sont-ils prêts à perdre la « mine d’or » que représentent les adolescents ?
