Les mineurs de plus en plus exposés au risque de pédopornographie (et pas seulement) sur le web à l'ère de l'IA : les règles d'or que tout parent devrait suivre
Journée 202 pour un Internet plus sûr : les mineurs sont de plus en plus en danger sur le Web à mesure que l'IA galope. Voyons quelques conseils pratiques pour les parents et les tuteurs pour une meilleure protection et sécurité en ligne pour les enfants et les adolescents
Le 10 février, la Journée mondiale pour la sécurité en ligne promue par la Commission européenne est célébrée dans plus de 100 pays. L'édition de cette année, intitulée « Ensemble pour un meilleur internet », se concentre sur le thème de l'intelligence artificielle et de l'utilisation sûre et responsable des technologies intelligentes par les mineurs.
Selon les données de l'UNICEF, plus d'un élève sur cinq âgé de 10 ans dans 26 pays sur 32 a du mal à déterminer si un site Web est digne de confiance et en Italie, entre 9 et 16 ans, de nombreux enfants n'ont pas les compétences de base nécessaires pour gérer leur vie privée ou créer du contenu numérique en toute sécurité. Ce scénario se complique encore davantage avec l’utilisation de l’IA, un outil puissant mais non sans risque.
Chatbot IA : curiosité et risques chez les jeunes
L'utilisation de chatbots basés sur l'intelligence artificielle est désormais très répandue parmi les adolescents italiens. Selon une enquête de Telefono Azzurro, 1 enfant sur 3 entre 12 et 18 ans utilise des chatbots IA tels que ChatGPT, Gemini ou Meta AI, notamment pour les devoirs et les études, mais aussi pour recevoir des conseils personnalisés. Environ 58 % des adolescents attribuent un niveau élevé de confiance à ces outils, et beaucoup les perçoivent comme « » ou utiles pour se sentir moins seuls.
Mais à côté des bénéfices, des risques concrets apparaissent : 40 % des jeunes craignent une diminution de leur esprit critique, 35 % craignent un déclin des relations sociales réelles et plus d'un tiers évoquent la possibilité de confondre réalité et fiction. Les risques pour la vie privée et les dépendances numériques potentielles ne manquent pas.
Le côté obscur de l’IA : images sexualisées et deepfakes
L’UNICEF met en garde contre le volume croissant d’images sexualisées générées par l’IA, impliquant dans certains cas des photographies d’enfants manipulés pour créer des deepfakes sexuellement explicites. Dans une étude menée en collaboration avec ECPAT et INTERPOL dans 11 pays, au moins 1,2 million d'enfants ont signalé avoir subi une manipulation de leurs images au cours de l'année écoulée. Dans certains contextes, cela représente 1 enfant sur 25, un chiffre stupéfiant et inquiétant pour la sécurité numérique des enfants.
Nicola Graziano, présidente de l'UNICEF Italie, souligne qu'il est essentiel d'accompagner les enfants dans le développement des compétences numériques et de l'esprit critique, en créant des environnements en ligne sûrs et protecteurs, conformément à la Convention des Nations Unies relative aux droits de l'enfant.
Les 9 règles d'or pour les parents et les tuteurs
Pour aider les familles et les soignants à traverser l’ère de l’IA en toute sécurité, l’UNICEF propose 9 conseils pratiques :
- Commencez tôt à parler de l’IA, de manière simple et concrète.
- Gardez à l’esprit les risques liés aux différents outils numériques.
- Utilisez des exemples quotidiens pour expliquer le fonctionnement de l’IA.
- Encouragez l’utilisation éducative sans remplacer la pensée indépendante.
- Protégez la confidentialité et enseignez ce qu’il faut partager en ligne.
- Apprenez avec vos enfants à rester à jour.
- Surveillez les signes d’une utilisation excessive ou problématique sur le plan émotionnel.
- Parlez ouvertement avec l’école des activités et des devoirs numériques.
- Gardez l'IA en perspective en donnant la priorité aux relations, aux routines et aux véritables intérêts des enfants.
Grandir en toute sécurité dans un monde connecté
La Journée pour un Internet plus sûr rappelle que l’IA peut être un outil d’apprentissage et d’inclusion, mais que sans règles ni supervision, les risques pour les mineurs augmentent considérablement. Les parents, les écoles et les institutions ont pour tâche de guider les enfants et les adolescents vers une utilisation sûre, responsable et consciente de la technologie, en protégeant leur croissance, leur santé mentale et leur sécurité en ligne.
Source : UNICEF Italie
