Les deepfakes ou hypertrucages sont des créations numériques hyperréalistes modifiées artificiellement par l'Intelligence Artificielle. Ces manipulations, issues de la contraction de "deep learning" (apprentissage profond) et "fake" (faux), permettent de faire dire ou faire faire n'importe quoi à une personne.
Ils sont une nouvelle forme de violence en ligne, en particulier ceux à caractère pornographique. Près de 96% de ces contenus sont des deepfakes pornographiques, dont 99% concernent des femmes et des jeunes filles.
Des mesures juridiques et des outils de protection émergent, mais la vigilance et l'accompagnement des victimes sont essentiels.
Comment se protéger et réagir ?
Pour se protéger, il est crucial d'avoir le réflexe du signalement. Il faut faire des captures d'écran ou enregistrer les vidéos, collecter des informations sur l'origine des contenus, et les signaler aux plateformes. Le numéro 3018, plateforme de signalement du cyberharcèlement, est un outil précieux. Les parents doivent accompagner leurs enfants dans la création de leurs profils en ligne, en paramétrant leurs comptes en privé et en faisant attention aux contenus envoyés. Il faut également déculpabiliser les victimes, car "le premier envoi de contenu, c'est lui qui l'effectue. Donc il se dit après tout : 'J'ai risqué quelque chose, je suis puni pour ce que j'ai fait, c'est de ma faute'". Samuel Comblez, directeur général adjoint de l'association e-enfance et directeur du 3018, souligne que malgré une certaine prudence des jeunes, il faut se préparer à une augmentation des cas.
Ressources :
Des conseils et des ressources pour les parents sur le thème des Deepfakes à retrouver sur le site d'Internet Sans crainte.
Un podcast, à écouter sur Radio -France, issu de "Les voies de l'IA" : Deepfakes, quand l'IA trahit notre intimité
Un podcast issu de La Science, CQFD : Deepfake : l'IA met de l'huile sur le faux
Le Clemi est chargé de l’éducation aux médias dans l’ensemble du système éducatif. L’éducation aux médias et à l’information (ÉMI) permet aux élèves d’apprendre à lire, à décrypter l’information et l’image, à aiguiser leur esprit critique, à se forger une opinion, compétences essentielles pour exercer une citoyenneté éclairée et responsable en démocratie. D’un travail collectif entre acteurs de l’éducation, spécialistes de la parentalité et médiasest né un ouvrage dans lequel sont proposés de courts articles sur des questions clés de la parentalité numérique. Son ambition est d’offrir aux parents des repères et des conseils basés sur la vulgarisation de travaux d’experts: guide « la famille tout écran » et une BD « dans la tête de Juliette ».