Avec la démocratisation de l’accès aux outils d’intelligence artificielle générative (permettant la création de nouvelles images ou vidéos en utilisant des photographies de personnes réelles), des situations commencent à apparaître au Portugal où de jeunes individus altèrent et transforment les photographies de collègues à des fins sexuelles, a déclaré Carla Costa lors d’une action de promotion de la campagne PJ Missão Cibersegura, à Coimbra.
« Certaines situations se produisent notamment dans le contexte scolaire, où des jeunes prennent une photographie innocente extraite d’un réseau social, puis retirent les vêtements de la personne représentée [en utilisant des outils d’intelligence artificielle] et partagent cette photo par WhatsApp ou d’autres réseaux », circulant ensuite parmi les contacts de la classe ou même des écoles, a-t-elle raconté.
Carla Costa a indiqué que beaucoup de jeunes considèrent ces pratiques comme « un jeu » et a averti que ce type de comportement a des « conséquences ».
« Il y a un risque que [ce phénomène] prenne de l’ampleur. Ils parviennent facilement à accéder à ces applications, qui permettent de faire ce genre de choses ayant un impact très négatif sur la vie des victimes, sur la vie des personnes concernées », a-t-elle noté.
Un autre phénomène croissant concerne « l’extorsion sexuelle en ligne », une situation qui montre une tendance à la hausse non seulement au Portugal, mais également en Europe, « soit pour obtenir plus de contenus intimes, soit pour que les agresseurs perçoivent une compensation monétaire » pour ne pas divulguer certains contenus.
À l’heure actuelle, la PJ a promu un jeu vidéo abordant diverses situations à risque dans un contexte numérique, telles que le cyberharcèlement, le leurre, les discours de haine et la désinformation.
L’outil est utilisé dans un cadre éducatif pour les enfants âgés de 10 à 16 ans, et une mise à jour est déjà envisagée pour introduire de nouveaux phénomènes qui apparaissent.
« Nous planifions déjà de nouveaux scénarios et nous essayons de trouver des financements pour effectuer un ‘upgrade’ du jeu » afin de protéger les jeunes dans d’autres contextes, toujours dans le milieu numérique, a ajouté l’inspectrice en chef de la PJ.