Dans un développement inquiétant, des experts ont révélé que les écoles britanniques font face à une menace émergente de la part de cybercriminels qui créent des deepfakes à caractère sexuel en utilisant des photos d'élèves prises sur les sites web des écoles. La Internet Watch Foundation (IWF) a signalé plusieurs incidents où des écoles ont été menacées de publication de ces images manipulées à moins qu'elles ne paient une rançon.

Une étude impliquant 250 enseignants a révélé que près de 25 % des écoles ont déjà été touchées par cette forme de chantage. Les criminels utilisent des outils d'IA pour manipuler ces images en matériel d'abus sexuel d'enfants (CSAM), ce qui a conduit à des appels urgents pour que les écoles reconsidèrent leurs politiques concernant les photos en ligne des élèves.

La National Crime Agency (NCA) du Royaume-Uni a recommandé que les établissements éducatifs éliminent toute image identifiable d'enfants de leurs plateformes en ligne. Dr. Catherine Knibbs, psychothérapeute pour enfants, a souligné les impacts sur la santé mentale de tels crimes, exhortant les écoles à agir rapidement pour protéger leurs élèves.

Certaines écoles abordent proactivement le problème en floutant les visages des élèves dans les images publiées, tandis qu'un nouvel outil de protection lancé par la startup Aidos génère des versions altérées par IA des photos pour garantir l'anonymat. Cet outil remplace les caractéristiques identifiables par des équivalents générés par IA, permettant aux écoles de partager des expériences sans compromettre la sécurité.

Simon Bailey, ancien responsable national de la protection de l'enfance dans la police, a déclaré : « L'abus sexuel en ligne des enfants atteint des niveaux pandémiques, et l'émergence de l'IA alimente la demande. » La situation alarmante a conduit les responsables à plaider pour de nouvelles technologies et politiques pour lutter contre ces activités criminelles et protéger les enfants.