L’Ofcom, le régulateur britannique de la sécurité sur Internet, a publié un autre nouveau projet de conseils alors qu’il poursuit la loi sur la sécurité en ligne (OSA) – L’ensemble de recommandations vise à soutenir les entreprises dans le cadre pour respecter les obligations légales de protéger les femmes et les filles des menaces en ligne en ligne Comme le harcèlement et l’intimidation, la misogynie et l’intimité d’image.
Le gouvernement a protégé les femmes et les filles est une priorité pour sa mise en œuvre de l’AOS. Certaines formes d’abus misogyne (principalement) – comme le partage d’images intimes sans consentement ou l’utilisation d’AOLS pour créer du porno defake Deep Fake qui cible les individus – sont explicitement établies dans la loi en tant que priorités enfants.
Le règlement sur la sécurité en ligne, qui a été approuvé par le Parlement britannique en septembre 2023, a été critiqué selon lequel il n’est pas à la hauteur des géants de la plate-forme de réforme, malgré des sanctions substantielles pour la non-conformité à 10% du chiffre d’affaires annuel mondial.
Les militants de la sécurité des enfants ont également expressément frustré par la durée de la teinte de mettre en œuvre la loi, ainsi que de douter où il aura l’effet souhaité.
Dans une interview de la BBC en janvier, même le ministre de la technologie Peter Kyle – qui a hérité de la législation du gouvernement précédent – l’a appelé «très dévenant» et «insatisfaisant». Mais le gouvernement s’en tient à l’approche. Une partie du mécontentement entoure l’OSA peut être retrouvée aux longs délais que les ministres autorisés à mettre en œuvre le régime, ce qui oblige le Parlement à approuver l’OFCOM complexe.
Cependant, l’application devrait commencer à se lancer bientôt en ce qui concerne les exigences de base sur la lutte contre le contenu illégal et la protection de l’enfance. D’autres aspects de la conformité ASA prendront plus de temps à mettre en œuvre. Et l’Ofcom concéde que ce dernier ensemble de recommandations pratiquant ne deviendra pas entièrement infurpable avant 2027 ou plus tard.
Approchant la ligne de départ de l’application
« Les premières fonctions de la loi sur la sécurité en ligne entrent en vigueur le mois prochain », a déclaré à TechCrunch, Jessica Smith, qui a dirigé le développement des conseils féminines axés sur la sécurité. De la loi sur la sécurité en ligne avant ces directives (elle-même devenant exécutoires).
Le nouveau projet d’orientation sur la sécurité des femmes et des filles en ligne est destiné à compléter les conseils plus larges de l’Ofcom sur le contenu illégal – qui, par exemple, fournit également des recommandations pour protéger les mineurs de voir le contenu des adultes en ligne.
En décembre, le régulateur a publié ses directives finalisées sur la façon dont les plateformes et les services devraient réduire les risques liés au contenu illégal, un domaine où la protection de l’enfance est une priorité claire.
Il a également produit un code de sécurité pour enfants, qui recommande aux services en ligne des vérifications d’âge et du filtrage de contenu pour s’assurer que les enfants ne sont pas exposés à un contenu inapproprié tel que la pornographie. Et comme il a travaillé à la mise en œuvre du régime de sécurité en ligne, il a également élaboré des recommandations pour les technologies d’assurance d’âge pour le contenu des adultes, avec l’amour de pousser les sites pornographiques à prendre des pas efficaces pour empêcher les mineurs d’accéder à un contenu adapté à l’âge.
Le dernier ensemble de conseils a été élaboré avec l’aide de victimes, de survivants, de groupes de défense des femmes et d’experts en matière de sécurité, par Ofcom. Il couvre quatre grands domaines où le régulateur affirme que les femmes sont affectées de manière disproportionnée par les dommages en ligne – à savoir: misogynie en ligne; piles et harcèlement en ligne; Abus domestique en ligne; et abuser de l’intimité de l’image.
Sécurité par conception
La recommandation de haut niveau de l’Ofcom exhorte les services et les plates-formes à scope pour adopter une approche «sécurité par conception». Smith nous a dit que le régulateur voulait encourager les entreprises technologiques à «prendre du recul» et à «réfléchir à son expérience utilisateur dans le tour». Bien que Shet ait reconnu que certains services aient mis en place certaines mesures qui sont utiles pour réduire les risques en ligne dans ce domaine, elle a fait valoir qu’il y a encore un manque de pensée holistique en ce qui concerne la prioritation de la sécurité des femmes et des filles.
« Ce que nous demandons vraiment, ce n’est qu’une sorte de changement de pas dans le fonctionnement du processus de conception », nous a-t-elle dit, disant que l’objectif est de s’assurer que les considérations de sécurité sont cuites dans la conception des produits.
Elle a souligné la montée en puissance des services d’IA de génération d’images qui, selon elle Pas.
«Nous pensons qu’il y a une chose sensible que les services pourraient faire lors de la phase de conception qui contribuera à ajouter le risque de la seule de ces dommages», a-t-elle suggéré.
Des exemples de «bonnes» pratiques de l’industrie des points saillants de l’office dans les conseils comprennent des services en ligne prenant des mesures telles que:
Supprimer la géolocalisation par défaut (pour réduire les risques de confidentialité / traque); Effectuer des tests «abusabilité» pour identifier comment un service qui est armé / mal utilisé; Prendre des mesures pour stimuler la sécurité du compte; Concevoir des invites d’utilisation qui sont destinées à faire réfléchir les affiches deux fois avant le contenu abusif; Et offrir des outils de rapports accessibles qui permettent aux utilisateurs de reporter.
Comme c’est le cas avec toutes les directives de l’OSA de l’OSA, toutes les mesures ne seront pas partenaires pour chaque type ou taille de service – puisque la loi Apple aux services en ligne grands et petits, et les gâteaux dans diverses arènes, des réseaux sociaux, aux rencontres en ligne, aux jeux, aux forums Et les applications de messagerie, pour n’en nommer que quelques-unes. Ainsi, une grande partie des travaux pour les entreprises dans le espace comprendra ce que signifie la conformité dans le contexte de leur produit.
Lorsqu’on lui a demandé si l’Ofcom avait identifié des services qui répondaient actuellement aux normes des directives, Smith a suggéré de ne pas l’avoir fait. «Il y a encore beaucoup de travail à faire dans l’industrie», a-t-elle déclaré.
Elle a également tacitement reconnu qu’il peut y avoir des défis croissants étant donné certaines des mesures rétrogrades prises par rapport à la confiance et à la sécurité par certains grands acteurs de l’industrie. Par exemple, depuis la prise en charge de Twitter et le rebrandissement du réseau social sous le nom de X, Elon Musk a été interrompu ses effectifs de confiance et de sécurité – en faveur de la poursuite de ce qu’il a présenté comme une approche maximaliste de la liberté d’expression.
Ces derniers mois, Meta-qui possède Facebook et Instagram-Apparers pour avoir pris des mesures d’imitation, affirmant que cela met fin à des contrats de vérification des faits trente parties en faveur du déploiement d’un système de «notes communautaires» de style X examen.
Transparence
Smith suggère que la responsabilité de l’Ofcom à ces actions des opérateurs de haut niveau de haut niveau pourrait compléter les dommages en ligne sur l’utilisation de la transparence et des pouvoirs de collecte d’informations qu’il dispose de l’AOS pour illustrer les impacts et la sensibilisation.
Ainsi, en bref, la tactique ici semble être «Nom and Shame» – du moins en premier lieu.
«Une fois que nous aurons finalisé les conseils, produira un rapport (de marché)… sur qui utilise les conseils, qui suit les étapes, où le type de résultats qu’ils atteignent pour leurs utilisations qui sont des femmes et des filles, et mettent vraiment en lumière les protections sommes en place, nous différentes plates-formes afin que les utilisateurs puissent faire des choix éclairés sur l’endroit où ils disent leur temps en ligne », nous a expliqué Shet.
Smith a suggéré que les entreprises souhaitant éviter le risque de faire honte publiquement de mauvaises performances sur la sécurité des femmes pourront se tourner vers l’orientation de l’Ofcom pour des « étapes pratiques » sur la façon d’améliorer la situation de leurs utilisateurs et de répondre au risque de préjudice de réputation .
«Les plates-formes qui opèrent au Royaume-Uni devront se conformer à la loi britannique», a-t-elle ajouté dans le contexte de la discussion sur les principales plateformes qui mettent la confiance et la sécurité. «Cela signifie donc se conformer aux tâches de dommages illégaux et la protection des enfants décède en vertu de la loi sur la sécurité en ligne.»
«Je pense que c’est là que nos pouvoirs de transparence entrent également – si l’industrie change de direction et que les dommages augmentent, c’est là que nous serons un léger et partager des informations sur les rapports avec les utilisateurs britanniques, avec les médias, avec ParliamentAria.»
Tech pour s’attaquer au porno Deepfake
Un type de préjudice en ligne où l’Ofcom renforce ses recommandations avant même qu’il ne soit activement lancé l’application de l’OSA est une abus d’image intime – en tant que dernier projet de guidage, l’utilisation de correspondance de hachage pour détecter et supprimer ces images abusives, tandis que l’Ofcom plus tôt aussi loin.
«Nous avons inclus des étapes supplémentaires dans ces conseils qui vont au-delà de ce que nous avons déjà défini dans nos codes», a déclaré Smith Notedud, confiant Ofcom pour mettre à jour ses codes antérieurs pour incorporer ce changement «dans un avenir proche».
« C’est donc une façon de dire aux plates-formes que vous pouvez devancer cette exigence exécutoire en suivant les étapes qui sont fixées dans ces conseils », a-t-elle ajouté.
L’OFCOM a recommencé l’utilisation de la technologie de correspondance de hachage pour contrer les abus d’images en raison d’une augmentation substantielle de ce risque, par Smith – en particulier par rapport à l’abus d’images profondes générés par l’IA.
« Il y a eu plus d’abus d’image intime de Fake rapportés en 2023 que dans toutes les années précédentes combinées », a-t-elle annulé, ajoutant que l’Ofcom a également recueilli plus de preuves sur l’efficacité de l’appariement des hachages pour lutter contre ce préjudice.
Le projet de conseils dans son ensemble sera désormais consultatif – avec l’Ofcom invitant les commentaires unil le 23 mai 2025 – après quoi il produira des conseils finaux d’ici la fin de cette année.
Des 18 mois complets après cela, l’Ofcom produira son premier rapport sur la pratique de l’industrie dans ce domaine.
« Nous entrons en 2027 avant de produire notre premier rapport sur qui fait quoi (pour protéger les femmes et les filles en ligne) – mais il n’y a rien pour arrêter les plateformes qui agissent maintenant », a-t-elle ajouté.
Répondant aux critiques selon lesquelles le Dareneme est trop long à mettre en œuvre, elle a déclaré qu’il était juste que le régulateur consulte des mesures de conformité. Cependant, avec la mesure finale qui prenait effet le mois prochain, elle a noté que l’Ofcom anticipe également un changement dans le Dosue.
« (T) HAT commencera vraiment à modifier la conversation avec des plateformes, en particulier », a-t-elle prédit, ajoutant qu’il sera également en mesure de commencer à démonser des progrès dans le déplacement de l’aiguille lorsqu’il s’agit de réduire les préjudices en ligne.
