Discord introduit de nouvelles garanties pour protéger les jeunes utilisateurs. Jeudi, la société . Avec le déploiement initial de cette semaine, le programme comprend deux fonctionnalités : des alertes automatisées et des filtres de contenu.
À l’avenir, lorsqu’un utilisateur avec lequel un adolescent n’a jamais discuté auparavant envoie un message direct, Discord affichera une alerte de sécurité si les systèmes automatisés de la plate-forme soupçonnent que la sécurité de l’adolescent pourrait être menacée. L’invite incitera le jeune à reconsidérer s’il souhaite répondre au message et lui indiquera la fonction de blocage de l’application et les conseils de sécurité associés.
Par défaut, Discord floutera désormais automatiquement les images potentiellement sensibles des amis d’un adolescent et supprimera le contenu sensible des inconnus. Les jeunes peuvent désactiver la fonctionnalité via une option dans le menu des paramètres de Discord. Les adultes, quant à eux, peuvent activer les filtres eux-mêmes s’ils souhaitent bénéficier de protections supplémentaires.
L’introduction de Teen Safety Assist intervient dans le cadre d’une surveillance accrue des efforts de Discord pour limiter la diffusion de matériel pédopornographique (CSAM) et protéger les jeunes utilisateurs des adultes prédateurs. En juin, Actualités NBC sur une période de six ans, des adultes auraient utilisé la plateforme pour kidnapper, soigner ou agresser sexuellement des mineurs. Le média a également découvert 165 cas dans lesquels les autorités poursuivaient des adultes pour avoir partagé des CSAM sur Discord ou avoir prétendument utilisé la plateforme pour extorquer de jeunes utilisateurs à envoyer des images sexuelles d’eux-mêmes.
À la suite du rapport, Discord a modifié ses politiques de sécurité pour interdire le partage de CSAM généré par l’IA. Il a également annoncé de nouvelles règles interdisant explicitement tout autre type de texte ou de contenu médiatique sexualisant les enfants. Dans le même temps, l’entreprise propose un tableau de bord permettant aux parents et aux tuteurs de suivre ce que font leurs adolescents sur Discord.
« Les adolescents sont encore en train d’en apprendre davantage sur eux-mêmes et sur ce que signifie être en ligne, et nos nouvelles fonctionnalités de sécurité visent à leur fournir une liberté d’action sur la plateforme, pour leur donner des moyens d’apprendre et de grandir dans un environnement en ligne sûr et adapté à leur âge. espaces », a déclaré Savannah Badalich, directrice principale des politiques chez Discord. « Ces nouvelles fonctionnalités font partie d’un effort continu et pluriannuel visant à évoluer et à améliorer continuellement la sécurité sur Discord. »
Dans le même temps, Discord introduit un nouveau système d’avertissement pour les personnes qui enfreignent ses politiques. En dehors des incidents impliquant les violations les plus « extrêmes », l’entreprise s’éloigne des interdictions permanentes. Nous le faisons avec la conviction que la plupart des utilisateurs choisiront de devenir de meilleurs citoyens en ligne s’ils en ont la possibilité et s’ils sont correctement guidés.
En pratique, le système avertira une personne lorsqu’elle aura enfreint une ou plusieurs politiques de Discord et détaillera les restrictions sur son compte. Il établira également un lien avec l’entreprise , et un mécanisme d’appel. Un nouvel onglet « Compte permanent » dans le menu des paramètres permettra aux utilisateurs de voir toutes leurs violations de politique actuelles et passées.
« Nous pensons avoir construit le système de reporting le plus nuancé et le plus proportionné », a déclaré Badalich à Engadget, ajoutant que la société espère que d’autres plates-formes s’inspireront de ce que Discord a créé pour leurs propres efforts d’application. « Nous pensons que les gens, en particulier les adolescents, ont la capacité de grandir. »
Par ailleurs, Discord a annoncé une multitude de nouvelles fonctionnalités et améliorations qui devraient arriver dans un avenir proche ou ultérieur. Pour commencer, la boutique intégrée à la plateforme, avec laquelle Discord a commencé à tester le mois dernier, sera bientôt disponible pour tous les utilisateurs. Le marché propose des objets numériques que les gens peuvent utiliser pour décorer leurs avatars et leurs profils. Discord offrira des réductions en magasin aux membres Nitro, dans le cadre d’un nouvel avantage pour l’inscription.
Cette semaine, la société commencera également à déployer une fonctionnalité appelée . Il permet aux utilisateurs de modifier une image directement dans l’application mobile de Discord et de la partager avec leurs amis et leurs serveurs. La société a passé une grande partie de l’année dernière à améliorer ses clients Android et iOS. Une mise à jour récente a permis d’améliorer les temps de lancement des applications sur les deux plates-formes. Dans un avenir proche, Discord indique que les gens peuvent s’attendre à un nouveau mode sombre « Minuit » qui, selon la société, réduit la consommation de la batterie sur les appareils dotés d’écrans OLED, des onglets de notification plus fonctionnels et une nouvelle fonction de recherche pour le menu des paramètres afin de faciliter la recherche exacte du mode sombre. option que vous souhaitez modifier.
Enfin et surtout, la société annonce qu’elle commencera à déployer aux développeurs éligibles au Royaume-Uni et en Europe, suite à un lancement qui a débuté aux États-Unis il y a quelques semaines. En ce qui concerne les applications, robots et plugins tiers, la société a déclaré qu’elle était en train d’explorer comment les rendre accessibles dans presque toutes les parties de Discord. Il a fourni peu de détails sur l’effort, mais a déclaré que l’objectif était de permettre aux utilisateurs d’accéder à leurs applications et robots préférés sans que ces expériences soient limitées à certains serveurs.
« Nous expérimentons différentes choses, mais l’objectif est que les développeurs touchent davantage de personnes avec l’expérience impressionnante qu’ils créent. Pour les utilisateurs, nous ne voulons pas qu’ils soient empêchés d’avoir ces expériences personnalisées à portée de main », a déclaré Cherry Park, directrice du marketing produit chez Discord, à Engadget. « En ce qui concerne la manière dont nous l’architectons et le construisons, il existe plusieurs solutions. Certains sont plus faciles, d’autres plus difficiles, et vous allez nous voir en expérimenter quelques-uns au cours des prochains trimestres.
Discord a promis de partager davantage sur ses efforts en matière de portabilité des applications dans un avenir proche. En attendant, les abonnés Nitro auront la possibilité de tester les nouvelles fonctionnalités avant qu’elles ne soient disponibles au public.
