Roblox utilise l'IA pour estimer l'âge des adolescents via des selfies vidéo : une avancée technologique sous surveillance

Roblox Renforce sa Sécurité avec l'IA : Une Révolution Technologique

Roblox, la célèbre plateforme de jeux en ligne, a récemment dévoilé une série de nouvelles fonctions de sécurité spécialement conçues pour les adolescents âgés de 13 à 17 ans. Parmi ces innovations, une technologie d'estimation d'âge utilisant l'intelligence artificielle (IA) se distingue particulièrement. Cette IA, développée pour analyser un selfie vidéo envoyé par l'utilisateur, vise à estimer son âge avec précision. Une méthode déjà adoptée par des géants technologiques comme Google et Meta, mais qui soulève des questions cruciales sur la vie privée et la protection des données.

Cette approche innovante vise à améliorer la sécurité des jeunes utilisateurs en adaptant les fonctionnalités de la plateforme à leur tranche d'âge. Cependant, elle n'est pas sans controverse. Selon Matt Kaufman, responsable de la sécurité chez Roblox, l'IA compare le selfie vidéo à un vaste ensemble de données pour déterminer si l'utilisateur a plus de 13 ans. Mais cette méthode, bien qu'innovante, n'est pas infaillible et soulève des inquiétudes quant à la protection des données personnelles.

Une Technologie Controversée mais Innovante

La nouvelle fonctionnalité de Roblox suscite des questions sur la précision et l'éthique de l'utilisation de l'IA pour estimer l'âge des utilisateurs. Selon la plateforme, l'IA utilise des algorithmes avancés pour analyser les traits du visage et les comparer à une base de données d'images. Cette technologie, bien que prometteuse, n'est pas exempte de critiques.

Des experts en protection des données ont exprimé des préoccupations quant à la collecte et au stockage de ces selfies vidéo. Roblox assure que les données sont chiffrées et stockées de manière sécurisée, mais les utilisateurs restent sceptiques. Google et Meta ont déjà exploré des technologies similaires, mais leur efficacité et leur impact sur la vie privée restent des sujets de débat.

Nouvelles Mesures de Contrôle Parental : Un Pas en Avant pour la Sécurité

En plus de l'IA d'estimation d'âge, Roblox introduit une série d'outils supplémentaires pour renforcer la sécurité des adolescents. Parmi ces nouveautés, on trouve des contrôles de statut en ligne, un mode "ne pas déranger" et des contrôles parentaux renforcés. Ces derniers permettent aux parents, ayant lié leurs comptes à ceux de leurs adolescents, de superviser et de limiter les interactions sur la plateforme.

Les contrôles parentaux renforcés offrent aux parents une visibilité accrue sur les activités de leurs enfants. Ils peuvent désormais voir les amis de leurs enfants, les jeux auxquels ils jouent et même limiter les interactions avec certains utilisateurs. Ces mesures visent à offrir une expérience plus sécurisée et adaptée à l'âge des utilisateurs, tout en répondant aux préoccupations des parents.

Roblox sous le feu des critiques : Un Passé Tumultueux

Malgré ces avancées technologiques, Roblox reste sous le feu des critiques pour sa gestion de la sécurité des enfants. En 2018, la plateforme a été pointée du doigt après qu'une mère ait signalé une agression sexuelle virtuelle sur sa fille de sept ans. Cet incident a mis en lumière les failles de sécurité de la plateforme et a conduit à des appels à une meilleure protection des jeunes utilisateurs.

En 2021, un rapport de People Make Games a accusé Roblox d'exploiter le travail des enfants. L'année suivante, la plateforme a fait face à des poursuites judiciaires pour exploitation financière et sexuelle de mineurs. En 2023, Bloomberg a révélé la présence de prédateurs sexuels sur la plateforme, malgré les efforts de Roblox pour signaler des incidents au Centre National pour les Enfants Disparus et Exploités. Ces controverses soulignent les défis persistants en matière de sécurité des enfants sur Roblox.

Derrière les Coulisses : Les Efforts de Roblox pour Améliorer la Sécurité

Derrière les critiques et les controverses, Roblox travaille activement à améliorer la sécurité de sa plateforme. La société a investi des millions de dollars dans le développement de technologies de sécurité avancées et a embauché des experts en protection des données pour superviser ces efforts.

L'une des initiatives les plus notables est la collaboration de Roblox avec le Centre National pour les Enfants Disparus et Exploités. Cette collaboration permet à Roblox de signaler rapidement les incidents de sécurité et de travailler avec les autorités pour protéger les jeunes utilisateurs. Malgré ces efforts, les critiques persistent, et Roblox doit continuer à innover pour garantir la sécurité de ses utilisateurs.