La división de videojuegos de Microsoft, Xbox, ha dado un paso firme en la lucha contra el contenido inapropiado al integrar inteligencia artificial y sistemas automatizados en sus procesos de moderación. Según el último informe de transparencia de la compañía, estas herramientas buscan agilizar la detección y revisión de material que infringe las normas comunitarias.
El reporte, correspondiente a la primera mitad de 2023, subraya que la moderación dentro de la plataforma se ha vuelto una tarea cada vez más compleja, especialmente cuando Xbox alcanza a millones de personas a diario. Un dato clave que revela el documento es que el 87% de las acciones de moderación se activaron de forma automática, gracias a tecnologías que señalan contenido sospechoso para su posterior evaluación por parte de moderadores humanos, sin que los jugadores tengan que reportar los incidentes.
La firma fundada por Bill Gates ha reiterado su compromiso de preservar un entorno de juego seguro y entretenido para sus usuarios. En el informe, la empresa destaca la necesidad de adaptarse a los constantes cambios de la industria que podrían afectar la experiencia de los gamers.
Dos herramientas clave contra el contenido dañino
Entre las soluciones mencionadas en el informe sobresale Community Sift, un sistema de moderación desarrollado por TwoHat, subsidiaria de Microsoft. Esta herramienta ha procesado más de 36 millones de reportes de jugadores en 22 idiomas, permitiendo filtrar cuáles requieren intervención humana.
A pesar de la implementación de este filtro, la cantidad de acciones ‘reactivas’ (aquellas originadas por quejas de los usuarios) no experimentó un aumento significativo. No obstante, se registró una disminución en el número total de reportes, lo que podría explicarse por un incremento en las acciones ‘proactivas’ ejecutadas por Microsoft antes de que los jugadores denuncien un problema.
Para reforzar estas medidas proactivas, Microsoft emplea el modelo de inteligencia artificial Turing Bletchley v3, el cual escanea de manera automática todas las imágenes subidas por los usuarios en la plataforma. El sistema contrasta las imágenes con los estándares comunitarios y deriva cualquier contenido sospechoso a una cola para que un moderador humano lo revise. Como resultado, en la primera mitad del año se bloquearon 4,7 millones de imágenes, lo que representa un incremento del 39% en comparación con el semestre anterior.
Ofensiva contra cuentas falsas y contenido vulgar
La compañía también ha intensificado su lucha contra las cuentas ‘no auténticas’, que incluyen a tramposos, spammers y perfiles que degradan la experiencia de juego. Microsoft eliminó 16,3 millones de estas cuentas en los primeros seis meses de 2023, un alza del 276% frente al mismo periodo del año previo. La mayoría de estas cuentas son suprimidas incluso antes de que los jugadores tengan oportunidad de reportarlas.
El informe también señala que una definición más amplia de ‘contenido vulgar’ ha derivado en un aumento de las acciones coercitivas contra este tipo de material. Sin embargo, estas infracciones siguen siendo superadas por otras, como el lenguaje soez, el acoso, el contenido sexual para adultos y el spam.
En cuanto a las apelaciones de prohibiciones o suspensiones, solo el 4,1% de más de 280.000 casos fueron revertidos en la primera mitad de 2023, una cifra ligeramente inferior a la del año anterior.
Acciones proactivas marcan la pauta
El informe de transparencia resalta la relevancia de las acciones proactivas en la moderación. Durante los primeros seis meses de 2023, se ejecutaron 17,09 millones de acciones de este tipo, equivalentes al 87% del total. Además, más de 4,7 millones de contenidos tóxicos fueron bloqueados antes de llegar a los jugadores, lo que supone un aumento del 39% respecto al período anterior.
La compañía también ha implementado medidas contra el acoso y la intimidación, con un incremento del 95% en las acciones realizadas en este rubro, alcanzando las 84.000 acciones. Como novedad, se introdujo la función de informes de voz, que permite a los jugadores capturar y denunciar el acoso que ocurre mediante chats de voz dentro de los juegos.
Fuente: Infobae