top of page

GGWP es un sistema de inteligencia artificial que rastrea y combate la toxicidad en el juego


Los desarrolladores y editores de juegos han tenido décadas para averiguar cómo combatir la toxicidad de los jugadores por su cuenta, pero aún no lo han hecho. Así que Fong el fundador de Crunchyroll, Kun Gao, lo hizo.

Esta semana ha anunciado el GGWP (Good Game Well Played por sus siglas en inglés) un sistema basado en la inteligencia artificial que recoge y organiza los datos sobre el comportamiento de los jugadores en cualquier juego, lo que permite a los desarrolladores abordar cada informe entrante con una mezcla de respuestas automáticas y revisiones de personas reales. Una vez introducido en un juego - "Literalmente es como una línea de código", dijo Fong.

El sistema también puede asignar puntuaciones de reputación a jugadores individuales, basándose en un análisis dirigido por la IA de las partidas reportadas y en una compleja comprensión de la cultura de cada juego. Los desarrolladores pueden entonces asignar respuestas a determinadas puntuaciones de reputación e incluso a comportamientos específicos, advirtiendo a los jugadores sobre un descenso en sus puntuaciones o simplemente sacando el martillo de prohibiciones. El sistema es totalmente personalizable, lo que permite que un título como Call of Duty: Warzone tenga reglas diferentes a las de, por ejemplo, Roblox.

GGWP es una creación de Fong y el Dr. George Ng, experto en datos e inteligencia artificial. Hasta ahora ha conseguido 12 millones de dólares en financiación inicial, respaldada por Sony Innovation Fund, Riot Games, el fundador de YouTube Steve Chen, el streamer Pokimane y los creadores de Twitch Emmett Shear y Kevin Lin, entre otros inversores.

Fong y sus compañeros empezaron a construir GGWP hace más de un año y, dados sus vínculos con la industria, pudieron sentarse con los ejecutivos de los estudios AAA y preguntarles por qué la moderación era un problema tan persistente. Descubrieron que el problema era doble: En primer lugar, estos estudios no veían la toxicidad como un problema creado por ellos mismos, por lo que no asumían la responsabilidad de esta (podemos llamar a esto el Especial Zuckerberg). Y en segundo lugar, simplemente había demasiados abusos que gestionar.

En sólo un año, un juego importante recibió más de 200 millones de informes de jugadores, dijo Fong. Otros jefes de estudio con los que habló también compartieron cifras de nueve dígitos, con jugadores que generaban cientos de millones de informes anuales por título. Y el problema era aún mayor.

"Si un juego genera 200 millones de denuncias de jugadores, la magnitud del problema es monumental", dijo Fong. "Porque como acabamos de hablar, la gente se ha rendido porque no va a ninguna parte. Simplemente dejan de denunciar a la gente".

Los ejecutivos le dijeron a Fong que simplemente no podían contratar a suficientes personas para mantener el ritmo. Es más, en general no estaban interesados en formar un equipo sólo para crear una solución automatizada: si tenían gente de IA en plantilla, querían que construyeran el juego, no un sistema de moderación.

Al final, la mayoría de los estudios AAA acababan ocupándose de alrededor del 0,1% de las denuncias que recibían cada año, y sus equipos de moderación solían ser ridículamente pequeños, descubrió el fundador de Crunchyroll.

Fong quiere que GGWP introduzca una nueva forma de pensar sobre la moderación en los juegos, con un enfoque en la implementación de momentos de enseñanza, en lugar de un castigo directo. El sistema es capaz de reconocer comportamientos útiles, como compartir armas y revivir a compañeros de equipo en condiciones adversas, y puede aplicar bonificaciones a la puntuación de reputación de ese jugador como respuesta. También permitiría a los desarrolladores implementar notificaciones en tiempo real en el juego, como una alerta que diga "has perdido 3 puntos de reputación" cuando un jugador utilice una palabra inaceptable. Se espera que esto les disuada de volver a decir la palabra, disminuyendo el número de informes generales para ese juego, dijo Fong. Un estudio tendría que hacer un poco de trabajo extra para implementar este sistema de notificación, pero GGWP puede manejarlo, según Fong.

bottom of page