Twitch usará Inteligencia Artificial para combatir mensajes de odio

195

Enter.CO-Andrea Mercado

Durante los últimos meses, los mensajes de odio han infestado a Twitch. El fenómeno, que en algunas partes desencadenó un movimiento en línea dentro de la red social respaldado en la etiqueta #TwitchDoBetter, inicia generalmente con una notificación de seguimiento y termina en una avalancha de comentarios hirientes e incontrolables en los chats de algunos ‘streamers’ cuyo único deseo es abrirse camino en la plataforma.

Pues bien, hace un par meses Twitch comenzó a trabajar en algunas estrategias para detener el acoso dentro de su servicio y la más reciente de ellas ha visto la luz. Se trata de una herramienta llamada ‘Detector de usuario sospechoso’, la cual usa un sistema de Inteligencia Artificial (IA) para poder identificar aquellos usuarios indeseables que hayan evadido la suspensión de sus cuentas mediante la creación de nuevos perfiles. La función permitirá ocultarlos de los chats de forma automática y advertirle de la situación al creador de contenido.

En el caso de que no haya seguridad absoluta de que una cuenta se haya saltado la suspensión, Twitch la marcará con una etiqueta rojo para que los ‘streamers’ puedan monitorear el comportamiento del perfil señalado.

A pesar de que los mensajes de odio se ocultarán del chat para los demás usuarios, Twitch no los eliminará del todo, pues el creador será el único que podrá leerlos. Esto con el fin de que sea este quien pueda decidir qué hacer con esos comentarios y esas cuentas. Dentro de sus opciones estarán eliminar los perfiles sospechosos o simplemente desactivar la función.

Además de esta herramienta para minimizar los comportamientos dañinos, desde septiembre Twitch también permite filtrar los contenidos de los chat haciendo que las cuentas participantes tengan que estar verificadas a través de un e-mail y número telefónico. Según la plataforma, esta función, que puede activarse manualmente, obstaculiza la actividad de aquellas cuentas que únicamente han sido creadas para insultar dentro de la plataforma.