Descubren un bot ilegal de Telegram que “desnuda” mujeres usando inteligencia artificial

Una firma de cuberseguridad descubrió un bot Telegram que usa inteligencia artificial para "desnudar" mujeres. Tienen cerca de 100.000 usuarios.

0
145

Hipertextual-Ebenizer Pinedo

Aunque la integración de la inteligencia artificial supuso un antes y un después para las tecnologías dedicadas al procesamiento de imágenes, desafortunadamente también permitió la creación de herramientas ilegales que, con el paso de los años, han comenzado a popularizarse en algunos rincones de internet. El año anterior te hablamos de DeepNude, una aplicación que “desnudaba” mujeres y que no tardó mucho tiempo en desaparecer debido a la gran cantidad de críticas. Sin embargo, otras propuestas similares siguen activas.Sus responsables operan un servicio a través de una red de canales de Instagram. Ofrecen una opción de pago para funciones premium

En MIT Technology Review recogen que Sensity AI, una firma de ciberseguridad especializada en detectar contenidos multimedia alterados, descubrió una nueva IA capaz de desnudar fotografías de mujeres. Se especifican “mujeres” porque la herramienta no funciona con imágenes de hombres. De acuerdo a la compañía, su funcionamiento depende de un bot de Telegram cuya interfaz ofrece subir la imagen para su posterior procesamiento en un servidor externo. Una vez que la inteligencia artificial hace su trabajo, regresa el material editado.

El bot, a diferencia de DeepNude, es completamente gratuito, aunque los interesados pueden pagar 1,5 dólares para acceder a funciones adicionales como retirar la marca de agua de las fotos o evitar la fila de espera para procesar la imagen. Los datos compartidos en el reporte indican que, hasta julio de 2020, se habían procesado aproximadamente 100.000 imágenes de mujeres. Y si lo anterior no fuera lo suficientemente preocupante, el CEO de Sensity AI, Giorgio Patrini, señala que habitualmente son menores de edad.

Más de un año operando sin dificultades

Lo anterior nos da una idea del problema que supone la existencia de esta IA. Además, se encuentra activa desde julio de 2019 y ha operado sin la más mínima dificultad. De hecho, el “servicio” funciona hasta en siete canales de Telegram que en total suman cerca de 100.000 usuarios. Su infraestructura está compuesta por un canal principal que se encarga de hospedar el bot, mientras que dos funcionan como soporte técnico y el resto para compartir imágenes de mujeres sin su consentimiento.Gran parte de las imágenes procesadas son de mujeres originarias de Argentina, Italia, Rusia y Estados Unidos

Los últimos canales incluso ofrecen funciones personalizadas para votar por las mejores imágenes procesadas y escalar en un ranking. Los primeros lugares reciben recompensas asociadas con el propio servicio. Si bien podrías pensar que sus usuarios operan en completa clandestinidad, su comunidad también está activa en redes sociales; gracias a una encuesta entre 7.200 miembros se determinó que el 70% son originarios de Rusia. Le siguen España, Latinoamérica, Japón, China, Corea, Francia, Alemania e Italia, entre otros.

En lo que se refiere al país de las víctimas, destacan la presencia de Argentina, Italia, Rusia y Estados Unidos. Los usuarios afirman que suelen ser mujeres que conocen en la vida real o que siguen a través de Instagram. Si bien Sensity AI ya informó de la situación al FBI y otras agencias de seguridad, ningún organismo se ha pronunciado al respecto. MIT Technology Review hizo lo propio con Telegram, pero tampoco respondieron. Evidentemente, se espera que tras el reporte tomen las medidas pertinentes para frenarlo en cuanto antes.

LEAVE A REPLY

Please enter your comment!
Please enter your name here