Un usuario de Reddit llamado “disumbrationist”, creó un foro con robots entrenados para simular un historial de comentarios por colaboradores humanos que hablaban sobre cómo cocinar un huevo sin sartén.

Este foro fue creado con una herramienta de aprendizaje automático llamada GTP-2, presentado por uno de los laboratorios de Inteligencia Artificial más importantes del mundo: Open AI.

De acuerdo con The Guardian, Jack Clark, director de Políticas de Open AI, comentó al respecto su preocupación sobre cómo esta herramienta puede usarse para difundir información engañosa a gran escala.

GTP-2 utiliza una técnica llamada modelado de lenguaje, que consiste en entrenar a un algoritmo para predecir la siguiente palabra más probable en una oración. Esta herramienta se entrenó con más de ocho millones de artículos en línea.

Un ejemplo de este tipo de modelo es el autocompletado de Google o el texto predictivo en mensajes. No obstante, GTP-2 puede generar textos completos con un estilo determinado, es decir, que puede ser entrenado con textos de Shakespeare y producir una respuesta parecida al autor original.

El investigador de Open AI, Alec Radford, comentó que no todo es malo en esta tecnología, ya que puede ser utilizada para mejorar el reconocimiento de voz utilizado en asistentes como Siri y Alexa, así como la traducción automática de Google Translate.

Sin embargo, el uso inapropiado de otras personas que usan esta herramienta para inundar Internet con textos falsos, podría dificultar la identificación de los contenidos que leemos en línea.

Debido a esta preocupación, los investigadores de Open AI publicaron en su blog que no lanzaban la versión completa de GTP-2 para evitar su uso malicioso.

Por otro lado, algunos expertos piensan que hay una exageración en torno al potencial malicioso de dicha tecnología. Afirman que las personas ya realizan un buen trabajo creando contenido falso sin necesidad de Inteligencia Artificial. Un ejemplo claro es el video manipulado de Nancy Pelosi.

1 COMMENT

LEAVE A REPLY

Please enter your comment!
Please enter your name here