GPT-2: El algoritmo que genera Fake News
Tan bueno que ha sido censurado. O eso dicen sus desarrolladores de OpenAI (una entidad impulsada por Elon Musk). Ya sea por puro marketing o la realidad, se trata de algo que, en el mundo actual de las fake news y la desinformación en las redes sociales, da bastante miedo. Un programa de Inteligencia Artificial, que tan solo teniendo de base unas pocas lineas escritas por un humano, ya sea unos apuntes, una hoja de un libro o una parte de un artículo, es capaz de generar textos largos, con sentido y convincentes e inventarse fuentes humanas que respalden la información. ¿Cómo se consiguió? Sus programadores dotaron a este programa de modelado de lenguaje una memoria de 8 millones de páginas web de las que GPT-2 extraer la información. "Comenzamos a probarlo y descubrimos rápidamente que es posible generar contenido malicioso con bastante facilidad", ha dicho Jack Clark, director de políticas de OpenAI.
La empresa probó la eficacia del programa generando distintos contenidos de diferentes estilos que van desde el descubrimiento de unicornios en Sudamérica, noticias de actualidad inventada del Brexit o un futuro en el que John F. Kennedy resucita, se convierte en cyborg y es reelegido a la presidencia de EE.UU. Texto generado por GPT-2 sobre el descubrimiento de unicornios
Un escrito sobre El Señor de los Anillos generado por GPT-2 El programa no es perfecto, no siempre escribe de forma coherente, el sistema produjo un lenguaje correcto al 93,3% en la escritura de libros infantiles. Fue capaz de producir textos convincentes "en torno a un 50% de las veces", cuando se le pedían temas populares (como Brexit o Miley Cyrus), pero su efectividad se reducía al abordar contenidos "altamente técnicos". No deja de ser un programa y cuanta más información se le proporcione, mejor lo hará dicen sus creadores. De momento OpenAI ha anunciado que no publicarán la versión completa del programa, por miedo a su "mal uso". Aunque defienden que escribir ensayos falsos no es la única capacidad de GPT-2; También podría realizar otras tareas como traducir texto de un idioma a otro, asistente de escritura, reconocer patrones de lenguaje y estilos, resumir artículos largos o incluso algo más lúdico como responder preguntas del trivial.
El potencial uso malicioso de la Inteligencia Artificial para articular fake news no es nada nuevo, hemos podido ver ejemplos en modo de vídeo al expresidente Barack Obama profiriendo insultos a Donald Trump, o a famosos de Hollywood protagonizando supuestos vídeos pornográficos “Ha sido posible alterar metraje de vídeo desde hace décadas, pero hacerlo requería tiempo, artistas especializados, y mucho dinero”, escribe el periodista Donie O’Sullivan en la CNN. El periodista también destaca el problema de la cada vez mejor calidad de estos vídeos y de como es cada vez más barato hacerlos “La tecnología deepfake podría cambiar el juego. A medida que se desarrolla y prolifera, cualquier podría tener la capacidad de hacer un vídeo falso convincente, incluido gente que quizás quiera convertirla en un arma para conseguir objetivos políticos o maliciosos de otro tipo”.