El Mañana

miércoles, 20 de marzo de 2019

Tecnologia 18 febrero, 2019

Crean un procesador de texto tan perfecto que es peligroso para el mundo

La inteligencia artificial puede hacerse pasar por un humano y por ello prefirieron no liberarlo

4200

Por AGENCIAS

ESTADOS UNIDOS.- El laboratorio de inteligencia artificial OpenAI desarrolló un nuevo procesador de texto basado en algoritmos que puede generar párrafos de texto coherentes, sin importar si es información real o ficción. El resultado fue tan sorprendente que la empresa decidió no publicarlo completo, por miedo a que pueda dársele un mal uso.

“Debido a nuestras preocupaciones sobre las aplicaciones maliciosas de la tecnología, no estamos lanzando el modelo entrenado. Como un experimento de divulgación responsable, en cambio estamos lanzando un modelo mucho más pequeño para que los investigadores experimenten, así como un documento técnico”, explica OpenAI en una entrada de su blog.

Este nuevo modelo de lenguaje no supervisado a gran escala se llama GPT-2 (un sucesor de GPT ) y fue alimentado con 40GB de texto de Internet para que pudiera predecir las palabras que podría tener un texto. Cuando terminó su proceso de entrenamiento, los investigadores descubrieron que el software podía alimentarse con una pequeña cantidad de texto y continuar escribiendo convincentemente un texto largo en función de esta.

Para demostrar lo real que son los textos de este nuevo procesador de texto el periódico The Guardían lo utilizó para que escribiera una noticia sobre sí mismo, misma que le tomó 15 segundos redactar. El resultado fue publicado en la versión impresa, sin editar.

Los investigadores encontraron que se “necesitan varios intentos para obtener una buena muestra, y la cantidad de intentos depende de cuán familiarizado esté el modelo con el contexto”. Cuando se le solicitan temas que están altamente representados en los datos (Brexit, Miley Cyrus, El señor de los anillos, etc.), parece ser capaz de generar muestras razonables en aproximadamente el 50% del tiempo; pero cuando los textos son temas altamente técnicos o esotéricos, la exactitud es menor.

En su blog, OpenAI publicó una prueba realizada al GPT-2. La inteligencia artificial fue alimentada con el siguiente texto:

“En un hallazgo impactante, un científico descubrió una manada de unicornios que viven en un valle remoto, previamente inexplorado, en las montañas de los Andes. Aún más sorprendente para los investigadores fue el hecho de que los unicornios hablaban un inglés perfecto”.

A partir de allí, GPT-2 fue capaz de desarrollar el resto de la noticia sin importar lo extravagante de su contenido. El resultado fue el siguiente:

“En homenaje a su distintivo cuerno, el científico bautizó a la población como el Unicornio de Ovidio. Estos unicornios de cuatro cuernos y de color blanco plateado eran previamente desconocidos para la ciencia.

Ahora, después de casi dos siglos, el misterio de lo que provocó este extraño fenómeno se resuelve finalmente.

El Dr. Jorge Pérez, un biólogo evolutivo de la Universidad de La Paz, y varios compañeros estaban explorando las montañas de los Andes cuando encontraron un pequeño valle, sin otros animales o humanos. Pérez notó que el valle tenía lo que parecía ser una fuente natural rodeada por dos picos de roca y nieve plateada”.

Los investigadores piensan que la coherencia con la que escribe los textos pueda ser mal utilizada por los que se dedican al phishing, o personas que busquen suplantar a otra en Internet; aunque también están conscientes de las aplicaciones benéficas que se podrían descubrir a través del GPT-2.