Machine Learning. GTP-3

En este último post sobre Machine Learning y la Inteligencia Artificial, vamos a presentar el algoritmo más potente hasta la fecha que viene a generar un gran debate sobre la capacidad que pueden tener las máquinas para suplir las tareas del ser humano. Estamos hablando de GTP-3.

La última inteligencia artificial de lenguaje de OpenAI, GPT-3, es realmente apasionante, pero, en realidad, carece de cualquier tipo de comprensión del mundo real y de las implicaciones de las palabras con las que trabaja. Ha sido elogiada por su capacidad de comprensión para escribir incluso novelas o historias, pero permanece al margen de conceptos complejos como el racismo, el cual no es capaz de discernir entre posible contenido ofensivo hacia algún colectivo o población.

Para entender todo un poco mejor, vamos a empezar hablando de OpenAI. Fundada por Elon Musk (cofundador de empresas como SpaceX, Tesla o PayPal entre otras), nació con el objetivo de investigar el campo de la IA y dar un acceso universal a dicha tecnología.

Después de varios años y algoritmos anteriores como el GPT-2, hace unas semanas se lanzó el algoritmo GPT-3 como un avance exponencial en el campo.

GPT-3 (Generative Pre-Training Transformer 3) se define técnicamente como un modelo de lenguaje autorregresivo, mismo que emplea el Deep Learning para producir textos que se asemejan en gran medida a los escritos por el ser humano.

Para construir GPT3, OpenAI utilizó un enfoque semejante y algoritmos que había utilizado con su antecesor, GPT-2, pero incrementando por un lado la red neuronal, y por otro lado el conjunto de entrenamiento.

GPT-3 cuenta con 175.000 millones de parámetros, una barbaridad si los comparamos con los 1.500 millones que utilizaba GPT-2.

¿Cómo funciona GPT-3?

El usuario comienza escribiendo un párrafo de un texto cualquiera, y el propio sistema se encarga de generar un contenido que tenga sentido y coherencia con el escrito por el usuario. De este modo, con GPT-3 se pueden generar conversaciones, útiles para mejorar los actuales chatbots, y las respuestas que brinde el sistema estarán basadas en el contexto de las preguntas y respuestas anteriores.

¿Qué utilidades tiene?

En el párrafo anterior hemos comentado los chatbots, pero tiene más utilidades como, por ejemplo, la redacción de e-mails.

Con este modelo los chatbots parecerán más reales y dará la sensación de estar chateando realmente con otra persona, con respuestas más precisas y por ello, generando en el usuario una sensación de atención más personalizada y efectiva.

Sobre la redacción de e-mails, con GPT-3 se podrán redactar emails dándole unas pautas simples de lo que quieres que diga. A través de magicemail.io, un portal donde se permite probar la herramienta (con lista de espera), se puede ver cómo funciona. En este caso concreto se instalará una extensión de Google Chrome, que interactuará con nuestro correo electrónico en Gmail. Cuando nos llegue un email, simplemente tendremos que hacer click en la extensión para que el algoritmo haga su magia y nos genere un contenido y una respuesta coherente en relación al texto recibido.

Cabe destacar que la herramienta genera texto utilizando algoritmos entrenados previamente. Dichos datos se han extraído de CommonCrawl recibiendo aproximadamente un total de 570 GB de información de texto recopilada al rastrear Internet, a los que hay que añadir otros textos seleccionados por OpenAI, incluida la base de datos y textos de Wikipedia.

De momento, muy a nuestro pesar, el acceso a GPT-3 solamente es por invitación, pero la gente ya lo ha usado para impulsar docenas de apps, donde podemos encontrar, desde una herramienta que genera ideas para start-ups hasta un juego de aventuras guionizado por la y IA ambientado en una mazmorra.

El único consuelo que nos queda es acceder al repositorio público de OpenAI relacionado con GPT-3 en Github y empezar a empaparse de lo que tenemos a nuestro alcance.

Esperamos que estos 4 capítulos sobre Machine Learning os hayan parecido interesante. Si queréis profundizar en la información, no dudéis en contactar con nosotros.