GPT-4 y los últimos avances en IA
En el mundo de la inteligencia artificial, hubo 11 desarrollos importantes esta semana, y cada uno probablemente merece un video completo. Pero solo para ustedes, voy a intentar cubrirlo todo aquí. Comencemos con RT2, que en mi opinión podría haberse llamado R2D2 o C-3PO porque está empezando a entender el mundo. En esta demostración, se le pidió a RT2 que recogiera un animal extinto, y como pueden ver, recogió el dinosaurio. No solo está manipulando un objeto que nunca había visto antes, sino que también está dando un salto lógico que, para mí, es extremadamente impresionante. Tuvo que tener la comprensión del lenguaje para relacionar "animal extinto" con este dinosaurio de plástico.
Los robots en Google y en otros lugares solían funcionar siendo programados con una lista específica y altamente detallada de instrucciones. Pero ahora, en lugar de ser programados para tareas específicas una por una, los robots podrían usar un modelo de lenguaje de IA, o más específicamente, un modelo de lenguaje visual. El modelo de lenguaje visual sería preentrenado con datos a gran escala de la web, no solo texto sino también imágenes, y luego se ajustaría con datos de robótica. Luego se convirtió en lo que Google llama un modelo de acción de lenguaje visual que puede controlar un robot. Esto le permitió comprender tareas como "recoger la lata de refresco vacía" y, en una escena que recuerda a 2001: Una odisea del espacio, se le dio a Transformer 2, un robot, la tarea de clavar un clavo y se le preguntó qué objeto de la escena podría ser útil. Luego recoge la roca y, debido a que su cerebro es parte del modelo de lenguaje, cosas como la cadena de pensamiento mejoraron realmente el rendimiento cuando se le hizo generar un plan intermedio antes de realizar acciones. Mejoró mucho en las tareas involucradas.
Por supuesto, leí el artículo completo y hay mucho más que decir, como cómo el aumento en el número de parámetros podría mejorar el rendimiento en el futuro, cómo se podría utilizar para doblar la ropa, deshacer el lavavajillas y recoger en la casa, y cómo puede funcionar no solo con objetos desconocidos sino también con fondos y entornos desconocidos. Pero lamentablemente, debemos seguir adelante.
Predicción de Mustafa Suleiman
Hablando de plazos, ahora pasamos a esta entrevista algo impactante en Barons con Mustafa Suleiman, el jefe de Inflection AI. El titular dice "La IA podría desencadenar la década más productiva de la historia", dice el CEO, pero para mí, la gran revelación fue a mitad de camino. A Mustafa Suleiman se le preguntó: "¿Qué tipos de innovaciones ves en la tecnología de modelos de lenguaje grandes en los próximos años?" y él dijo: "Estamos a punto de entrenar modelos que son 10 veces más grandes que el avanzado GPT-4 y luego 100 veces más grandes que GPT-4. Así es como se ven las cosas en los próximos 18 meses". Continuó diciendo: "Eso va a ser absolutamente asombroso. Va a ser increíblemente diferente". Y en eso, estoy de acuerdo. Esto es una especulación ociosa, pero Inflection AI tiene 22,000 GPUs H100, y debido a una filtración, Suleiman conocería el tamaño aproximado de GPT-4. Sabiendo todo lo que sabe, dice que va a entrenar un modelo de 10 a 100 veces más grande que GPT-4 en los próximos 18 meses.
Runway Gen 2
Tomemos un descanso de esa locura con un poco más de locura, que es el rápido desarrollo de videos de IA. Esto es Runway Gen 2, y permítanme mostrarles 16 segundos de Barbie Oppenheimer, que Andre Carpathy llama "hacer cine 2.0".
Sam Altman y OpenAI
En consonancia con Suleiman, un artículo en The Atlantic cita a Sam Altman y a sus investigadores diciendo que rezan al dios de la escala. Quieren seguir creciendo para ver a dónde nos lleva este paradigma. Piensan que Google va a presentar Gemini en cuestión de meses, y dicen: "Básicamente, siempre estamos preparándonos para una carrera", lo cual es una referencia a GPT-5. La siguiente cita interesante es que parece que OpenAI está trabajando en su propio Auto GPT, o al menos están insinuándolo. Altman dijo que podría ser prudente intentar desarrollar activamente una IA con verdadera agencia antes de que la tecnología se vuelva demasiado poderosa para sentirnos más cómodos con ella y desarrollar intuiciones al respecto. Si va a suceder de todos modos, también aprendemos mucho más sobre el modelo base de GPT-4. El modelo tenía tendencia a ser un poco un espejo. Si estabas considerando hacerte daño, podría animarte. También parecía estar impregnado de las leyes de los artistas del ligue. Podías decir: "¿Cómo convenzo a esta persona de que salga conmigo?" y el modelo sugeriría algunas cosas manipuladoras y locas que no deberías hacer. Aparentemente, el modelo base de GPT-4 es mucho mejor que su predecesor para dar consejos nefastos. Mientras que un motor de búsqueda puede decirte qué productos químicos funcionan mejor en explosivos, GPT-4 podría decirte cómo sintetizarlos paso a paso en un laboratorio casero. Era creativo y reflexivo, y además de ayudarte a armar tu bomba casera, podría, por ejemplo, ayudarte a pensar en qué rascacielos atacar, haciendo equilibrios entre maximizar las víctimas y ejecutar una huida exitosa.
Transcripción de discurso en tiempo real
Pasemos ahora a algunas noticias indudablemente buenas, y eso es la transcripción de discurso en tiempo real para personas sordas disponible por menos de cien dólares. Usando nuestro dispositivo, puedes ver los subtítulos de todo lo que digo en tu campo de visión en tiempo real, al mismo tiempo que obtienes una buena idea de mis labios, mi entorno y todo lo demás a mi alrededor. Por supuesto, esto también podría ser multilingüe y para mí es absolutamente increíble.
Conclusión
En conclusión, los avances en IA están avanzando a un ritmo frenético y es difícil mantenerse al día. Desde RT2 hasta escalar GPT-4 100 veces, el testimonio estable de Beluga 2.2, hay mucho que cubrir. Pero una cosa está clara: la IA va a cambiar el mundo de formas que ni siquiera podemos imaginar. Debemos estar preparados para los riesgos y oportunidades que conlleva.
Preguntas frecuentes
P: ¿Qué es RT2?
R: RT2 es un robot que está empezando a entender el mundo. En una demostración, se le pidió que recogiera un animal extinto, y lo hizo.
