🤖 La Marcha hacia la Inteligencia Artificial General: Detalles Clave Revelados
La Inteligencia Artificial General (AGI, por sus siglas en inglés) es lo próximo grande en el mundo de la tecnología. En las últimas 48 horas, ha habido una avalancha de artículos y entrevistas revelando detalles clave sobre nuestra marcha hacia la AGI. En este artículo, extraeremos las partes más interesantes y las vincularemos con una serie de otros desarrollos recientes. Si hay un tema en común, es que la AGI que estas compañías están creando no es solo un chatbot ingenioso y llegará mucho antes de lo que puedas pensar.
🤔 ¿Qué es la AGI?
Si la IA es mucho más que un simple asistente personal ingenioso, ¿qué es en realidad? Bueno, recurramos a este impactante artículo en Wired. Dicen que OpenAI no pretende saber qué es realmente la AGI. La determinación vendría de la junta directiva, pero no está claro cómo la junta la definiría. Sam Mman, quien forma parte de la junta directiva de OpenAI, dijo: "Con gusto te lo diría, pero me gusta mantener las conversaciones confidenciales en privado", y luego añadió: "pero no sabemos cómo será".
La incapacidad para definir la AGI continúa en su sitio web, donde primero dicen que la AGI son sistemas de IA que son generalmente inteligentes, más inteligentes que los humanos, pero en otros lugares dicen que su definición de AGI son sistemas altamente autónomos que superan a los humanos en la mayoría del trabajo económicamente valioso. La confusión continúa con Microsoft, donde dicen que a Microsoft ni siquiera le importa la cláusula que exige reconsideración si OpenAI logra la AGI, sea lo que sea eso. En ese punto, dice Nadela, el CEO de Microsoft, "todas las apuestas están canceladas. Podría ser la última invención de la humanidad", señala.
Así que podríamos tener problemas más grandes que considerar una vez que las máquinas sean más inteligentes que nosotros. Incluso OpenAI tiene un descargo de responsabilidad legal que dice: "como inversor, podrías perder todo tu dinero. No estamos aquí para obtener ganancias; estamos aquí para lograr una misión técnica". Ah, y por cierto, realmente no sabemos qué papel jugará el dinero en un mundo post-AGI. En sus documentos de reestructuración, tienen una cláusula que establece que si la compañía logra crear AGI, todos los acuerdos financieros serán reconsiderados, pero no está claramente definido.
Definir la AGI parece jugar a favor de Microsoft, quien siempre puede decir: "bueno, aún no lo hemos alcanzado". No creo que Microsoft permita fácilmente que se reconsideren todos sus acuerdos financieros de billones de dólares. Y nuevamente, tenemos esto: los documentos financieros de la compañía estipulan una especie de contingencia de salida para cuando la IA borre todo nuestro sistema económico. Pero luego, aparentemente, el liderazgo de la compañía dice esto: "Sería difícil", dicen, "trabajar en OpenAI si el individuo no creyera que la AGI realmente está llegando y, además, que su llegada marcaría uno de los momentos más importantes en la historia humana". ¿Por qué alguien que no cree querría trabajar aquí, se preguntaron?
🚀 La Carrera hacia la AGI
Tres ideas más rápidas de Wired antes de seguir adelante. Primero, que Samman planeaba postularse para gobernador de California antes de planear construir AGI. Segundo, en una entrevista de 2015 con el mismo periodista de Wired, Samman fue un poco más claro sobre lo que pensaba que serían los impactos laborales de la AGI. Predijo el desafío de la automatización masiva y la eliminación de empleos. Esto coincide con una cita del nuevo libro The Coming Wave al que tuve acceso anticipado, escrito por Mustafa Sullon, el jefe de otro laboratorio de AGI. Él dijo: "Estas herramientas solo están aumentando temporalmente la inteligencia humana, pero fundamentalmente están reemplazando el trabajo".
Finalmente, en Wired, encontré esta cita que me pareció realmente interesante: la visión original de Samman no era crear una entidad única que fuera un millón de veces más poderosa que cualquier humano. Él quería muchos pequeños AIs, no un AI superinteligente. Pero ahora Samman está hablando de crear una superinteligencia en los próximos 10 años que sea tan productiva como una de las corporaciones más grandes de hoy en día, que, no olvidemos, tienen millones de empleados humanos. Esto encaja con su visión de que la AGI solo se construirá una vez. Una vez que la tengas, podrías usarla para construir todo lo demás.
🤯 Las Capacidades de la AGI
La AGI significa mucho más que solo un chatbot. Por muchas razones, comenzando por el hecho de que estamos incorporando autonomía en ellos. OpenAI está trabajando en autonomía, y aquí está Google DeepMind reclutando con el mismo propósito. ¿De qué tipo de tareas estamos hablando? ¿Qué tal encargar algo desde una fábrica? El propósito de la prueba de intercambio moderna es medir lo que un AI puede hacer, no lo que puede decir. Las capacidades incluyen la creación práctica de cosas reales en el mundo real o el uso de herramientas digitales para inventar un nuevo producto desde cero, para que sea fabricado encargándolo en una fábrica, negociar sobre los planos del producto, realmente hacer que se envíe y vender el nuevo producto.
Su compañía, Inflection AI, quiere que su inteligencia personal Pi sea su Jefe de Personal digital, reservando vuelos, negociando con otros AIs e incluso ganando un millón de dólares. Esto es particularmente interesante para mí porque Sullon dice que no están trabajando en autonomía. Creo que podríamos estar trabajando en esas capacidades, pero no necesariamente representarán una amenaza existencial. Creo que lo que estoy diciendo es que indican el comienzo de una trayectoria hacia una amenaza mayor.
🤔 Evaluando la AGI
Lo más urgente que debe suceder en el área de investigación de la IA es encontrar los puntos de referencia de evaluación adecuados para las capacidades. A todos nos encantaría tener un conjunto de tal vez incluso cientos de pruebas en las que si tu sistema las pasa, podría obtener una marca de calidad y podrías decir: "Bien, esto es seguro de implementar". El problema es que actualmente no tenemos ese tipo de puntos de referencia. Por ejemplo, ¿este sistema es capaz de actuar? ¿Puede replicarse en centros de datos? Estos son los tipos de cosas que podrías querer probar, pero necesitamos pruebas prácticas y pragmáticas para ellos.
🤖 El Futuro de la AGI
El futuro de la AGI es...
