📝 Table des matières
Introduction
- Le revirement d'OpenAI sur la maximisation de l'engagement
- Les doutes au sommet d'OpenAI quant à la construction d'une super intelligence
- La bataille pour le contrôle des données de qualité et la part du futur trillion de l'IA
- La plus grande enquête sur les chercheurs en IA
La boutique GPT
- L'opportunité pour les constructeurs de créer leurs propres GPT
- Monétiser les GPT grâce à l'engagement
- Concurrence de Character AI, Inflection AI et Me's Universe of Characters
- Exception notable : Consensus GPT
Deuxième réflexion sur la super intelligence
- L'objectif d'OpenAI de construire une super intelligence
- Les risques et les avantages de la super intelligence
- La vision d'André Karpathy de l'amplification de l'intelligence
- La frontière entre un outil et quelque chose qui nous remplace
Prévisions des chercheurs en IA
- L'intelligence artificielle de haut niveau et l'automatisation complète du travail
- La possibilité d'une explosion de l'intelligence
- Les préoccupations concernant les deepfakes
- La priorisation de la recherche sur la sécurité de l'IA
- Raccourcir les délais
Dispositifs amusants d'IA
- Des jumelles alimentées par l'IA qui identifient les oiseaux
Conclusion
- L'importance de considérer les implications des avancées de l'IA
Introduction
OpenAI a été à l'avant-garde de la recherche et du développement en IA, mais les développements récents ont soulevé des questions sur la direction que prend l'entreprise. Dans cet article, nous explorerons le revirement d'OpenAI sur la maximisation de l'engagement, les doutes au sommet de l'entreprise quant à la construction d'une super intelligence, la bataille pour le contrôle des données de qualité et la part du futur trillion de l'IA, et la plus grande enquête sur les chercheurs en IA.
La boutique GPT
La boutique GPT est une plateforme où les entreprises peuvent créer leur propre version de Chat GPT basée sur leurs propres données et instructions personnalisées. OpenAI décrit l'opportunité pour les constructeurs de créer leurs propres GPT et de les monétiser grâce à l'engagement. La phrase clé est : "Dans un premier temps, les utilisateurs seront payés en fonction de l'engagement des utilisateurs avec leurs GPT." Cela signifie que plus les utilisateurs utilisent leurs GPT, plus ils seront payés.
Il y a une concurrence de Character AI, Inflection AI et Me's Universe of Characters, mais le Consensus GPT est une exception notable. Bien que l'utilisation de l'un des GPT n'ait pas vraiment amélioré l'utilisation de GPT 4, le Consensus GPT était réellement utile et meilleur que GPT 4 pour la tâche spécifique de recherche scientifique sur un sujet donné.
Deuxième réflexion sur la super intelligence
L'objectif d'OpenAI est de construire une super intelligence, qui est définie comme un système qui surpasse les humains dans la plupart des travaux économiquement valorisables. Cependant, il y a des doutes au sommet de l'entreprise quant à savoir s'ils devraient même construire une super intelligence. André Karpathy, l'une des figures clés d'OpenAI, a déclaré que la meilleure chose possible que nous puissions être n'est pas faible ou EA mais tout sur l'amplification de l'intelligence. En d'autres termes, nous ne devrions pas chercher à construire des entités divines et surpuissantes qui remplacent les humains.
Il y a une frontière entre un outil et quelque chose qui nous remplace, et OpenAI doit clairement indiquer où se situe cette ligne de démarcation. OpenAI a également déclaré qu'ils admettent que la construction d'AGI et de super intelligence va remplacer le travail humain. En effet, leur définition de l'AGI sur leur site web est un système qui surpasse les humains dans la plupart des travaux économiquement valorisables, et ce n'est même pas une super intelligence.
Prévisions des chercheurs en IA
La plus grande enquête sur les chercheurs en IA a révélé qu'il y a 10% de chances que les machines non éduquées surpassent les humains dans toutes les tâches possibles d'ici 2027, et 50% de chances d'ici 2047. Cependant, il y avait une divergence entre les prévisions pour l'intelligence artificielle de haut niveau et l'automatisation complète du travail, cette dernière étant prévue pour les années 2100.
Les chercheurs ont également été interrogés sur la possibilité d'une explosion de l'intelligence, où les systèmes d'IA effectuent presque toute la recherche et le développement, et les améliorations de l'IA accélèrent le rythme du progrès technologique, y compris des progrès supplémentaires dans l'IA, sur une courte période de moins de 5 ans. La majorité des répondants, soit 53%, pensent que cette boucle de rétroaction accélérée est probable ou assez probable de se produire.
Dispositifs amusants d'IA
Bien que les avancées de l'IA soulèvent des questions importantes sur l'avenir, elles peuvent également être incroyablement utiles et amusantes. Un exemple est les jumelles alimentées par l'IA qui peuvent identifier les oiseaux pendant que vous les regardez.
Conclusion
À mesure que l'IA continue de progresser, il est important de considérer les implications de ces avancées. Le revirement d'OpenAI sur la maximisation de l'engagement et les doutes quant à la construction d'une super intelligence soulèvent des questions importantes sur la direction que prend l'entreprise. La plus grande enquête sur les chercheurs en IA montre que les délais se raccourcissent et qu'il y a une possibilité d'une explosion de l'intelligence. Bien que l'IA puisse être incroyablement utile et amusante, il est important de considérer les risques et les avantages potentiels de ces avancées.
