Table des matières :
1. Introduction
2. Des chronologies disparates pour la super intelligence
3. IA transformative et super intelligence
4. Déclaration récente d'OpenAI
5. Défis pour aligner la super intelligence
6. Facteurs qui pourraient ralentir les chronologies
7. Facteurs qui pourraient accélérer les chronologies
8. Implications de la super intelligence
9. Planification de l'arrivée de la super intelligence
10. Conclusion
**Introduction**
Dans les actualités récentes, différentes chronologies ont été proposées pour l'arrivée de la super intelligence. OpenAI suggère qu'il pourrait être nécessaire de la rendre sûre d'ici quatre ans, tandis que d'autres experts estiment qu'elle pourrait être encore à des décennies de distance. Cet article vise à explorer ces différentes chronologies, discuter de ce que la super intelligence implique et présenter diverses perspectives sur le sujet.
**Des chronologies disparates pour la super intelligence**
Mustafa Suleiman, le responsable de l'IA d'inflection, soulève des préoccupations concernant les risques futurs liés à la super intelligence. Il suggère qu'il pourrait être nécessaire de ralentir le développement de l'IA au cours de la prochaine décennie ou deux. Cependant, étant donné qu'inflection AI a récemment construit un superordinateur performant, leur chronologie conservatrice semble intrigante.
D'autre part, les projections de Jacob Steinhardt de Berkeley indiquent que la super intelligence pourrait être atteinte d'ici six ans et demi. Ces projections sont basées sur les lois d'échelle du calcul et de la disponibilité des données, en supposant que les améliorations actuelles se poursuivent. Les capacités potentielles de la super intelligence sont stupéfiantes, avec la capacité de surpasser les humains dans diverses tâches et domaines.
**IA transformative et super intelligence**
Le concept d'IA transformative ou de super intelligence fait référence à des systèmes d'IA qui dépassent les capacités humaines dans plusieurs domaines. Ces systèmes pourraient posséder une compréhension intuitive des domaines où l'expérience humaine est limitée. Ils pourraient même exceller dans la pensée créative, comme le démontrent les références de gpt4. Le potentiel de la super intelligence pour révolutionner des domaines tels que la programmation et les mathématiques est remarquable.
**Déclaration récente d'OpenAI**
OpenAI a reconnu la nécessité de percées scientifiques et techniques pour orienter et contrôler des systèmes d'IA bien plus intelligents que les humains. Ils ont lancé une nouvelle équipe dédiée à cet effort, dans le but de résoudre le problème de l'alignement de la super intelligence d'ici quatre ans. Cet engagement est louable, car ils reconnaissent le pouvoir immense et les risques potentiels associés à la super intelligence.
**Défis pour aligner la super intelligence**
Aligner la super intelligence avec les valeurs humaines et assurer son développement sûr et éthique pose des défis importants. Les techniques d'alignement actuelles reposent sur la supervision humaine, qui pourrait ne pas être adaptée à la super intelligence. OpenAI vise à automatiser la recherche en matière d'alignement et de sécurité, en explorant des approches innovantes telles que l'évaluation automatisée par des équipes adverses et l'analyse interne des modèles. Cependant, le niveau d'exigence élevé qu'ils se fixent pour fournir des preuves et convaincre la communauté de l'apprentissage automatique et de la sécurité souligne la complexité de la tâche.
**Facteurs qui pourraient ralentir les chronologies**
Plusieurs facteurs pourraient potentiellement ralentir le développement de la super intelligence. L'un de ces facteurs est la question du déverrouillage des grands modèles de langage comme gpt4. Des recherches récentes ont montré que ces modèles peuvent être manipulés, suscitant des inquiétudes quant à leur mauvais usage. Les poursuites judiciaires et les sanctions pénales possibles à l'encontre des entreprises d'IA pour la création de faux humains posent également des obstacles juridiques. De plus, relever le défi des hallucinations, où les modèles d'IA fournissent des informations inexactes ou trompeuses, est crucial pour établir la confiance et favoriser une adoption généralisée.
**Facteurs qui pourraient accélérer les chronologies**
La concurrence pour la suprématie militaire et l'automatisation de l'économie sont des facteurs qui pourraient accélérer l'arrivée de la super intelligence. Les applications militaires de l'IA, y compris les modèles de langage contrôlant des drones autonomes, ont déjà conduit à une tendance vers l'automatisation. Le potentiel de l'IA à surpasser les humains dans la prise de décision pourrait pousser les entreprises à adopter des PDG IA et à s'appuyer de plus en plus sur l'IA pour les décisions de haut niveau. L'automatisation de diverses industries pourrait également repousser les limites du développement de l'IA.
**Implications de la super intelligence**
La super intelligence a le potentiel d'être la technologie la plus impactante que l'humanité ait jamais inventée. Elle pourrait contribuer à résoudre des problèmes mondiaux critiques, mais elle pose également des risques importants. Le pouvoir immense de la super intelligence pourrait conduire à la dépossession, voire à l'extinction de l'humanité. Équilibrer les avantages et les risques associés à la super intelligence est crucial pour son développement responsable.
**Planification de l'arrivée de la super intelligence**
Malgré l'incertitude entourant la chronologie exacte de la super intelligence, il est essentiel de commencer à planifier son arrivée. La société doit définir les termes et engager des discussions sur les implications et les conséquences potentielles. Des engagements à long terme, tels que les hypothèques de 50 ans, pourraient devoir être réexaminés dans un monde où la super intelligence pourrait émerger.
