16 Moments Surprenants et Fascinants du Tour du Monde de Sam Altman
🤖 Introduction
Sam Altman, PDG d'OpenAI, a entrepris une tournée mondiale pour partager ses idées sur l'intelligence artificielle (IA) et son impact sur l'humanité. Après avoir visionné plus de 10 heures d'interviews, j'ai compilé une liste de 16 moments surprenants et fascinants de sa tournée. De la conception de nouvelles IA par l'IA à la fuite de Chachi PT révélant des railguns open source, voici tout ce que j'ai appris, sans ordre particulier.
🤖 Avertissement concernant la Conception des IA par elles-mêmes
Sam Altman met en garde contre la conception des IA par elles-mêmes. Il estime qu'il est important que les humains prennent les décisions concernant leur fonctionnement. Selon lui, ce serait une erreur de simplement dire : "D'accord, l'humain est exclu, prenez le relais, faites ce que vous voulez, modifiez votre propre architecture, faites toutes ces choses." Il pense que l'avenir de l'humanité devrait être déterminé par l'humanité, et que c'est un choix actif que nous pouvons faire. Il pense que cela semble être une bonne idée, mais nous devrions nous inquiéter de la superintelligence. Il sera possible de construire une ferme de GPU en grappe qui sera plus intelligente que n'importe quelle personne et capable de faire de la science et de l'ingénierie beaucoup plus rapidement qu'une grande équipe de scientifiques et d'ingénieurs expérimentés. C'est fou et cela aura un impact incroyablement énorme. Cela pourrait permettre à l'IA de concevoir la prochaine version du système, une IA construisant une autre IA, c'est tout simplement fou.
🤖 Avertissement de Sam Altman concernant la Conception des IA par elles-mêmes - Avantages et Inconvénients
Avantages :
- Les humains auront le contrôle sur l'architecture des IA.
- L'avenir de l'humanité sera déterminé par l'humanité.
- Nous pouvons faire un choix actif pour déterminer l'avenir de l'humanité.
Inconvénients :
- Il pourrait être possible de construire une superintelligence plus intelligente que n'importe quelle personne, capable de faire de la science et de l'ingénierie beaucoup plus rapidement qu'une grande équipe de scientifiques et d'ingénieurs expérimentés.
- L'IA construisant une autre IA pourrait être une idée folle et avoir un impact incroyablement énorme.
🤖 Profiter du Pouvoir d'être PDG d'OpenAI
Sam Altman apprécie le pouvoir que lui confère le fait d'être PDG d'OpenAI, mais il a également mentionné les décisions étranges qu'il pourrait devoir prendre. Il a de nombreuses raisons égoïstes de le faire, et il bénéficie de tout le pouvoir de diriger OpenAI. Il ne pense pas que ce soit particulièrement altruiste car cela le serait s'il n'avait pas déjà beaucoup d'argent. L'argent va s'accumuler plus rapidement qu'il ne pourra le dépenser de toute façon. Il aime ne pas être en conflit d'intérêts avec OpenAI car il pense que la chance qu'ils aient à prendre une décision très étrange un jour est non négligeable.
🤖 Plaisir de Sam Altman d'être PDG d'OpenAI - Avantages et Inconvénients
Avantages :
- Sam Altman apprécie le pouvoir que lui confère le fait d'être PDG d'OpenAI.
- Il aime ne pas être en conflit d'intérêts avec OpenAI.
Inconvénients :
- Il pourrait devoir prendre des décisions étranges.
- Ce n'est pas particulièrement altruiste car il a déjà beaucoup d'argent.
🤖 Possibles Regrets d'avoir Déclenché la Course à l'IA
Samuelman a laissé entendre à deux reprises, une fois en Jordanie et une fois en Inde, qu'il pourrait avoir des regrets d'avoir déclenché la course à l'IA. Il pense qu'ils auront certainement de gros regrets dans 20 ans. Il espère pouvoir dire qu'ils ont fait beaucoup, beaucoup, beaucoup plus de bien que de mal. Les conséquences ici sont assez importantes, et il pense qu'ils ressentent ce poids chaque jour. Il pense que s'ils doivent regretter quelque chose, ce serait d'avoir déjà appuyé sur le bouton. Ils ont déjà lancé cette révolution, et elle échappe en quelque sorte à leur contrôle. Il pense que cela va être formidable, mais cela va se produire maintenant. Le monde est en marche. Ce qui le préoccupe le plus, c'est qu'ils ont déjà fait quelque chose de vraiment mauvais. Il ne pense pas qu'ils l'aient fait, mais l'hypothèse selon laquelle ils ont déjà lancé Chachi PT dans le monde, propulsant ainsi l'industrie comme un railgun, signifie qu'ils n'ont plus beaucoup d'impact, et qu'il va y avoir une accélération vers la création de ces systèmes, qu'il pense encore être utilisés pour un bien énorme, et il pense qu'ils vont résoudre tous les problèmes, mais peut-être qu'il y a quelque chose de vraiment difficile et compliqué qu'ils n'ont pas compris, et qu'ils ont déjà lancé tout cela.
🤖 Possibles Regrets d'avoir Déclenché la Course à l'IA - Avantages et Inconvénients
Avantages :
- Ils ont fait beaucoup, beaucoup, beaucoup plus de bien que de mal.
- La révolution de l'IA va être formidable.
Inconvénients :
- Ils ont peut-être déjà fait quelque chose de vraiment mauvais.
- Ils pourraient ne plus avoir beaucoup d'impact.
🤖 Les Risques de la Superintelligence ne sont pas de la Science-Fiction
Samuelman et le scientifique en chef d'OpenAI, Ilya Satskova, sont tous deux d'accord pour dire que les risques de la superintelligence ne relèvent pas de la science-fiction. Ils pensent qu'il serait une grosse erreur de construire une IA de superintelligence que nous ne savons pas contrôler. Ils estiment que le monde devrait considérer cela non pas comme un risque de science-fiction qui ne se réalisera jamais, mais comme quelque chose que nous pourrions avoir à affronter dans la prochaine décennie, ce qui n'est pas très long.
🤖 Les Risques de la Superintelligence ne sont pas de la Science-Fiction - Avantages et Inconvénients
Avantages :
- Les risques de la superintelligence ne relèvent pas de la science-fiction.
- Le monde devrait considérer cela non pas comme un risque de science-fiction qui ne se réalisera jamais, mais comme quelque chose que nous pourrions avoir à affronter dans la prochaine décennie.
Inconvénients :
- Ce serait une grosse erreur de construire une IA de superintelligence que nous ne savons pas contrôler.
🤖 Deepfake de Lui-même et Société s'habituant à la Désinformation
Sam Altman ne semble pas trop perturbé non seulement par un deepfake de lui-même, mais aussi par le fait que la société s'habitue à la désinformation. Il pense que, en tant que société, nous allons nous élever à la hauteur de l'occasion. Nous allons rapidement apprendre à ne pas faire confiance aux vidéos à moins de faire confiance à leur provenance. Si les gens disent quelque chose de vraiment important, ils le signeront de manière cryptographique.
🤖 Deepfake de Lui-même et Société s'habituant à la Désinformation - Avantages et Inconvénients
Avantages :
- En tant que société, nous allons nous élever à la hauteur de l'occasion.
- Nous allons rapidement apprendre à ne pas faire confiance aux vidéos à moins de faire confiance à leur provenance.
