La quantité d'intelligence dans l'univers doublera tous les 18 mois, déclare Sam Altman
En bref
L'apocalypse de l'IA a commencé, la quantité d'intelligence dans l'univers doublant tous les 18 mois.
OpenAIest Sam Altman a un jour plaisanté en disant que l'IA mènerait à la fin du monde, mais avant cela, ce serait une énorme affaire.
Eric Hoel, neuroscientifique et philosophe américain à l'Université Tufts, soutient que les systèmes d'IA ne peuvent pas être considérés comme intelligents à ce stade, car ils ne comprennent pas le monde et n'ont pas de personnalité qui se manifeste dans leurs intentions et leurs actions.
L'hypothèse bayésienne du cerveau stipule que la fonction principale du cerveau est de minimiser la surprise. Si cela est vrai, l'apocalypse de l'IA a peut-être déjà commencé.
Cela suggère que ChatGPT et d'autres sont déjà plus polyvalents dans leur intelligence que n'importe quel être humain.
L'apocalypse de l'IA a commencé, modifiant le sens de la loi de Moore. Maintenant, la quantité d'intelligence dans l'univers doublera tous les 18 mois, selon Sam Altman, Chef de la direction OpenAI, l'entreprise derrière ChatGPT. Il y a à peine sept ans, Sam a plaisanté : "L'IA mènera très probablement à la fin du monde, mais avant cela, il y aura une énorme affaire." Maintenant, les gens plaisantent il ne se sépare pas d'un « sac à dos nucléaire » pour pouvoir faire exploser à distance des centres de données si GPT devient incontrôlable.
| Poste recommandé: ChatGPT Pourrait causer une dégénérescence humaine irréversible |
Pour mieux comprendre à quoi Altman fait référence dans son tweet, et pour savoir comment ne pas devenir fou pendant le boom de l'IA, nous vous recommandons de lire le "Comment naviguer dans l'apocalypse de l'IA en tant que personne saine d'esprit.» Hoel est un neuroscientifique et philosophe américain de l'Université Tufts. C'est une bonne lecture, car Hoel est un grand écrivain, alors nous defirecommande vivement de vérifier ce post.
Jetons un coup d'œil à l'un des points clés car il résume une profonde compréhension de ce qui se passe et du futur proche de l'apocalypse qui est déjà arrivée. Le principal argument des « techno-optimistes rationnels », qui estiment qu'il ne s'est rien passé d'extraordinaire et de trop risqué avec l'avènement de ChatGPT, est comme suit:
- Malgré les résultats remarquables de l'IA conversationnelle générative (comme ChatGPT, Bing, etc.), ces systèmes d'IA ne peuvent pas être considérés comme intelligents. Ils ne comprennent pas le monde et n'ont pas la motivation d'un agent. Ils n'ont pas de personnalité qui se manifeste dans leurs intentions et leurs actions, et leur intellect perçu n'est rien de plus qu'un simulacre d'intellect. À la base, ce simulacre n'est qu'un auto-remplisseur pour les mots suivants, reflétant dans son miroir probabiliste le corpus colossal et non filtré de textes écrits par des humains sur Internet.
- Si c'est le cas, alors il n'y a ni perspective proche de l'apparition d'une superintelligence ni des risques qui y sont associés (bien que, bien sûr, vous deviez vous y préparer, très probablement à l'horizon de plusieurs décennies).
| Poste recommandé: Les bots de recherche IA rendront la Big Tech encore plus puissante, déclare Christopher Millsation |
La réponse de Hoel à cette argumentation est la suivante :
- Le fait que ChatGPT, par exemple, est simplement une saisie semi-automatique des mots suivants n'implique pas qu'il ne peut pas devenir (ou est déjà devenu) un agent intelligent. Contrairement à la conscience, l'intelligence est un concept entièrement fonctionnel : si quelque chose agit intelligemment, c'est intelligent. S'il agit en tant qu'agent, c'est un agent.
- Voici un exemple explicatif. Il existe une cohorte influente de scientifiques – Carl Friston (le neuroscientifique le plus cité) et une foule d'autres noms célèbres – qui affirment que le but de notre cerveau est de minimiser la surprise. Cette « hypothèse bayésienne du cerveau » est l'une des plus courantes aujourd'hui. La théorie affirme qu'au niveau mondial, minimiser la surprise est la fonction première du cerveau. Et bien que ce ne soit qu'une des nombreuses hypothèses principales sur le fonctionnement du cerveau, supposons que ce soit vrai. Imaginez maintenant que des extraterrestres trouvent un cerveau humain, le regardent et disent : « Oh, cette chose minimise simplement la surprise ! Cela ne peut pas être la base de l'intellect et ne peut donc pas être dangereux pour les vrais porteurs de l'esprit. Réfléchissez : "Minimiser les surprises" est-il vraiment un objectif beaucoup plus difficile que la saisie semi-automatique de texte ? Ou est-ce vraiment très similaire?
- Et si c'est le cas, alors la superintelligence non humaine est peut-être déjà à proximité. Et les risques associés sont déjà bien réels. Que reste-t-il à ajouter ? Peut-être ChatGPT et d'autres sont déjà plus polyvalents dans leur intelligence que n'importe quel être humain. ChatGPT et d'autres seront probablement actifs en même temps pour les raisons suivantes : raisonnables, peu fiables et non similaires à l'esprit humain, incontrôlables dans un sens fondamental, à l'exception de certaines clôtures conçues à la hâte.
Et si tout cela est vrai, alors l'apocalypse de l'IA a déjà commencé.
Lire d'autres sujets connexes :
Clause de non-responsabilité
En ligne avec la Lignes directrices du projet de confiance, veuillez noter que les informations fournies sur cette page ne sont pas destinées à être et ne doivent pas être interprétées comme des conseils juridiques, fiscaux, d'investissement, financiers ou toute autre forme de conseil. Il est important d’investir uniquement ce que vous pouvez vous permettre de perdre et de demander des conseils financiers indépendants en cas de doute. Pour plus d'informations, nous vous suggérons de vous référer aux conditions générales ainsi qu'aux pages d'aide et de support mises à disposition par l'émetteur ou l'annonceur. MetaversePost s'engage à fournir des rapports précis et impartiaux, mais les conditions du marché sont susceptibles de changer sans préavis.
A propos de l'auteur
Damir est chef d'équipe, chef de produit et rédacteur en chef chez Metaverse Post, couvrant des sujets tels que l'IA/ML, l'AGI, les LLM, le métaverse et Web3-domaines connexes. Ses articles attirent une audience massive de plus d'un million d'utilisateurs chaque mois. Il semble être un expert avec 10 ans d'expérience dans le référencement et le marketing numérique. Damir a été mentionné dans Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto et d'autres publications. Il voyage entre les Émirats arabes unis, la Turquie, la Russie et la CEI en tant que nomade numérique. Damir a obtenu un baccalauréat en physique, ce qui, selon lui, lui a donné les compétences de pensée critique nécessaires pour réussir dans le paysage en constante évolution d'Internet.
Plus d'articles
Damir est chef d'équipe, chef de produit et rédacteur en chef chez Metaverse Post, couvrant des sujets tels que l'IA/ML, l'AGI, les LLM, le métaverse et Web3-domaines connexes. Ses articles attirent une audience massive de plus d'un million d'utilisateurs chaque mois. Il semble être un expert avec 10 ans d'expérience dans le référencement et le marketing numérique. Damir a été mentionné dans Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto et d'autres publications. Il voyage entre les Émirats arabes unis, la Turquie, la Russie et la CEI en tant que nomade numérique. Damir a obtenu un baccalauréat en physique, ce qui, selon lui, lui a donné les compétences de pensée critique nécessaires pour réussir dans le paysage en constante évolution d'Internet.
