La quantitat d'intel·ligència a l'univers es duplicarà cada 18 mesos, diu Sam Altman
En breu
L'apocalipsi de la IA ha començat, amb la quantitat d'intel·ligència a l'univers duplicant-se cada 18 mesos.
OpenAIés Sam Altman una vegada va fer broma que la IA portaria a la fi del món, però abans d'això, seria un negoci enorme.
Eric Hoel, un neurocientífic i filòsof nord-americà de la Universitat de Tufts, argumenta que els sistemes d'IA no es poden considerar intel·ligents en aquest moment, ja que no entenen el món i no tenen una personalitat que es manifesti en les seves intencions i accions.
La hipòtesi del cervell bayesià afirma que la funció principal del cervell és minimitzar la sorpresa. Si això és cert, és possible que l'apocalipsi de la IA ja hagi començat.
Això suggereix això ChatGPT i d'altres ja són més versàtils en la seva intel·ligència que qualsevol ésser humà.
L'apocalipsi de la IA ha començat, canviant el significat de la llei de Moore. Ara, la quantitat d'intel·ligència a l'univers es duplicarà cada 18 mesos, segons Sam Altman, Director general de OpenAI, l'empresa que hi ha darrere ChatGPT. Fa només set anys, Sam va fer broma: "La IA probablement portarà a la fi del món, però abans d'això, hi haurà un negoci enorme". Ara, la gent fa broma no es parteix d'una "motxilla nuclear" perquè pugui detonar de forma remota centres de dades si GPT es descontrola.
| Publicació recomanada: ChatGPT Podria provocar una degeneració humana irreversible |
Per entendre millor a què es refereix Altman en el seu tuit i per saber com no tornar-se boig durant el boom de la IA, us recomanem llegir el llibre d'Eric Hoel "Com navegar per l'apocalipsi de la IA com a persona sensata.” Hoel és un neurocientífic i filòsof nord-americà de la Universitat de Tufts. És una bona lectura, ja que Hoel és un gran escriptor, així que nosaltres defius recomano revisar aquesta publicació.
Anem a fer una ullada a un dels punts clau, ja que resumeix una comprensió profunda del que està passant i del futur proper de l'apocalipsi que ja ha arribat. L'argument principal dels "tecnooptimistes racionals", que creuen que no va passar res extraordinari i massa arriscat amb l'arribada de ChatGPT, és el següent:
- Malgrat els resultats destacats de la IA conversacional generativa (com ChatGPT, Bing, etc.), aquests sistemes d'IA no es poden considerar intel·ligents. No entenen el món i no tenen la motivació d'un agent. No tenen una personalitat que es manifesti en les seves intencions i accions, i el seu intel·lecte percebut no és més que un simulacre d'intel·lecte. En el seu nucli, aquest simulacre és només un emplenament automàtic de les paraules següents, reflectint en el seu mirall probabilístic el corpus colossal i sense filtres de textos escrits per humans d'Internet.
- Si és així, no hi ha ni una perspectiva propera de l'aparició d'una superintel·ligència ni els riscos associats amb ella (tot i que, per descomptat, cal preparar-se per a això, molt probablement a l'horitzó de dècades).
| Publicació recomanada: Els robots de cerca d'IA faran que les grans tecnologies siguin encara més potents, diu Christopher Millsacció |
La resposta de Hoel a aquesta argumentació és la següent:
- El fet que ChatGPT, per exemple, és simplement una completació automàtica de les paraules següents no implica que no pugui esdevenir (o ja s'hagi convertit) en un agent intel·ligent. A diferència de la consciència, la intel·ligència és un concepte totalment funcional: si alguna cosa actua de manera intel·ligent, és intel·ligent. Si actua com a agent, és un agent.
- Aquí teniu un exemple explicatiu. Hi ha una cohort influent de científics —Carl Friston (el neurocientífic més citat) i una sèrie d'altres noms famosos— que afirmen que el propòsit del nostre cervell és minimitzar la sorpresa. Aquesta "hipòtesi del cervell bayesià" és una de les principals actuals. La teoria afirma que, a nivell global, minimitzar la sorpresa és la funció principal del cervell. I tot i que aquesta és només una de les diverses hipòtesis principals sobre com funciona el cervell, suposem que és cert. Imagineu-vos ara que els extraterrestres troben un cervell humà, mireu-lo i diguin: "Oh, això només minimitza la sorpresa! No pot ser la base de l'intel·lecte i, per tant, no pot ser perillós per als veritables portadors de la ment. Penseu: "minimitzar les sorpreses" és realment un objectiu molt més difícil que l'emplenament automàtic de text? O és realment molt semblant?
- I si és així, potser la superintel·ligència no humana ja està a prop. I els riscos associats ja són força reals. Què més hi ha per afegir? Potser ChatGPT i d'altres ja són més versàtils en el seu intel·ligència que qualsevol ésser humà. ChatGPT i d'altres probablement estaran actius al mateix temps per les raons següents: raonable, poc fiable i no semblant a la ment humana, incontrolable en cap sentit fonamental, excepte per algunes tanques dissenyades precipitadament.
I si tot això és cert, llavors l'apocalipsi de la IA ja ha començat.
Llegeix més temes relacionats:
renúncia
En línia amb la Directrius del projecte Trust, si us plau, tingueu en compte que la informació proporcionada en aquesta pàgina no pretén ni s'ha d'interpretar com a assessorament legal, fiscal, d'inversió, financer o de cap altra forma. És important invertir només el que et pots permetre perdre i buscar assessorament financer independent si tens dubtes. Per obtenir més informació, us suggerim que feu referència als termes i condicions, així com a les pàgines d'ajuda i assistència proporcionades per l'emissor o l'anunciant. MetaversePost es compromet a fer informes precisos i imparcials, però les condicions del mercat estan subjectes a canvis sense previ avís.
About The Autor
Damir és el líder d'equip, cap de producte i editor de Metaverse Post, que cobreix temes com AI/ML, AGI, LLMs, Metaverse i Web3-camps relacionats. Els seus articles atrauen una audiència massiva de més d'un milió d'usuaris cada mes. Sembla ser un expert amb 10 anys d'experiència en SEO i màrqueting digital. Damir ha estat esmentat a Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i altres publicacions. Viatja entre els Emirats Àrabs Units, Turquia, Rússia i la CEI com a nòmada digital. Damir va obtenir una llicenciatura en física, que creu que li ha donat les habilitats de pensament crític necessàries per tenir èxit en el paisatge en constant canvi d'Internet.
més articles
Damir és el líder d'equip, cap de producte i editor de Metaverse Post, que cobreix temes com AI/ML, AGI, LLMs, Metaverse i Web3-camps relacionats. Els seus articles atrauen una audiència massiva de més d'un milió d'usuaris cada mes. Sembla ser un expert amb 10 anys d'experiència en SEO i màrqueting digital. Damir ha estat esmentat a Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i altres publicacions. Viatja entre els Emirats Àrabs Units, Turquia, Rússia i la CEI com a nòmada digital. Damir va obtenir una llicenciatura en física, que creu que li ha donat les habilitats de pensament crític necessàries per tenir èxit en el paisatge en constant canvi d'Internet.
