Dan Hendrycks: A mesterséges intelligencia és az emberek közötti választás, az evolúció nem minket választ
Röviden
Dan Hendrycks „A természetes szelekció jobban szereti a mesterséges intelligenciát, mint az emberek” kutatása ijesztő következtetés.
Tapasztalt és jól ismert kutató, aki több tucat tudományos közleményt publikált az AI-rendszerek biztonságának felméréséről.
Dan Hendrycks kutatása úgy hangzik, mint a Homo Sapiens halálos ítélete. A tanulmány következtetése "A természetes szelekció előnyben részesíti az MI-t az emberrel szemben” igazán ijesztő. Ezt nem egy olyan népszerű látnok írta, mint Dan Brown, hanem Dan Hendrycks, a California Center for AI Security (CAIS) igazgatója, egy non-profit szervezet, amely a mesterséges intelligencia biztonságának kutatására és terepmunkájára szakosodott.
Dan Hendrycks nem egy szélsőséges őrült, aki pánikba esik a mesterséges intelligencia fejlődése miatt. Tapasztalt és széles körben elismert kutató, aki több tucat tudományos közleményt publikált az AI-rendszerek biztonságának felméréséről – tesztelve, mennyire jók a kódolás, az érvelés, a törvények megértése stb. Többek között ő a társfeltalálója a Gauss-féle lineáris hibaegységek (GELU).
Jack Clark, a társaság társalapítója ChatGPT versenytárs, Anthropic, a Stanford Egyetem mesterséges intelligenciájának társelnöke, az OECD AI és számítástechnikai részlegének társelnöke és az Egyesült Államok kormányának mesterséges intelligenciával foglalkozó nemzeti tanácsadó bizottságának tagja megvitatja Hendrycks tanulmányának következtetéseit. „Az emberek reflexszerűen félre akarják söpörni az olyan kijelentést, mintha valami vad szemű őrülttől jönne, aki egy erdei kunyhóban él. Ezt szeretném előre cáfolni. Amikor egy szakértő, aki nem csak az AI-kutatásban, hanem az AI-kutatásban is rendelkezik tapasztalattal az AI-rendszerek biztonságának felmérése ír egy lap, melyben azzal érvel, hogy a jövő mesterséges intelligenciarendszerei önzően és nem az emberek érdekeinek megfelelően cselekedhetnek, vigyáznunk kell rá!
Hendrycks írásának összefoglalása:
- Ha az AI-ügynökök egyre többen lesznek intelligensebb, mint az ember, ez oda vezethet, hogy az emberiség elveszíti az irányítást a jövője felett.
- Ennek jó eséllyel nem az emberek vagy gépek valamilyen speciális rosszindulatú szándéka, hanem kizárólag a fejlesztés evolúciós elveinek az MI-re való alkalmazhatósága a darwini logika szerint.
- Ennek kockázatának minimalizálása érdekében gondosan meg kell tervezni a mesterséges intelligencia ügynökeinek belső motivációit, korlátozni kell tevékenységeiket, és intézményeket kell létrehozni az AI együttműködés ösztönzésére.
Vagyis Hendrycks 43 oldalas tudományos közleményében a legjelentősebb pontok:
1. Féltünk a Terminátor érkezésétől, de ezeknek a félelmeknek az alapjai rosszak voltak. Két hiba volt:
a. A mesterséges intelligencia antropomorfizálása motivációink hozzárendelésével stb ChatGPT megmutatta, az AI egy alapvetően más elme, az ebből eredő összes következménnyel együtt.
b. Az az elképzelés, hogy a mesterséges intelligencia egyfajta egyetlen entitás: okos vagy nem túl okos, kedves vagy nem túl kedves, de valójában ezek a nagyon különböző AI entitások hamarosan a lehető legnagyobb mértékben jelen lesznek a világon.
2. A mesterséges intelligencia jövőjéről alkotott elképzeléseinkben van egy másik alapvető hiba is – megfeledkeztünk a legfontosabb fejlesztési mechanizmusról – az evolúcióról, amely nemcsak a bioágensek, hanem az ötletek és jelentések, az anyagi eszközök és a nem anyagi intézmények fejlődését is vezérli.
3. A Földön már kezdett kialakulni egy olyan környezet, amelyben sok mesterséges intelligencia fog kifejlődni és fejlődni. Ez az evolúció a darwini logika szerint, a mesterséges intelligencia egymás közötti versenyén keresztül fog lezajlani, figyelembe véve a „szülő” intézményeik érdekeit: a vállalatok, a katonaság stb.
4. A versengő evolúció logikája ugyanarra fog vezetni, mint az embernél: az egyre intelligensebb mesterségesintelligencia-ügynökök egyre önzőbbek lesznek, és készek arra, hogy csalással és erőszakkal elérjék a célokat, a fő cél a hatalom.
5. A mesterséges intelligencia ágenseinek természetes szelekciója az önzőbb fajokat részesíti előnyben az önzetlenebbekkel szemben. A mesterséges intelligencia ügynökei önzően fognak viselkedni, és saját érdekeiket követik, nem törődnek az emberekkel, ami katasztrofális kockázatokhoz vezethet az emberiség számára.
- A petíció hogy leállítsák a nál fejlettebb AI-rendszerek fejlesztését GPT-4 polarizálta a társadalmat. Az első csoport úgy gondolja, hogy a fejlődést nem lehet megállítani, míg egy másik csoport azt hiszi, hogy a fejlődést, és néha meg is kell állítani. A harmadik csoport nem érti, hogyan GPT-4 elsősorban működik. A legfontosabb részletek ebben a szövegben az, hogy a mesterséges intelligencia nem rendelkezik tudatossággal, akarattal vagy cselekvéssel, és rosszindulatú emberek nélkül is rossz lehet.
- Geoffrey Hintont gyakran „az AI keresztapjának” nevezik, és a mélytanulási közösség vezető alakjának tartják. 40 perces interjúja ChatGPT egyedülálló abban, hogy könnyen érthető, és kevesek számára elérhető mélysége van. Kiemeli a folyamatban lévő „szellemi forradalom” fontosságát és az embertelen intelligenciát. ChatGPT, amely fejlett digitális kommunikációs képességekkel rendelkező mesterségesen intelligens ügynökön alapul.
Olvasson további kapcsolódó cikkeket:
A felelősség megtagadása
Összhangban a A Trust Project irányelvei, kérjük, vegye figyelembe, hogy az ezen az oldalon közölt információk nem minősülnek jogi, adózási, befektetési, pénzügyi vagy bármilyen más formájú tanácsnak, és nem is értelmezhetők. Fontos, hogy csak annyit fektessen be, amennyit megengedhet magának, hogy elveszítsen, és kérjen független pénzügyi tanácsot, ha kétségei vannak. További információkért javasoljuk, hogy tekintse meg a szerződési feltételeket, valamint a kibocsátó vagy hirdető által biztosított súgó- és támogatási oldalakat. MetaversePost elkötelezett a pontos, elfogulatlan jelentéstétel mellett, de a piaci feltételek előzetes értesítés nélkül változhatnak.
A szerzőről
Damir a csapat vezetője, termékmenedzsere és szerkesztője Metaverse Post, olyan témákkal foglalkozik, mint az AI/ML, AGI, LLMs, Metaverse és Web3- kapcsolódó mezők. Cikkei havonta több mint egymillió felhasználót vonzanak. Úgy tűnik, szakértő, aki 10 éves tapasztalattal rendelkezik a SEO és a digitális marketing területén. Damirt a Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto és más kiadványok. Digitális nomádként utazik az Egyesült Arab Emírségek, Törökország, Oroszország és a FÁK között. Damir fizikából szerzett bachelor-diplomát, és úgy gondolja, hogy ez megadta neki azokat a kritikus gondolkodási készségeket, amelyek szükségesek ahhoz, hogy sikeres legyen az internet folyamatosan változó táján.
További cikkek
Damir a csapat vezetője, termékmenedzsere és szerkesztője Metaverse Post, olyan témákkal foglalkozik, mint az AI/ML, AGI, LLMs, Metaverse és Web3- kapcsolódó mezők. Cikkei havonta több mint egymillió felhasználót vonzanak. Úgy tűnik, szakértő, aki 10 éves tapasztalattal rendelkezik a SEO és a digitális marketing területén. Damirt a Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto és más kiadványok. Digitális nomádként utazik az Egyesült Arab Emírségek, Törökország, Oroszország és a FÁK között. Damir fizikából szerzett bachelor-diplomát, és úgy gondolja, hogy ez megadta neki azokat a kritikus gondolkodási készségeket, amelyek szükségesek ahhoz, hogy sikeres legyen az internet folyamatosan változó táján.
