OpenAI: A mesterséges intelligencia potenciálisan sok kárt okozhat az emberekben, de a fejlődés megállítása nem megoldás
Röviden
OpenAIA „Planning for AGI and Beyond” című dokumentuma az összetettebb és „okosabb” modellek fokozatos, lassú bevezetését, a nagy rendszerek független auditálásának megszervezését és a számítási erőforrások korlátozását javasolja.
OpenAI azt akarja, hogy az AI mindenki számára egyformán nyitott legyen, és következetesebb és következetesebb legyen kezelhető modellek az elfogultság és a nemkívánatos viselkedés csökkentése érdekében.
OpenAI a közelmúltban publikált egy dokumentumot „Planning for AGI and Beyond” címmel. Felvázolja azokat a tágabb elképzeléseket, amelyek a vállalat tevékenységét irányítják, ahogy a világ közelebb kerül az AGI (mesterséges általános intelligencia) fejlesztéséhez.
OpenAI úgy véli, hogy bár a mesterséges intelligencia jelentős károkat okozhat az emberekben, a fejlődés megállításának kísérlete nem lehetséges. Ennek eredményeként meg kell tanulnunk, hogyan tartsuk fenn ezt a javulást, hogy ne romoljon jelentősen.
A dokumentum megtalálható itt. Emeljünk ki belőle néhány lényeges elemet:
- OpenAI azt akarja, hogy az AGI segítsen az embereknek boldogulni életük minden területén, mind gazdasági, mind tudományos szempontból.
Ahelyett, hogy szupermenő, nagy mesterséges intelligencia létrehozása és azonnali világra hozatala lenne, OpenAI fokozatosan bevezeti a bonyolultabb és „okosabb” modelleket. Az a feltételezés, hogy a fokozatosan növekvő mesterséges intelligencia-képességek nem fogják sokkolni a világot, így az embereknek ideje lesz alkalmazkodni, alkalmazkodni a gazdasághoz, és eljárásokat kidolgozni az MI-vel való interakcióhoz. - OpenAI felkér minden szervezetet, hogy formálisan is fogadja el a fent említett elvet (fokozatosan terjessze be a hatékony MI-t). Altman azt is javasolja, hogy korlátozzák a modellek betanításához felhasználható számítási erőforrások mennyiségét, és állítsák be a főbb rendszerek pártatlan auditálását, mielőtt azok a nagyközönség számára elérhetővé válnának. Ahelyett, hogy olyan versenyeken veszne részt, mint például: „Ki lesz az első, aki kidob egy menőbb és nagyobb modellt?” OpenAI kéri a vállalkozásokat együtt dolgozni az AI biztonságának javítása érdekében.
- OpenAI kritikus fontosságúnak tartja, hogy a kormányokat tájékoztassák azokról a képzésekről, amelyek túllépnek egy adott léptéket. Ez egy érdekes koncepció, és szeretnénk többet megtudni a tervek OpenAI rendelkezik ezzel kapcsolatban. Ez a javaslat elsőre nem tűnik túl jónak.
- OpenAI Megpróbál majd megbízhatóbb és irányíthatóbb modelleket kidolgozni, amelyek nagy valószínűséggel korlátozzák a torzítást és a kedvezőtlen viselkedést az AI-ban. Az általa alkalmazott megközelítés OpenAI Ebben az esetben a modellt a nagyközönség számára elérhetővé kell tenni egy nagyon korlátozott formában, miközben lehetőséget ad a felhasználóknak a személyre szabásra. Mivel a fogyasztók nem tudnak semmit „személyre szabni” ott, nem vagyok benne biztos, hogy ez hogyan segíti elő a modell egészének kevésbé elfogultságát. Hacsak nem mentesíti a céget a modell tetteiért való felelősség alól.
Összességében a dokumentum a megfelelő irányba mutat. Kisebb ellentmondás volt azonban a „menő modelleket nem fogunk rögtön a nyilvánosság elé tárni, de beszélni fogunk róluk az államoknak” és a között. „Az embereknek tudniuk kell az AI fejlődéséről.” Röviden, várjuk a részletes felvilágosítást OpenAI minden témában.
Tudjon meg többet az AI-ról:
A felelősség megtagadása
Összhangban a A Trust Project irányelvei, kérjük, vegye figyelembe, hogy az ezen az oldalon közölt információk nem minősülnek jogi, adózási, befektetési, pénzügyi vagy bármilyen más formájú tanácsnak, és nem is értelmezhetők. Fontos, hogy csak annyit fektessen be, amennyit megengedhet magának, hogy elveszítsen, és kérjen független pénzügyi tanácsot, ha kétségei vannak. További információkért javasoljuk, hogy tekintse meg a szerződési feltételeket, valamint a kibocsátó vagy hirdető által biztosított súgó- és támogatási oldalakat. MetaversePost elkötelezett a pontos, elfogulatlan jelentéstétel mellett, de a piaci feltételek előzetes értesítés nélkül változhatnak.
A szerzőről
Damir a csapat vezetője, termékmenedzsere és szerkesztője Metaverse Post, olyan témákkal foglalkozik, mint az AI/ML, AGI, LLMs, Metaverse és Web3- kapcsolódó mezők. Cikkei havonta több mint egymillió felhasználót vonzanak. Úgy tűnik, szakértő, aki 10 éves tapasztalattal rendelkezik a SEO és a digitális marketing területén. Damirt a Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto és más kiadványok. Digitális nomádként utazik az Egyesült Arab Emírségek, Törökország, Oroszország és a FÁK között. Damir fizikából szerzett bachelor-diplomát, és úgy gondolja, hogy ez megadta neki azokat a kritikus gondolkodási készségeket, amelyek szükségesek ahhoz, hogy sikeres legyen az internet folyamatosan változó táján.
További cikkek
Damir a csapat vezetője, termékmenedzsere és szerkesztője Metaverse Post, olyan témákkal foglalkozik, mint az AI/ML, AGI, LLMs, Metaverse és Web3- kapcsolódó mezők. Cikkei havonta több mint egymillió felhasználót vonzanak. Úgy tűnik, szakértő, aki 10 éves tapasztalattal rendelkezik a SEO és a digitális marketing területén. Damirt a Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto és más kiadványok. Digitális nomádként utazik az Egyesült Arab Emírségek, Törökország, Oroszország és a FÁK között. Damir fizikából szerzett bachelor-diplomát, és úgy gondolja, hogy ez megadta neki azokat a kritikus gondolkodási készségeket, amelyek szükségesek ahhoz, hogy sikeres legyen az internet folyamatosan változó táján.
