OpenAI Generální ředitel Sam Altman oslovil otevřený dopis o pauze v rozvoji AI a potvrdil, že žádné aktuální plány pro GPT-5 Vývoj softwaru
Stručně
Na akci MIT, OpenAI CEO Sam Altman adresoval otevřený dopis vyzývající k pozastavení rozvoje umělé inteligence: souhlasil s potřebou zvýšených bezpečnostních schopností, ale nesouhlasil s peněžní pauzou ve vývoji umělé inteligence.
Altman to potvrdil OpenAI momentálně se nepracuje GPT-5.
OpenAI Generální ředitel Sam Altman ano promluvil o nedávno zveřejněném otevřený dopis volání po pozastavení pokroku technologie AI. Altman oslovil dopis během projevu na MIT a podělil se o své názory na věc. Altman to potvrdil OpenAI momentálně netrénuje GPT-5, který je považován za nástupce GPT-4 jazykový model AI.
Minulý měsíc tisíce předních technologických odborníků, včetně Elona Muska a Steva Wozniaka, podepsaly otevřený dopis vyzývající k šestiměsíční pauze ve výcviku systémů umělé inteligence, které jsou pokročilejší než GPT-4. Dopis zdůrazňuje rostoucí obavy ze závodu ve vývoji stále výkonnější umělé inteligence a rizika, která to pro společnost představuje. Zatímco současné systémy AI mají rády GPT-4 už může konkurovat lidem v obecných úkolech, dopis varuje před potenciálními informačními zkresleními, automatizací práce a rizikem ztráty kontroly nad lidskou civilizací.
Altman souhlasil s určitými aspekty otevřeného dopisu, konkrétně s ohledem na potřebu zvýšit bezpečnostní schopnosti při vývoji AI. Uvedl to OpenAI při výcviku přijal rozsáhlá bezpečnostní opatření GPT-4včetně externích auditů a bezpečnostních kontrol.
Nesouhlasil však s navrhovanou měnovou pauzou ve vývoji umělé inteligence a upozornil na nedostatek technických specifik v dopise. Altman toto tvrzení také vyvrátil OpenAI byl trénink GPT-5, zdůrazňující důležitost přesného vyhodnocování a sledování bezpečnosti AI.
„Navíc děláme další věci GPT-4 které si myslím, že mají nejrůznější bezpečnostní problémy, které je důležité řešit a které byly z dopisu zcela vynechány,“
řekl Altman.
Dále to vysvětlil OpenAICílem společnosti je povzbudit globální zapojení do AI, přimět jednotlivce a instituce k aktualizaci nebo přizpůsobení stávajících systémů k vytvoření požadované budoucnosti.
OpenAI nedávno aktualizoval svůj přístup k bezpečnosti AI. Společnost se zavázala provádět důkladné testování, vyhledávat zpětnou vazbu od externích odborníků a spolupracovat s vládami na vývoji účinných předpisů. navíc OpenAI přijímá opatření na ochranu soukromí jednotlivců odstraněním osobních údajů z dat školení, odmítáním žádostí o osobní údaje a mazáním osobních údajů ze svých systémů. Společnost také přesunula své zaměření na ochranu dětí tím, že plánuje implementovat možnosti ověřování věku.
Čtěte více:
Odmítnutí odpovědnosti
V souladu s Pokyny k projektu Trust, prosím vezměte na vědomí, že informace uvedené na této stránce nejsou určeny a neměly by být vykládány jako právní, daňové, investiční, finanční nebo jakékoli jiné formy poradenství. Je důležité investovat jen to, co si můžete dovolit ztratit, a v případě pochybností vyhledat nezávislé finanční poradenství. Pro další informace doporučujeme nahlédnout do smluvních podmínek a také na stránky nápovědy a podpory poskytnuté vydavatelem nebo inzerentem. MetaversePost se zavázala poskytovat přesné a nezaujaté zprávy, ale podmínky na trhu se mohou bez upozornění změnit.
O autorovi
Agne je novinářka, která se zabývá nejnovějšími trendy a vývojem v metaverse, AI a Web3 průmysl pro Metaverse Post. Její vášeň pro vyprávění ji přivedla k četným rozhovorům s odborníky v těchto oblastech, ve kterých se vždy snažila odhalit vzrušující a poutavé příběhy. Agne má bakalářský titul z literatury a má rozsáhlé zkušenosti s psaním o široké škále témat, včetně cestování, umění a kultury. Přihlásila se také jako redaktorka do organizace pro práva zvířat, kde pomáhala zvyšovat povědomí o otázkách dobrých životních podmínek zvířat. Kontaktujte ji [chráněno e-mailem].
Další článkyAgne je novinářka, která se zabývá nejnovějšími trendy a vývojem v metaverse, AI a Web3 průmysl pro Metaverse Post. Její vášeň pro vyprávění ji přivedla k četným rozhovorům s odborníky v těchto oblastech, ve kterých se vždy snažila odhalit vzrušující a poutavé příběhy. Agne má bakalářský titul z literatury a má rozsáhlé zkušenosti s psaním o široké škále témat, včetně cestování, umění a kultury. Přihlásila se také jako redaktorka do organizace pro práva zvířat, kde pomáhala zvyšovat povědomí o otázkách dobrých životních podmínek zvířat. Kontaktujte ji [chráněno e-mailem].