OpenAI Generálny riaditeľ Sam Altman adresuje otvorený list o pozastavení AI Advancement a potvrdzuje žiadne aktuálne plány pre GPT-5 Rozvoj
Stručne
Na podujatí MIT, OpenAI CEO Sam Altman adresoval otvorený list, v ktorom žiadal prestávku vo vývoji AI: súhlasil s potrebou zvýšených bezpečnostných schopností, ale nesúhlasil s peňažnou prestávkou vo vývoji AI.
Altman to potvrdil OpenAI momentálne sa nepracuje GPT-5.
OpenAI Generálny riaditeľ Sam Altman má hovoril o nedávno zverejnenom otvorený list výzva na prestávku v rozvoji technológie AI. Altman adresoval list počas prejavu na MIT a podelil sa o svoje názory na túto záležitosť. Altman to potvrdil OpenAI momentálne netrénuje GPT-5, ktorý je považovaný za nástupcu GPT-4 jazykový model AI.
Minulý mesiac tisíce popredných technologických expertov, vrátane Elona Muska a Steva Wozniaka, podpísali otvorený list, v ktorom žiadali šesťmesačnú prestávku vo výcviku systémov AI, ktoré sú pokročilejšie než GPT-4. List poukazuje na rastúce obavy z pretekov vo vývoji čoraz výkonnejšej AI a na riziká, ktoré to predstavuje pre spoločnosť. Zatiaľ čo súčasné systémy AI majú radi GPT-4 už môže konkurovať ľuďom vo všeobecných úlohách, list varuje pred potenciálnymi informačnými zaujatosťami, automatizáciou práce a rizikom straty kontroly nad ľudskou civilizáciou.
Altman súhlasil s určitými aspektmi otvoreného listu, najmä pokiaľ ide o potrebu zvýšiť bezpečnostné schopnosti pri vývoji AI. Uviedol to OpenAI pri výcviku prijal rozsiahle bezpečnostné opatrenia GPT-4vrátane externých auditov a bezpečnostných kontrol.
Nesúhlasil však s navrhovanou peňažnou prestávkou vo vývoji AI a upozornil na nedostatok technickej špecifikácie v liste. Altman tiež vyvrátil tvrdenie, že OpenAI bol tréning GPT-5, zdôrazňujúc dôležitosť presného hodnotenia a monitorovania bezpečnosti AI.
„Navyše robíme aj iné veci GPT-4 ktoré podľa mňa majú všetky druhy bezpečnostných problémov, ktoré je dôležité riešiť a boli úplne vynechané z listu,“
povedal Altman.
Ďalej to vysvetlil OpenAICieľom spoločnosti je podporiť globálne zapojenie sa do AI a podnietiť jednotlivcov a inštitúcie, aby aktualizovali alebo prispôsobili existujúce systémy tak, aby vytvorili želanú budúcnosť.
OpenAI nedávno aktualizoval svoj prístup k bezpečnosti AI. Spoločnosť sa zaviazala vykonávať dôkladné testovanie, vyhľadávať spätnú väzbu od externých odborníkov a spolupracovať s vládami na vývoji účinných predpisov. Navyše, OpenAI prijíma opatrenia na ochranu súkromia jednotlivca odstránením osobných údajov zo školiacich údajov, odmietnutím žiadostí o osobné údaje a odstránením osobných údajov zo svojich systémov. Spoločnosť tiež posunula svoje zameranie na ochranu detí plánovaním implementácie možností overovania veku.
Prečítajte si viac:
Vylúčenie zodpovednosti
V súlade s Pokyny k projektu Trust, uvedomte si, že informácie uvedené na tejto stránke nie sú zamýšľané a nemali by byť interpretované ako právne, daňové, investičné, finančné alebo iné formy poradenstva. Je dôležité investovať len toľko, koľko si môžete dovoliť stratiť a v prípade akýchkoľvek pochybností vyhľadať nezávislé finančné poradenstvo. Ak chcete získať ďalšie informácie, odporúčame vám pozrieť si zmluvné podmienky, ako aj stránky pomoci a podpory poskytnuté vydavateľom alebo inzerentom. MetaversePost sa zaviazala poskytovať presné a nezaujaté správy, ale podmienky na trhu sa môžu zmeniť bez upozornenia.
O autorovi
Agne je novinárka, ktorá pokrýva najnovšie trendy a vývoj v oblasti metaverse, AI a Web3 priemyslu pre Metaverse Post. Jej vášeň pre rozprávanie ju priviedla k mnohým rozhovorom s odborníkmi v týchto oblastiach, pričom sa vždy snažila odhaliť vzrušujúce a pútavé príbehy. Agne má bakalársky titul v odbore literatúra a má rozsiahle skúsenosti s písaním o širokej škále tém vrátane cestovania, umenia a kultúry. Dobrovoľne pracovala aj ako redaktorka organizácie za práva zvierat, kde pomáhala zvyšovať povedomie o otázkach dobrých životných podmienok zvierat. Kontaktujte ju [chránené e-mailom].
Ďalšie články
Agne je novinárka, ktorá pokrýva najnovšie trendy a vývoj v oblasti metaverse, AI a Web3 priemyslu pre Metaverse Post. Jej vášeň pre rozprávanie ju priviedla k mnohým rozhovorom s odborníkmi v týchto oblastiach, pričom sa vždy snažila odhaliť vzrušujúce a pútavé príbehy. Agne má bakalársky titul v odbore literatúra a má rozsiahle skúsenosti s písaním o širokej škále tém vrátane cestovania, umenia a kultúry. Dobrovoľne pracovala aj ako redaktorka organizácie za práva zvierat, kde pomáhala zvyšovať povedomie o otázkach dobrých životných podmienok zvierat. Kontaktujte ju [chránené e-mailom].
