OpenAI Bemutatja legújabb megközelítését az AI biztonságának biztosítására
Röviden
OpenAI közzétett egy blogbejegyzést, amelyben felvázolja a biztonsággal kapcsolatos jobb megközelítését a biztonsággal és a magánélet védelmével kapcsolatos közelmúltbeli aggodalmak és a vizsgálatok nyomán.
A vállalat kötelezettséget vállal arra, hogy szigorú tesztelést végez, külső szakértőket von be visszajelzésekért, és együttműködik a kormányokkal a legjobb megoldás meghatározásában. megközelítés az AI-szabályozáshoz.
Miután szembesült a biztonsággal és a magánélettel kapcsolatos aggályokkal, és követte legutóbbi vizsgálatok néhány európai országban, OpenAI több mint felszabaduló egy blogbejegyzés, amely felvázolja a vállalat biztonsággal kapcsolatos továbbfejlesztett megközelítését.
OpenAI ígéretet tesz arra, hogy szigorú tesztelést hajt végre, külső szakértőket kér visszajelzésekért, mielőtt új rendszert bocsát ki, és együttműködik a kormányokkal a mesterséges intelligencia szabályozására vonatkozó legjobb megközelítés meghatározásában.
Korábban a vállalat több mint hat hónapig dolgozott legújabb modellje biztonságán és beállításán, GPT-4, mielőtt nyilvánosan közzéteszi. A legújabb nyelvi modell biztonsága érdekében GPT-4, OpenAI bérelt több mint 50 szakértőből álló csapat: mesterséges intelligencia-biztonsági, etikai és szakpolitikai szakértők, köztük kutatók és mérnökök.
"Létfontosságú, hogy hiszünk abban, hogy a társadalomnak ideje kell, hogy legyen frissíteni és alkalmazkodni az egyre hatékonyabb AI-hoz, és mindenkinek, akit érint ez a technológia, jelentős beleszólást kell kapnia a mesterséges intelligencia további fejlődésébe."
OpenAI írt.
OpenAI's a gyermekek biztonságára és magánéletére összpontosít
Olaszország betiltotta ChatGPT, idézve OpenAIEnnek egyik oka az, hogy nem ellenőrizte felhasználói életkorát, annak ellenére, hogy 13 éves vagy annál idősebb személyek számára készült. A vállalat biztonsági erőfeszítéseinek kritikus fókusza a gyermekek védelmére helyeződött át az életkor-ellenőrzési lehetőségek bevezetésével, ami OpenAI most vizsgálja, különösen azért, mert az AI-eszközöket 18 éves vagy annál idősebb, illetve 13 vagy annál idősebb személyek számára szánják szülői jóváhagyással.
A vállalat szigorúan tiltja a gyűlöletkeltő, zaklató, erőszakos vagy felnőtteknek szóló tartalom generálását, ill GPT-4 már 82%-kal kisebb valószínűséggel válaszol a tiltott tartalomra vonatkozó kérésekre, mint a GPT-3. 5.
OpenAI robusztus rendszert hozott létre a visszaélések megfigyelésére, és reméli, hogy sikerül GPT-4 idővel több ember számára elérhető. A vállalat fejlesztőkkel együttműködik a személyre szabott biztonsági intézkedéseken, mint például a non-profit Khan Academy, és olyan funkciókon dolgozik, amelyek lehetővé teszik a modellkimenetek szigorúbb szabványait.
A magánélet javítása egy másik biztonsági szempont OpenAI összpontosít, különösen a közelmúlt után adatok megsértése. A mesterséges intelligencia vállalat nagy nyelvi modelljeit hatalmas mennyiségű szövegre oktatják, amely magában foglalja a nyilvánosan elérhető tartalmakat, a licencelt tartalmakat és az emberi felülvizsgálók által generált tartalmakat; adatok segítségével teszi az AI-modelleket hasznosabbá az emberek számára.
OpenAI lépéseket tesz az egyének magánéletének védelme érdekében azáltal, hogy eltávolítja a személyes adatokat a képzési adataiból, finomhangolja a modelleket a személyes adatok iránti kérelmek elutasítása érdekében, és kérésre törli a személyes adatokat rendszereiből. Ez csökkenti annak esélyét, hogy az AI-modellek személyes adatokat tartalmazó válaszokat generáljanak.
OpenAImegközelítése A mesterséges intelligencia biztonsági aggályainak kezelése a hatékony mérséklések kutatása és igazítási technikákat, és tesztelje őket a valós visszaélésekkel szemben. Azt is ígéri, hogy egyre óvatosabb lesz a képességesebb modellek létrehozása és telepítése során, valamint fokozza a biztonsági óvintézkedéseket. A mesterséges intelligencia fejlesztésének és bevezetésének hatékony irányítása elengedhetetlen a biztonság garantálásához, ami technikai és intézményi innovációt igényel.
Bővebben:
A felelősség megtagadása
Összhangban a A Trust Project irányelvei, kérjük, vegye figyelembe, hogy az ezen az oldalon közölt információk nem minősülnek jogi, adózási, befektetési, pénzügyi vagy bármilyen más formájú tanácsnak, és nem is értelmezhetők. Fontos, hogy csak annyit fektessen be, amennyit megengedhet magának, hogy elveszítsen, és kérjen független pénzügyi tanácsot, ha kétségei vannak. További információkért javasoljuk, hogy tekintse meg a szerződési feltételeket, valamint a kibocsátó vagy hirdető által biztosított súgó- és támogatási oldalakat. MetaversePost elkötelezett a pontos, elfogulatlan jelentéstétel mellett, de a piaci feltételek előzetes értesítés nélkül változhatnak.
A szerzőről
Agne újságíró, aki a metaverzum legújabb trendjeivel és fejleményeivel foglalkozik, az AI és Web3 iparágak számára Metaverse Post. A történetmesélés iránti szenvedélye arra késztette, hogy számos interjút készített e területek szakértőivel, mindig izgalmas és lebilincselő történetek feltárására törekedve. Agne irodalomból bachelor diplomát szerzett, és széleskörű írási háttérrel rendelkezik számos témakörben, beleértve az utazást, a művészetet és a kultúrát. Önkéntesként jelentkezett szerkesztőként az állatvédő szervezetnél is, ahol segített felhívni a figyelmet az állatjóléti kérdésekre. Vegye fel vele a kapcsolatot [e-mail védett].
További cikkek
Agne újságíró, aki a metaverzum legújabb trendjeivel és fejleményeivel foglalkozik, az AI és Web3 iparágak számára Metaverse Post. A történetmesélés iránti szenvedélye arra késztette, hogy számos interjút készített e területek szakértőivel, mindig izgalmas és lebilincselő történetek feltárására törekedve. Agne irodalomból bachelor diplomát szerzett, és széleskörű írási háttérrel rendelkezik számos témakörben, beleértve az utazást, a művészetet és a kultúrát. Önkéntesként jelentkezett szerkesztőként az állatvédő szervezetnél is, ahol segített felhívni a figyelmet az állatjóléti kérdésekre. Vegye fel vele a kapcsolatot [e-mail védett].
