OpenAI 50+ szakértőből álló csapatot állít össze a fejlesztés érdekében GPT-4Biztonsága
Röviden
OpenAI több mint 50 szakértőből álló csapatot bérelt fel, hogy biztosítsa a legújabb nyelvi modell, GPT-4, használata biztonságos.
A csapatban a mesterséges intelligencia biztonságára, etikájára és politikájára szakosodott kutatók és mérnökök tartoznak.
A cél a megelőzés GPT-4 kártékony vagy elfogult tartalom generálásától, és annak biztosítására, hogy az összhangban legyen az emberi értékekkel.
OpenAI több mint 50 szakértőt bérelt fel különböző területekről GPT-4 biztonságosabb. A szakértők a modell ellentmondásos tesztelésével dolgoztak, hogy azonosítsák a lehetséges kockázatokat és sebezhetőségeket. Különféle területek szakértői: hosszú távú mesterséges intelligencia összehangolási kockázatok, kiberbiztonság, biokockázat és nemzetközi biztonság. Megállapításaik segítettek OpenAI értékelje a modell viselkedését a magas kockázatú területeken, amelyek szakértelmet igényelnek.
Míg a legújabb nyelvi modell hasonló kockázatokat rejt magában, mint a kisebb nyelvi modellek, a további képességek a GPT-4 új fenyegetésekhez vezet. Így a szakértők bevonása megtörtént kulcsfontosságú a technológia biztonságának biztosításában.
OpenAI bevezetett egy további biztonsági vonatkozású megerősítő tanulást az emberi preferenciákból (RLHF) képzési utasításokat és szabályalapú jutalmazási modelleket (RBRM), hogy javítsa az emberek biztonságát. GPT-4 modell. Az RBRM-ek nulla-lövésűek GPT-4 osztályozók, amelyek extra jutalomjelként funkcionálnak a GPT-4 politikai modellt az RLHF finomhangolása során. Céljuk a megfelelő viselkedés ösztönzése, például a káros tartalom létrehozásának elutasítása vagy az ártalmatlan kérések elutasítása.
A biztonság érdekében a GPT-4 modellek, OpenAI 2022 augusztusában megkezdte a külső szakértők toborzását a „red teaming” gyakorlatok elvégzésére, beleértve a stressztesztet, a határtesztet és a kontradiktórius tesztelést. Hozzáfértek a korai verziókhoz GPT-4 modellt, és azonosította a kezdeti kockázatokat, amelyek további biztonsági kutatásokat motiváltak.
A szakértők visszajelzései a kockázatok csökkentését célzó technikai mérséklések és politikai végrehajtási intézkedésekhez vezettek. Sok fenyegetés azonban továbbra is fennáll, és további értékelésre van szükség.
Beszélgetés az alkalmazottakról itt OpenAI, ChatGPT kezdetben volt fejlett a világ legszegényebb régióiban élő személyek segítségével OpenAIpartnerség a Sama nevű céggel, amely több millió munkavállalót foglalkoztat elszegényedett területekről. Az AI etikával foglalkozó egyes szakértők bírálták OpenAIdöntését, hogy kiszervezi a képzését ChatGPT modellt Samának, azzal vádolva a céget, hogy olcsó munkaerőt használ ki.
Bővebben:
A felelősség megtagadása
Összhangban a A Trust Project irányelvei, kérjük, vegye figyelembe, hogy az ezen az oldalon közölt információk nem minősülnek jogi, adózási, befektetési, pénzügyi vagy bármilyen más formájú tanácsnak, és nem is értelmezhetők. Fontos, hogy csak annyit fektessen be, amennyit megengedhet magának, hogy elveszítsen, és kérjen független pénzügyi tanácsot, ha kétségei vannak. További információkért javasoljuk, hogy tekintse meg a szerződési feltételeket, valamint a kibocsátó vagy hirdető által biztosított súgó- és támogatási oldalakat. MetaversePost elkötelezett a pontos, elfogulatlan jelentéstétel mellett, de a piaci feltételek előzetes értesítés nélkül változhatnak.
A szerzőről
Agne újságíró, aki a metaverzum legújabb trendjeivel és fejleményeivel foglalkozik, az AI és Web3 iparágak számára Metaverse Post. A történetmesélés iránti szenvedélye arra késztette, hogy számos interjút készített e területek szakértőivel, mindig izgalmas és lebilincselő történetek feltárására törekedve. Agne irodalomból bachelor diplomát szerzett, és széleskörű írási háttérrel rendelkezik számos témakörben, beleértve az utazást, a művészetet és a kultúrát. Önkéntesként jelentkezett szerkesztőként az állatvédő szervezetnél is, ahol segített felhívni a figyelmet az állatjóléti kérdésekre. Vegye fel vele a kapcsolatot [e-mail védett].
További cikkek
Agne újságíró, aki a metaverzum legújabb trendjeivel és fejleményeivel foglalkozik, az AI és Web3 iparágak számára Metaverse Post. A történetmesélés iránti szenvedélye arra késztette, hogy számos interjút készített e területek szakértőivel, mindig izgalmas és lebilincselő történetek feltárására törekedve. Agne irodalomból bachelor diplomát szerzett, és széleskörű írási háttérrel rendelkezik számos témakörben, beleértve az utazást, a művészetet és a kultúrát. Önkéntesként jelentkezett szerkesztőként az állatvédő szervezetnél is, ahol segített felhívni a figyelmet az állatjóléti kérdésekre. Vegye fel vele a kapcsolatot [e-mail védett].
