OpenAI Vyvíjí Jailbreak GAN k neutralizaci rychlých hackerů, říká Rumors
Stručně
OpenAI vyvíjí nový systém založený na umělé inteligenci pro ochranu proti „pohotovým hackerům“ s několika kroky jailbreaking strategie.
Jailbreak GAN má potenciál detekovat a čelit hrozbám dříve, než se stanou vážným problémem, a mohl by být použit k vytvoření účinných bezpečnostních systémů.
OpenAI podniká nový projekt, který by mohl způsobit revoluci ve světě zabezpečení dat. Společnost zabývající se výzkumem a vývojem vyvíjí nový systém založený na umělé inteligenci na ochranu před „pohotovými hackery“ – hackery, kteří využívají data mining a další metody k využívání slabin různých online systémů, jako je např. ChatGPT. Systém nazvaný „Jailbreak GAN“ využívá generativní adversariální síť (GAN) ke generování nových protiopatření proti potenciálním útokům.
GAN jsou formou techniky umělé inteligence, která proti sobě staví dvě sítě: „generátor“, který vytváří data, která se „diskriminátor“ pokouší identifikovat. Prostřednictvím této soutěže jsou GAN schopny simulovat neuvěřitelně složitá prostředí, která lze použít ke studiu široké škály jevů.
V případě Jailbreak GAN používá diskriminátor různé techniky k detekci pokusů o hackování a spuštění protiopatření. Generátor se trénuje na řadě různých datových sad, chatů, databází a cloudových protokolů, aby vyvinul řadu protiopatření k přelstění. potenciální výzva hackery
Tým OpenAI se pokouší rozlousknout výzvu rychlého hackování pomocí několika kroků jailbreaking strategie. Tento přístup využívá kombinaci zpracování přirozeného jazyka, algoritmů strojového učení a technik posílení učení k identifikaci potenciálních zranitelností a vývoji proaktivních řešení. Komponenta GAN pak zodpovídá za vyhodnocování protiopatření a jejich průběžnou aktualizaci s každým novým útokem.
Jailbreak GAN má potenciál odhalit stávající i budoucí hrozby dříve, než se stanou vážné problémy. Jak technologie dospívá, mohla by být použita k vytvoření základu účinných bezpečnostních systémů v online systémech, podobně jako antivirus nebo jiný ochranný software.
Tým zatím neprozradil, že úspěšně otestoval schopnost systému detekovat a čelit konkrétním pokusům o hackování a v současné době zkoumá způsoby, jak jej nasadit ve volné přírodě. Není také známo, zda OpenAI spolupracuje s bezpečnostními firmami a firemními partnery na nasazení systému GAN útěk z vězení v bezpečném prostředí.
Nedávno zveřejnili vědci z Hongkongské univerzity vědy a technologie článek „Vícestupňové útočení z vězení na soukromí útoků zapnuto ChatGPT,“ ve kterém systematicky popisovali všechny možné útoky. A to není jen banalita Režim DAN ale také vývojářský režim: způsoby, jak odvodit model pomocí řetězce úvah atd.
- Před dvěma měsíci uživatelé Redditu sdílené výzvy k útěku z vězení pro odblokování ChatGPT Režim vývojáře a 100% plná aktivace featured vyhýbání se filtrům.
Přečtěte si více o AI:
Odmítnutí odpovědnosti
V souladu s Pokyny k projektu Trust, prosím vezměte na vědomí, že informace uvedené na této stránce nejsou určeny a neměly by být vykládány jako právní, daňové, investiční, finanční nebo jakékoli jiné formy poradenství. Je důležité investovat jen to, co si můžete dovolit ztratit, a v případě pochybností vyhledat nezávislé finanční poradenství. Pro další informace doporučujeme nahlédnout do smluvních podmínek a také na stránky nápovědy a podpory poskytnuté vydavatelem nebo inzerentem. MetaversePost se zavázala poskytovat přesné a nezaujaté zprávy, ale podmínky na trhu se mohou bez upozornění změnit.
O autorovi
Damir je vedoucí týmu, produktový manažer a editor ve společnosti Metaverse Post, pokrývající témata jako AI/ML, AGI, LLM, Metaverse a Web3- související obory. Jeho články přitahují každý měsíc masivní publikum čítající více než milion uživatelů. Jeví se jako odborník s 10 lety zkušeností v oblasti SEO a digitálního marketingu. Damir byl zmíněn v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a další publikace. Jako digitální nomád cestuje mezi SAE, Tureckem, Ruskem a SNS. Damir získal bakalářský titul z fyziky, o kterém se domnívá, že mu dal dovednosti kritického myšlení potřebné k úspěchu v neustále se měnícím prostředí internetu.
Další články
Damir je vedoucí týmu, produktový manažer a editor ve společnosti Metaverse Post, pokrývající témata jako AI/ML, AGI, LLM, Metaverse a Web3- související obory. Jeho články přitahují každý měsíc masivní publikum čítající více než milion uživatelů. Jeví se jako odborník s 10 lety zkušeností v oblasti SEO a digitálního marketingu. Damir byl zmíněn v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a další publikace. Jako digitální nomád cestuje mezi SAE, Tureckem, Ruskem a SNS. Damir získal bakalářský titul z fyziky, o kterém se domnívá, že mu dal dovednosti kritického myšlení potřebné k úspěchu v neustále se měnícím prostředí internetu.
