OpenAI Окупља тим од 50+ стручњака за унапређење GPT-4'с Сафети
Укратко
OpenAI је ангажовао тим од преко 50 стручњака како би осигурао да је најновији језички модел, GPT-4, је безбедан за употребу.
Тим укључује истраживаче и инжењере специјализоване за безбедност, етику и политику вештачке интелигенције.
Циљ је да се спречи GPT-4 од генерисања штетног или пристрасног садржаја и да обезбеди да је у складу са људским вредностима.
OpenAI је ангажовао преко 50 стручњака из различитих домена за израду GPT-4 сигурније. Стручњаци су радили на контрадикторном тестирању модела како би идентификовали потенцијалне ризике и рањивости. Они су стручњаци из различитих области: дугорочни ризици усклађивања вештачке интелигенције, сајбер безбедност, биоризик и међународна безбедност. Њихови налази су помогли OpenAI проценити понашање модела у областима високог ризика које захтевају нишу стручност.
Док најновији језички модел представља сличне ризике као и мањи језички модели, додатне могућности од GPT-4 довести до нових претњи. Тако је ангажовање стручњака било пресудно за обезбеђивање безбедности технологије.
OpenAI је имплементирао додатни сет безбедносно релевантног учења за појачавање на основу захтева за обуку из људских преференција (РЛХФ) и модела награђивања заснованих на правилима (РБРМ) како би побољшао безбедност GPT-4 модел. РБРМ-ови су нулти GPT-4 класификатори који функционишу као додатни сигнал за награду за GPT-4 модел политике током финог подешавања РЛХФ. Њихова сврха је да подстакну одговарајуће понашање, као што је одбијање генерисања штетног садржаја или неодбијање безопасних захтева.
Да би се осигурала безбедност GPT-4 модели, OpenAI је почео да регрутује спољне стручњаке у августу 2022. да изводе вежбе „црвеног тима“, укључујући тестирање на стрес, тестирање граница и супротстављено тестирање. Имали су приступ раним верзијама GPT-4 модел и идентификоване почетне ризике који су мотивисали даља истраживања безбедности.
Повратне информације стручњака довеле су до техничких ублажавања и мера за спровођење политике за смањење ризика. Међутим, многе претње остају и потребна је даља евалуација.
Говорећи о запосленима у OpenAI, ChatGPT је у почетку развијен уз помоћ појединаца у неким од најсиромашнијих региона света кроз OpenAIпартнерство са компанијом Сама, која запошљава милионе радника из сиромашних подручја. Неки стручњаци за етику вештачке интелигенције су критиковали OpenAI'с одлуку да аутсорс своју обуку ChatGPT модел Сама, оптужујући компанију да искоришћава јефтину радну снагу.
Опширније:
Одрицање од одговорности
У складу са Смернице пројекта Труст, имајте на уму да информације дате на овој страници нису намењене и не треба да се тумаче као правни, порески, инвестициони, финансијски или било који други облик савета. Важно је да инвестирате само оно што можете приуштити да изгубите и да тражите независан финансијски савет ако сумњате. За додатне информације, предлажемо да погледате одредбе и услове, као и странице помоћи и подршке које пружа издавач или оглашивач. MetaversePost је посвећен тачном, непристрасном извештавању, али тржишни услови су подложни променама без претходне најаве.
О аутору
Агне је новинарка која покрива најновије трендове и развој метаверзума, вештачке интелигенције и Web3 индустрије за Metaverse Post. Њена страст за приповедањем прича ју је навела да води бројне интервјуе са стручњацима из ових области, увек настојећи да открије узбудљиве и занимљиве приче. Агне је дипломирала књижевност и има богато искуство у писању о широком спектру тема, укључујући путовања, уметност и културу. Такође је волонтирала као уредница за организацију за права животиња, где је помогла у подизању свести о питањима добробити животиња. Контактирајте је [емаил заштићен].
više чланака
Агне је новинарка која покрива најновије трендове и развој метаверзума, вештачке интелигенције и Web3 индустрије за Metaverse Post. Њена страст за приповедањем прича ју је навела да води бројне интервјуе са стручњацима из ових области, увек настојећи да открије узбудљиве и занимљиве приче. Агне је дипломирала књижевност и има богато искуство у писању о широком спектру тема, укључујући путовања, уметност и културу. Такође је волонтирала као уредница за организацију за права животиња, где је помогла у подизању свести о питањима добробити животиња. Контактирајте је [емаил заштићен].
