OpenAI Открива свој најновији приступ обезбеђивању безбедности вештачке интелигенције
Укратко
OpenAI је објавио пост на блогу у којем је изнео свој побољшани приступ безбедности након недавних забринутости у вези са безбедношћу и приватношћу и истрагама.
Компанија се обавезује да ће спровести ригорозно тестирање, ангажовати спољне стручњаке за повратне информације и радити са владама на одређивању најбољег приступ за АИ прописе.
Након суочавања са забринутошћу у вези са безбедношћу и приватношћу и праћењем недавне истраге у неким европским земљама, OpenAI има ослобођен пост на блогу који описује побољшани приступ компаније безбедности.
OpenAI обећава да ће спровести ригорозно тестирање, ангажовати спољне стручњаке за повратне информације пре објављивања било ког новог система и радити са владама на одређивању најбољег приступа за АИ прописе.
Претходно је компанија провела више од шест месеци радећи на безбедности и усклађивању свог најновијег модела, GPT-4, пре него што га јавно објави. Да бисмо осигурали безбедност свог најновијег језичког модела, GPT-4, OpenAI ангажован тим од преко 50 стручњака: стручњака за безбедност, етику и политику вештачке интелигенције, укључујући истраживаче и инжењере.
„Најважније, верујемо да друштво мора имати времена да се ажурира и прилагоди све способнијој вештачкој интелигенцији и да би свако ко је погођен овом технологијом требало да има значајну реч о даљем развоју АИ“,
OpenAI написао.
OpenAIФокус на безбедност и приватност деце
Италија забрањена ChatGPT, цитинг OpenAIНеуспех компаније да потврди старост својих корисника, упркос томе што је дизајниран за појединце од 13 и више година, као један од разлога. Критички фокус безбедносних напора компаније померио се на заштиту деце применом опција верификације узраста, које OpenAI сада истражује, посебно зато што су АИ алати намењени појединцима старијим од 18 година или 13 и старијим уз одобрење родитеља.
Компанија стриктно забрањује стварање садржаја мржње, узнемиравања, насиља или садржаја за одрасле, и GPT-4 већ има 82% мању вероватноћу да ће одговорити на захтеве за недозвољени садржај у поређењу са GPT-3.КСНУМКС.
OpenAI је успоставио снажан систем за праћење злоупотребе и нада се да ће GPT-4 временом доступна већем броју људи. Компанија ради са програмерима на прилагођеним безбедносним ублажавањима, као што је непрофитна Кхан академија, и ради на функцијама које омогућавају строжије стандарде за излазне моделе.
Побољшање приватности је још један аспект безбедности OpenAI се фокусира на, посебно након недавног кршења података. Велики језички модели компаније АИ обучени су за огромну количину текста који укључује садржаје који су доступни јавности, лиценцирани садржај и садржај који генерише људски рецензент; користи податке како би АИ моделе учинио кориснијим људима.
OpenAI предузима кораке да заштити приватност појединаца уклањањем личних података из својих података о обуци, финим подешавањем модела за одбијање захтева за личним информацијама и брисањем личних података из својих система на захтев. Ово смањује шансу да АИ модели генеришу одговоре који укључују личне податке.
OpenAIприступ решавање проблема безбедности вештачке интелигенције је истраживање ефикасних ублажавања и технике усклађивања и тестирати их против злоупотребе у стварном свету. Такође се обавезује да ће бити све опрезнији у креирању и примени способнијих модела и да ће побољшати мере предострожности. Ефикасно управљање развојем и применом вештачке интелигенције је од суштинског значаја за осигурање безбедности, што захтева техничке и институционалне иновације.
Опширније:
Одрицање од одговорности
У складу са Смернице пројекта Труст, имајте на уму да информације дате на овој страници нису намењене и не треба да се тумаче као правни, порески, инвестициони, финансијски или било који други облик савета. Важно је да инвестирате само оно што можете приуштити да изгубите и да тражите независан финансијски савет ако сумњате. За додатне информације, предлажемо да погледате одредбе и услове, као и странице помоћи и подршке које пружа издавач или оглашивач. MetaversePost је посвећен тачном, непристрасном извештавању, али тржишни услови су подложни променама без претходне најаве.
О аутору
Агне је новинарка која покрива најновије трендове и развој метаверзума, вештачке интелигенције и Web3 индустрије за Metaverse Post. Њена страст за приповедањем прича ју је навела да води бројне интервјуе са стручњацима из ових области, увек настојећи да открије узбудљиве и занимљиве приче. Агне је дипломирала књижевност и има богато искуство у писању о широком спектру тема, укључујући путовања, уметност и културу. Такође је волонтирала као уредница за организацију за права животиња, где је помогла у подизању свести о питањима добробити животиња. Контактирајте је [емаил заштићен].
više чланака
Агне је новинарка која покрива најновије трендове и развој метаверзума, вештачке интелигенције и Web3 индустрије за Metaverse Post. Њена страст за приповедањем прича ју је навела да води бројне интервјуе са стручњацима из ових области, увек настојећи да открије узбудљиве и занимљиве приче. Агне је дипломирала књижевност и има богато искуство у писању о широком спектру тема, укључујући путовања, уметност и културу. Такође је волонтирала као уредница за организацију за права животиња, где је помогла у подизању свести о питањима добробити животиња. Контактирајте је [емаил заштићен].
