OpenAI Разкрива най-новия си подход за осигуряване на безопасност на AI
Накратко
OpenAI публикува публикация в блог, очертаваща своя подобрен подход към безопасността след неотдавнашни опасения относно безопасността и поверителността и разследванията.
Компанията обещава да проведе строги тестове, да ангажира външни експерти за обратна връзка и да работи с правителствата, за да определи най-доброто подход за регулации на ИИ.
След като се сблъска с опасения относно безопасността и поверителността и последва скорошни разследвания в някои европейски страни, OpenAI има освободен публикация в блог, очертаваща подобрения подход на компанията към безопасността.
OpenAI обещава да проведе стриктно тестване, да ангажира външни експерти за обратна връзка, преди да пусне каквато и да е нова система, и да работи с правителствата, за да определи най-добрия подход за регулациите на ИИ.
Преди това компанията прекара повече от шест месеца в работа по безопасността и настройката на най-новия си модел, GPT-4, преди да го пуснете публично. За да гарантира безопасността на най-новия си езиков модел, GPT-4, OpenAI нает екип от над 50 експерти: AI безопасност, етика и специалисти по политики, включително изследователи и инженери.
„Най-важното е, че ние вярваме, че обществото трябва да има време да актуализира и да се адаптира към все по-способния AI и че всеки, който е засегнат от тази технология, трябва да има значителна дума в това как AI ще се развива по-нататък,“
OpenAI пише.
OpenAIФокус върху безопасността и поверителността на децата
Италия е забранена ChatGPT, цитирайки OpenAIНеспособността на да провери възрастта на своите потребители, въпреки че е предназначен за лица на възраст 13 и повече години, като една от причините. Критичен фокус на усилията на компанията за безопасност се измести към защитата на децата чрез прилагане на опции за проверка на възрастта, които OpenAI сега се проучва, особено след като инструментите за изкуствен интелект са предназначени за лица на възраст 18 или повече или 13 и повече години с одобрението на родителите.
Компанията строго забранява генерирането на насаждащо омраза, тормоз, съдържание с насилие или пълнолетни, и GPT-4 вече има 82% по-ниска вероятност да отговори на заявки за забранено съдържание в сравнение с GPT-35.
OpenAI създаде стабилна система за наблюдение за злоупотреби и се надява да направи GPT-4 достъпни за повече хора с времето. Компанията работи с разработчици за персонализирани смекчаващи мерки за безопасност, като неправителствената Khan Academy, и работи върху функции, които да позволят по-строги стандарти за изходните резултати на модела.
Подобряването на поверителността е друг аспект на безопасността OpenAI се фокусира върху, особено след последните нарушения на данните. Големите езикови модели на компанията за изкуствен интелект са обучени върху огромно количество текст, който включва публично достъпно съдържание, лицензирано съдържание и съдържание, генерирано от рецензенти; той използва данни, за да направи AI моделите по-полезни за хората.
OpenAI предприема стъпки за защита на поверителността на хората чрез премахване на лична информация от своите данни за обучение, фина настройка на моделите за отхвърляне на искания за лична информация и изтриване на лична информация от своите системи при поискване. Това намалява шанса AI моделите да генерират отговори, които включват лична информация.
OpenAIподход за справяне с опасенията за безопасността на ИИ е да се изследват ефективни смекчаващи мерки и техники за подравняване и ги тествайте срещу злоупотреби в реалния свят. Той също така обещава да бъде все по-предпазлив при създаването и внедряването на по-способни модели и да подобри предпазните мерки за безопасност. Ефективното управление на разработването и внедряването на ИИ е от съществено значение за гарантиране на безопасността, което изисква технически и институционални иновации.
Чети повече:
Отказ от отговорност
В съответствие с Доверете се насоките на проекта, моля, имайте предвид, че предоставената на тази страница информация не е предназначена да бъде и не трябва да се тълкува като правен, данъчен, инвестиционен, финансов или каквато и да е друга форма на съвет. Важно е да инвестирате само това, което можете да си позволите да загубите, и да потърсите независим финансов съвет, ако имате някакви съмнения. За допълнителна информация предлагаме да се обърнете към правилата и условията, както и към страниците за помощ и поддръжка, предоставени от издателя или рекламодателя. MetaversePost се ангажира с точно, безпристрастно отчитане, но пазарните условия подлежат на промяна без предизвестие.
За автора
Агне е журналист, който отразява най-новите тенденции и развития в метавселената, ИИ и Web3 индустрии за Metaverse Post. Нейната страст към разказването на истории я кара да провежда множество интервюта с експерти в тези области, като винаги се стреми да разкрива вълнуващи и ангажиращи истории. Агне има бакалавърска степен по литература и има богат опит в писането на широк спектър от теми, включително пътуване, изкуство и култура. Тя също е била доброволец като редактор на организацията за правата на животните, където е помогнала за повишаване на осведомеността относно проблемите, свързани с хуманното отношение към животните. Свържете се с нея на [имейл защитен].
Още статии
Агне е журналист, който отразява най-новите тенденции и развития в метавселената, ИИ и Web3 индустрии за Metaverse Post. Нейната страст към разказването на истории я кара да провежда множество интервюта с експерти в тези области, като винаги се стреми да разкрива вълнуващи и ангажиращи истории. Агне има бакалавърска степен по литература и има богат опит в писането на широк спектър от теми, включително пътуване, изкуство и култура. Тя също е била доброволец като редактор на организацията за правата на животните, където е помогнала за повишаване на осведомеността относно проблемите, свързани с хуманното отношение към животните. Свържете се с нея на [имейл защитен].
