OpenAI Розкриває свій останній підхід до забезпечення безпеки ШІ
Коротко
OpenAI опублікував допис у блозі, в якому описує вдосконалений підхід до безпеки після нещодавніх занепокоєнь щодо безпеки та конфіденційності та розслідувань.
Компанія зобов’язується проводити ретельне тестування, залучати зовнішніх експертів для отримання відгуків і співпрацювати з урядами, щоб визначити найкращі підхід до правил ШІ.
Після того, як виникли занепокоєння щодо безпеки та конфіденційності останні розслідування в деяких країнах Європи, OpenAI має випущений допис у блозі, в якому описується покращений підхід компанії до безпеки.
OpenAI обіцяє провести ретельне тестування, залучити зовнішніх експертів для отримання відгуків перед випуском будь-якої нової системи та співпрацювати з урядами, щоб визначити найкращий підхід до правил ШІ.
Раніше компанія понад шість місяців працювала над безпекою та налаштуванням своєї останньої моделі, GPT-4, перш ніж оприлюднити його публічно. Щоб забезпечити безпеку своєї найновішої моделі мови, GPT-4, OpenAI найнятий команда з понад 50 експертів: спеціалісти з безпеки штучного інтелекту, етики та політики, включаючи дослідників та інженерів.
«Найважливіше те, що ми вважаємо, що суспільство має мати час, щоб оновити та адаптуватися до все більш потужного штучного інтелекту, і що кожен, на кого впливає ця технологія, повинен мати значний вплив на подальший розвиток ШІ»,
OpenAI написав.
OpenAIЗосереджено на безпеці та конфіденційності дітей
Італія заборонена ChatGPT, цитуючи OpenAIНеможливість підтвердити вік своїх користувачів, незважаючи на те, що вони розроблені для осіб віком від 13 років, як одна з причин. Основна увага в зусиллях компанії з безпеки переміщена на захист дітей шляхом впровадження опцій перевірки віку, які OpenAI зараз досліджується, особливо тому, що інструменти штучного інтелекту призначені для осіб віком від 18 років або старше 13 років із дозволу батьків.
Компанія суворо забороняє генерувати ненависницький, образливий, насильницький або дорослий вміст, а також GPT-4 вже має на 82% нижчу ймовірність відповісти на запити щодо забороненого вмісту порівняно з GPT-3. 5.
OpenAI створив надійну систему моніторингу зловживань і сподівається досягти цього GPT-4 доступні для більшої кількості людей з часом. Компанія співпрацює з розробниками над спеціальними засобами безпеки, такими як некомерційна Академія Хана, і працює над функціями, які дозволять суворіші стандарти для вихідних даних моделей.
Покращення конфіденційності є ще одним аспектом безпеки OpenAI зосереджується на, особливо після останнього порушення даних. Великі мовні моделі компанії штучного інтелекту навчаються на величезній кількості тексту, який включає загальнодоступний вміст, ліцензований вміст і вміст, створений спеціалістами-рецензентами; він використовує дані, щоб зробити моделі AI більш корисними для людей.
OpenAI вживає заходів для захисту конфіденційності людей, видаляючи особисту інформацію зі своїх навчальних даних, налаштовуючи моделі для відхилення запитів на особисту інформацію та видаляючи особисту інформацію зі своїх систем за запитом. Це зменшує ймовірність того, що моделі штучного інтелекту створять відповіді, які містять особисту інформацію.
OpenAIпідхід вирішення проблем безпеки штучного інтелекту полягає в дослідженні ефективних засобів пом’якшення і методи вирівнювання та перевірити їх проти зловживань у реальному світі. Він також обіцяє бути дедалі обережнішим у створенні та розгортанні більш ефективних моделей і посилювати заходи безпеки. Ефективне управління розробкою та розгортанням ШІ має важливе значення для забезпечення безпеки, що вимагає технічних та інституційних інновацій.
Детальніше:
відмова
Відповідно до Правила проекту Trust, будь ласка, зверніть увагу, що інформація, надана на цій сторінці, не призначена і не повинна тлумачитися як юридична, податкова, інвестиційна, фінансова або будь-яка інша форма консультації. Важливо інвестувати лише те, що ви можете дозволити собі втратити, і звернутися за незалежною фінансовою порадою, якщо у вас виникнуть сумніви. Щоб отримати додаткову інформацію, ми пропонуємо звернутися до положень та умов, а також до сторінок довідки та підтримки, наданих емітентом або рекламодавцем. MetaversePost прагне до точного, неупередженого звітування, але ринкові умови можуть змінюватися без попередження.
про автора
Агне — журналістка, яка висвітлює останні тенденції та події в метавсесвіті, ШІ та Web3 промисловості для Metaverse Post. Її пристрасть до оповідання привела її до численних інтерв’ю з експертами в цих галузях, завжди прагнучи розкрити захоплюючі та привабливі історії. Агне має ступінь бакалавра літератури та має великий досвід написання текстів на різноманітні теми, включаючи подорожі, мистецтво та культуру. Вона також була волонтером редактора організації з прав тварин, де допомагала підвищувати обізнаність про проблеми добробуту тварин. Зв'яжіться з нею [захищено електронною поштою].
інші статті
Агне — журналістка, яка висвітлює останні тенденції та події в метавсесвіті, ШІ та Web3 промисловості для Metaverse Post. Її пристрасть до оповідання привела її до численних інтерв’ю з експертами в цих галузях, завжди прагнучи розкрити захоплюючі та привабливі історії. Агне має ступінь бакалавра літератури та має великий досвід написання текстів на різноманітні теми, включаючи подорожі, мистецтво та культуру. Вона також була волонтером редактора організації з прав тварин, де допомагала підвищувати обізнаність про проблеми добробуту тварин. Зв'яжіться з нею [захищено електронною поштою].
