OpenAI: штучний інтелект потенційно може завдати багато шкоди людям, але намагатися зупинити прогрес – це не варіант
Коротко
OpenAIДокумент «Планування для AGI і далі» пропонує поступове, повільне впровадження більш складних і «розумних» моделей, організацію незалежного аудиту великих систем і обмеження обчислювальних ресурсів.
OpenAI хоче, щоб штучний інтелект був однаково відкритим для всіх і створював більш узгоджені та керовані моделі зменшити упередженість і небажану поведінку.
OpenAI нещодавно опублікував документ під назвою «Планування AGI і далі». У ньому викладено широкі ідеї, якими керується діяльність компанії, оскільки світ наближається до розвитку AGI (штучного загального інтелекту).
| Рекомендується: Як зробити ChatGPT і AI Content Undetectable у 2023 році |
OpenAI with вважає, що хоча штучний інтелект може завдати значної шкоди людям, намагатися зупинити прогрес не можна. У результаті ми повинні навчитися підтримувати це покращення, щоб воно не погіршилося значно.
Документ можна знайти тут. Давайте виділимо з нього кілька важливих елементів:
- OpenAI хоче, щоб AGI допомагала людям процвітати в усіх аспектах їхнього життя, як економічно, так і науково.
Замість того, щоб створювати суперкрутий великий штучний інтелект і негайно випускати його у світ, OpenAI поступово впроваджуватимуть більш складні та «розумні» моделі. Припускається, що поступове збільшення можливостей штучного інтелекту не шокує світ, даючи людям час на адаптацію, адаптацію економіки та розробку процедур для взаємодії зі штучним інтелектом. - OpenAI пропонує всім організаціям офіційно прийняти вищезазначений принцип (поступове розгортання потужного ШІ). Альтман також рекомендує обмежити кількість обчислювальних ресурсів, які можуть бути використані для навчання моделей, і встановити неупереджені аудити основних систем, перш ніж вони стануть доступними для широкого загалу. Замість участі в змаганнях на кшталт «хто першим випустить крутішу і більшу модель?» OpenAI просить підприємства працювати разом покращити безпеку ШІ.
- OpenAI вважає, що вкрай важливо, щоб уряди були поінформовані про тренування, які перевищують певний масштаб. Це інтригуюча концепція, і ми хотіли б дізнатися про неї більше плани OpenAI має з цього приводу. Ця пропозиція спочатку не здається мені такою чудовою.
- OpenAI спробує розробити моделі, які є більш надійними та керованими, щоб, швидше за все, обмежити упередження та несприятливу поведінку в ШІ. Підхід, прийнятий OpenAI у цьому випадку це зробити модель доступною для широкого загалу в дуже обмеженій формі, а також дати користувачам можливість персоналізувати її. Оскільки споживачі не зможуть там нічого «персоналізувати», я не впевнений, як це допоможе моделі в цілому стати менш упередженою. Якщо це не звільняє фірму від відповідальності за дії моделі.
Загалом, документ вказує правильно. Однак виник невеликий конфлікт між «ми не будемо одразу показувати круті моделі публіці, але розкажемо про них державам» і «люди повинні знати про прогрес ШІ». Одним словом, ми чекатимемо детальних роз’яснень від OpenAI на всі теми.
Докладніше про ШІ:
відмова
Відповідно до Правила проекту Trust, будь ласка, зверніть увагу, що інформація, надана на цій сторінці, не призначена і не повинна тлумачитися як юридична, податкова, інвестиційна, фінансова або будь-яка інша форма консультації. Важливо інвестувати лише те, що ви можете дозволити собі втратити, і звернутися за незалежною фінансовою порадою, якщо у вас виникнуть сумніви. Щоб отримати додаткову інформацію, ми пропонуємо звернутися до положень та умов, а також до сторінок довідки та підтримки, наданих емітентом або рекламодавцем. MetaversePost прагне до точного, неупередженого звітування, але ринкові умови можуть змінюватися без попередження.
про автора
Дамір є керівником групи, менеджером із продуктів і редактором Metaverse Post, що охоплює такі теми, як AI/ML, AGI, LLMs, Metaverse тощо Web3- суміжні поля. Його статті щомісяця приваблюють величезну аудиторію понад мільйон користувачів. Здається, він є експертом із 10-річним досвідом роботи в SEO та цифровому маркетингу. Даміра згадували в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto та інші видання. Він подорожує між ОАЕ, Туреччиною, Росією та СНД як цифровий кочівник. Дамір отримав ступінь бакалавра з фізики, що, на його думку, дало йому навички критичного мислення, необхідні для досягнення успіху в Інтернеті, який постійно змінюється.
інші статті
Дамір є керівником групи, менеджером із продуктів і редактором Metaverse Post, що охоплює такі теми, як AI/ML, AGI, LLMs, Metaverse тощо Web3- суміжні поля. Його статті щомісяця приваблюють величезну аудиторію понад мільйон користувачів. Здається, він є експертом із 10-річним досвідом роботи в SEO та цифровому маркетингу. Даміра згадували в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto та інші видання. Він подорожує між ОАЕ, Туреччиною, Росією та СНД як цифровий кочівник. Дамір отримав ступінь бакалавра з фізики, що, на його думку, дало йому навички критичного мислення, необхідні для досягнення успіху в Інтернеті, який постійно змінюється.
