6-місячна пауза в навчанні штучному інтелекту – хороша ідея, але цього може бути недостатньо
Коротко
Історія з петицією та публікацією статті Юдковського поляризували суспільство.
Дилема в'язня та теорія ігор припускають, що для вирішення таких проблем потрібна критична маса здорових людей у різних місцях.
Однак у цієї ідеї є кілька «але», як-от відсутність свідомості, волі та волі в цифровій еволюції.
Історія о петиція про припинення розробки систем ШІ, більш просунутих, ніж GPT-4 помітно поляризував суспільство. Звільнення Юдковського стаття з проханням припинити подальший розвиток GPT моделі підлили масла у вогонь, особливо його пасажі про бомбардування дата-центрів.
З того, що можна спостерігати в Інтернеті, здається, що прихильників петиції набагато менше, ніж противників, які мають три основні аргументи:
| 1 | – Прогрес неможливо зупинити. – Петицію придумав OpenAI конкурентів. – Китай не чекатиме. |
| 2 | – Треба боятися не ШІ, а людей. - GPT не має свідомості, волі, прагнень або свободи волі, тому немає чого боятися. - GPT-4 шалено далекий від поневолення світу, тому що нічого не розуміє, робить дурні помилки і взагалі досить дурний. - GPT-4 не зможе керувати світом, бо не має рук/ніг. |
| 3 | – Третя група не розуміє, як GPT-4 діє в першу чергу. |
Ми не будемо зосереджуватися на третій групі, тому що їхня позиція походить від незнання. Це не означає, що всі противники штучного інтелекту знають усе про штучний інтелект; Ви можете знайти багато людей проти штучного інтелекту, яким бракує розуміння технології та того, що вона передбачає, хоча сам Юдковський дуже глибоко в темі штучного інтелекту, тому його не можна звинуватити в незнанні.
Давайте подивимося на першу групу людей – тих, хто вважає, що прогрес неможливо зупинити. Вони наводять різні, але схожі аргументи, і загалом ці люди не заперечують можливості штучного інтелекту та перспективи його впровадження та вірять, що розвиток штучного інтелекту триватиме незважаючи ні на що.
Перша теза про нестримний прогрес – це гасло, яке не обов’язково має бути правдою. Люди, здається, припинили деякі наукові експерименти, і багато колись прийнятих дослідницьких проектів більше не вважаються етичними, і подібні ніколи не були б дозволені сьогодні. Однак наскільки прогрес у минулому був зупинений інквізицією та іншими релігійними переслідуваннями, забороною книг і вбивствами вчених у Китаї (та інших країнах)? Це те, чого ми ніколи не зможемо повністю зрозуміти через упередженість виживання.
Інші тези включають підхід, який можна підсумувати як «якщо не ми, то вони». Хоча ця думка може бути більш зрозумілою, вона також не здається правильним рішенням. Це дуже схоже на дилему в'язня в теорії ігор.
Друга група аргументів є найбільш цікавою. Хоча я особисто певною мірою погоджуюся з цим, є кілька недоліків, які потрібно вирішити. Так, штучний інтелект не має свідомості, волі, свободи волі тощо. Так само, як і COVID-19, але він спричинив хаос у всьому світі. Щоб щось стало небезпечним, не потрібно мати відчуття волі та свідомості; сценарій, згідно з яким життя на землі буде знищено через вірус, не є неможливим. Виконавши роботу, він може поставити стільці на столи, вимкнути світло й піти назавжди.
Продовжуючи біологічну аналогію, є чудова стаття «Дивовижна креативність цифрової еволюції: колекція анекдотів із спільнот дослідників еволюційних обчислень і штучного життя», яка містить багато прикладів того, коли процеси йдуть у несподіваному напрямку. Навіть без еволюційного процесу все може перетворитися на неправильне узагальнення «Неправильне узагальнення цілей: чому правильних специфікацій недостатньо для правильних цілей». Надання свободи процесу оптимізації може піти не так, обговорюється в «Ризики від навченої оптимізації в передових системах машинного навчання».
При цьому ми взагалі не враховуємо ризики зловмисне використання ШІ і будь-який зловживання, що лише підживлює аргумент, що нам потрібно боятися людей, а не самого ШІ. Однак правда в тому, що ШІ може бути поганим навіть без зловмисників.
Я також погоджуюся з тим фактом, що модель робить дурні помилки, але так само роблять і люди, але ми знаємо, що вони можуть завдати шкоди. Хоча моделі роблять багато помилок, вони також можуть вирішити багато чудових, крутих і складних проблем, які звичайна людина не може вирішити. З відомої роботи «Іскри загального штучного інтелекту: ранні експерименти з GPT-4«Я був вражений тим, що штучний інтелект здатний вирішувати, хоч і не завжди правильно, проблеми Фермі, досить складні математичні задачі. Його теорія розуму та «на зразок здатності розуміти» дії інших також дуже вражають. Усе це вказує на інтелект ШІ; існуючий, але не зовсім такий, як наш.
Усунення принаймні деяких помилок моделей штучного інтелекту загалом можливо, тому їхній інтелект може лише зростати. Все, що вам потрібно зробити, це додати модуль для точних обчислень, базу фактів і перевірку з іншою моделлю.
Найголовніше у всій цій історії — це швидкість розвитку ШІ. GPT Моделі виросли надзвичайно запаморочливими темпами. Тепер є ChatGPT plugins в наявності, можна використовувати GPT моделі для написання коду, API доступні широкому загалу, і ви можете використовувати зовнішні інструменти без попереднього навчання.
GPT-4Світ, звичайно, не підкорить, але економіку може сильно похитнути. GPT-5, і майбутня ітерація моделі, можливо, не дуже далеко вперед і, ймовірно, матиме набагато сильніші можливості. І погодьтеся, ми не можемо сподіватися на розуміння ще неіснуючих моделей; ми навіть не наблизилися до розуміння тих моделей, які вже існують. У цьому сенсі шестимісячна перерва може бути хорошою ідеєю, але цього може бути просто недостатньо.
І враховуючи, що ШІ гонка почалося, немає часу вчитися.
Загалом, зважаючи на все це, я теж підписав звернення. Хоча я не вірю, що це якось допоможе.
Читайте більше пов’язаних тем:
відмова
Відповідно до Правила проекту Trust, будь ласка, зверніть увагу, що інформація, надана на цій сторінці, не призначена і не повинна тлумачитися як юридична, податкова, інвестиційна, фінансова або будь-яка інша форма консультації. Важливо інвестувати лише те, що ви можете дозволити собі втратити, і звернутися за незалежною фінансовою порадою, якщо у вас виникнуть сумніви. Щоб отримати додаткову інформацію, ми пропонуємо звернутися до положень та умов, а також до сторінок довідки та підтримки, наданих емітентом або рекламодавцем. MetaversePost прагне до точного, неупередженого звітування, але ринкові умови можуть змінюватися без попередження.
про автора
Дамір є керівником групи, менеджером із продуктів і редактором Metaverse Post, що охоплює такі теми, як AI/ML, AGI, LLMs, Metaverse тощо Web3- суміжні поля. Його статті щомісяця приваблюють величезну аудиторію понад мільйон користувачів. Здається, він є експертом із 10-річним досвідом роботи в SEO та цифровому маркетингу. Даміра згадували в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto та інші видання. Він подорожує між ОАЕ, Туреччиною, Росією та СНД як цифровий кочівник. Дамір отримав ступінь бакалавра з фізики, що, на його думку, дало йому навички критичного мислення, необхідні для досягнення успіху в Інтернеті, який постійно змінюється.
інші статті
Дамір є керівником групи, менеджером із продуктів і редактором Metaverse Post, що охоплює такі теми, як AI/ML, AGI, LLMs, Metaverse тощо Web3- суміжні поля. Його статті щомісяця приваблюють величезну аудиторію понад мільйон користувачів. Здається, він є експертом із 10-річним досвідом роботи в SEO та цифровому маркетингу. Даміра згадували в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto та інші видання. Він подорожує між ОАЕ, Туреччиною, Росією та СНД як цифровий кочівник. Дамір отримав ступінь бакалавра з фізики, що, на його думку, дало йому навички критичного мислення, необхідні для досягнення успіху в Інтернеті, який постійно змінюється.
