Стручњаци за технологију потписују отворено писмо позивајући на привремену паузу у системима за обуку вештачке интелигенције напреднијим од GPT-4
Укратко
Више од 1100 потписника потписало је отворено писмо позивајући на паузу у огромним експериментима АИ.
Међу потписницима су, између осталих, Илон Маск, Стив Вознијак и Емад Мостак.
Отворено писмо је изазвало забринутост због пристрасности информација од стране АИ, аутоматизација посла и ризик од АИ по људску цивилизацију.
Више од 1,100 потписника, укључујући водеће технолошке стручњаке, потписало је отворено писмо позивајући на шестомесечну паузу за обуку напреднијих система вештачке интелигенције од GPT-4.
Писмо је написао Институт за будућност живота, непрофитна организација која ради на смањењу глобалних катастрофалних и егзистенцијалних ризика са којима се човечанство суочава, посебно егзистенцијалног ризика од напредне вештачке интелигенције.
Цитирајући широко прихваћене Асиломар АИ Принципе, у којима се каже да би „Напредна АИ могла представљати дубоку промену у историји живота на Земљи, и да би требало да се планира и да се њиме управља са сразмерном пажњом и ресурсима“, у писму се каже да ниво планирања и управљање се не дешава.
У писму се даље каже да су АИ лабораторије у трци „ван контроле“ да развију све снажнију вештачку интелигенцију коју нико не може да разуме, предвиди или поуздано контролише. Као што су савремени системи вештачке интелигенције GPT-4 могу такмичити се са људима у вези са општим задацима, писмо изазива забринутост због пристрасности информација од стране вештачке интелигенције, аутоматизације послова и ризика од губитка контроле над људском цивилизацијом.
„Позивамо све АИ лабораторије да одмах паузирају на најмање 6 месеци обуку система вештачке интелигенције који су моћнији од GPT-4. Ова пауза треба да буде јавна и проверљива и да укључује све кључне актере. Ако се таква пауза не може брзо донети, владе би требало да уђу и уведу мораторијум“,
у писму стоји.
У писму се моле лабораторији за вештачку интелигенцију и технолошке стручњаке да искористе период паузе за развој и имплементацију безбедносних протокола за напредни дизајн и развој АИ који су под ригорозном ревизијом и надгледањем од стране независних спољних стручњака.
Међутим, амерички новинар Џеф Џарвис критиковао је писмо, изрека да је то „први пример моралне панике“.
Неки од водећих умова у технологији и машинском учењу који су потписали писмо заједно са истраживачима ДеепМинд-а и неколико универзитетских професора из целог света укључују:
- Јосхуа Бенгио, Универзитет у Монтреалу, Турингов лауреат за развој дубоког учења, шеф Монтреалског института за алгоритме учења
- Стјуарт Расел, Беркли, професор рачунарских наука, директор Центра за интелигентне системе и коаутор стандардног уџбеника „Вештачка интелигенција: савремени приступ“
- Елон Муск, извршни директор СпацеКс-а, Тесле и Твитера
- Емад Мостакуе, извршни директор, Stability AI
- Јаан Таллинн, суоснивач Скипе-а, Центар за проучавање егзистенцијалног ризика, Институт за будућност живота
- Гери Маркус, Универзитет у Њујорку, истраживач вештачке интелигенције, професор емеритус
- Марк Ротенберг, Центар за вештачку интелигенцију и дигиталну политику (ЦАИДП), председник
У недавно писмо, Ротенберг је написао да ће ЦАИДП поднети жалбу Федералној трговинској комисији, позивајући на истрагу отворене вештачке интелигенције и ChatGPT, као и забрану даљег комерцијалног пуштања производа у промет док се не успоставе заштитне мере.
OpenAI Извршни директор Сем Алтман има признао да „нам такође треба довољно времена да наше институције схвате шта да раде“ и да друштво није далеко од „потенцијално застрашујућих“ генеративних АИ алата.
„Тражимо од ФТЦ-а да „притисне дугме за паузу“ тако да постоји прилика да наше институције, наши закони и наше друштво сустигну корак. Морамо да потврдимо своју моћ над технологијама које стварамо пре него што изгубимо контролу“, наводи се у писму ЦАИДП-а.
На другом месту, законодавци ЕУ имају за циљ да потпишу споразум са земљама ЕУ до краја године о примени правила вештачке интелигенције, иако би то могло да доведе до уског грла јер се интензивирају дебате о томе како треба да се управља вештачком интелигенцијом.
Опширније:
Одрицање од одговорности
У складу са Смернице пројекта Труст, имајте на уму да информације дате на овој страници нису намењене и не треба да се тумаче као правни, порески, инвестициони, финансијски или било који други облик савета. Важно је да инвестирате само оно што можете приуштити да изгубите и да тражите независан финансијски савет ако сумњате. За додатне информације, предлажемо да погледате одредбе и услове, као и странице помоћи и подршке које пружа издавач или оглашивач. MetaversePost је посвећен тачном, непристрасном извештавању, али тржишни услови су подложни променама без претходне најаве.
О аутору
Цинди је новинар у Metaverse Post, покривајући теме везане за web3, NFT, метаверсе и АИ, са фокусом на интервјуе са Web3 играчи у индустрији. Разговарала је са преко 30 Ц-нивоа руководилаца и све више, доносећи читаоцима њихове драгоцене увиде. Пореклом из Сингапура, Синди је сада смештена у Тбилисију, Грузија. Дипломирала је комуникације и медијске студије на Универзитету Јужне Аустралије и има деценију искуства у новинарству и писању. Ступите у контакт са њом путем [емаил заштићен] са изјавама за штампу, најавама и могућностима за интервјуе.
više чланака
Цинди је новинар у Metaverse Post, покривајући теме везане за web3, NFT, метаверсе и АИ, са фокусом на интервјуе са Web3 играчи у индустрији. Разговарала је са преко 30 Ц-нивоа руководилаца и све више, доносећи читаоцима њихове драгоцене увиде. Пореклом из Сингапура, Синди је сада смештена у Тбилисију, Грузија. Дипломирала је комуникације и медијске студије на Универзитету Јужне Аустралије и има деценију искуства у новинарству и писању. Ступите у контакт са њом путем [емаил заштићен] са изјавама за штампу, најавама и могућностима за интервјуе.
