OpenAI: АИ би потенцијално могао нанети много штете људима, али покушај да се заустави напредак није опција
Укратко
OpenAIДокумент „Планирање за АГИ и даље“ предлаже постепено, споро увођење сложенијих и „паметних“ модела, организовање независних ревизија великих система и ограничавање рачунарских ресурса.
OpenAI жели да АИ буде отворен за све подједнако и да ствара конзистентније и управљиви модели да смањи пристрасност и непожељно понашање.
OpenAI недавно објавио документ под називом „Планирање за АГИ и даље“. Он описује широке идеје које усмеравају акције компаније док се свет приближава развоју АГИ (вештачке опште интелигенције).
OpenAI са верује да иако вештачка интелигенција има потенцијал да нанесе значајну штету људима, покушај да се заустави напредак није опција. Као резултат тога, морамо научити како да одржавамо ово побољшање тако да се значајно не погорша.
Документ се може наћи ovde. Хајде да истакнемо неколико кључних елемената из тога:
- OpenAI жели да АГИ помогне људима да напредују у свим аспектима њиховог живота, како економски тако и научни.
Уместо да креирате супер-кул велику вештачку интелигенцију и одмах је пустите у свет, OpenAI постепено ће уводити компликованије и „паметније“ моделе. Претпоставка је да постепено повећање способности вештачке интелигенције неће шокирати свет, дајући људима времена да се прилагоде, прилагоде економију и изграде процедуре за интеракцију са АИ. - OpenAI позива све организације да формално усвоје горе поменути принцип (постепено увођење моћне вештачке интелигенције). Алтман такође препоручује ограничавање количине рачунарских ресурса који се могу користити за обуку модела и постављање непристрасних ревизија главних система пре него што они буду доступни широј јавности. Уместо да учествујете у такмичењима попут „ко ће први представити хладнији и већи модел?“ OpenAI тражи од предузећа да раде заједно за побољшање безбедности АИ.
- OpenAI сматра да је кључно да владе буду информисане о обукама које превазилазе одређени обим. Ово је интригантан концепт и желели бисмо да знамо више о томе планови OpenAI има у том погледу. Овај предлог ми се у почетку не чини баш сјајним.
- OpenAI ће покушати да развије моделе који су поузданији и подложнији контроли, који ће највероватније ограничити пристрасност и неповољно понашање у АИ. Приступ који је заузео OpenAI у овом случају је да се модел учини доступним широј јавности у веома ограниченом облику, а да се корисницима дају и могућност да га персонализују. Пошто потрошачи неће моћи ништа да „персонализују“ тамо, нисам сигуран како ће то помоћи да модел као целина постане мање пристрасан. Осим ако то не ослобађа фирму одговорности за поступке модела.
Све у свему, документ показује на прави начин. Међутим, дошло је до мањег сукоба између „нећемо одмах јавности показати цоол моделе, већ ћемо о њима причати државама“ и „људи треба да знају о напретку АИ.” Укратко, чекаћемо детаљна појашњења од OpenAI на све теме.
Прочитајте више о АИ:
Одрицање од одговорности
У складу са Смернице пројекта Труст, имајте на уму да информације дате на овој страници нису намењене и не треба да се тумаче као правни, порески, инвестициони, финансијски или било који други облик савета. Важно је да инвестирате само оно што можете приуштити да изгубите и да тражите независан финансијски савет ако сумњате. За додатне информације, предлажемо да погледате одредбе и услове, као и странице помоћи и подршке које пружа издавач или оглашивач. MetaversePost је посвећен тачном, непристрасном извештавању, али тржишни услови су подложни променама без претходне најаве.
О аутору
Дамир је вођа тима, менаџер производа и уредник у Metaverse Post, покривајући теме као што су АИ/МЛ, АГИ, ЛЛМ, Метаверсе и Web3-сродна поља. Његови чланци привлаче огромну публику од преко милион корисника сваког месеца. Чини се да је стручњак са 10 година искуства у СЕО и дигиталном маркетингу. Дамир се помиње у Масхабле, Виред, Cointelegraph, Тхе Нев Иоркер, Инсиде.цом, Ентрепренеур, БеИнЦрипто и друге публикације. Путује између УАЕ, Турске, Русије и ЗНД као дигитални номад. Дамир је стекао диплому физике, за коју верује да му је дало вештине критичког размишљања које су му потребне да буде успешан у свету интернета који се стално мења.
više чланака
Дамир је вођа тима, менаџер производа и уредник у Metaverse Post, покривајући теме као што су АИ/МЛ, АГИ, ЛЛМ, Метаверсе и Web3-сродна поља. Његови чланци привлаче огромну публику од преко милион корисника сваког месеца. Чини се да је стручњак са 10 година искуства у СЕО и дигиталном маркетингу. Дамир се помиње у Масхабле, Виред, Cointelegraph, Тхе Нев Иоркер, Инсиде.цом, Ентрепренеур, БеИнЦрипто и друге публикације. Путује између УАЕ, Турске, Русије и ЗНД као дигитални номад. Дамир је стекао диплому физике, за коју верује да му је дало вештине критичког размишљања које су му потребне да буде успешан у свету интернета који се стално мења.
