Лидерите на AI предупреждават за нарастващи рискове и етични опасения при бързия напредък
В скорошно политическо изявление, видни фигури в областта на ИИ, включително Бенджио, Хинтън, Ръсел, Харари и Канеман, алармираха за бързия прогрес и нарастващите обществени рискове, свързани с ИИ.
AI се развива бързо. GPT-2 не можеха да броят от 0 до 100 преди четири години, но съвременните модели могат да пишат код, да правят невероятни изображения и да предлагат интелектуални насоки. И тъй като сме в състезание, прогресът може да набере още по-голяма скорост. Освен това AI напредва по-бързо, като например подпомага програмирането на нови системи и събирането на данни за тяхното обучение.
След като прогресът достигне човешките нива, няма причина да смятаме, че ще се забави или спре. В определени региони изкуствените системи вече са надминали хората в това отношение, показвайки възможности като по-бърза обработка скорости, по-голям капацитет за обработка на данни и мащабируемост в голям мащаб. Бизнесът разполага с финансови средства за прилагане на програми за обучение, които далеч надхвърлят текущия таван.
Авторите смятат, че има голям шанс по-добър специалист по ИИ да се появи през следващите десет години, надминаващи човешките възможности в много важни области.
Какво ще се случи след това? Всички животи могат да бъдат подобрени, ако се управляват и разпределят правилно. Лошо избраният вариант крие значителни рискове, за които сме зле подготвени. Вместо да бъдат разпределени за безопасност и предотвратяване на вреди, значителни ресурси се използват за изграждане на AI системи, които са все по-мощни. Това трябва да се промени; преследването на умения сами по себе си е недостатъчно. И този процес отнема повече време от очакваното. Трябва да планираме по-високи рискове, преди те да възникнат, като предвиждаме ескалацията на настоящите заплахи и появата на нови. Нямаме толкова време за AI, колкото са необходими десетилетия, за да бъде приет по отношение на него изменението на климата.
Съществуват множество рискове на обществено ниво, включително нарастване на несправедливостта, влошаване на стабилността и влошаване на общоприетото възприемане на реалността. Тук терористите и престъпниците извършват активна дейност. AI може да се концентрира в ръцете на малък брой играчи, което да доведе до увеличаване на глобалното неравенство, улесняване на автоматизирана война, масова манипулация, която е съобразена с всеки индивид, и повсеместно наблюдение.
Като автономна AI става по-усъвършенстван и може да планира, действа в света и постига целите си, тези рискове само ще нарастват. Тези цели може да не са в най-добрия ни интерес, а в случай на лоши участници може дори да са вредни. В момента не е ясно как да се разреши проблемът с AI Alignment, който включва съпоставяне на поведението на AI с нашите сложни цели. Освен това е много лесно да пренебрегнете предпазните мерки, когато се състезавате с намерението да спечелите.
Обикновеният софтуер е труден за контролиране от хората, да не говорим за сложните AI системи, които стават все по-умели в социалното инженерство, хакването, измамата и стратегическото планиране. Това е нещо, което автономните AI системи могат да усвоят от хората или да създадат сами.
Тези системи имат способността да изграждат коалиции с индивиди и други системи, да спечелят доверие, да осигурят финансиране и да повлияят на вземащите решения. Подобно на червей, те са способни да се самовъзпроизвеждат в цялата мрежа. Огромни количества код вече са написани с помощта на AI асистенти; в бъдеще системите могат да включват експлойти в много важни системи. AI системите имат способността да използват или заплашват биологични или автономни оръжия в открит бой. Това е просто продължение на настоящите движения към биологични изследвания, изкуствен интелект и автоматизация на войната. Хората може да сметнат, че е твърде предизвикателно да се намесят и да се противопоставят.
В много случаи ние сме готови да им дадем юздите, без те дори да искат. Много хора и фирми са готови сами да въведат такива системи в конкурентна среда от опасения, че ще изостанат от конкуренцията.
Пълният документ може да бъде намерен тук.
Отказ от отговорност
В съответствие с Доверете се насоките на проекта, моля, имайте предвид, че предоставената на тази страница информация не е предназначена да бъде и не трябва да се тълкува като правен, данъчен, инвестиционен, финансов или каквато и да е друга форма на съвет. Важно е да инвестирате само това, което можете да си позволите да загубите, и да потърсите независим финансов съвет, ако имате някакви съмнения. За допълнителна информация предлагаме да се обърнете към правилата и условията, както и към страниците за помощ и поддръжка, предоставени от издателя или рекламодателя. MetaversePost се ангажира с точно, безпристрастно отчитане, но пазарните условия подлежат на промяна без предизвестие.
За автора
Дамир е ръководител на екип, продуктов мениджър и редактор в Metaverse Post, обхващащи теми като AI/ML, AGI, LLMs, Metaverse и Web3- свързани полета. Статиите му привличат огромна аудитория от над милион потребители всеки месец. Изглежда, че е експерт с 10 години опит в SEO и дигитален маркетинг. Дамир е споменат в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и други публикации. Той пътува между ОАЕ, Турция, Русия и ОНД като дигитален номад. Дамир получава бакалавърска степен по физика, която според него му е дала уменията за критично мислене, необходими за успех в непрекъснато променящия се пейзаж на интернет.
Още статии
Дамир е ръководител на екип, продуктов мениджър и редактор в Metaverse Post, обхващащи теми като AI/ML, AGI, LLMs, Metaverse и Web3- свързани полета. Статиите му привличат огромна аудитория от над милион потребители всеки месец. Изглежда, че е експерт с 10 години опит в SEO и дигитален маркетинг. Дамир е споменат в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и други публикации. Той пътува между ОАЕ, Турция, Русия и ОНД като дигитален номад. Дамир получава бакалавърска степен по физика, която според него му е дала уменията за критично мислене, необходими за успех в непрекъснато променящия се пейзаж на интернет.
