Дарио Амодей предупреждава за пропаст в управлението, тъй като изкуственият интелект изпреварва политиките, и настоява за обвързващи реформи в областта на безопасността и икономиката
Накратко
Главният изпълнителен директор на Anthropic, Дарио Амодей, очертава рисковете, свързани с изкуствения интелект, и предлага по-строга регулация, икономически предпазни мерки и глобална координация за управление на бързия напредък на изкуствения интелект.
Дарио Амодей, главен изпълнителен директор АнтропенВ ново есе , , заяви, че изкуственият интелект се развива много по-бързо, отколкото политическите системи могат да реагират, и твърди, че политиците трябва да се адаптират бързо, тъй като граничните модели започват да променят сигурността, икономиката и публичните институции. Той сравни разликата в темпото между развитието на изкуствения интелект и законодателството с контраста между бързо развиващите се Хобити и бавния Дървобрад, заявявайки, че несъответствието става все по-належащо, тъй като моделите се подобряват в кодирането, науката и други области на знанието.
Предприемачът подчерта, че по-ранните политически усилия са били до голяма степен ограничени до мерки за прозрачност, контрол върху износа и събиране на данни, тъй като рисковете все още са били нововъзникващи и неясни. Той каза, че картината сега се е променила, посочвайки възможностите на граничните модели, които са разкрили сериозни опасения за киберсигурността и са показали, че усъвършенстваните системи с изкуствен интелект могат да повлияят на финансовата стабилност, критичната инфраструктура и националната сигурност. Той твърди, че следващият етап от политиката трябва да премине отвъд самото разкриване на информация и към обвързващи правила за модели с висок риск.
Регулиране, икономически смущения и нововъзникващи политически приоритети в ерата на изкуствения интелект
По отношение на регулирането и обществената безопасност, Дарио Амодей предложи рамка, подобна на авиационния надзор, със задължително тестване от трети страни за усъвършенствани модели преди внедряването им. Той каза, че моделите над определен праг на изчисление трябва да бъдат оценявани за рискове в киберсигурността, биологична злоупотреба, загуба на контрол и автоматизирани изследвания, които биха могли да увеличат тези заплахи. Той също така каза, че правителствата трябва да могат да забавят или блокират внедряването, ако тези рискове се считат за неприемливи, като същевременно се изискват силни практики за сигурност, редовно взаимодействие с екипи, тестове за проникване и своевременно докладване на инциденти от разработчиците на ИИ.
Есето се фокусира и върху икономическите смущения. Амодей каза, че мощният изкуствен интелект може да ускори растежа, като същевременно измести голям брой работници, като замести човешкия когнитивен труд по-бързо от предишните технологии. Той предупреди, че това може да доведе до свят на много бърз растеж, наред с трайно неравенство, което ще затрудни гарантирането на широко разпределение на ползите. Той каза, че политиката трябва да се фокусира върху измерването, подкрепата на работната сила, осигуряването на заплатите, преквалификацията и евентуално дългосрочната подкрепа на доходите, ако търсенето на работна ръка намалее значително.
В друг раздел, главният изпълнителен директор на Anthropic заяви, че изкуственият интелект може да ускори научния прогрес, особено в биомедицината, но че съществуващите регулаторни системи може да са твърде бавни, за да се справят с вълна от иновации, подпомогнати от изкуствен интелект. Той предложи да се подготвят агенции за одобрение, като FDA и EMA, за да приемат симулации, базирани на изкуствен интелект, синтетични контролни оръжия и други методи, които биха могли да съкратят разработването на лекарства, без да намаляват безопасността.
Дарио Амодей също предупреди, че изкуственият интелект може да увеличи държавната власт и да създаде нови рискове за гражданските свободи, включително автономни оръжия, масово наблюдение и нелоялно използване на изкуствен интелект от страна на правителството. Той призова за по-строги правила за отчетност, ограничения върху вътрешната употреба на напълно автономни оръжия и по-строга защита на личните данни.
Накрая той заяви, че демокрациите трябва да работят заедно по веригите за доставки на изкуствен интелект, стандартите за безопасност и икономическата координация, твърдейки, че изкуственият интелект се превръща в стратегическа технология, сравнима с ядрената енергия по своето геополитическо значение.
Отказ от отговорност
В съответствие с Доверете се насоките на проекта, моля, имайте предвид, че предоставената на тази страница информация не е предназначена да бъде и не трябва да се тълкува като правен, данъчен, инвестиционен, финансов или каквато и да е друга форма на съвет. Важно е да инвестирате само това, което можете да си позволите да загубите, и да потърсите независим финансов съвет, ако имате някакви съмнения. За допълнителна информация предлагаме да се обърнете към правилата и условията, както и към страниците за помощ и поддръжка, предоставени от издателя или рекламодателя. MetaversePost се ангажира с точно, безпристрастно отчитане, но пазарните условия подлежат на промяна без предизвестие.
За автора
Алиса, всеотдаен журналист в MPost, специализира в криптовалути, изкуствен интелект, инвестиции и обширната сфера на Web3. С остър поглед към нововъзникващите тенденции и технологии, тя предоставя изчерпателно покритие, за да информира и ангажира читателите в непрекъснато развиващия се пейзаж на дигиталните финанси.
Още статии
Алиса, всеотдаен журналист в MPost, специализира в криптовалути, изкуствен интелект, инвестиции и обширната сфера на Web3. С остър поглед към нововъзникващите тенденции и технологии, тя предоставя изчерпателно покритие, за да информира и ангажира читателите в непрекъснато развиващия се пейзаж на дигиталните финанси.
