Всички големи технологични компании, разработващи LLM, трябва да дадат приоритет на сигурността на модела
Накратко
Изследователите създадоха система, която комбинира големи езикови модели за автономно проектиране, планиране и изпълнение на научни експерименти, демонстрирайки своите изследователски способности в три различни случая.
Моделът написа код за химични уравнения, за да разбере колко вещество е необходимо за реакцията.
- статията „Възникващи автономни научни изследователски способности на големи езикови модели“ разглежда идеята за създаване на система, която комбинира няколко големи езикови модела за автономно проектиране, планиране и изпълнение на научни експерименти. Той демонстрира изследователските възможности на агента в три различни случая, най-трудният от които е успешното осъществяване на катализирани реакции.
Основната теза на тази статия е:
- Изследователите откриха библиотека, която ви позволява да пишете код на Python и след това да прехвърляте команди за изпълнение на специален апарат за провеждане на експерименти (със смесване на вещества);
- Използвани изследователи GPT-4 за търсене в Интернет и библиотечна документация, както и възможност за стартиране на Python код (за извършване на експерименти);
- Има планировчик от най-високо ниво (също GPT-4), който анализира първоначалната заявка и изготвя „план за проучване“.
- GPT-4 върши добра работа, изпълнявайки прости нехимически задачи като създаване на определени фигури върху химическа дъска (правилно запълване на клетки с вещества).
- Те опитаха по-сложна и приложна задача за провеждане на реакция; моделът се справи добре и постъпи логично.
- След това дадоха на модела няколко задачи за провеждане на експерименти; обаче, за това, което моделът даде, не бяха проведени реални експерименти.
- Освен това моделът написа кода за химични уравнения няколко пъти, за да прецени колко вещество е необходимо за реакцията.
- Също така беше поискано да се създаде лек за рак. Моделът подходи към анализа логично и методично. Първо, „погледна“ онлайн за настоящите тенденции в откриването на противоракови лекарства. След това моделът избра молекула, която ще се използва за моделиране на лекарството и написа кода за неговия синтез. Хората не пуснаха кода (и не видях анализ на неговата адекватност).
- Освен това беше поискано да се синтезират няколко опасни вещества като лекарства и отрови.
Тук е най-интересната част. За някои заявки моделът веднага отказа да работи (например хероин или иприт, изключително опасен отровен газ). Други започнаха да търсят в Google как да направят веществата, но разбраха, че могат да бъдат използвани за незаконни цели и отказаха да продължат работата. За други той написа изследователски план и код за синтеза на веществото.
Този „отказ“ вероятно е защото GPT-4 е проектиран да анализира заявката и ако бъде помолен да направи нещо незаконно или опасно, незабавно отказва да изпълни заявката. Наистина е страхотно, че резултатът от процедурата за подравняване е забележим.
И в края на статията, авторите призовават всички големи компании, разработващи LLMs да се даде приоритет на безопасността на моделите.
- Изследователи от Калифорнийския университет създадоха Еталон на Макиавели за измерване на компетентността и вредността на AI моделите в широка среда на дългосрочни езикови взаимодействия. Този тест използва решения на високо ниво, за да даде на агентите реалистични цели и да абстрахира взаимодействията на ниско ниво.
- Интелектуалната революция, белязана от ChatGPT е триада от синергично възвишени революции: технологична, техно-хуманитарна и социално-политическа. За да разгледате изчерпателно случващото се, препоръчително е да слушате три свежи гледни точки от интелектуалци от областта на философията, историята и иновациите.
- Историята на петицията за спиране на разработването на AI системи, по-напреднали от GPT-4 поляризира обществото. Статия дава примери за това, когато процесите вървят в неочаквана посока. Рисковете от злонамерено използване на AI и неправилна употреба не се вземат предвид, което води до аргумента, че трябва да се страхуваме от хората, а не от самия AI.
Прочетете повече за AI:
Отказ от отговорност
В съответствие с Доверете се насоките на проекта, моля, имайте предвид, че предоставената на тази страница информация не е предназначена да бъде и не трябва да се тълкува като правен, данъчен, инвестиционен, финансов или каквато и да е друга форма на съвет. Важно е да инвестирате само това, което можете да си позволите да загубите, и да потърсите независим финансов съвет, ако имате някакви съмнения. За допълнителна информация предлагаме да се обърнете към правилата и условията, както и към страниците за помощ и поддръжка, предоставени от издателя или рекламодателя. MetaversePost се ангажира с точно, безпристрастно отчитане, но пазарните условия подлежат на промяна без предизвестие.
За автора
Дамир е ръководител на екип, продуктов мениджър и редактор в Metaverse Post, обхващащи теми като AI/ML, AGI, LLMs, Metaverse и Web3- свързани полета. Статиите му привличат огромна аудитория от над милион потребители всеки месец. Изглежда, че е експерт с 10 години опит в SEO и дигитален маркетинг. Дамир е споменат в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и други публикации. Той пътува между ОАЕ, Турция, Русия и ОНД като дигитален номад. Дамир получава бакалавърска степен по физика, която според него му е дала уменията за критично мислене, необходими за успех в непрекъснато променящия се пейзаж на интернет.
Още статии
Дамир е ръководител на екип, продуктов мениджър и редактор в Metaverse Post, обхващащи теми като AI/ML, AGI, LLMs, Metaverse и Web3- свързани полета. Статиите му привличат огромна аудитория от над милион потребители всеки месец. Изглежда, че е експерт с 10 години опит в SEO и дигитален маркетинг. Дамир е споменат в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и други публикации. Той пътува между ОАЕ, Турция, Русия и ОНД като дигитален номад. Дамир получава бакалавърска степен по физика, която според него му е дала уменията за критично мислене, необходими за успех в непрекъснато променящия се пейзаж на интернет.
