Главният изпълнителен директор на Gramener Ананд С предупреждава за рисковете при сляпото доверие на LLMs, застъпници за моделна грамотност
Накратко
В разговор с Metaverse Post – Ананд С., главен изпълнителен директор на Gramener, подчерта потенциалните клопки на прекомерното разчитане на LLM.
Със стотици AI и ML инструменти, насищащи пазара, потенциалът за иновации е неограничен. Многобройни стартиращи компании се появяват, за да се справят с предизвикателствата на индустрията, докато постоянният приток на подобрени големи езикови модели всяка седмица усилва трансформиращата сила на генеративен AI. Тази технологична конвергенция променя индустриите с неограничени възможности.
Въпреки това, пускането и широкото използване на мощни езикови модели като Gemini повдига важни етични и практически съображения и ни кара да разгледаме въпроса – Можем ли като хора да се доверяваме сляпо на такива модели?
В разговор с Metaverse Post — Ананд С, главен изпълнителен директор на базирана в САЩ B2B SaaS компания Граменер подчерта потенциалните клопки на прекомерното разчитане на LLMs като ChatGPT, предупреждавайки, че тази тенденция вероятно ще се запази с нововъзникващите модели като Gemini.
„Дори с правилните данни за обучение, човек може да направи грешки, когато излезе извън своята област на експертност. Следователно един голям езиков модел екстраполира ли, или си спомня от това, което е научил? Има огромна разлика и си струва да се тества. Изграждаме увереност чрез интуиция с повтарящи се взаимодействия с хората“, каза Ананд. „Знаем, че трябва да изследваме, за да разследваме непознат, и по този начин вероятно трябва да взаимодействаме и с големи езикови модели.“
Например, в ограниченото дело Varghese срещу Southern Airlines, адвокат цитира измислени ChatGPT-генерирани казуси, водещи до наказване от съдия на адвоката, подчертавайки рисковете от безкритично използване. Ананд подчертава необходимостта от предпазливост и проверка, когато се използват такива езикови модели.
В допълнение към това полето изисква стабилен механизъм за обратна връзка. ChatGPT насърчава потребителската обратна връзка чрез прост бутон с палец нагоре/палец надолу, съчетан с въвеждане на текст. Този подход събира ценна информация за това какво работи добре и какво не. Тази система за обратна връзка вероятно ще стане по-често срещана с използването на големи езикови модели, помагайки за подобряване на тяхното представяне.
„Не е много икономично да се наблюдава всеки отделен резултат от LLM, но възможността да се отбележат потенциални грешки е мощен лост“, каза Ананд Metaverse Post.
„Интересното е, че самите големи езикови модели са доста добри в оценката на други големи езикови модели. Така че вместо да използваме човек изключително за наблюдение на резултата, можем да използваме комбинация от LLM и хора, като LLM в крайна сметка поемат по-голямата част от човешката роля, докато еволюират“, добави той.
Моделната грамотност е пътят напред
В сферата на LLM се появява ключов принцип – колкото повече взаимодействие, толкова по-дълбоко е разбирането. Тази ясна концепция подчертава връзката между ангажираността на потребителите и разбирането на възможностите на LLM, като в крайна сметка води до повишено използване.
„Става въпрос и за разбирането за какво е добър даден LLM. Например не бих използвал DALL-E за генериране на лога, защото не генерира много добре текст. Но върши страхотна работа за генериране на идеи за лого и дизайн на лого. Това е пример за моделна грамотност, която се появява при многократна употреба и следователно ми дава defiнамерих области на доверие, в които мога да използвам модела по-ефективно“, каза Ананд.
В стремежа към балансирана интеграция на езикови модели като Близнаци в нашия технологичен пейзаж, Ананд предлага няколко стратегии. Първо, той се застъпва за ежедневни взаимодействия с големи езикови модели, насърчавайки навик, който се изгражда с времето. По същия начин осигуряването на универсален достъп до тези инструменти е от решаващо значение, с призив за повече насърчаване на личната употреба. Ананд отбелязва съществуващата тенденция за блокиране на организации ChatGPT на работни лаптопи, подчертавайки необходимостта от поддържаща комуникация.
Той предлага прилагането на организационни механизми за осигуряване на достъп и насърчаване на експериментирането с езикови модели (LLM) в рамките на среда.
„В крайна сметка, когато хората се запознаят, те ще разберат на какво да се доверят, кога да го използват и как да го използват. Увеличеното използване и насърчаването на увеличеното използване са най-важната стратегия и образователни инициативи, които всеки може да използва“, каза Ананд Metaverse Post.
Отказ от отговорност
В съответствие с Доверете се насоките на проекта, моля, имайте предвид, че предоставената на тази страница информация не е предназначена да бъде и не трябва да се тълкува като правен, данъчен, инвестиционен, финансов или каквато и да е друга форма на съвет. Важно е да инвестирате само това, което можете да си позволите да загубите, и да потърсите независим финансов съвет, ако имате някакви съмнения. За допълнителна информация предлагаме да се обърнете към правилата и условията, както и към страниците за помощ и поддръжка, предоставени от издателя или рекламодателя. MetaversePost се ангажира с точно, безпристрастно отчитане, но пазарните условия подлежат на промяна без предизвестие.
За автора
Кумар е опитен технически журналист със специализация в динамичните пресечни точки на AI/ML, маркетингови технологии и нововъзникващи области като крипто, блокчейн и NFTс. С над 3 години опит в индустрията, Kumar има доказан опит в изработването на завладяващи разкази, провеждането на проницателни интервюта и предоставянето на изчерпателни прозрения. Експертният опит на Kumar се състои в създаването на силно въздействащо съдържание, включително статии, доклади и изследователски публикации за известни индустриални платформи. С уникален набор от умения, който съчетава технически познания и разказване на истории, Кумар се справя отлично в предаването на сложни технологични концепции на различни аудитории по ясен и увлекателен начин.
Още статии
Кумар е опитен технически журналист със специализация в динамичните пресечни точки на AI/ML, маркетингови технологии и нововъзникващи области като крипто, блокчейн и NFTс. С над 3 години опит в индустрията, Kumar има доказан опит в изработването на завладяващи разкази, провеждането на проницателни интервюта и предоставянето на изчерпателни прозрения. Експертният опит на Kumar се състои в създаването на силно въздействащо съдържание, включително статии, доклади и изследователски публикации за известни индустриални платформи. С уникален набор от умения, който съчетава технически познания и разказване на истории, Кумар се справя отлично в предаването на сложни технологични концепции на различни аудитории по ясен и увлекателен начин.
