Генеральний директор Gramener Ананд С попереджає про ризики сліпо довіряти магістрам права, прихильникам модельної грамотності
Коротко
У розмові с Metaverse Post – Ананд С., генеральний директор Gramener, підкреслив потенційні підводні камені надмірної залежності від LLM.
З сотнями інструментів штучного інтелекту та машинного навчання, які насичують ринок, потенціал інновацій безмежний. З’являються численні стартапи, які вирішують виклики галузі, а постійний приплив покращених моделей великих мов щотижня посилює трансформаційну силу генеративний ШІ. Ця технологічна конвергенція змінює галузі з безмежними можливостями.
Однак випуск і широке використання потужних мовних моделей, таких як Gemini, викликає важливі етичні та практичні міркування та просить нас задуматися над питанням: чи можемо ми як люди сліпо довіряти таким моделям?
У розмові с Metaverse Post — Ананд С., генеральний директор американської компанії B2B SaaS Граменер наголосив на потенційних підводних каменях надмірної залежності від LLMs ChatGPT, попереджаючи, що ця тенденція, ймовірно, збережеться з новими моделями, такими як Gemini.
«Навіть з правильними навчальними даними, людина може робити помилки, виходячи за межі своєї компетенції. Велика мовна модель, отже, екстраполює, чи вона запам’ятовує те, чого навчилася? Існує величезна різниця, і це варто перевірити. Ми створюємо довіру за допомогою інтуїції під час повторних взаємодій з людьми», — сказав Ананд. «Ми знаємо, що нам потрібно досліджувати незнайомця, і саме так нам, ймовірно, також слід взаємодіяти з великими мовними моделями».
Наприклад, у справі з обмеженою відповідальністю Varghese проти компанії Southern Airlines адвокат навів вигадані ChatGPT-генеровані справи, що призводять до того, що суддя покарає адвоката, наголошуючи на ризиках некритичного використання. Ананд підкреслює необхідність обережності та ретельності при використанні таких мовних моделей.
На додаток до цього, сфера потребує надійного механізму зворотного зв’язку. ChatGPT заохочує відгуки користувачів за допомогою простих кнопок «не подобається» та «не подобається» разом із введенням тексту. Цей підхід збирає цінну інформацію про те, що працює добре, а що ні. Ця система зворотного зв’язку, ймовірно, стане більш поширеною з використанням великі мовні моделі, допомагаючи покращити їх продуктивність.
«Не дуже економічно відслідковувати кожен окремий результат LLM, але можливість відмічати потенційні помилки є потужним важелем», — сказав Ананд. Metaverse Post.
«Цікаво те, що самі великі мовні моделі досить добре оцінюють інші великі мовні моделі. Тож замість того, щоб використовувати людину виключно для моніторингу результатів, ми можемо використовувати комбінацію LLM і людей, причому LLM зрештою візьмуть на себе основну частину людської ролі в міру розвитку», – додав він.
Зразкова грамотність — це шлях вперед
У царині LLM виникає ключовий принцип – чим більше взаємодії, тим глибше розуміння. Ця проста концепція підкреслює взаємозв’язок між залученням користувачів і розумінням можливостей LLM, що зрештою сприяє підвищенню використання.
«Йдеться також про розуміння того, для чого корисний конкретний LLM. Наприклад, я б не використовував DALL-E для створення логотипів, оскільки він погано створює текст. Але він чудово справляється зі створенням ідей і дизайну логотипів. Це приклад модельної грамотності, яка з’явилася в результаті багаторазового використання і, отже, дає мені defiзнайшли сфери довіри, в яких я можу використовувати модель ефективніше», — сказав Ананд.
У пошуках збалансованої інтеграції мовних моделей, як Близнюки в наш технологічний ландшафт, Ананд пропонує кілька стратегій. По-перше, він виступає за щоденну взаємодію з великими мовними моделями, виховуючи звичку, яка формується з часом. Подібним чином, забезпечення загального доступу до цих інструментів має вирішальне значення, із закликом до більшого заохочення в особистому використанні. Ананд відзначає наявну тенденцію блокування організацій ChatGPT на робочих ноутбуках, підкреслюючи необхідність підтримувального спілкування.
Він пропонує запровадити організаційні механізми для забезпечення доступу та заохочення експериментів із мовними моделями (LLM) у середовищі.
«Зрештою, коли люди познайомляться, вони зрозуміють, чому довіряти, коли це використовувати та як це використовувати. Збільшення використання та заохочення до збільшення використання є найважливішою стратегією та освітніми ініціативами, які будь-хто може застосувати», – сказав Ананд Metaverse Post.
відмова
Відповідно до Правила проекту Trust, будь ласка, зверніть увагу, що інформація, надана на цій сторінці, не призначена і не повинна тлумачитися як юридична, податкова, інвестиційна, фінансова або будь-яка інша форма консультації. Важливо інвестувати лише те, що ви можете дозволити собі втратити, і звернутися за незалежною фінансовою порадою, якщо у вас виникнуть сумніви. Щоб отримати додаткову інформацію, ми пропонуємо звернутися до положень та умов, а також до сторінок довідки та підтримки, наданих емітентом або рекламодавцем. MetaversePost прагне до точного, неупередженого звітування, але ринкові умови можуть змінюватися без попередження.
про автора
Кумар є досвідченим технічним журналістом, який спеціалізується на динамічному перетині ШІ/ML, маркетингових технологій і нових галузей, таких як криптовалюта, блокчейн і NFTс. Завдяки більш ніж 3-річному досвіду роботи в галузі Кумар має досвід створення переконливих оповідей, проведення проникливих інтерв’ю та надання вичерпної інформації. Досвід Кумара полягає у створенні вражаючого контенту, зокрема статей, звітів і дослідницьких публікацій для відомих галузевих платформ. Володіючи унікальним набором навичок, який поєднує в собі технічні знання та розповідь, Кумар чудово вміє доносити складні технологічні концепції до різноманітної аудиторії в чіткій та привабливій формі.
інші статті
Кумар є досвідченим технічним журналістом, який спеціалізується на динамічному перетині ШІ/ML, маркетингових технологій і нових галузей, таких як криптовалюта, блокчейн і NFTс. Завдяки більш ніж 3-річному досвіду роботи в галузі Кумар має досвід створення переконливих оповідей, проведення проникливих інтерв’ю та надання вичерпної інформації. Досвід Кумара полягає у створенні вражаючого контенту, зокрема статей, звітів і дослідницьких публікацій для відомих галузевих платформ. Володіючи унікальним набором навичок, який поєднує в собі технічні знання та розповідь, Кумар чудово вміє доносити складні технологічні концепції до різноманітної аудиторії в чіткій та привабливій формі.
