Генеральный директор Gramener Ананд С. предупреждает о рисках слепого доверия к магистрам права и выступает за модельную грамотность
Коротко
В беседе с Metaverse Post – Ананд С., генеральный директор Gramener, подчеркнул потенциальные опасности чрезмерной зависимости от LLM.
Рынок насыщен сотнями инструментов искусственного интеллекта и машинного обучения, поэтому инновационный потенциал безграничен. Появляются многочисленные стартапы для решения отраслевых проблем, а постоянный приток усовершенствованных моделей большого языка каждую неделю усиливает преобразующую силу генеративный ИИ. Эта технологическая конвергенция меняет отрасли с безграничными возможностями.
Однако выпуск и широкое использование мощных языковых моделей, таких как Gemini, поднимает важные этические и практические вопросы и заставляет нас задуматься над вопросом: можем ли мы, люди, слепо доверять таким моделям?
В беседе с Metaverse Post — Ананд С., генеральный директор американской B2B SaaS-компании. Граменер подчеркнул потенциальные опасности чрезмерной зависимости от LLM, таких как ChatGPT, предупреждая, что эта тенденция, скорее всего, сохранится и в новых моделях, таких как Gemini.
«Даже при наличии правильных данных обучения человек может допускать ошибки, выходя за пределы своей области знаний. Таким образом, большая языковая модель экстраполирует или вспоминает то, что выучила? Разница огромная, и ее стоит проверить. Мы укрепляем доверие посредством интуиции и многократного взаимодействия с людьми», — сказал Ананд. «Мы знаем, что нам нужно исследовать незнакомца, и именно так нам, вероятно, следует взаимодействовать и с большими языковыми моделями».
Например, в деле «Варгезе против компании Southern Airlines», адвокат сослался на вымышленные ChatGPT-генерируемые дела, которые приводят к тому, что судья наказывает адвоката, подчеркивая риски некритического использования. Ананд подчеркивает необходимость осторожности и внимательности при использовании таких языковых моделей.
Кроме того, в этой области необходим надежный механизм обратной связи. ChatGPT поощряет обратную связь с пользователем с помощью простой кнопки «палец вверх» или «палец вниз» в сочетании с вводом текста. Этот подход позволяет получить ценную информацию о том, что работает хорошо, а что нет. Эта система обратной связи, вероятно, станет более распространенной с использованием большие языковые модели, помогая улучшить их производительность.
«Контролировать каждый результат LLM не очень экономично, но возможность отмечать потенциальные ошибки — это мощный рычаг», — сказал Ананд. Metaverse Post.
«Что интересно, большие языковые модели сами по себе довольно хорошо подходят для оценки других больших языковых моделей. Поэтому вместо того, чтобы использовать человека исключительно для мониторинга результатов, мы можем использовать комбинацию LLM и людей, причем LLM в конечном итоге возьмут на себя большую часть человеческой роли по мере своего развития», — добавил он.
Модельная грамотность – это путь вперед
В сфере LLM проявляется ключевой принцип: чем больше взаимодействия, тем глубже понимание. Эта простая концепция подчеркивает взаимосвязь между вовлечением пользователей и пониманием возможностей LLM, что в конечном итоге приводит к увеличению использования.
«Речь идет также о понимании того, для чего нужна конкретная LLM. Например, я бы не стал использовать DALL-E для создания логотипов, потому что он не очень хорошо генерирует текст. Но он отлично справляется с созданием идей и дизайнов логотипов. Это пример модельной грамотности, возникающий в результате многократного использования и, следовательно, дающий мне defiУ меня есть области доверия, в которых я могу более эффективно использовать модель», — сказал Ананд.
В поисках сбалансированной интеграции языковых моделей, таких как Gemini в наш технологический ландшафт, Ананд предлагает несколько стратегий. Во-первых, он выступает за ежедневное взаимодействие с большими языковыми моделями, воспитывая привычку, которая формируется со временем. Аналогичным образом, обеспечение всеобщего доступа к этим инструментам имеет решающее значение, а также призывает к большему поощрению их личного использования. Ананд отмечает существующую тенденцию блокирования организаций ChatGPT на рабочих ноутбуках, подчеркивая необходимость поддерживающего общения.
Он предлагает реализовать организационные механизмы для обеспечения доступа и поощрения экспериментов с языковыми моделями (LLM) в среде.
«В конечном итоге, когда люди познакомятся, они поймут, чему доверять, когда и как это использовать. Увеличение использования и поощрение более широкого использования — это самая важная стратегия и образовательные инициативы, которые каждый может использовать», — сказал Ананд. Metaverse Post.
Отказ от ответственности
В соответствии с Руководство трастового проектаОбратите внимание, что информация, представленная на этой странице, не предназначена и не должна интерпретироваться как юридическая, налоговая, инвестиционная, финансовая или любая другая форма консультации. Важно инвестировать только то, что вы можете позволить себе потерять, и обращаться за независимой финансовой консультацией, если у вас есть какие-либо сомнения. Для получения дополнительной информации мы предлагаем обратиться к положениям и условиям, а также к страницам справки и поддержки, предоставленным эмитентом или рекламодателем. MetaversePost стремится предоставлять точную и объективную отчетность, однако рыночные условия могут быть изменены без предварительного уведомления.
Об авторе
Кумар — опытный технический журналист, специализирующийся на динамических пересечениях искусственного интеллекта и машинного обучения, маркетинговых технологий и новых областях, таких как криптография, блокчейн и NFTс. Имея более чем трехлетний опыт работы в отрасли, Кумар зарекомендовал себя в создании убедительных повествований, проведении содержательных интервью и предоставлении всеобъемлющей информации. Опыт Кумара заключается в создании эффективного контента, включая статьи, отчеты и исследовательские публикации для известных отраслевых платформ. Обладая уникальным набором навыков, сочетающим в себе технические знания и умение рассказывать истории, Кумар преуспевает в ясной и увлекательной передаче сложных технологических концепций разнообразной аудитории.
Другие статьи
Кумар — опытный технический журналист, специализирующийся на динамических пересечениях искусственного интеллекта и машинного обучения, маркетинговых технологий и новых областях, таких как криптография, блокчейн и NFTс. Имея более чем трехлетний опыт работы в отрасли, Кумар зарекомендовал себя в создании убедительных повествований, проведении содержательных интервью и предоставлении всеобъемлющей информации. Опыт Кумара заключается в создании эффективного контента, включая статьи, отчеты и исследовательские публикации для известных отраслевых платформ. Обладая уникальным набором навыков, сочетающим в себе технические знания и умение рассказывать истории, Кумар преуспевает в ясной и увлекательной передаче сложных технологических концепций разнообразной аудитории.
