Gramener CEO Anand S는 LLM을 맹목적으로 신뢰하는 데 따르는 위험에 대해 경고하고 모델 활용 능력을 옹호합니다.
요컨대
와 가진 대화에서 Metaverse Post – Gramener의 CEO인 Anand S는 LLM에 대한 과도한 의존의 잠재적인 위험을 강조했습니다.
수백 가지의 AI 및 ML 도구가 시장을 포화시키고 있으므로 혁신 잠재력은 무한합니다. 업계 과제를 해결하기 위해 수많은 스타트업이 등장하고 있으며, 매주 향상된 대형 언어 모델이 지속적으로 유입되면서 생성 적 AI. 이러한 기술 융합은 무한한 가능성을 지닌 산업을 재편하고 있습니다.
그러나 Gemini와 같은 강력한 언어 모델의 출시와 광범위한 사용은 중요한 윤리적, 실제적 고려 사항을 제기하며 우리에게 다음 질문을 고려하도록 요청합니다. 인간으로서 우리는 그러한 모델을 맹목적으로 신뢰할 수 있습니까?
와 가진 대화에서 Metaverse Post — Anand S, 미국 기반 B2B SaaS 회사의 CEO 문법 다음과 같은 LLM에 대한 과도한 의존의 잠재적인 위험을 강조했습니다. ChatGPT, 이러한 추세는 Gemini와 같은 신흥 모델에서 지속될 가능성이 높다고 경고합니다.
“올바른 훈련 데이터가 있어도 인간은 자신의 전문 분야를 벗어나면 오류를 범할 수 있습니다. 따라서 대규모 언어 모델은 추정하는 것입니까, 아니면 배운 것을 기억하는 것입니까? 큰 차이가 있으므로 테스트해 볼 가치가 있습니다. 우리는 사람들과의 반복적인 상호 작용을 통해 직관을 통해 자신감을 쌓습니다.”라고 Anand는 말했습니다. "우리는 낯선 사람을 조사하기 위해 조사해야 한다는 것을 알고 있으며 이것이 아마도 대규모 언어 모델과도 상호 작용해야 하는 방법일 것입니다."
예를 들어 Varghese 대 Southern Airlines 회사의 유한 소송에서 변호사는 허구를 인용했습니다. ChatGPT- 판사가 변호사를 처벌하고 무비판적인 사용의 위험성을 강조하는 사건이 발생했습니다. Anand는 그러한 언어 모델을 활용할 때 주의와 면밀한 조사가 필요함을 강조합니다.
이에 더해 현장에서는 강력한 피드백 메커니즘이 필요합니다. ChatGPT 간단한 추천/추천 안함 버튼과 텍스트 입력을 통해 사용자 피드백을 장려합니다. 이 접근 방식은 잘 작동하는 것과 그렇지 않은 것에 대한 귀중한 통찰력을 수집합니다. 이 피드백 시스템은 다음을 사용하여 더욱 일반화될 가능성이 높습니다. 큰 언어 모델, 성과 개선에 도움이 됩니다.
"LLM의 모든 단일 출력을 모니터링하는 것은 그다지 경제적이지 않지만 잠재적인 오류를 식별할 수 있는 것은 강력한 수단입니다."라고 Anand는 말했습니다. Metaverse Post.
“흥미로운 점은 대규모 언어 모델 자체가 다른 대규모 언어 모델을 평가하는 데 꽤 능숙하다는 것입니다. 따라서 결과를 모니터링하기 위해 인간을 독점적으로 사용하는 대신 LLM과 인간을 조합하여 사용할 수 있으며 LLM이 진화함에 따라 결국 인간 역할의 대부분을 맡게 됩니다.”라고 그는 덧붙였습니다.
모델 활용 능력은 앞으로 나아가는 길입니다
LLM 영역에서는 상호 작용이 많을수록 이해가 깊어진다는 핵심 원칙이 나타납니다. 이 간단한 개념은 사용자 참여와 LLM 기능 이해 간의 관계를 강조하여 궁극적으로 활용도를 높입니다.
“특정 LLM의 장점을 이해하는 것도 중요합니다. 예를 들어 DALL-E는 텍스트를 잘 생성하지 못하기 때문에 로고 생성에 사용하지 않습니다. 그러나 로고 아이디어와 로고 디자인을 생성하는 데는 훌륭한 역할을 합니다. 이것은 반복적인 사용을 통해 나타나는 모델 활용 능력의 한 예입니다. defi모델을 더욱 효과적으로 사용할 수 있는 신뢰 영역이 생겼습니다.”라고 Anand는 말했습니다.
다음과 같은 언어 모델의 균형 잡힌 통합을 추구합니다. 쌍둥이 자리 우리의 기술 환경에 대해 Anand는 몇 가지 전략을 제안합니다. 첫째, 그는 시간이 지남에 따라 형성되는 습관을 키우면서 대규모 언어 모델과의 일상적인 상호 작용을 옹호합니다. 마찬가지로, 이러한 도구에 대한 보편적인 액세스를 보장하는 것이 중요하며 개인적인 사용을 더욱 장려해야 합니다. Anand는 조직이 차단하는 기존 추세에 주목합니다. ChatGPT 업무용 노트북에서 지원적인 의사소통의 필요성을 강조합니다.
그는 환경 내에서 언어 모델(LLM)에 대한 액세스를 제공하고 실험을 장려하기 위한 조직적 메커니즘 구현을 제안합니다.
“궁극적으로 사람들은 익숙해질 때 무엇을 신뢰해야 하는지, 언제 사용해야 하는지, 어떻게 사용해야 하는지 이해하게 됩니다. 사용량을 늘리고 사용량 증가를 장려하는 것은 누구나 사용할 수 있는 가장 중요한 전략이자 교육 이니셔티브입니다.”라고 Anand는 말했습니다. Metaverse Post.
책임 부인
줄 안 트러스트 프로젝트 지침, 이 페이지에 제공된 정보는 법률, 세금, 투자, 재정 또는 기타 형태의 조언을 제공하기 위한 것이 아니며 해석되어서도 안 됩니다. 손실을 감수할 수 있는 만큼만 투자하고 의심스러운 경우 독립적인 재정 조언을 구하는 것이 중요합니다. 자세한 내용은 이용약관은 물론 발행자나 광고주가 제공하는 도움말 및 지원 페이지를 참조하시기 바랍니다. MetaversePost 는 정확하고 편견 없는 보고를 위해 최선을 다하고 있지만 시장 상황은 예고 없이 변경될 수 있습니다.
저자에 관하여
Kumar는 AI/ML, 마케팅 기술, 암호화폐, 블록체인 및 신흥 분야의 역동적인 교차점을 전문으로 하는 숙련된 기술 저널리스트입니다. NFT에스. 업계에서 3년 이상의 경험을 보유한 Kumar는 설득력 있는 내러티브 제작, 통찰력 있는 인터뷰 수행, 포괄적인 통찰력 제공 분야에서 입증된 실적을 확립했습니다. Kumar의 전문 분야는 저명한 업계 플랫폼을 위한 기사, 보고서, 연구 간행물 등 영향력이 큰 콘텐츠를 제작하는 것입니다. 기술 지식과 스토리텔링을 결합한 고유한 기술을 갖춘 Kumar는 복잡한 기술 개념을 다양한 청중에게 명확하고 매력적인 방식으로 전달하는 데 탁월합니다.
더 많은 기사
Kumar는 AI/ML, 마케팅 기술, 암호화폐, 블록체인 및 신흥 분야의 역동적인 교차점을 전문으로 하는 숙련된 기술 저널리스트입니다. NFT에스. 업계에서 3년 이상의 경험을 보유한 Kumar는 설득력 있는 내러티브 제작, 통찰력 있는 인터뷰 수행, 포괄적인 통찰력 제공 분야에서 입증된 실적을 확립했습니다. Kumar의 전문 분야는 저명한 업계 플랫폼을 위한 기사, 보고서, 연구 간행물 등 영향력이 큰 콘텐츠를 제작하는 것입니다. 기술 지식과 스토리텔링을 결합한 고유한 기술을 갖춘 Kumar는 복잡한 기술 개념을 다양한 청중에게 명확하고 매력적인 방식으로 전달하는 데 탁월합니다.
