Anand S ซีอีโอของ Gramener เตือนถึงความเสี่ยงในการเชื่อถือ LLM โดยไม่เปิดเผยตัวตน และสนับสนุน Model Literacy
ในบทสรุป
ในการสนทนาด้วย Metaverse Post – Anand S ซีอีโอของ Gramener เน้นย้ำถึงข้อผิดพลาดที่อาจเกิดขึ้นจากการพึ่งพา LLM มากเกินไป
ด้วยเครื่องมือ AI และ ML หลายร้อยรายการที่ทำให้ตลาดอิ่มตัว ศักยภาพด้านนวัตกรรมจึงไร้ขีดจำกัด มีสตาร์ทอัพจำนวนมากเกิดขึ้นเพื่อรับมือกับความท้าทายในอุตสาหกรรม ในขณะที่โมเดลภาษาขนาดใหญ่ที่ได้รับการปรับปรุงหลั่งไหลเข้ามาอย่างต่อเนื่องในแต่ละสัปดาห์จะขยายพลังการเปลี่ยนแปลงของ AI กำเนิด. การบรรจบกันทางเทคโนโลยีนี้กำลังพลิกโฉมอุตสาหกรรมด้วยความเป็นไปได้ที่ไร้ขอบเขต
อย่างไรก็ตาม การเผยแพร่และการใช้โมเดลภาษาที่ทรงพลังเช่นราศีเมถุนอย่างกว้างขวางทำให้เกิดข้อพิจารณาที่สำคัญด้านจริยธรรมและการปฏิบัติ และขอให้เราพิจารณาคำถามที่ว่า มนุษย์อย่างเราสุ่มสี่สุ่มห้าเชื่อโมเดลดังกล่าวได้หรือไม่
ในการสนทนาด้วย Metaverse Post — Anand S ซีอีโอของบริษัท B2B SaaS ในสหรัฐฯ กราเมเนอ เน้นย้ำถึงข้อผิดพลาดที่อาจเกิดขึ้นจากการพึ่งพา LLM มากเกินไปเช่น ChatGPTโดยเตือนว่าแนวโน้มนี้มีแนวโน้มที่จะยังคงมีอยู่กับโมเดลเกิดใหม่ เช่น ราศีเมถุน
“แม้จะมีข้อมูลการฝึกอบรมที่ถูกต้อง มนุษย์ก็อาจทำผิดพลาดเมื่อออกไปนอกขอบเขตความเชี่ยวชาญของตนได้ ดังนั้นโมเดลภาษาขนาดใหญ่จึงคาดการณ์หรือจำได้จากสิ่งที่ได้เรียนรู้มา? มีความแตกต่างอย่างมาก และมันก็คุ้มค่าที่จะทดสอบ เราสร้างความมั่นใจผ่านสัญชาตญาณและการมีปฏิสัมพันธ์ซ้ำๆ กับผู้คน” อานันท์กล่าว “เรารู้ว่าเราต้องสอบสวนเพื่อสอบสวนคนแปลกหน้า และนั่นเป็นวิธีที่เราควรโต้ตอบกับแบบจำลองภาษาขนาดใหญ่เช่นกัน”
ตัวอย่างเช่น ในคดีจำกัดของบริษัท Varghese กับ Southern Airlines ทนายความคนหนึ่งอ้างถึงตัวละคร ChatGPT-สร้างคดี นำไปสู่การพิพากษาลงโทษทนาย โดยเน้นความเสี่ยงจากการใช้งานที่ไม่เหมาะสม อานันท์เน้นย้ำถึงความจำเป็นในการระมัดระวังและการพิจารณาอย่างถี่ถ้วนเมื่อใช้ประโยชน์จากแบบจำลองภาษาดังกล่าว
นอกจากนี้ ภาคสนามยังเรียกร้องให้มีกลไกการตอบรับที่มีประสิทธิภาพ ChatGPT กระตุ้นให้ผู้ใช้แสดงความคิดเห็นผ่านปุ่มยกนิ้วขึ้น/นิ้วหัวแม่มือลงง่ายๆ ควบคู่ไปกับการป้อนข้อความ แนวทางนี้รวบรวมข้อมูลเชิงลึกอันมีค่าว่าอะไรใช้ได้ผลดีและอะไรใช้ไม่ได้ผล ระบบตอบรับนี้มีแนวโน้มที่จะกลายเป็นเรื่องธรรมดามากขึ้นเมื่อใช้ โมเดลภาษาขนาดใหญ่ที่ช่วยปรับปรุงประสิทธิภาพของพวกเขา
“การตรวจสอบทุกเอาท์พุตของ LLM ไม่ใช่เรื่องประหยัดนัก แต่การสามารถระบุข้อผิดพลาดที่อาจเกิดขึ้นได้นั้นถือเป็นเครื่องมือที่ทรงพลัง” Anand กล่าว Metaverse Post.
“สิ่งที่น่าสนใจคือตัวแบบภาษาขนาดใหญ่นั้นค่อนข้างดีในการประเมินตัวแบบภาษาขนาดใหญ่อื่นๆ ดังนั้นแทนที่จะใช้มนุษย์เพื่อติดตามผลลัพธ์โดยเฉพาะ เราสามารถใช้ LLM และมนุษย์ร่วมกันได้ โดยในที่สุด LLM จะเข้ามารับบทบาทมนุษย์ส่วนใหญ่ในขณะที่พวกมันวิวัฒนาการ” เขากล่าวเสริม
โมเดลการรู้หนังสือคือหนทางข้างหน้า
ในขอบเขตของ LLM หลักการสำคัญเกิดขึ้น - ยิ่งมีปฏิสัมพันธ์มากเท่าใด ความเข้าใจก็จะยิ่งลึกซึ้งมากขึ้นเท่านั้น แนวคิดที่ตรงไปตรงมานี้เน้นย้ำความสัมพันธ์ระหว่างการมีส่วนร่วมของผู้ใช้และความเข้าใจในความสามารถของ LLM ซึ่งท้ายที่สุดจะผลักดันการใช้งานที่เพิ่มขึ้น
“มันยังเกี่ยวกับการทำความเข้าใจว่า LLM นั้นดีสำหรับอะไรด้วย ตัวอย่างเช่น ฉันจะไม่ใช้ DALL-E เพื่อสร้างโลโก้เพราะมันสร้างข้อความได้ไม่ดีนัก แต่มันทำงานได้ดีมากในการสร้างแนวคิดเกี่ยวกับโลโก้และการออกแบบโลโก้ นี่คือตัวอย่างของการรู้เท่าทันแบบจำลองที่เกิดขึ้นจากการใช้ซ้ำๆ ดังนั้นจึงให้ผลกับฉัน defiพื้นที่แห่งความไว้วางใจที่ฉันสามารถใช้แบบจำลองได้อย่างมีประสิทธิภาพมากขึ้น” อานันท์กล่าว
ในการแสวงหาความสมดุลของรูปแบบภาษาเช่น เมถุน ในภูมิทัศน์ทางเทคโนโลยีของเรา อานันท์แนะนำกลยุทธ์หลายประการ ประการแรก เขาสนับสนุนให้มีปฏิสัมพันธ์ในแต่ละวันกับโมเดลภาษาขนาดใหญ่ เพื่อสร้างนิสัยที่สะสมอยู่เรื่อยๆ ในทำนองเดียวกัน การเข้าถึงเครื่องมือเหล่านี้อย่างทั่วถึงถือเป็นสิ่งสำคัญ โดยเรียกร้องให้มีกำลังใจในการใช้งานส่วนตัวมากขึ้น อานันท์ตั้งข้อสังเกตถึงแนวโน้มการปิดกั้นองค์กรที่มีอยู่ ChatGPT บนแล็ปท็อปสำหรับทำงาน ซึ่งเน้นย้ำถึงความจำเป็นในการสื่อสารที่สนับสนุน
เขาเสนอให้ใช้กลไกขององค์กรเพื่อให้สามารถเข้าถึงและสนับสนุนการทดลองกับโมเดลภาษา (LLM) ภายในสภาพแวดล้อม
“ท้ายที่สุดแล้วเมื่อผู้คนคุ้นเคยพวกเขาจะเข้าใจว่าควรเชื่อถืออะไร ควรใช้เมื่อใด และใช้อย่างไร การใช้งานที่เพิ่มขึ้นและการส่งเสริมการใช้งานที่เพิ่มขึ้นเป็นกลยุทธ์ที่สำคัญที่สุดและความคิดริเริ่มด้านการศึกษาที่ทุกคนสามารถใช้ได้” อานันท์กล่าว Metaverse Post.
ข้อจำกัดความรับผิดชอบ
สอดคล้องกับ แนวทางโครงการที่เชื่อถือได้โปรดทราบว่าข้อมูลที่ให้ไว้ในหน้านี้ไม่ได้มีจุดมุ่งหมายและไม่ควรตีความว่าเป็นคำแนะนำทางกฎหมาย ภาษี การลงทุน การเงิน หรือรูปแบบอื่นใด สิ่งสำคัญคือต้องลงทุนเฉพาะในสิ่งที่คุณสามารถที่จะสูญเสียได้ และขอคำแนะนำทางการเงินที่เป็นอิสระหากคุณมีข้อสงสัยใดๆ สำหรับข้อมูลเพิ่มเติม เราขอแนะนำให้อ้างอิงข้อกำหนดและเงื่อนไขตลอดจนหน้าช่วยเหลือและสนับสนุนที่ผู้ออกหรือผู้ลงโฆษณาให้ไว้ MetaversePost มุ่งมั่นที่จะรายงานที่ถูกต้องและเป็นกลาง แต่สภาวะตลาดอาจมีการเปลี่ยนแปลงได้โดยไม่ต้องแจ้งให้ทราบล่วงหน้า
เกี่ยวกับผู้เขียน
Kumar เป็นนักข่าวเทคโนโลยีที่มีประสบการณ์ โดยมีความเชี่ยวชาญเฉพาะด้านในการผสมผสานแบบไดนามิกของ AI/ML เทคโนโลยีการตลาด และสาขาเกิดใหม่ เช่น คริปโต บล็อกเชน และ NFTส. ด้วยประสบการณ์กว่า 3 ปีในอุตสาหกรรมนี้ Kumar ได้สร้างผลงานที่ได้รับการพิสูจน์แล้วในด้านการสร้างสรรค์เรื่องราวที่น่าสนใจ การสัมภาษณ์เชิงลึก และการนำเสนอข้อมูลเชิงลึกที่ครอบคลุม ความเชี่ยวชาญของ Kumar อยู่ที่การผลิตเนื้อหาที่มีผลกระทบสูง รวมถึงบทความ รายงาน และสิ่งพิมพ์วิจัยสำหรับแพลตฟอร์มอุตสาหกรรมที่โดดเด่น ด้วยชุดทักษะเฉพาะตัวที่ผสมผสานความรู้ทางเทคนิคและการเล่าเรื่อง Kumar มีความเป็นเลิศในการสื่อสารแนวคิดทางเทคโนโลยีที่ซับซ้อนไปยังผู้ชมที่หลากหลายในลักษณะที่ชัดเจนและมีส่วนร่วม
บทความอื่น ๆ
Kumar เป็นนักข่าวเทคโนโลยีที่มีประสบการณ์ โดยมีความเชี่ยวชาญเฉพาะด้านในการผสมผสานแบบไดนามิกของ AI/ML เทคโนโลยีการตลาด และสาขาเกิดใหม่ เช่น คริปโต บล็อกเชน และ NFTส. ด้วยประสบการณ์กว่า 3 ปีในอุตสาหกรรมนี้ Kumar ได้สร้างผลงานที่ได้รับการพิสูจน์แล้วในด้านการสร้างสรรค์เรื่องราวที่น่าสนใจ การสัมภาษณ์เชิงลึก และการนำเสนอข้อมูลเชิงลึกที่ครอบคลุม ความเชี่ยวชาญของ Kumar อยู่ที่การผลิตเนื้อหาที่มีผลกระทบสูง รวมถึงบทความ รายงาน และสิ่งพิมพ์วิจัยสำหรับแพลตฟอร์มอุตสาหกรรมที่โดดเด่น ด้วยชุดทักษะเฉพาะตัวที่ผสมผสานความรู้ทางเทคนิคและการเล่าเรื่อง Kumar มีความเป็นเลิศในการสื่อสารแนวคิดทางเทคโนโลยีที่ซับซ้อนไปยังผู้ชมที่หลากหลายในลักษณะที่ชัดเจนและมีส่วนร่วม
