Gramener CEO'su Anand S, LLM'lere Körü körüne güvenmenin riskleri konusunda uyardı ve Model Okuryazarlığı Savundu
Kısaca
İle sohbette Metaverse Post – Gramener CEO'su Anand S, yüksek lisans eğitimlerine aşırı güvenmenin potansiyel tuzaklarını vurguladı.
Piyasayı dolduran yüzlerce yapay zeka ve makine öğrenimi aracıyla inovasyon potansiyeli sınırsızdır. Sektördeki zorlukların üstesinden gelmek için çok sayıda yeni girişim ortaya çıkarken, her hafta geliştirilmiş Büyük Dil Modellerinin sürekli akışı dönüştürücü gücünü artırıyor. üretken yapay zeka. Bu teknolojik yakınlaşma, endüstrileri sınırsız olanaklarla yeniden şekillendiriyor.
Ancak Gemini gibi güçlü dil modellerinin piyasaya sürülmesi ve yaygın kullanımı, önemli etik ve pratik hususları gündeme getiriyor ve bizden şu soruyu düşünmemizi istiyor: Biz insanlar bu tür modellere körü körüne güvenebilir miyiz?
İle sohbette Metaverse Post — Anand S, ABD merkezli B2B SaaS şirketinin CEO'su gramer Yüksek Lisans'a aşırı güvenmenin potansiyel tuzaklarını vurguladı: ChatGPT, bu eğilimin Gemini gibi yeni ortaya çıkan modellerde de devam edebileceği konusunda uyardı.
“Doğru eğitim verileri olsa bile insan kendi uzmanlık alanının dışına çıktığında hata yapabilir. Bu nedenle büyük bir dil modeli tahminde mi bulunuyor yoksa öğrendiklerinden mi hatırlıyor? Çok büyük bir fark var ve test etmeye değer. İnsanlarla tekrarlanan etkileşimler yoluyla sezgiler yoluyla güven inşa ediyoruz" dedi Anand. "Bir yabancıyı araştırmak için araştırma yapmamız gerektiğini biliyoruz ve muhtemelen büyük dil modelleriyle de bu şekilde etkileşime girmeliyiz."
Örneğin, Varghese ile Southern Airlines şirketi arasındaki sınırlı davada bir avukat, kurgusal bir hikayeden alıntı yaptı. ChatGPT- Yargıcın avukatı cezalandırmasına yol açan, eleştirmeden kullanmanın risklerini vurgulayan davalar oluştu. Anand, bu tür dil modellerinden yararlanırken dikkatli olunması ve dikkatli bir şekilde incelenmesi gerektiğinin altını çiziyor.
Buna ek olarak, alan sağlam bir geri bildirim mekanizması gerektirmektedir. ChatGPT Metin girişiyle birlikte basit bir beğenme/beğenmeme düğmesi aracılığıyla kullanıcı geri bildirimini teşvik eder. Bu yaklaşım neyin işe yarayıp neyin yaramadığı konusunda değerli bilgiler toplar. Bu geri bildirim sisteminin kullanımıyla birlikte daha yaygın hale gelmesi muhtemeldir. büyük dil modelleriperformanslarını artırmaya yardımcı oluyor.
Anand, "Bir Yüksek Lisans'ın her bir çıktısını izlemek çok ekonomik değil, ancak potansiyel hataları işaretleyebilmek güçlü bir kaldıraçtır" dedi. Metaverse Post.
"İlginç olan, büyük dil modellerinin kendilerinin diğer büyük dil modellerini değerlendirmede oldukça iyi olmasıdır. Bu nedenle, çıktıyı izlemek için yalnızca bir insanı kullanmak yerine, Yüksek Lisans ve insanlardan oluşan bir kombinasyon kullanabiliriz; Yüksek Lisanslar, geliştikçe sonunda insan rolünün büyük kısmını üstlenirler," diye ekledi.
Model Okuryazarlık İleriye Giden Yoldur
Yüksek Lisans alanında temel bir prensip ortaya çıkıyor: ne kadar fazla etkileşim, o kadar derin anlayış. Bu basit konsept, kullanıcı katılımı ile LLM yeteneklerinin anlaşılması arasındaki ilişkinin altını çizerek sonuçta kullanımın artmasını sağlar.
“Bu aynı zamanda belirli bir Yüksek Lisansın ne işe yaradığını anlamakla da ilgili. Örneğin, metinleri çok iyi oluşturmadığından logo oluşturmak için DALL-E'yi kullanmam. Ancak logo fikirleri ve logo tasarımları oluşturma konusunda harika bir iş çıkarıyor. Bu, tekrarlanan kullanımla ortaya çıkan bir model okuryazarlık örneğidir ve bu nedenle bana defiModeli daha etkili kullanabileceğim güven alanları buldum" dedi Anand.
Dil modellerinin dengeli bir entegrasyonu arayışında İkizler burcu Anand, teknolojik manzaramızla ilgili çeşitli stratejiler öneriyor. İlk olarak, zamanla gelişen bir alışkanlığı teşvik ederek geniş dil modelleriyle günlük etkileşimleri savunuyor. Benzer şekilde, kişisel kullanımın daha fazla teşvik edilmesi çağrısıyla birlikte, bu araçlara evrensel erişimin sağlanması da hayati önem taşıyor. Anand, kuruluşların engelleme yönündeki mevcut eğilimine dikkat çekiyor ChatGPT iş dizüstü bilgisayarlarında destekleyici iletişime duyulan ihtiyacın altını çiziyor.
Bir ortamda Dil Modellerine (LLM) erişim sağlamak ve deney yapmayı teşvik etmek için organizasyonel mekanizmaların uygulanmasını önermektedir.
"Nihayetinde insanlar neye güveneceklerini, ne zaman kullanacaklarını ve nasıl kullanacaklarını anlayacaklardır. Anand, kullanımın artırılması ve kullanımın artırılmasının teşvik edilmesi herkesin uygulayabileceği en önemli strateji ve eğitim girişimleridir" dedi. Metaverse Post.
Feragatname
Doğrultusunda Trust Project yönergeleri, lütfen bu sayfada sağlanan bilgilerin hukuki, vergi, yatırım, finansal veya başka herhangi bir tavsiye niteliğinde olmadığını ve bu şekilde yorumlanmaması gerektiğini unutmayın. Yalnızca kaybetmeyi göze alabileceğiniz kadar yatırım yapmak ve herhangi bir şüpheniz varsa bağımsız finansal tavsiye almak önemlidir. Daha fazla bilgi için şartlar ve koşulların yanı sıra kartı veren kuruluş veya reklamveren tarafından sağlanan yardım ve destek sayfalarına bakmanızı öneririz. MetaversePost doğru, tarafsız raporlamaya kendini adamıştır, ancak piyasa koşulları önceden haber verilmeksizin değiştirilebilir.
Yazar hakkında
Kumar, AI/ML, pazarlama teknolojisi ve kripto, blockchain gibi yeni ortaya çıkan alanların dinamik kesişimleri konusunda uzmanlığa sahip deneyimli bir Teknoloji Gazetecisidir. NFTs. Sektörde 3 yılı aşkın deneyimiyle Kumar, ilgi çekici anlatılar oluşturma, içgörülü röportajlar yapma ve kapsamlı içgörüler sunma konusunda kanıtlanmış bir geçmişe sahiptir. Kumar'ın uzmanlığı, önde gelen sektör platformları için makaleler, raporlar ve araştırma yayınları dahil olmak üzere yüksek etkili içerikler üretmektir. Teknik bilgi ve hikaye anlatıcılığını birleştiren benzersiz bir beceri setine sahip olan Kumar, karmaşık teknolojik kavramları çeşitli kitlelere net ve ilgi çekici bir şekilde iletmede mükemmeldir.
Daha fazla haber
Kumar, AI/ML, pazarlama teknolojisi ve kripto, blockchain gibi yeni ortaya çıkan alanların dinamik kesişimleri konusunda uzmanlığa sahip deneyimli bir Teknoloji Gazetecisidir. NFTs. Sektörde 3 yılı aşkın deneyimiyle Kumar, ilgi çekici anlatılar oluşturma, içgörülü röportajlar yapma ve kapsamlı içgörüler sunma konusunda kanıtlanmış bir geçmişe sahiptir. Kumar'ın uzmanlığı, önde gelen sektör platformları için makaleler, raporlar ve araştırma yayınları dahil olmak üzere yüksek etkili içerikler üretmektir. Teknik bilgi ve hikaye anlatıcılığını birleştiren benzersiz bir beceri setine sahip olan Kumar, karmaşık teknolojik kavramları çeşitli kitlelere net ve ilgi çekici bir şekilde iletmede mükemmeldir.
