CEO Gramener Anand S Memperingatkan Risiko Mempercayai LLM Secara Buta, Pendukung Literasi Model
Singkatnya
Dalam percakapan dengan Metaverse Post – Anand S, CEO Gramener menyoroti potensi jebakan ketergantungan berlebihan pada LLM.
Dengan ratusan alat AI dan ML yang memenuhi pasar, potensi inovasi tidak terbatas. Banyak startup bermunculan untuk mengatasi tantangan industri, sementara masuknya Model Bahasa Besar yang disempurnakan setiap minggunya memperkuat kekuatan transformatif dari AI generatif. Konvergensi teknologi ini membentuk kembali industri dengan kemungkinan yang tidak terbatas.
Namun, peluncuran dan penggunaan luas model bahasa yang kuat seperti Gemini menimbulkan pertimbangan etis dan praktis yang penting, dan meminta kita untuk mempertimbangkan sebuah pertanyaan – Bisakah kita sebagai manusia begitu saja mempercayai model seperti itu?
Dalam percakapan dengan Metaverse Post — Anand S, CEO perusahaan SaaS B2B yang berbasis di AS Gramer menekankan potensi jebakan ketergantungan berlebihan pada LLM seperti ChatGPT, memperingatkan bahwa tren ini kemungkinan akan bertahan pada model-model baru seperti Gemini.
“Bahkan dengan data pelatihan yang tepat, manusia mungkin saja melakukan kesalahan saat berada di luar bidang keahliannya. Apakah model bahasa besar melakukan ekstrapolasi, atau apakah ia mengingat kembali apa yang telah dipelajarinya? Ada perbedaan besar, dan ini layak untuk diuji. Kami membangun kepercayaan diri melalui intuisi melalui interaksi berulang dengan orang lain,” kata Anand. “Kami tahu bahwa kami perlu melakukan penyelidikan untuk menyelidiki orang asing dan mungkin itulah cara kami berinteraksi dengan model bahasa besar.”
Misalnya, dalam kasus terbatas perusahaan Varghese versus Southern Airlines, seorang pengacara mengutip fiksi ChatGPT-kasus yang dihasilkan, yang menyebabkan hakim menghukum pengacara, menekankan risiko penggunaan yang tidak kritis. Anand menyoroti perlunya kehati-hatian dan pengawasan ketika memanfaatkan model bahasa seperti itu.
Selain itu, bidang ini memerlukan mekanisme umpan balik yang kuat. ChatGPT mendorong umpan balik pengguna melalui tombol jempol ke atas/jempol ke bawah, ditambah dengan input teks. Pendekatan ini mengumpulkan wawasan berharga mengenai apa yang berhasil dan apa yang tidak. Sistem umpan balik ini kemungkinan akan menjadi lebih umum dengan penggunaan model bahasa besar, membantu meningkatkan kinerja mereka.
“Tidaklah ekonomis untuk memantau setiap keluaran LLM, namun kemampuan untuk mendeteksi potensi kesalahan adalah sebuah alat yang ampuh,” kata Anand. Metaverse Post.
“Yang menarik adalah model bahasa besar itu sendiri cukup bagus dalam menilai model bahasa besar lainnya. Jadi daripada menggunakan manusia secara eksklusif untuk memantau keluaran, kita dapat menggunakan kombinasi LLM dan manusia, dan LLM pada akhirnya akan mengambil alih sebagian besar peran manusia seiring dengan perkembangan mereka,” tambahnya.
Literasi Model adalah Jalan ke Depan
Di bidang LLM, sebuah prinsip utama muncul – semakin banyak interaksi, semakin dalam pemahamannya. Konsep sederhana ini menggarisbawahi hubungan antara keterlibatan pengguna dan pemahaman kemampuan LLM, yang pada akhirnya mendorong peningkatan pemanfaatan.
“Ini juga tentang memahami manfaat LLM tertentu. Misalnya, Saya tidak akan menggunakan DALL-E untuk membuat logo karena DALL-E tidak menghasilkan teks dengan baik. Tapi itu berhasil menghasilkan ide logo dan desain logo. Ini adalah contoh model literasi yang muncul dari penggunaan berulang-ulang dan, oleh karena itu, diberikan kepada saya defiSaya menemukan area kepercayaan di mana saya dapat menggunakan model ini secara lebih efektif,” kata Anand.
Dalam upaya untuk integrasi yang seimbang dari model bahasa seperti Gemini ke dalam lanskap teknologi kita, Anand menyarankan beberapa strategi. Pertama, ia menganjurkan interaksi sehari-hari dengan model bahasa besar, menumbuhkan kebiasaan yang terbentuk seiring berjalannya waktu. Demikian pula, memastikan akses universal terhadap alat-alat ini sangatlah penting, dan perlu adanya dorongan lebih besar dalam penggunaan pribadi. Anand mencatat tren pemblokiran organisasi yang ada ChatGPT pada laptop kerja, menggarisbawahi perlunya komunikasi yang mendukung.
Dia mengusulkan penerapan mekanisme organisasi untuk memberikan akses dan mendorong eksperimen dengan Model Bahasa (LLM) dalam suatu lingkungan.
“Pada akhirnya, ketika orang sudah terbiasa maka mereka akan memahami apa yang harus dipercaya, kapan menggunakannya, dan bagaimana menggunakannya. Peningkatan penggunaan dan mendorong peningkatan penggunaan, adalah strategi dan inisiatif pendidikan paling penting yang dapat diterapkan oleh siapa pun,” kata Anand Metaverse Post.
Penolakan tanggung jawab
Sejalan dengan Percayai pedoman Proyek, harap dicatat bahwa informasi yang diberikan pada halaman ini tidak dimaksudkan untuk dan tidak boleh ditafsirkan sebagai nasihat hukum, pajak, investasi, keuangan, atau bentuk nasihat lainnya. Penting untuk hanya menginvestasikan jumlah yang mampu Anda tanggung kerugiannya dan mencari nasihat keuangan independen jika Anda ragu. Untuk informasi lebih lanjut, kami menyarankan untuk merujuk pada syarat dan ketentuan serta halaman bantuan dan dukungan yang disediakan oleh penerbit atau pengiklan. MetaversePost berkomitmen terhadap pelaporan yang akurat dan tidak memihak, namun kondisi pasar dapat berubah tanpa pemberitahuan.
Tentang Penulis
Kumar adalah Jurnalis Teknologi berpengalaman dengan spesialisasi dalam persimpangan dinamis AI/ML, teknologi pemasaran, dan bidang baru seperti kripto, blockchain, dan NFTS. Dengan pengalaman lebih dari 3 tahun di industri ini, Kumar telah memiliki rekam jejak yang terbukti dalam menyusun narasi yang menarik, melakukan wawancara yang mendalam, dan memberikan wawasan yang komprehensif. Keahlian Kumar terletak pada produksi konten berdampak tinggi, termasuk artikel, laporan, dan publikasi penelitian untuk platform industri terkemuka. Dengan keahlian unik yang menggabungkan pengetahuan teknis dan penyampaian cerita, Kumar unggul dalam mengkomunikasikan konsep teknologi yang kompleks kepada beragam audiens dengan cara yang jelas dan menarik.
lebih artikel
Kumar adalah Jurnalis Teknologi berpengalaman dengan spesialisasi dalam persimpangan dinamis AI/ML, teknologi pemasaran, dan bidang baru seperti kripto, blockchain, dan NFTS. Dengan pengalaman lebih dari 3 tahun di industri ini, Kumar telah memiliki rekam jejak yang terbukti dalam menyusun narasi yang menarik, melakukan wawancara yang mendalam, dan memberikan wawasan yang komprehensif. Keahlian Kumar terletak pada produksi konten berdampak tinggi, termasuk artikel, laporan, dan publikasi penelitian untuk platform industri terkemuka. Dengan keahlian unik yang menggabungkan pengetahuan teknis dan penyampaian cerita, Kumar unggul dalam mengkomunikasikan konsep teknologi yang kompleks kepada beragam audiens dengan cara yang jelas dan menarik.
