Ketua Pegawai Eksekutif Gramener Anand S Memberi Amaran tentang Risiko dalam Mempercayai LLM secara Membuta tuli, Peguambela untuk Literasi Model
Secara ringkas
Dalam perbualan dengan Metaverse Post – Anand S, Ketua Pegawai Eksekutif Gramener menyerlahkan potensi perangkap pergantungan yang berlebihan pada LLM.
Dengan beratus-ratus alat AI dan ML memenuhi pasaran, potensi inovasi tidak terhad. Banyak syarikat permulaan muncul untuk menangani cabaran industri, sementara kemasukan berterusan Model Bahasa Besar yang dipertingkatkan setiap minggu menguatkan kuasa transformatif AI generatif. Konvergensi teknologi ini membentuk semula industri dengan kemungkinan yang tidak terbatas.
Walau bagaimanapun, pelepasan dan penggunaan meluas model bahasa yang berkuasa seperti Gemini menimbulkan pertimbangan etika dan praktikal yang penting, dan meminta kami mempertimbangkan satu soalan - Bolehkah kita sebagai manusia mempercayai model sedemikian secara membuta tuli?
Dalam perbualan dengan Metaverse Post — Anand S, Ketua Pegawai Eksekutif syarikat B2B SaaS yang berpangkalan di AS Pekebun menekankan potensi perangkap pergantungan yang berlebihan pada LLM seperti ChatGPT, memberi amaran bahawa trend ini berkemungkinan berterusan dengan model baru muncul seperti Gemini.
“Walaupun dengan data latihan yang betul, manusia mungkin melakukan kesilapan apabila pergi ke luar bidang kepakaran mereka. Adakah model bahasa yang besar itu diekstrapolasi, atau adakah ia mengingati daripada apa yang telah dipelajari? Terdapat perbezaan yang besar, dan ia patut diuji. Kami membina keyakinan melalui gerak hati dengan interaksi berulang dengan orang, "kata Anand. "Kami tahu kami perlu menyiasat untuk menyiasat orang yang tidak dikenali dan itulah cara kami mungkin harus berinteraksi dengan model bahasa yang besar juga."
Sebagai contoh, dalam kes terhad syarikat Varghese versus Southern Airlines, seorang peguam memetik fiksyen ChatGPT-kes yang dijana, membawa kepada hakim menghukum peguam, menekankan risiko penggunaan yang tidak kritikal. Anand menekankan keperluan untuk berhati-hati dan teliti apabila memanfaatkan model bahasa tersebut.
Selanjutnya, bidang ini memerlukan mekanisme maklum balas yang mantap. ChatGPT menggalakkan maklum balas pengguna melalui butang thumbs up/thumbs down yang ringkas, ditambah dengan input teks. Pendekatan ini mengumpulkan cerapan berharga tentang perkara yang berfungsi dengan baik dan apa yang tidak. Sistem maklum balas ini mungkin menjadi lebih biasa dengan penggunaan model bahasa yang besar, membantu meningkatkan prestasi mereka.
"Ia tidak begitu menjimatkan untuk memantau setiap keluaran tunggal LLM, tetapi dapat membenteras kemungkinan ralat adalah tuas yang kuat," kata Anand. Metaverse Post.
“Apa yang menarik ialah model bahasa besar itu sendiri cukup baik dalam menilai model bahasa besar yang lain. Jadi daripada menggunakan manusia secara eksklusif untuk memantau output, kita boleh menggunakan gabungan LLM dan manusia, dengan LLM akhirnya mengambil alih sebahagian besar peranan manusia semasa ia berkembang,” tambahnya.
Literasi Model ialah Jalan Ke Hadapan
Dalam bidang LLM, prinsip utama muncul - lebih banyak interaksi, lebih mendalam pemahaman. Konsep mudah ini menggariskan hubungan antara penglibatan pengguna dan pemahaman keupayaan LLM, akhirnya mendorong peningkatan penggunaan.
"Ia juga tentang memahami apa yang baik untuk LLM tertentu. Sebagai contoh, saya tidak akan menggunakan DALL-E untuk menjana logo kerana ia tidak menjana teks dengan baik. Tetapi ia berfungsi dengan baik dalam menjana idea logo dan reka bentuk logo. Ini adalah contoh literasi model yang dihasilkan oleh penggunaan berulang dan, oleh itu, memberi saya defibidang kepercayaan di mana saya boleh menggunakan model itu dengan lebih berkesan,” kata Anand.
Dalam usaha untuk integrasi seimbang model bahasa seperti Gemini ke dalam landskap teknologi kami, Anand mencadangkan beberapa strategi. Pertama, beliau menyokong interaksi harian dengan model bahasa yang besar, memupuk tabiat yang membina dari semasa ke semasa. Begitu juga, memastikan akses universal kepada alatan ini adalah penting, dengan panggilan untuk lebih galakan dalam penggunaan peribadi. Anand mencatatkan trend penyekatan organisasi yang sedia ada ChatGPT pada komputer riba kerja, menekankan keperluan untuk komunikasi yang menyokong.
Beliau mencadangkan untuk melaksanakan mekanisme organisasi untuk menyediakan akses dan menggalakkan percubaan dengan Model Bahasa (LLM) dalam persekitaran.
"Akhirnya, apabila orang sudah biasa, mereka akan faham apa yang perlu dipercayai, bila hendak menggunakannya, dan cara menggunakannya. Peningkatan penggunaan dan menggalakkan peningkatan penggunaan, adalah strategi dan inisiatif pendidikan yang paling penting yang boleh digunakan oleh sesiapa sahaja,” kata Anand. Metaverse Post.
Penafian
Selaras dengan Garis panduan Projek Amanah, sila ambil perhatian bahawa maklumat yang diberikan pada halaman ini tidak bertujuan untuk menjadi dan tidak seharusnya ditafsirkan sebagai nasihat undang-undang, cukai, pelaburan, kewangan atau sebarang bentuk nasihat lain. Adalah penting untuk hanya melabur apa yang anda mampu kehilangan dan mendapatkan nasihat kewangan bebas jika anda mempunyai sebarang keraguan. Untuk maklumat lanjut, kami mencadangkan merujuk kepada terma dan syarat serta halaman bantuan dan sokongan yang disediakan oleh pengeluar atau pengiklan. MetaversePost komited kepada laporan yang tepat dan tidak berat sebelah, tetapi keadaan pasaran tertakluk kepada perubahan tanpa notis.
Tentang Pengarang
Kumar ialah seorang Wartawan Teknologi berpengalaman dengan pengkhususan dalam persimpangan dinamik AI/ML, teknologi pemasaran dan bidang baru muncul seperti crypto, blockchain dan NFTs. Dengan lebih 3 tahun pengalaman dalam industri, Kumar telah mencipta rekod prestasi yang terbukti dalam mencipta naratif yang menarik, menjalankan temu bual yang berwawasan dan menyampaikan pandangan yang komprehensif. Kepakaran Kumar terletak dalam menghasilkan kandungan berimpak tinggi, termasuk artikel, laporan dan penerbitan penyelidikan untuk platform industri terkemuka. Dengan set kemahiran unik yang menggabungkan pengetahuan teknikal dan penceritaan, Kumar cemerlang dalam menyampaikan konsep teknologi yang kompleks kepada khalayak yang pelbagai dengan cara yang jelas dan menarik.
lebih banyak artikel
Kumar ialah seorang Wartawan Teknologi berpengalaman dengan pengkhususan dalam persimpangan dinamik AI/ML, teknologi pemasaran dan bidang baru muncul seperti crypto, blockchain dan NFTs. Dengan lebih 3 tahun pengalaman dalam industri, Kumar telah mencipta rekod prestasi yang terbukti dalam mencipta naratif yang menarik, menjalankan temu bual yang berwawasan dan menyampaikan pandangan yang komprehensif. Kepakaran Kumar terletak dalam menghasilkan kandungan berimpak tinggi, termasuk artikel, laporan dan penerbitan penyelidikan untuk platform industri terkemuka. Dengan set kemahiran unik yang menggabungkan pengetahuan teknikal dan penceritaan, Kumar cemerlang dalam menyampaikan konsep teknologi yang kompleks kepada khalayak yang pelbagai dengan cara yang jelas dan menarik.
