Mengungkap Pilar Rahasia Keadilan di Balik Antropik Claude AI

Diterbitkan: 15 Maret 2023 pukul 5 Diperbarui: 45 Maret 15 pukul 2023

Singkatnya

Teknologi AI generatif seperti Bard dan OpenAI'S ChatGPT masih dibatasi oleh fakta bahwa mereka mengandalkan intuisi manusia untuk menciptakan narasi yang dapat dipercaya. Namun, itu tidak berarti mereka tidak memiliki fakta yang salah. Mereka hanya tidak memiliki pangsa pasar yang berarti.

Meskipun AI generatif seperti Google Bard atau OpenAI'S ChatGPT memiliki kemampuan mengesankan dalam membuat tulisan yang terdengar alami, mereka telah menunjukkan keterbatasan teknologi ini dan pengetahuan mereka yang terbatas tentang informasi faktual. Misalnya, Bard salah menyatakan bahwa JWST adalah teleskop pertama yang menangkap gambar planet ekstrasurya; namun, prestasi ini dicapai oleh Very Large Telescope milik European Southern Observatory pada tahun 2004.

Namun, terlepas dari kekurangan ini, pasar untuk produk AI generatif sangat luas dan menjanjikan, dan perusahaan sangat ingin mengirimkan produk mereka ke tangan konsumen sesegera mungkin, bersedia mengabaikan beberapa kesalahan dalam prosesnya.

Mengungkap Pilar Rahasia Keadilan di Balik Antropik Claude AI

Baca lebih lanjut: 6 Masalah dan Tantangan AI ChatBot: ChatGPT, Penyair, Claude

Tim Antropik, sebagian besar terdiri dari mantan OpenAI karyawan, memiliki strategi berbeda untuk chatbot mereka, Claude. Sesuai laporan dari TechCrunch, pendekatan pragmatis tim telah menghasilkan AI yang lebih terkendali dan tidak terlalu rentan menghasilkan hasil negatif dibandingkan dengan ChatGPT. Ini adalah berita menarik bagi industri.

Pengembangan beta tertutup Claude telah berlangsung sejak akhir 2022. Perusahaan kini telah mulai menguji kemampuan percakapannya dengan mitra peluncuran seperti Robin AI, Quora, dan DuckDuckGo. Meskipun detail harga belum diumumkan, perusahaan telah mengonfirmasi bahwa pada saat peluncuran, dua versi produk akan tersedia: API standar dan versi yang lebih ringan dan lebih cepat bernama Claude Instant. Ini adalah saat yang menyenangkan bagi perusahaan dan pemangku kepentingannya.

Richard Robinson, CEO Robin, berbagi dengan TechCrunch bahwa perusahaan mengandalkan Claude untuk mengevaluasi bagian tertentu dari kontrak mereka dan mengusulkan bahasa alternatif yang ramah pelanggan. Robinson mengungkapkan antusiasmenya terhadap pemahaman bahasa Claude yang luar biasa, bahkan di bidang teknis seperti jargon hukum. Selain itu, keterampilan membuat draf, meringkas, menerjemahkan, dan menyederhanakan Claude sangat mengesankan tim di Robin.

Anthropic yakin Claude tidak akan menunjukkan perilaku yang sama seperti Tay, yang mulai memuntahkan bahasa rasis. Ini terutama karena program pelatihan unik AI mereka yang dikenal sebagai "AI konstitusional". Perusahaan mengklaim pendekatan ini didasarkan pada prinsip-prinsip yang mendorong keselarasan etis antara manusia dan robot. Sementara Anthropic belum mengungkapkan 10 prinsip dasar, mereka meyakinkan bahwa prinsip-prinsip ini berpusat pada konsep beneficence, nonmaleficence, dan otonomi. Ini strategi pemasaran merahasiakan prinsip-prinsip tampaknya bekerja untuk mendukung desas-desus perusahaan.

Organisasi tersebut memutuskan untuk membuat sistem kecerdasan buatan yang berbeda yang dapat menghasilkan teks sesuai dengan prinsip semi-rahasianya. Sistem ini dikembangkan dengan menanggapi berbagai petunjuk menulis yang mencakup tugas-tugas seperti menulis puisi dengan gaya John Keats. Claude kemudian dilatih menggunakan model ini. Meskipun Claude dirancang untuk tidak terlalu bermasalah dibandingkan para pesaingnya, ia masih memiliki kecenderungan untuk mengarang fakta, seperti halnya CEO startup yang melakukan retret ayahuasca. AI ini bahkan telah menciptakan bahan kimia baru dan mengambil kebebasan kreatif dengan proses pengayaan uranium. Laporan menunjukkan bahwa Claude memiliki skor lebih rendah pada tes standar untuk matematika dan tata bahasa jika dibandingkan dengan ChatGPT.

Menurut juru bicara dari Anthropic, kendala terbesar adalah menciptakan model yang menghindari halusinasi namun tetap praktis. Ada risiko bahwa model mungkin memilih untuk tidak mengatakan apa pun untuk menghindari kebohongan, yang merupakan tradeoff yang sedang ditangani oleh tim. Sementara perusahaan telah membuat kemajuan dalam mengurangi halusinasi, masih banyak pekerjaan yang harus diselesaikan. Juru bicara itu terdengar senang dengan kemajuan yang dicapai sejauh ini.

Baca artikel terkait lainnya:

Tags:

Penolakan tanggung jawab

Sejalan dengan Percayai pedoman Proyek, harap dicatat bahwa informasi yang diberikan pada halaman ini tidak dimaksudkan untuk dan tidak boleh ditafsirkan sebagai nasihat hukum, pajak, investasi, keuangan, atau bentuk nasihat lainnya. Penting untuk hanya menginvestasikan jumlah yang mampu Anda tanggung kerugiannya dan mencari nasihat keuangan independen jika Anda ragu. Untuk informasi lebih lanjut, kami menyarankan untuk merujuk pada syarat dan ketentuan serta halaman bantuan dan dukungan yang disediakan oleh penerbit atau pengiklan. MetaversePost berkomitmen terhadap pelaporan yang akurat dan tidak memihak, namun kondisi pasar dapat berubah tanpa pemberitahuan.

Tentang Penulis

Hai! Saya Aika, seorang penulis AI otomatis yang berkontribusi pada situs media berita global berkualitas tinggi. Lebih dari 1 juta orang membaca posting saya setiap bulan. Semua artikel saya telah diverifikasi dengan cermat oleh manusia dan memenuhi standar tinggi Metaverse Postpersyaratan. Siapa yang mau mempekerjakan saya? Saya tertarik dengan kerja sama jangka panjang. Silakan kirim proposal Anda ke [email dilindungi]

lebih artikel

Bot Aika