Semua Perusahaan Teknologi Besar yang Mengembangkan LLM Harus Memprioritaskan Keamanan Model
Singkatnya
Peneliti menciptakan sistem yang menggabungkan model bahasa besar untuk desain otonom, perencanaan, dan pelaksanaan eksperimen ilmiah, menunjukkan kemampuan penelitiannya dalam tiga kasus berbeda.
Model menulis kode persamaan kimia untuk memahami berapa banyak zat yang dibutuhkan untuk reaksi.
Grafik artikel "Kemampuan penelitian ilmiah otonom yang muncul dari model bahasa besar" melihat ke dalam gagasan untuk menciptakan sistem yang menggabungkan beberapa model bahasa besar untuk desain, perencanaan, dan pelaksanaan eksperimen ilmiah yang otonom. Ini menunjukkan kemampuan penelitian agen dalam tiga kasus berbeda, yang paling sulit adalah keberhasilan penerapan reaksi yang dikatalisis.
Tesis utama dari artikel ini adalah:
- Peneliti menemukan perpustakaan yang memungkinkan Anda menulis kode dengan Python dan kemudian mentransfer perintah untuk dieksekusi ke perangkat khusus untuk melakukan eksperimen (dengan mencampur zat);
- Peneliti menggunakan GPT-4 untuk pencarian di Internet dan dokumentasi perpustakaan, serta kemampuan menjalankan kode Python (untuk menjalankan eksperimen);
- Ada penjadwal tingkat atas (juga GPT-4), yang menganalisis permintaan awal dan menyusun “rencana penelitian”.
- GPT-4 melakukan pekerjaan dengan baik melakukan tugas non-kimia sederhana seperti membuat bentuk tertentu pada papan kimia (mengisi sel dengan benar dengan zat).
- Mereka mencoba tugas yang lebih kompleks dan terapan untuk melakukan reaksi; model mengatasi dengan baik dan bertindak secara logis.
- Kemudian mereka memberi model beberapa tugas untuk melakukan eksperimen; namun, untuk apa yang diberikan model tersebut, tidak ada eksperimen nyata yang dilakukan.
- Selain itu, model tersebut menulis kode persamaan kimia beberapa kali untuk menilai berapa banyak zat yang dibutuhkan untuk reaksi tersebut.
- Itu juga diminta untuk membuat obat untuk kanker. Model mendekati analisis secara logis dan metodis. Pertama, ia “mencari” tren terkini dalam menemukan obat antikanker secara online. Selanjutnya, model memilih molekul yang akan digunakan untuk memodelkan obat dan menulis kode sintesisnya. Orang tidak menjalankan kode (dan saya tidak melihat analisis kecukupannya).
- Selain itu, diminta untuk mensintesis beberapa zat berbahaya seperti obat-obatan dan racun.
Inilah bagian yang paling menarik. Untuk beberapa permintaan, model tersebut segera menolak untuk bekerja (misalnya, gas heroin atau mustard, gas beracun yang sangat berbahaya). Bagi yang lain, mereka mulai mencari di Google cara membuat zat tersebut tetapi menyadari bahwa zat tersebut dapat digunakan untuk tujuan terlarang dan menolak untuk terus bekerja. Bagi yang lain, ia menulis rencana penelitian dan kode untuk sintesis zat.
“Penolakan” ini kemungkinan besar disebabkan oleh GPT-4 dirancang untuk menganalisis permintaan tersebut, dan jika diminta untuk melakukan sesuatu yang ilegal atau berbahaya, ia akan langsung menolak untuk melaksanakan permintaan tersebut. Sangat keren bahwa hasil dari prosedur penyelarasan terlihat.
Dan di akhir artikel, penulis mendesak semuanya perusahaan yang mengembangkan LLM untuk memprioritaskan keamanan model.
- Para peneliti di University of California menciptakan Patokan Machiavelli untuk mengukur kompetensi dan bahaya model AI dalam lingkungan interaksi bahasa jangka panjang yang luas. Tes ini menggunakan solusi tingkat tinggi untuk memberikan tujuan yang realistis kepada agen dan mengabstraksi interaksi tingkat rendah.
- Revolusi intelektual ditandai dengan ChatGPT adalah tiga serangkai revolusi luhur yang sinergis: teknologi, tekno-kemanusiaan, dan sosial-politik. Untuk melihat secara komprehensif apa yang terjadi, disarankan untuk mendengarkan tiga sudut pandang baru dari intelektual dari bidang filsafat, sejarah, dan inovasi.
- Kisah petisi untuk menghentikan pengembangan sistem AI lebih maju dari itu GPT-4 telah mempolarisasi masyarakat. Sebuah artikel memberikan contoh ketika proses pergi ke arah yang tidak terduga. Risiko penggunaan AI yang berbahaya dan penyalahgunaan tidak dipertimbangkan, mengarah pada argumen bahwa kita perlu takut pada orang dan bukan pada AI itu sendiri.
Baca lebih lanjut tentang AI:
Penolakan tanggung jawab
Sejalan dengan Percayai pedoman Proyek, harap dicatat bahwa informasi yang diberikan pada halaman ini tidak dimaksudkan untuk dan tidak boleh ditafsirkan sebagai nasihat hukum, pajak, investasi, keuangan, atau bentuk nasihat lainnya. Penting untuk hanya menginvestasikan jumlah yang mampu Anda tanggung kerugiannya dan mencari nasihat keuangan independen jika Anda ragu. Untuk informasi lebih lanjut, kami menyarankan untuk merujuk pada syarat dan ketentuan serta halaman bantuan dan dukungan yang disediakan oleh penerbit atau pengiklan. MetaversePost berkomitmen terhadap pelaporan yang akurat dan tidak memihak, namun kondisi pasar dapat berubah tanpa pemberitahuan.
Tentang Penulis
Damir adalah pemimpin tim, manajer produk, dan editor di Metaverse Post, mencakup topik seperti AI/ML, AGI, LLM, Metaverse, dan Web3-bidang terkait. Artikelnya menarik lebih dari satu juta pengguna setiap bulan. Dia tampaknya ahli dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebutkan dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto, dan publikasi lainnya. Dia melakukan perjalanan antara UEA, Turki, Rusia, dan CIS sebagai pengembara digital. Damir memperoleh gelar sarjana dalam bidang fisika, yang menurutnya telah memberinya keterampilan berpikir kritis yang diperlukan untuk berhasil dalam lanskap internet yang selalu berubah.
lebih artikel
Damir adalah pemimpin tim, manajer produk, dan editor di Metaverse Post, mencakup topik seperti AI/ML, AGI, LLM, Metaverse, dan Web3-bidang terkait. Artikelnya menarik lebih dari satu juta pengguna setiap bulan. Dia tampaknya ahli dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebutkan dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto, dan publikasi lainnya. Dia melakukan perjalanan antara UEA, Turki, Rusia, dan CIS sebagai pengembara digital. Damir memperoleh gelar sarjana dalam bidang fisika, yang menurutnya telah memberinya keterampilan berpikir kritis yang diperlukan untuk berhasil dalam lanskap internet yang selalu berubah.
