Para Pemimpin AI Memperingatkan akan Meningkatnya Risiko dan Kekhawatiran Etis dalam Kemajuan Pesat
Dalam pernyataan kebijakan baru-baru ini, tokoh-tokoh terkemuka di bidang AI, termasuk Bengio, Hinton, Russell, Harari, dan Kahneman, telah memperingatkan akan kemajuan pesat dan meningkatnya risiko sosial yang terkait dengan AI.
AI berkembang dengan cepat. GPT-2 empat tahun lalu tidak dapat menghitung dari 0 hingga 100, namun model modern dapat menulis kode, membuat gambar menakjubkan, dan menawarkan panduan intelektual. Dan karena kita sedang berlomba, kemajuan bisa semakin cepat. Selain itu, AI berkembang lebih cepat, misalnya dengan membantu pemrograman sistem baru dan mengumpulkan data untuk pelatihannya.
Begitu kemajuan mencapai tingkat kemanusiaan, tidak ada alasan untuk berpikir bahwa kemajuan tersebut akan melambat atau berhenti. Di wilayah tertentu, sistem buatan telah mengungguli manusia dalam hal ini kemampuan seperti pemrosesan yang lebih cepat kecepatan, kapasitas pemrosesan data yang lebih besar, dan skalabilitas skala besar. Dunia usaha memiliki kemampuan finansial untuk melaksanakan program pelatihan yang jauh melebihi batas yang ada saat ini.
Para penulis berpendapat bahwa ada kemungkinan besar bahwa AI generalis yang lebih baik akan muncul dalam sepuluh tahun ke depan. melampaui kemampuan manusia di banyak domain penting.
Apa yang akan terjadi selanjutnya? Semua kehidupan dapat ditingkatkan jika dikelola dan didistribusikan dengan baik. Pilihan yang salah menimbulkan risiko besar yang tidak kita siapkan. Alih-alih dialokasikan untuk keselamatan dan pencegahan bahaya, sumber daya dalam jumlah besar malah digunakan untuk membangun sistem AI yang lebih kuat. Hal ini perlu diubah; mengejar keterampilan sendiri tidaklah cukup. Dan proses ini memakan waktu lebih lama dari yang diperkirakan. Kita perlu merencanakan risiko yang lebih tinggi sebelum risiko tersebut muncul dengan mengantisipasi peningkatan ancaman yang ada saat ini dan munculnya ancaman baru. Kita tidak mempunyai waktu yang cukup untuk memahami AI karena dibutuhkan waktu puluhan tahun untuk bisa diterima perubahan iklim.
Ada banyak risiko di tingkat masyarakat, termasuk meningkatnya ketidakadilan, memburuknya stabilitas, dan memburuknya persepsi umum mengenai realitas. Di sini, teroris dan penjahat terlibat dalam aktivitas ekstensif. AI dapat terkonsentrasi di tangan beberapa pemain saja, sehingga menyebabkan peningkatan kesenjangan global, memfasilitasi peperangan otomatis, manipulasi massal yang disesuaikan dengan masing-masing individu, dan pengawasan di mana-mana.
Sebagai otonom AI menjadi lebih canggih dan mampu membuat rencana, bertindak di dunia, dan mencapai tujuannya, risiko-risiko ini akan semakin meningkat. Tujuan-tujuan ini mungkin bukan demi kepentingan terbaik kita dan, dalam kasus pelaku kejahatan, bahkan mungkin merugikan. Saat ini masih belum jelas bagaimana cara mengatasi masalah AI Alignment, yang melibatkan pencocokan perilaku AI dengan tujuan rumit kami. Selain itu, sangat mudah untuk mengabaikan tindakan pencegahan keselamatan saat balapan dengan tujuan untuk menang.
Perangkat lunak biasa sulit dikendalikan oleh manusia, apalagi sistem AI canggih yang semakin mahir dalam rekayasa sosial, peretasan, penipuan, dan perencanaan strategis. Ini adalah sesuatu yang dapat diambil oleh sistem AI otonom dari manusia atau dibuat sendiri.
Sistem ini memiliki kemampuan untuk membangun koalisi dengan individu dan sistem lain, memenangkan kepercayaan, mendapatkan pendanaan, dan mempengaruhi pengambil keputusan. Seperti worm, mereka mampu mereplikasi dirinya sendiri di seluruh jaringan. Kode dalam jumlah besar telah ditulis dengan bantuan asisten AI; di masa depan, sistem mungkin memasukkan eksploitasi ke dalam berbagai sistem penting. Sistem AI mempunyai kemampuan untuk menggunakan atau mengancam senjata biologis atau otonom dalam pertempuran terbuka. Ini hanyalah kelanjutan dari gerakan saat ini menuju penelitian biologi, kecerdasan buatan, dan otomatisasi peperangan. Orang mungkin merasa terlalu sulit untuk ikut campur dan menolak.
Dalam banyak kasus, kita bersedia memberi mereka kendali tanpa mereka harus memintanya. Banyak individu dan dunia usaha yang bersedia menerapkan sistem tersebut dalam lingkungan yang kompetitif karena khawatir akan tertinggal dalam persaingan.
Dokumen lengkap dapat ditemukan di sini.
Penolakan tanggung jawab
Sejalan dengan Percayai pedoman Proyek, harap dicatat bahwa informasi yang diberikan pada halaman ini tidak dimaksudkan untuk dan tidak boleh ditafsirkan sebagai nasihat hukum, pajak, investasi, keuangan, atau bentuk nasihat lainnya. Penting untuk hanya menginvestasikan jumlah yang mampu Anda tanggung kerugiannya dan mencari nasihat keuangan independen jika Anda ragu. Untuk informasi lebih lanjut, kami menyarankan untuk merujuk pada syarat dan ketentuan serta halaman bantuan dan dukungan yang disediakan oleh penerbit atau pengiklan. MetaversePost berkomitmen terhadap pelaporan yang akurat dan tidak memihak, namun kondisi pasar dapat berubah tanpa pemberitahuan.
Tentang Penulis
Damir adalah pemimpin tim, manajer produk, dan editor di Metaverse Post, mencakup topik seperti AI/ML, AGI, LLM, Metaverse, dan Web3-bidang terkait. Artikelnya menarik lebih dari satu juta pengguna setiap bulan. Dia tampaknya ahli dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebutkan dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto, dan publikasi lainnya. Dia melakukan perjalanan antara UEA, Turki, Rusia, dan CIS sebagai pengembara digital. Damir memperoleh gelar sarjana dalam bidang fisika, yang menurutnya telah memberinya keterampilan berpikir kritis yang diperlukan untuk berhasil dalam lanskap internet yang selalu berubah.
lebih artikel
Damir adalah pemimpin tim, manajer produk, dan editor di Metaverse Post, mencakup topik seperti AI/ML, AGI, LLM, Metaverse, dan Web3-bidang terkait. Artikelnya menarik lebih dari satu juta pengguna setiap bulan. Dia tampaknya ahli dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebutkan dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto, dan publikasi lainnya. Dia melakukan perjalanan antara UEA, Turki, Rusia, dan CIS sebagai pengembara digital. Damir memperoleh gelar sarjana dalam bidang fisika, yang menurutnya telah memberinya keterampilan berpikir kritis yang diperlukan untuk berhasil dalam lanskap internet yang selalu berubah.
