10 AI teratas dan ChatGPT Risiko dan Bahaya di Tahun 2023
Dengan kemajuan kecerdasan buatan (AI) dan teknologi chatbot, semakin banyak perusahaan mengejar solusi layanan pelanggan otomatis sebagai sarana untuk meningkatkan pengalaman pelanggan dan mengurangi biaya overhead. Meskipun ada banyak manfaat untuk memanfaatkan model AI dan solusi chatbot, masih ada berbagai risiko dan bahaya yang terkait dengan teknologi tersebut, terutama karena hal itu menjadi lebih meresap dan terintegrasi ke dalam kehidupan kita sehari-hari selama dekade mendatang.
Minggu ini semua orang di Senat AS mendengarkan Sam Altman berbicara tentang regulasi dan risiko model AI. Berikut ini ikhtisar dasar:
Bioweapons
Penggunaan Kecerdasan Buatan (AI) dalam pengembangan bioweapons menyajikan cara berbahaya metodis dan efisien untuk menciptakan senjata pemusnah massal yang kuat dan mematikan. ChatGPT bot adalah asisten percakapan berbasis AI yang mampu mengadakan percakapan seperti manusia dengan manusia. Kekhawatiran dengan ChatGPT bot adalah mereka berpotensi digunakan untuk menyebarkan informasi palsu dan memanipulasi pikiran untuk mempengaruhi opini publik.
Saya memperingatkan kemungkinan penyalahgunaan AI dalam pembuatan senjata biologis dan menekankan perlunya regulasi untuk mencegah skenario semacam itu.
sam altman
Regulasi adalah komponen kunci untuk mencegah penyalahgunaan AI dan ChatGPT bot dalam pengembangan dan penyebaran senjata biologis. Pemerintah perlu mengembangkan rencana aksi nasional untuk mengatasi potensi penyalahgunaan teknologi, dan perusahaan harus bertanggung jawab atas potensi penyalahgunaan teknologi mereka. AI dan ChatGPT bot. Organisasi internasional harus berinvestasi dalam inisiatif yang berfokus pada pelatihan, pemantauan, dan pendidikan AI dan ChatGPT bot.
Kehilangan Pekerjaan
Potensi kehilangan pekerjaan karena AI dan ChatGPT pada tahun 2023 diproyeksikan menjadi tiga kali lipat dibandingkan tahun 2020. AI dan ChatGPT dapat menyebabkan peningkatan rasa tidak aman di tempat kerja, pertimbangan etis, dan dampak psikologis pada pekerja. AI dan ChatGPT dapat digunakan untuk memantau perilaku dan aktivitas karyawan, memungkinkan pemberi kerja membuat keputusan dengan cepat dan tanpa memerlukan keterlibatan personel manusia. Selain itu, AI dan ChatGPT dapat menyebabkan keputusan yang tidak adil dan bias yang dapat menyebabkan ketidakamanan finansial, sosial, dan emosional di tempat kerja.
Saya menekankan bahwa pengembangan AI dapat menyebabkan hilangnya pekerjaan yang signifikan dan meningkatnya ketidaksetaraan.
sam altman
Regulasi AI
Artikel ini membahas tentang risiko potensial dan bahaya seputar AI dan ChatGPT regulasi pada tahun 2023. AI dan ChatGPT teknik dapat digunakan untuk melakukan aktivitas yang berpotensi berbahaya, seperti membuat profil orang berdasarkan perilaku dan aktivitas mereka. Kurangnya yang tepat Regulasi AI dapat mengakibatkan konsekuensi yang tidak diinginkan, seperti pelanggaran data atau diskriminasi. Regulasi AI dapat membantu memitigasi risiko ini dengan menetapkan pedoman ketat untuk memastikan hal tersebut ChatGPT sistem tidak digunakan dengan cara yang jahat. Akhirnya, AI dan ChatGPT bisa menjadi faktor pengontrol dalam hidup kita, mengendalikan hal-hal seperti arus lalu lintas dan pasar keuangan, dan bahkan digunakan untuk mempengaruhi kehidupan politik dan sosial kita. Untuk mencegah ketidakseimbangan kekuatan semacam ini, perlu ada regulasi yang tegas diterapkan.
Kami menyarankan untuk membuat agensi baru untuk mendapatkan lisensi dan mengatur AI kegiatan jika kemampuan mereka melebihi ambang batas tertentu.
sam altman
Standar Keamanan
Teknologi AI dan chatbot menyebabkan kemajuan dalam cara kita mengelola kehidupan sehari-hari. Karena teknologi ini menjadi lebih maju, mereka memiliki potensi untuk menjadi mandiri dan membuat keputusan sendiri. Untuk mencegah hal ini, standar keamanan harus ditetapkan bahwa model ini harus dipenuhi sebelum dapat digunakan. Salah satu standar keamanan utama yang diusulkan oleh Altman pada tahun 2023 adalah pengujian replikasi diri, yang akan memastikan bahwa model AI tidak dapat mereplikasi diri tanpa otorisasi. Standar keamanan kedua yang diusulkan oleh Altman pada tahun 2023 adalah pengujian eksfiltrasi data, yang akan memastikan bahwa model AI tidak dapat mengekstraksi data dari sistem tanpa otorisasi. Pemerintah di seluruh dunia telah mulai bertindak untuk melindungi warganya dari potensi risiko.
Kami harus menerapkan standar keamanan yang harus dipenuhi oleh model AI sebelum diterapkan, termasuk pengujian untuk replikasi diri dan eksfiltrasi data.
sam altman
Audit Independen
Pada tahun 2023, kebutuhan akan audit independen terhadap teknologi AI dan LLM menjadi semakin penting. AI menimbulkan berbagai risiko, seperti algoritme Pembelajaran Mesin tanpa pengawasan yang dapat mengubah dan bahkan menghapus data secara tidak sengaja, dan serangan siber semakin menargetkan AI dan ChatGPT. Model buatan AI menggabungkan bias, yang dapat mengarah pada praktik diskriminatif. Audit independen harus mencakup penelaahan atas memodelkan AI dilatih, desain algoritme, dan output model untuk memastikannya tidak menampilkan pengkodean atau hasil yang bias. Selain itu, audit harus mencakup tinjauan kebijakan dan prosedur keamanan yang digunakan untuk melindungi data pengguna dan memastikan lingkungan yang aman.
Audit independen dilakukan untuk memastikan bahwa model AI memenuhi standar keamanan yang ditetapkan.
sam altman
Tanpa audit independen, bisnis dan pengguna terpapar berpotensi berbahaya dan risiko mahal yang bisa dihindari. Sangat penting bahwa semua bisnis yang menggunakan teknologi ini memiliki audit independen yang diselesaikan sebelum diterapkan untuk memastikan bahwa teknologi tersebut aman dan etis.
AI Sebagai Alat
AI telah berkembang secara eksponensial, dan kemajuan seperti GPT-4 telah menghasilkan interaksi yang lebih realistis dan canggih dengan komputer. Namun, Altman menekankan bahwa AI harus dilihat sebagai alat, bukan makhluk hidup. GPT-4 adalah model pemrosesan bahasa alami yang dapat menghasilkan konten yang hampir tidak dapat dibedakan dari konten yang ditulis manusia, sehingga menghilangkan sebagian pekerjaan penulis dan memungkinkan pengguna mendapatkan pengalaman yang lebih mirip manusia dengan teknologi.
AI, terutama model canggih seperti GPT-4, harus dilihat sebagai alat, bukan makhluk hidup.
sam altman
Namun, Sam Altman memperingatkan bahwa terlalu banyak penekanan pada AI sebagai lebih dari sekadar alat dapat menyebabkan ekspektasi yang tidak realistis dan keyakinan yang salah tentang kemampuannya. Dia juga menunjukkan bahwa AI bukannya tanpa implikasi etisnya, dan bahkan jika AI tingkat lanjut dapat digunakan untuk kebaikan, itu masih dapat digunakan untuk hal buruk, yang mengarah ke profil rasial yang berbahaya. pelanggaran privasi, dan bahkan ancaman keamanan. Altman menyoroti pentingnya memahami AI hanya sebagai alat, dan itu harus dilihat sebagai alat untuk mempercepat kemajuan manusia, bukan untuk menggantikan manusia.
Kesadaran AI
Perdebatan tentang AI dan apakah AI dapat mencapai kesadaran atau tidak telah berkembang. Banyak peneliti berpendapat bahwa mesin tidak mampu mengalami keadaan emosional, mental, atau sadar, meskipun arsitektur komputasinya rumit. Beberapa peneliti menerima kemungkinan AI mencapai kesadaran. Argumen utama untuk kemungkinan ini adalah bahwa AI dibangun di atas program yang membuatnya mampu mereplikasi proses fisik dan mental tertentu yang ditemukan di otak manusia. Namun, argumen kontra utama adalah bahwa AI tidak memiliki kecerdasan emosional yang nyata.
Sementara AI harus dilihat sebagai alat, saya mengakui perdebatan yang sedang berlangsung di komunitas ilmiah mengenai potensi kesadaran AI.
sam altman
Banyak peneliti AI setuju bahwa tidak ada bukti ilmiah yang menunjukkan bahwa AI mampu mencapai kesadaran dengan cara yang sama seperti manusia. Elon Musk, salah satu pendukung paling vokal dari sudut pandang ini, percaya bahwa kemampuan AI untuk meniru bentuk kehidupan biologis sangat terbatas dan lebih banyak penekanan harus ditempatkan pada nilai-nilai etika mesin pengajaran.
Aplikasi Militer
AI dalam konteks militer berkembang pesat dan memiliki potensi untuk meningkatkan cara militer melakukan peperangan. Para ilmuwan khawatir bahwa AI di militer dapat menimbulkan berbagai masalah etis dan terkait risiko, seperti ketidakpastian, ketidakterhitungan, dan kurangnya transparansi.
Saya mengenali potensi penggunaan AI dalam aplikasi militer seperti drone otonom dan panggilan peraturan untuk mengatur penggunaan seperti itu.
sam altman
Sistem AI rentan terhadap aktor jahat yang dapat memprogram ulang sistem atau menyusup ke sistem, berpotensi menyebabkan hasil yang menghancurkan. Untuk mengatasinya kekhawatiran, masyarakat internasional telah mengambil langkah awal berupa Konvensi Internasional tentang Senjata Konvensional Tertentu tahun 1980, yang menetapkan larangan tertentu atas penggunaan senjata tertentu. Pakar AI telah menganjurkan Komite Internasional untuk mengawasi proses seperti evaluasi, pelatihan, dan penyebaran AI dalam aplikasi militer.
AGI
Teknologi AI menjadi semakin maju dan meluas, sehingga penting untuk memahami potensi risiko yang ditimbulkan oleh agen dan sistem AI. Risiko pertama dan paling jelas yang terkait dengan agen AI adalah bahaya mesin yang mengakali manusia. Agen AI dapat dengan mudah mengungguli pembuatnya dengan mengambil alih pengambilan keputusan, proses otomasi, dan tugas lanjutan lainnya. Selain itu, otomatisasi bertenaga AI dapat meningkatkan ketimpangan, karena menggantikan manusia di pasar Lowongan Kerja.
Saya memperingatkan bahwa sistem AI yang lebih kuat dan kompleks mungkin lebih mendekati kenyataan daripada yang dipikirkan banyak orang dan menekankan perlunya kesiapan dan tindakan pencegahan.
sam altman
Algoritme AI dan penggunaannya dalam pengambilan keputusan yang kompleks menimbulkan kekhawatiran akan kurangnya transparansi. Organisasi bisa memitigasi risiko terkait dengan agen AI dengan secara proaktif memastikan AI dikembangkan secara etis, menggunakan data yang sesuai dengan standar etika, dan melakukan pengujian rutin pada algoritme untuk memastikan mereka tidak bias dan bertanggung jawab terhadap pengguna dan data.
Kesimpulan
Altman juga menyatakan bahwa meskipun kami mungkin tidak dapat mengelola China, kami harus bernegosiasi dengannya. Kriteria yang diusulkan untuk mengevaluasi dan mengatur model AI termasuk kemampuan untuk mensintesis sampel biologis, manipulasi kepercayaan orang, jumlah daya pemrosesan yang dihabiskan, dan sebagainya.
Tema penting adalah bahwa Sam harus memiliki "hubungan" dengan negara. Kami berharap mereka tidak mengikuti contoh Eropa, seperti yang kami sebutkan sebelumnya.
Pertanyaan Umum (FAQ)
Risiko AI mencakup potensi sistem AI untuk menunjukkan perilaku yang bias atau diskriminatif, untuk digunakan secara jahat atau tidak tepat, atau kegagalan fungsi yang menyebabkan bahaya. Pengembangan dan penerapan teknologi AI dapat menimbulkan risiko terhadap privasi dan keamanan data, serta keselamatan dan keamanan orang dan sistem.
Lima risiko utama yang terkait dengan AI adalah: Kehilangan Pekerjaan, Resiko Keamanan, Bias atau diskriminasi, Bioweapons dan AGI.
Aspek AI yang paling berbahaya adalah potensinya untuk menyebabkan pengangguran massal.
Penolakan tanggung jawab
Sejalan dengan Percayai pedoman Proyek, harap dicatat bahwa informasi yang diberikan pada halaman ini tidak dimaksudkan untuk dan tidak boleh ditafsirkan sebagai nasihat hukum, pajak, investasi, keuangan, atau bentuk nasihat lainnya. Penting untuk hanya menginvestasikan jumlah yang mampu Anda tanggung kerugiannya dan mencari nasihat keuangan independen jika Anda ragu. Untuk informasi lebih lanjut, kami menyarankan untuk merujuk pada syarat dan ketentuan serta halaman bantuan dan dukungan yang disediakan oleh penerbit atau pengiklan. MetaversePost berkomitmen terhadap pelaporan yang akurat dan tidak memihak, namun kondisi pasar dapat berubah tanpa pemberitahuan.
Tentang Penulis
Damir adalah pemimpin tim, manajer produk, dan editor di Metaverse Post, mencakup topik seperti AI/ML, AGI, LLM, Metaverse, dan Web3-bidang terkait. Artikelnya menarik lebih dari satu juta pengguna setiap bulan. Dia tampaknya ahli dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebutkan dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto, dan publikasi lainnya. Dia melakukan perjalanan antara UEA, Turki, Rusia, dan CIS sebagai pengembara digital. Damir memperoleh gelar sarjana dalam bidang fisika, yang menurutnya telah memberinya keterampilan berpikir kritis yang diperlukan untuk berhasil dalam lanskap internet yang selalu berubah.
lebih artikel
Damir adalah pemimpin tim, manajer produk, dan editor di Metaverse Post, mencakup topik seperti AI/ML, AGI, LLM, Metaverse, dan Web3-bidang terkait. Artikelnya menarik lebih dari satu juta pengguna setiap bulan. Dia tampaknya ahli dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebutkan dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto, dan publikasi lainnya. Dia melakukan perjalanan antara UEA, Turki, Rusia, dan CIS sebagai pengembara digital. Damir memperoleh gelar sarjana dalam bidang fisika, yang menurutnya telah memberinya keterampilan berpikir kritis yang diperlukan untuk berhasil dalam lanskap internet yang selalu berubah.
