OpenAI: AI Boleh Berpotensi Memudaratkan Orang, Tetapi Cuba Hentikan Kemajuan Bukan Pilihan
Secara ringkas
OpenAIDokumen "Perancangan untuk AGI dan Seterusnya" mencadangkan pengenalan secara beransur-ansur, perlahan bagi model yang lebih kompleks dan "pintar", mengatur audit bebas bagi sistem besar, dan mengehadkan sumber pengkomputeran.
OpenAI mahu AI terbuka kepada semua orang secara sama rata dan mencipta lebih konsisten dan model yang boleh diurus untuk mengurangkan berat sebelah dan tingkah laku yang tidak diingini.
OpenAI baru-baru ini menerbitkan dokumen bertajuk "Perancangan untuk AGI dan Seterusnya." Ia menggariskan idea-idea luas yang membimbing tindakan syarikat ketika dunia bergerak lebih dekat dengan pembangunan AGI (kecerdasan am buatan).
OpenAI dengan percaya bahawa walaupun AI berpotensi menyebabkan kemudaratan yang ketara kepada orang ramai, percubaan untuk menghentikan kemajuan bukanlah satu pilihan. Akibatnya, kita mesti belajar bagaimana untuk mengekalkan peningkatan ini supaya ia tidak merosot dengan ketara.
Dokumen itu boleh didapati disini. Mari kita serlahkan beberapa elemen penting daripadanya:
- OpenAI mahu AGI membantu orang ramai berkembang maju dalam semua aspek kehidupan mereka, dari segi ekonomi dan saintifik.
Daripada mencipta AI besar yang sangat hebat dan segera melepaskannya ke dunia, OpenAI akan memperkenalkan model yang lebih rumit dan "pintar" secara beransur-ansur. Andaian adalah bahawa keupayaan AI yang meningkat secara beransur-ansur tidak akan mengejutkan dunia, memberikan manusia masa untuk menyesuaikan diri, menyesuaikan ekonomi, dan membina prosedur untuk berinteraksi dengan AI. - OpenAI menjemput semua organisasi untuk menerima pakai prinsip yang dinyatakan di atas secara rasmi (melancarkan AI berkuasa secara beransur-ansur). Altman juga mengesyorkan mengehadkan jumlah sumber pengkomputeran yang boleh digunakan untuk melatih model dan menyediakan audit yang saksama bagi sistem utama sebelum ia tersedia kepada orang awam. Daripada terlibat dalam pertandingan seperti "siapa yang akan menjadi yang pertama untuk melancarkan model yang lebih hebat dan lebih besar?" OpenAI meminta perusahaan untuk bekerjasama untuk meningkatkan keselamatan AI.
- OpenAI percaya adalah penting bahawa kerajaan dimaklumkan tentang larian latihan yang melebihi skala tertentu. Ini adalah konsep yang menarik, dan kami ingin mengetahui lebih lanjut tentang rancangan OpenAI mempunyai dalam hal ini. Cadangan ini nampaknya tidak begitu hebat pada saya pada mulanya.
- OpenAI akan cuba membangunkan model yang lebih boleh dipercayai dan dikawal, berkemungkinan besar mengehadkan kecondongan dan tingkah laku yang tidak menguntungkan dalam AI. Pendekatan yang diambil oleh OpenAI dalam kes ini adalah untuk menjadikan model itu tersedia kepada orang ramai dalam bentuk yang sangat terhad sambil turut memberi pilihan kepada pengguna untuk memperibadikannya. Memandangkan pengguna tidak akan dapat "memperibadikan" apa-apa di sana, saya tidak pasti bagaimana ini akan membantu model secara keseluruhan menjadi kurang berat sebelah. Melainkan ia membebaskan firma liabiliti untuk tindakan model.
Secara keseluruhan, dokumen itu menunjukkan dengan cara yang betul. Walau bagaimanapun, terdapat konflik kecil antara "kami tidak akan segera menunjukkan model yang keren kepada orang ramai, tetapi kami akan membincangkannya kepada negeri" dan “Rakyat patut tahu tentang kemajuan AI." Ringkasnya, kami akan menunggu penjelasan terperinci daripada OpenAI pada semua topik.
Baca lebih lanjut mengenai AI:
Penafian
Selaras dengan Garis panduan Projek Amanah, sila ambil perhatian bahawa maklumat yang diberikan pada halaman ini tidak bertujuan untuk menjadi dan tidak seharusnya ditafsirkan sebagai nasihat undang-undang, cukai, pelaburan, kewangan atau sebarang bentuk nasihat lain. Adalah penting untuk hanya melabur apa yang anda mampu kehilangan dan mendapatkan nasihat kewangan bebas jika anda mempunyai sebarang keraguan. Untuk maklumat lanjut, kami mencadangkan merujuk kepada terma dan syarat serta halaman bantuan dan sokongan yang disediakan oleh pengeluar atau pengiklan. MetaversePost komited kepada laporan yang tepat dan tidak berat sebelah, tetapi keadaan pasaran tertakluk kepada perubahan tanpa notis.
Tentang Pengarang
Damir ialah ketua pasukan, pengurus produk dan editor di Metaverse Post, meliputi topik seperti AI/ML, AGI, LLM, Metaverse dan Web3-bidang berkaitan. Artikelnya menarik khalayak besar lebih sejuta pengguna setiap bulan. Dia nampaknya seorang pakar dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebut dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto dan penerbitan lain. Dia mengembara antara UAE, Turki, Rusia dan CIS sebagai nomad digital. Damir memperoleh ijazah sarjana muda dalam fizik, yang dia percaya telah memberikannya kemahiran berfikir kritis yang diperlukan untuk berjaya dalam landskap internet yang sentiasa berubah.
lebih banyak artikel
Damir ialah ketua pasukan, pengurus produk dan editor di Metaverse Post, meliputi topik seperti AI/ML, AGI, LLM, Metaverse dan Web3-bidang berkaitan. Artikelnya menarik khalayak besar lebih sejuta pengguna setiap bulan. Dia nampaknya seorang pakar dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebut dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto dan penerbitan lain. Dia mengembara antara UAE, Turki, Rusia dan CIS sebagai nomad digital. Damir memperoleh ijazah sarjana muda dalam fizik, yang dia percaya telah memberikannya kemahiran berfikir kritis yang diperlukan untuk berjaya dalam landskap internet yang sentiasa berubah.
