Jumlah Kepintaran di Alam Semesta Akan Berganda Setiap 18 Bulan, Kata Sam Altman
Secara ringkas
Kiamat AI telah bermula, dengan jumlah kecerdasan di alam semesta berganda setiap 18 bulan.
OpenAISam Altman pernah bergurau bahawa AI akan membawa kepada akhir dunia, tetapi sebelum itu, ia akan menjadi perniagaan yang besar.
Eric Hoel, ahli sains saraf dan ahli falsafah Amerika di Tufts University, berpendapat bahawa sistem AI tidak boleh dianggap pintar pada ketika ini, kerana mereka tidak memahami dunia dan tidak mempunyai personaliti yang memanifestasikan dirinya dalam niat dan tindakan mereka.
Hipotesis otak Bayesian menyatakan bahawa fungsi utama otak adalah untuk meminimumkan kejutan. Jika ini benar, kiamat AI mungkin sudah bermula.
Ini menunjukkan bahawa ChatGPT dan yang lain sudah lebih serba boleh dalam kecerdasan mereka daripada mana-mana manusia.
Kiamat AI telah bermula, mengubah maksud Hukum Moore. Kini, jumlah kecerdasan di alam semesta akan berganda setiap 18 bulan, menurut Sam Altman, Ketua Pegawai Eksekutif OpenAI, syarikat di belakang ChatGPT. Hanya tujuh tahun yang lalu, Sam bergurau: "AI kemungkinan besar akan membawa kepada penghujung dunia, tetapi sebelum itu, akan ada perniagaan yang besar." Sekarang, orang bergurau dia tidak berpisah dengan "ransel nuklear" supaya dia boleh meletupkan pusat data dari jauh jika GPT hilang kawalan.
| Catatan yang disyorkan: ChatGPT Boleh Menyebabkan Kemerosotan Manusia Yang Tidak Dapat Dipulihkan |
Untuk lebih memahami apa yang Altman maksudkan dalam tweetnya, dan untuk mengetahui cara untuk tidak menjadi gila semasa ledakan AI, kami mengesyorkan membaca Eric Hoel "Bagaimana untuk menavigasi kiamat AI sebagai orang yang waras.” Hoel ialah ahli sains saraf dan ahli falsafah Amerika di Universiti Tufts. Ia adalah bacaan yang bagus, kerana Hoel adalah seorang penulis yang hebat, jadi kami defisangat mengesyorkan menyemak siaran ini.
Mari kita lihat salah satu perkara penting kerana ia meringkaskan pemahaman yang mendalam tentang apa yang sedang berlaku dan masa terdekat kiamat yang telah pun berlaku. Hujah utama "ahli tekno-optimis rasional," yang percaya bahawa tiada apa yang luar biasa dan terlalu berisiko berlaku dengan kemunculan ChatGPT, adalah seperti berikut:
- Walaupun keputusan cemerlang AI perbualan generatif (seperti ChatGPT, Bing, dsb.), sistem AI ini tidak boleh dianggap pintar. Mereka tidak memahami dunia dan tidak mempunyai motivasi ejen. Mereka tidak mempunyai keperibadian yang nyata dalam niat dan tindakan mereka, dan intelek yang mereka anggap tidak lebih daripada simulasi intelek. Pada terasnya, simulakrum ini hanyalah pengisi automatik untuk perkataan seterusnya, mencerminkan dalam cermin kebarangkaliannya korpus besar yang tidak ditapis bagi teks tulisan manusia daripada Internet.
- Jika ya, maka tidak ada prospek rapat kemunculan superintelligence atau risiko yang berkaitan dengannya (walaupun, tentu saja, anda perlu bersedia untuk ini, kemungkinan besar pada ufuk beberapa dekad).
| Catatan yang disyorkan: Bot Carian AI Akan Menjadikan Teknologi Besar Lebih Berkuasa, Kata Christopher Millsion |
Jawapan Hoel terhadap hujah ini adalah seperti berikut:
- Hakikat bahawa ChatGPT, sebagai contoh, hanyalah auto-lengkap bagi perkataan seterusnya tidak membayangkan bahawa ia tidak boleh menjadi (atau telah menjadi) ejen pintar. Tidak seperti kesedaran, kecerdasan adalah konsep berfungsi sepenuhnya: Jika sesuatu bertindak dengan bijak, ia adalah pintar. Jika ia bertindak sebagai ejen, ia adalah ejen.
- Berikut adalah contoh penjelasan. Terdapat kohort ahli sains yang berpengaruh—Carl Friston (ahli sains saraf yang paling banyak disebut) dan pelbagai nama terkenal lain—yang mendakwa bahawa tujuan otak kita adalah untuk meminimumkan kejutan. "Hipotesis otak Bayesian" ini adalah salah satu daripada yang arus perdana hari ini. Teori itu menyatakan bahawa, pada peringkat global, meminimumkan kejutan adalah fungsi utama otak. Dan walaupun ini hanyalah salah satu daripada beberapa hipotesis utama tentang cara otak berfungsi, mari kita anggap ia benar. Bayangkan sekarang makhluk asing menemui otak manusia, lihat, dan berkata: “Oh, perkara ini hanya meminimumkan kejutan! Ia tidak boleh menjadi asas intelek dan oleh itu tidak boleh berbahaya bagi pembawa fikiran yang sebenar. Fikirkan: Adakah "meminimumkan kejutan" benar-benar matlamat yang jauh lebih sukar daripada teks autolengkap? Atau adakah ia sebenarnya sangat serupa?
- Dan jika ya, maka superintelligence bukan manusia mungkin sudah berada berdekatan. Dan risiko yang berkaitan sudah cukup nyata. Apa lagi yang perlu ditambah? barangkali ChatGPT dan yang lain sudah lebih serba boleh dalam mereka kecerdasan daripada mana-mana manusia. ChatGPT dan yang lain mungkin akan aktif pada masa yang sama atas sebab-sebab berikut: munasabah, tidak boleh dipercayai, dan tidak serupa dengan minda manusia, tidak dapat dikawal dalam apa-apa pengertian asas, kecuali beberapa pagar yang direka bentuk secara tergesa-gesa.
Dan jika semua ini benar, maka kiamat AI telah pun bermula.
Baca lebih banyak topik berkaitan:
Penafian
Selaras dengan Garis panduan Projek Amanah, sila ambil perhatian bahawa maklumat yang diberikan pada halaman ini tidak bertujuan untuk menjadi dan tidak seharusnya ditafsirkan sebagai nasihat undang-undang, cukai, pelaburan, kewangan atau sebarang bentuk nasihat lain. Adalah penting untuk hanya melabur apa yang anda mampu kehilangan dan mendapatkan nasihat kewangan bebas jika anda mempunyai sebarang keraguan. Untuk maklumat lanjut, kami mencadangkan merujuk kepada terma dan syarat serta halaman bantuan dan sokongan yang disediakan oleh pengeluar atau pengiklan. MetaversePost komited kepada laporan yang tepat dan tidak berat sebelah, tetapi keadaan pasaran tertakluk kepada perubahan tanpa notis.
Tentang Pengarang
Damir ialah ketua pasukan, pengurus produk dan editor di Metaverse Post, meliputi topik seperti AI/ML, AGI, LLM, Metaverse dan Web3-bidang berkaitan. Artikelnya menarik khalayak besar lebih sejuta pengguna setiap bulan. Dia nampaknya seorang pakar dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebut dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto dan penerbitan lain. Dia mengembara antara UAE, Turki, Rusia dan CIS sebagai nomad digital. Damir memperoleh ijazah sarjana muda dalam fizik, yang dia percaya telah memberikannya kemahiran berfikir kritis yang diperlukan untuk berjaya dalam landskap internet yang sentiasa berubah.
lebih banyak artikel
Damir ialah ketua pasukan, pengurus produk dan editor di Metaverse Post, meliputi topik seperti AI/ML, AGI, LLM, Metaverse dan Web3-bidang berkaitan. Artikelnya menarik khalayak besar lebih sejuta pengguna setiap bulan. Dia nampaknya seorang pakar dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebut dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto dan penerbitan lain. Dia mengembara antara UAE, Turki, Rusia dan CIS sebagai nomad digital. Damir memperoleh ijazah sarjana muda dalam fizik, yang dia percaya telah memberikannya kemahiran berfikir kritis yang diperlukan untuk berjaya dalam landskap internet yang sentiasa berubah.
