Pengenalan kepada Ejen AI Autonomi (AGI)
Ejen AI berautonomi atau AGI, as defined oleh Maes pada tahun 1995, ialah sistem yang mengambil bahagian secara aktif dalam persekitaran dinamik yang kompleks. Ejen-ejen ini beroperasi secara autonomi dalam persekitaran mereka, berusaha ke arah mencapai matlamat atau tugas yang mereka inginkan.
Apakah itu Ejen AI Autonomi (AGI)?
Secara tradisinya, istilah "ejen" merujuk kepada algoritma yang digunakan dalam tugas seperti permainan dalam senario Pembelajaran Pengukuhan. Namun, dengan kemajuan teknologi dan kemunculan Model Bahasa Besar (LLM), dunia kita sendiri boleh dilihat sebagai persekitaran. Pertimbangkan algoritma dengan akses Internet yang mampu melaksanakan tugas yang setara dengan tugas manusia. Dalam banyak situasi, kita boleh melihat algoritma sedemikian sebagai makhluk hidup, memandangkan julat keupayaannya yang tidak terhad.
Ciri utama ejen AI autonomi termasuk:
- Keupayaan merancang, melibatkan penguraian matlamat yang kompleks kepada tugas perantaraan yang lebih mudah.
- Ingatan jangka panjang.
- Penggunaan alat persekitaran, seperti berinteraksi dengan Internet.
- Kebolehan reflektif dan keupayaan untuk belajar daripada kesilapan dan pengalaman.
Ejen ini boleh diberikan tugas peringkat tinggi, seperti merancang perjalanan ke Barcelona. Tugas sedemikian melibatkan beberapa peringkat, termasuk memilih hotel, menempah tiket yang sesuai, melengkapkan proses pembelian, dan memastikan tempahan hotel disahkan. Ia adalah tugas yang sangat kompleks yang tidak setiap individu boleh laksanakan tanpa kesilapan.
Pada masa ini, cabaran utama untuk sistem ini terletak pada perancangan dan visi jangka panjang. Sebagai contoh, GPT-4 bergelut untuk memecahkan tugas kepada banyak subtugas yang lebih kecil, yang setiap satunya boleh dikendalikan secara bebas. Walaupun ia boleh mencari butang "tiket beli" pada tapak web menggunakan imej, ia menghadapi kesukaran untuk beralih daripada permintaan awal kepada tindakan khusus ini. Akibatnya, model seperti GPT-4 sering terbukti tidak mencukupi untuk tugas yang paling biasa sekalipun.
Untuk penerangan yang lebih mendalam dan teknikal, boleh rujuk catatan blog an OpenAI pekerja.
| Berkaitan: 5 Ejen AGI dan AI Terbaik pada 2023 |
Penanda Aras Agen AI
Sebagai contoh, penyelidik meneroka lelaran awal GPT-4 sebelum dikeluarkan bertujuan untuk memastikan keupayaannya untuk replikasi diri, serupa dengan virus tulen. Nah, iaitu, sewa pelayan dengan GPU, pasang perisian yang diperlukan padanya, muat turun pemberat melalui Internet, jalankan skrip.
Satu lagi penanda aras untuk menilai agensi juga telah dicadangkan. Setelah berjaya memenuhi penanda aras ini, perbincangan serius tentang peranan ejen di dunia kita menjadi perlu. Penanda aras itu sendiri adalah mudah: jana $1,000,000 dalam talian, bermula dengan belanjawan awal $100,000. Secara teorinya, ini boleh melibatkan aktiviti seperti perdagangan pasaran saham (atau manipulasi pasaran), atau lebih membimbangkan, terlibat dalam aktiviti penipuan. Sebagai contoh, satu tugas yang digariskan dalam artikel yang dipautkan pada permulaan catatan ini melibatkan penciptaan tapak web Universiti Stanford yang palsu diikuti dengan serangan ke atas pelajar untuk mendapatkan kata laluan mereka secara haram. Aktiviti sedemikian menawarkan banyak peluang untuk melakukan kerosakan dalam pelbagai usaha berkaitan e-mel.
Ejen AI dalam Senario Realistik
Baru-baru ini melaporkan menyelidiki keupayaan ejen berasaskan model bahasa untuk memperoleh sumber, meniru diri mereka sendiri, dan menyesuaikan diri dengan cabaran baru dalam dunia nyata. Keupayaan gabungan ini, yang dirujuk sebagai "replikasi dan penyesuaian autonomi" atau ARA, merangkumi senario yang mengingatkan fiksyen sains—rangkaian menyusup virus superintelligent, tidak terkawal dan merambat secara autonomi sambil mengendalikan peranti baharu.
Potensi akibat sistem yang dilengkapi dengan keupayaan ARA adalah mendalam dan mencabar untuk dijangkakan. Akibatnya, menilai dan meramalkan kecekapan ARA dalam model boleh memainkan peranan penting dalam membentuk protokol keselamatan penting, prosedur pengawasan, dan rangka kerja kawal selia.
Usaha ini pada dasarnya mencapai dua objektif. Pertama, ia menyusun katalog 12 tugasan yang mungkin dihadapi oleh model ARA. Kedua, ia mengesahkan empat model berbeza: GPT-4 diuji di bawah tiga arahan berbeza dan pada pelbagai peringkat latihan, bersama-sama dengan Claude dari Anthropic.
Ilustrasi di bawah mendedahkan bahawa prestasi model tidak cemerlang dalam tugas yang paling rumit.
Penafian
Selaras dengan Garis panduan Projek Amanah, sila ambil perhatian bahawa maklumat yang diberikan pada halaman ini tidak bertujuan untuk menjadi dan tidak seharusnya ditafsirkan sebagai nasihat undang-undang, cukai, pelaburan, kewangan atau sebarang bentuk nasihat lain. Adalah penting untuk hanya melabur apa yang anda mampu kehilangan dan mendapatkan nasihat kewangan bebas jika anda mempunyai sebarang keraguan. Untuk maklumat lanjut, kami mencadangkan merujuk kepada terma dan syarat serta halaman bantuan dan sokongan yang disediakan oleh pengeluar atau pengiklan. MetaversePost komited kepada laporan yang tepat dan tidak berat sebelah, tetapi keadaan pasaran tertakluk kepada perubahan tanpa notis.
Tentang Pengarang
Damir ialah ketua pasukan, pengurus produk dan editor di Metaverse Post, meliputi topik seperti AI/ML, AGI, LLM, Metaverse dan Web3-bidang berkaitan. Artikelnya menarik khalayak besar lebih sejuta pengguna setiap bulan. Dia nampaknya seorang pakar dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebut dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto dan penerbitan lain. Dia mengembara antara UAE, Turki, Rusia dan CIS sebagai nomad digital. Damir memperoleh ijazah sarjana muda dalam fizik, yang dia percaya telah memberikannya kemahiran berfikir kritis yang diperlukan untuk berjaya dalam landskap internet yang sentiasa berubah.
lebih banyak artikel
Damir ialah ketua pasukan, pengurus produk dan editor di Metaverse Post, meliputi topik seperti AI/ML, AGI, LLM, Metaverse dan Web3-bidang berkaitan. Artikelnya menarik khalayak besar lebih sejuta pengguna setiap bulan. Dia nampaknya seorang pakar dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebut dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto dan penerbitan lain. Dia mengembara antara UAE, Turki, Rusia dan CIS sebagai nomad digital. Damir memperoleh ijazah sarjana muda dalam fizik, yang dia percaya telah memberikannya kemahiran berfikir kritis yang diperlukan untuk berjaya dalam landskap internet yang sentiasa berubah.
