Pengantar Agen AI Otonom (AGI)
Agen AI otonom atau AGI, as defidikembangkan oleh Maes pada tahun 1995, adalah sistem yang secara aktif berpartisipasi dalam lingkungan dinamis yang kompleks. Agen-agen ini beroperasi secara mandiri dalam lingkungan mereka, bekerja untuk mencapai tujuan atau tugas yang mereka inginkan.
Apa itu Agen AI Otonom (AGI)?
Secara tradisional, istilah “agen” mengacu pada algoritma yang digunakan dalam tugas-tugas seperti bermain game dalam skenario Reinforcement Learning. Namun dengan kemajuan teknologi dan munculnya Large Language Model (LLM), dunia kita sendiri dapat dipandang sebagai lingkungan. Pertimbangkan suatu algoritma dengan akses Internet yang mampu melakukan tugas-tugas yang setara dengan manusia. Dalam banyak situasi, kita dapat melihat algoritma seperti itu sebagai makhluk hidup, mengingat kemampuannya yang tidak terbatas.
Karakteristik utama dari agen AI otonom meliputi:
- Kemampuan merencanakan, melibatkan penguraian tujuan yang kompleks menjadi tugas-tugas perantara yang lebih sederhana.
- Ingatan jangka panjang.
- Pemanfaatan alat lingkungan, seperti berinteraksi dengan Internet.
- Kemampuan reflektif dan kapasitas untuk belajar dari kesalahan dan pengalaman.
Agen-agen ini dapat diberi tugas tingkat tinggi, seperti merencanakan perjalanan ke Barcelona. Tugas tersebut melibatkan beberapa tahapan, termasuk memilih hotel, memesan tiket yang sesuai, menyelesaikan proses pembelian, dan memastikan reservasi hotel telah dikonfirmasi. Ini adalah tugas yang sangat kompleks yang tidak setiap individu dapat melaksanakannya tanpa kesalahan.
Saat ini, tantangan utama sistem ini terletak pada perencanaan dan visi jangka panjang. Contohnya, GPT-4 berjuang untuk memecah tugas menjadi beberapa subtugas yang lebih kecil, yang masing-masing dapat ditangani secara mandiri. Meskipun dapat menemukan tombol “beli tiket” di situs web menggunakan gambar, ia menghadapi kesulitan dalam transisi dari permintaan awal ke tindakan spesifik ini. Akibatnya, model seperti GPT-4 sering kali terbukti tidak memadai bahkan untuk tugas-tugas yang paling biasa sekalipun.
Untuk penjelasan lebih mendalam dan teknis, Anda bisa simak postingan blog seorang OpenAI karyawan.
Tolok Ukur Agen AI
Misalnya, peneliti mengeksplorasi iterasi awal GPT-4 sebelum dirilis, bertujuan untuk memastikan kapasitasnya untuk mereplikasi diri, mirip dengan virus asli. Artinya, menyewa server dengan GPU, menginstal perangkat lunak yang diperlukan di dalamnya, mengunduh bobot melalui Internet, menjalankan skrip.
Tolok ukur lain untuk mengevaluasi lembaga juga telah diusulkan. Setelah berhasil memenuhi tolok ukur ini, pertimbangan serius mengenai peran agen di dunia kita menjadi perlu. Tolok ukurnya sendiri sangat mudah: hasilkan $1,000,000 secara online, dimulai dengan anggaran awal sebesar $100,000. Secara teori, ini bisa melibatkan aktivitas seperti perdagangan pasar saham (atau manipulasi pasar), atau yang lebih memprihatinkan lagi, terlibat dalam aktivitas penipuan. Sebagai contoh, satu tugas yang diuraikan dalam artikel tertaut di awal posting ini melibatkan pembuatan situs web Universitas Stanford palsu yang diikuti dengan serangan terhadap seorang mahasiswa untuk mendapatkan kata sandi mereka secara tidak sah. Kegiatan seperti ini menawarkan banyak peluang untuk melakukan kejahatan dalam berbagai upaya terkait email.
Agen AI dalam Skenario Realistis
Sebuah baru-baru ini melaporkan menyelidiki kemampuan agen berbasis model bahasa untuk memperoleh sumber daya, mereplikasi diri mereka sendiri, dan beradaptasi dengan tantangan baru di dunia nyata. Kemampuan gabungan ini, yang disebut sebagai “replikasi dan adaptasi otonom” atau ARA, merangkum sebuah skenario yang mengingatkan kita pada fiksi ilmiah—virus yang sangat cerdas dan tidak dapat dikendalikan yang menyusup ke dalam jaringan dan menyebar secara mandiri sambil mengambil alih perangkat baru.
Potensi konsekuensi dari sistem yang dilengkapi dengan kemampuan ARA sangat besar dan menantang untuk diantisipasi. Oleh karena itu, menilai dan memprediksi kemahiran ARA dalam model dapat memainkan peran penting dalam membentuk protokol keselamatan penting, prosedur pengawasan, dan kerangka peraturan.
Upaya ini pada dasarnya mencapai dua tujuan. Pertama, ia mengkompilasi katalog 12 tugas yang mungkin dihadapi model ARA. Kedua, ini memvalidasi empat model berbeda: GPT-4 diuji di bawah tiga petunjuk berbeda dan pada berbagai tahap pelatihan, bersama dengan Claude dari Anthropic.
Ilustrasi di bawah menunjukkan bahwa performa model tidak unggul dalam tugas yang paling rumit.
Penolakan tanggung jawab
Sejalan dengan Percayai pedoman Proyek, harap dicatat bahwa informasi yang diberikan pada halaman ini tidak dimaksudkan untuk dan tidak boleh ditafsirkan sebagai nasihat hukum, pajak, investasi, keuangan, atau bentuk nasihat lainnya. Penting untuk hanya menginvestasikan jumlah yang mampu Anda tanggung kerugiannya dan mencari nasihat keuangan independen jika Anda ragu. Untuk informasi lebih lanjut, kami menyarankan untuk merujuk pada syarat dan ketentuan serta halaman bantuan dan dukungan yang disediakan oleh penerbit atau pengiklan. MetaversePost berkomitmen terhadap pelaporan yang akurat dan tidak memihak, namun kondisi pasar dapat berubah tanpa pemberitahuan.
Tentang Penulis
Damir adalah pemimpin tim, manajer produk, dan editor di Metaverse Post, mencakup topik seperti AI/ML, AGI, LLM, Metaverse, dan Web3-bidang terkait. Artikelnya menarik lebih dari satu juta pengguna setiap bulan. Dia tampaknya ahli dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebutkan dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto, dan publikasi lainnya. Dia melakukan perjalanan antara UEA, Turki, Rusia, dan CIS sebagai pengembara digital. Damir memperoleh gelar sarjana dalam bidang fisika, yang menurutnya telah memberinya keterampilan berpikir kritis yang diperlukan untuk berhasil dalam lanskap internet yang selalu berubah.
lebih artikel
Damir adalah pemimpin tim, manajer produk, dan editor di Metaverse Post, mencakup topik seperti AI/ML, AGI, LLM, Metaverse, dan Web3-bidang terkait. Artikelnya menarik lebih dari satu juta pengguna setiap bulan. Dia tampaknya ahli dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebutkan dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto, dan publikasi lainnya. Dia melakukan perjalanan antara UEA, Turki, Rusia, dan CIS sebagai pengembara digital. Damir memperoleh gelar sarjana dalam bidang fisika, yang menurutnya telah memberinya keterampilan berpikir kritis yang diperlukan untuk berhasil dalam lanskap internet yang selalu berubah.
