AI Black Box: Apa Itu dan Bagaimana Cara Kerjanya
Singkatnya
Kotak hitam AI adalah sistem yang beroperasi tanpa sepengetahuan pengguna, seperti pembelajaran mesin, yang terdiri dari algoritme, data pelatihan, dan model.
Kotak hitam penting untuk keamanan perangkat lunak, karena dapat digunakan untuk merekayasa balik perangkat lunak dan menemukan kekurangan untuk dieksploitasi, dan dapat digunakan oleh penguji dan peretas perangkat lunak untuk menemukan kelemahan.
Bagi banyak orang, istilah "kotak hitam" mengacu pada alat perekam di pesawat yang berharga untuk pemeriksaan postmortem jika hal yang tidak terpikirkan terjadi. Bagi yang lain, ini adalah teater kecil berperabotan minimal. Namun, kotak hitam juga penting untuk kecerdasan buatan.
kotak hitam AI adalah sistem yang beroperasi tanpa sepengetahuan pengguna. Anda dapat memberi mereka input dan mendapatkan output, tetapi Anda tidak dapat memeriksa kode sistem atau logika yang digunakan untuk menghasilkan output.
Pembelajaran mesin adalah jenis kecerdasan buatan yang dominan. Ini terdiri dari algoritma atau satu set algoritma, data pelatihan, dan model.
- Algoritma adalah urutan prosedur. Setelah dilatih, sebuah algoritma mampu mengenali pola yang diketahui.
- Pelatihan data adalah kumpulan data yang digunakan untuk melatih model AI.
- Algoritme pembelajaran mesin pada dasarnya adalah prosedur yang dirancang untuk belajar dari sejumlah besar contoh dan menghasilkan model pembelajaran mesin. Model pembelajaran mesin adalah apa yang digunakan orang setelah dibuat.
Algoritme pengenalan gambar dapat diprogram untuk menemukan tren gambar, dan data pelatihan dapat mewakili foto anjing. Anda akan memberinya gambar sebagai input dan mendapatkannya sebagai output apakah dan di mana dalam gambar tersebut sekumpulan piksel muncul untuk mewakili seekor anjing.
Karena algoritme pembelajaran mesin diketahui publik, menyembunyikan kotak hitam menjadi kurang efektif. Karena insinyur AI sering menyembunyikan kekayaan intelektual mereka di dalam kotak hitam, mereka biasanya memasukkan modelnya ke dalam satu. Cara lain pengembang perangkat lunak menyembunyikan data adalah dengan mengaburkan data yang digunakan untuk melatih model – dengan kata lain, memasukkan data pelatihan ke dalam kotak hitam.
Sulit untuk memahami bagaimana algoritme kotak hitam beroperasi, tetapi itu tidak sepenuhnya hitam putih.
Kotak kaca mengacu pada sistem yang algoritme, data pelatihan, dan modelnya dapat diakses publik, sedangkan kotak hitam mengacu pada sistem yang algoritme, data pelatihan, dan modelnya disembunyikan. Istilah kotak hitam sering digunakan ketika para peneliti menggambarkan bahkan aspek-aspek sistem AI ini sebagai hitam.
Ada kelangkaan pengetahuan tentang bagaimana algoritma pembelajaran mesin, khususnya algoritma pembelajaran yang mendalam, fungsi. Para peneliti sedang mengembangkan algoritme yang, meski belum tentu kotak kaca, dapat dipahami dengan lebih baik oleh manusia.
Mengapa Kotak Hitam AI Penting?
Tidak selalu merupakan ide yang baik untuk memercayai algoritme dan model pembelajaran mesin kotak hitam. Bagaimana jika model pembelajaran mesin yang menentukan apakah Anda memenuhi syarat untuk mendapatkan pinjaman bisnis dari bank menolak Anda? Anda ingin mengetahuinya sehingga Anda dapat mengajukan banding atas keputusan tersebut atau mengubah situasi Anda untuk meningkatkan peluang mendapatkan pinjaman di lain waktu.
Menjaga perangkat lunak dalam kotak hitam dianggap mencegah peretas memeriksanya dan, oleh karena itu, membuatnya aman. Namun, peretas bisa merekayasa balik perangkat lunak – yaitu, mempelajari bagaimana perangkat lunak bekerja erat – dan menemukan kekurangan untuk dieksploitasi. Kotak hitam juga memiliki implikasi penting untuk keamanan sistem perangkat lunak.
Mungkin bagi penguji perangkat lunak dan peretas yang berniat baik untuk melihat ke dalam kotak kaca yang digunakan untuk menguji perangkat lunak guna menemukan kelemahan, sehingga mengurangi serangan dunia maya.
Baca artikel terkait lainnya:
- NFT Kotak Misteri: Apa Sajanya & Tempat Membelinya
- 15+ Kursus AI Terbaik untuk Dipelajari di 2023: Gratis dan Berbayar
- Top 15 GPT-4 dan GPT-3 Chatbots: Bicara dengan AI, ajukan pertanyaan
Penolakan tanggung jawab
Sejalan dengan Percayai pedoman Proyek, harap dicatat bahwa informasi yang diberikan pada halaman ini tidak dimaksudkan untuk dan tidak boleh ditafsirkan sebagai nasihat hukum, pajak, investasi, keuangan, atau bentuk nasihat lainnya. Penting untuk hanya menginvestasikan jumlah yang mampu Anda tanggung kerugiannya dan mencari nasihat keuangan independen jika Anda ragu. Untuk informasi lebih lanjut, kami menyarankan untuk merujuk pada syarat dan ketentuan serta halaman bantuan dan dukungan yang disediakan oleh penerbit atau pengiklan. MetaversePost berkomitmen terhadap pelaporan yang akurat dan tidak memihak, namun kondisi pasar dapat berubah tanpa pemberitahuan.
Tentang Penulis
Damir adalah pemimpin tim, manajer produk, dan editor di Metaverse Post, mencakup topik seperti AI/ML, AGI, LLM, Metaverse, dan Web3-bidang terkait. Artikelnya menarik lebih dari satu juta pengguna setiap bulan. Dia tampaknya ahli dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebutkan dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto, dan publikasi lainnya. Dia melakukan perjalanan antara UEA, Turki, Rusia, dan CIS sebagai pengembara digital. Damir memperoleh gelar sarjana dalam bidang fisika, yang menurutnya telah memberinya keterampilan berpikir kritis yang diperlukan untuk berhasil dalam lanskap internet yang selalu berubah.
lebih artikel
Damir adalah pemimpin tim, manajer produk, dan editor di Metaverse Post, mencakup topik seperti AI/ML, AGI, LLM, Metaverse, dan Web3-bidang terkait. Artikelnya menarik lebih dari satu juta pengguna setiap bulan. Dia tampaknya ahli dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebutkan dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto, dan publikasi lainnya. Dia melakukan perjalanan antara UEA, Turki, Rusia, dan CIS sebagai pengembara digital. Damir memperoleh gelar sarjana dalam bidang fisika, yang menurutnya telah memberinya keterampilan berpikir kritis yang diperlukan untuk berhasil dalam lanskap internet yang selalu berubah.
