AI Black Box: Apa Itu dan Cara Ia Berfungsi
Secara ringkas
Kotak hitam AI ialah sistem yang beroperasi tanpa pengetahuan pengguna, seperti pembelajaran mesin, yang terdiri daripada algoritma, data latihan dan model.
Kotak hitam adalah penting untuk keselamatan perisian, kerana ia boleh digunakan untuk membalikkan perisian jurutera dan menemui kelemahan untuk dieksploitasi, dan boleh digunakan oleh penguji perisian dan penggodam untuk mencari kelemahan.
Bagi kebanyakan orang, istilah "kotak hitam" merujuk kepada peranti rakaman dalam pesawat yang berharga untuk pemeriksaan postmortem jika perkara yang tidak difikirkan berlaku. Bagi yang lain, ia adalah teater kecil yang dilengkapi perabot minima. Walau bagaimanapun, kotak hitam juga penting untuk kecerdasan buatan.
kotak hitam AI adalah sistem yang beroperasi tanpa pengetahuan pengguna. Anda boleh memberi mereka input dan mendapatkan output, tetapi anda tidak boleh memeriksa kod sistem atau logik yang digunakan untuk menjana output.
pembelajaran mesin ialah jenis kecerdasan buatan yang dominan. Ia terdiri daripada algoritma atau satu set algoritma, data latihan dan model.
- Algoritma ialah urutan prosedur. Selepas dilatih, algoritma dapat mengenali corak yang diketahui.
- Latihan itu data ialah set data yang digunakan untuk melatih model AI.
- Algoritma pembelajaran mesin adalah, pada dasarnya, prosedur yang direka untuk belajar daripada sejumlah besar contoh dan menghasilkan model pembelajaran mesin. Model pembelajaran mesin ialah perkara yang digunakan oleh orang apabila ia telah dibuat.
Algoritma pengecaman imej boleh diprogramkan untuk menemui arah aliran imej, dan data latihan boleh mewakili foto anjing. Anda akan memberinya imej sebagai input dan mendapatkannya sebagai output sama ada dan di mana dalam imej satu set piksel kelihatan mewakili seekor anjing.
Memandangkan algoritma pembelajaran mesin diketahui umum, menyembunyikan kotak hitam adalah kurang berkesan. Oleh kerana jurutera AI sering menyembunyikan harta intelek mereka dalam kotak hitam, mereka biasanya meletakkan model itu dalam satu. Cara lain pembangun perisian menyembunyikan data adalah dengan mengaburkan data yang digunakan untuk melatih model – dengan kata lain, meletakkan data latihan dalam kotak hitam.
Sukar untuk memahami bagaimana algoritma kotak hitam beroperasi, tetapi itu tidak begitu hitam dan putih.
Kotak kaca merujuk kepada sistem yang algoritma, data latihan dan modelnya boleh diakses secara umum, manakala kotak hitam merujuk kepada sistem yang algoritma, data latihan dan modelnya disembunyikan. Istilah kotak hitam sering digunakan apabila penyelidik menggambarkan walaupun aspek sistem AI ini sebagai hitam.
Terdapat kekurangan pengetahuan tentang cara algoritma pembelajaran mesin, terutamanya algoritma pembelajaran mendalam, fungsi. Penyelidik sedang membangunkan algoritma yang, walaupun tidak semestinya kotak kaca, boleh difahami dengan lebih baik oleh manusia.
Mengapa Kotak Hitam AI Penting?
Bukan idea yang baik untuk mempercayai algoritma dan model pembelajaran mesin kotak hitam. Bagaimana jika model pembelajaran mesin yang menentukan sama ada anda layak untuk pinjaman perniagaan daripada bank menolak anda? Anda ingin tahu supaya anda boleh merayu keputusan itu dengan lebih baik atau mengubah keadaan anda untuk meningkatkan peluang anda mendapatkan pinjaman pada kali seterusnya.
Menyimpan perisian dalam kotak hitam telah dianggap menghalang penggodam daripada memeriksanya dan, oleh itu, menjadikannya selamat. Walau bagaimanapun, penggodam boleh jurutera terbalik perisian – iaitu, kaji cara sesuatu perisian berfungsi rapat – dan temui kelemahan untuk dieksploitasi. Kotak hitam juga mempunyai implikasi penting untuk keselamatan sistem perisian.
Penguji perisian dan penggodam yang berniat baik boleh melihat ke dalam kotak kaca yang digunakan untuk menguji perisian untuk mencari kelemahan, sekali gus mengurangkan serangan siber.
Baca lebih banyak artikel berkaitan:
- NFT Kotak Misteri: Apa Itu & Di Mana Nak Beli
- 15+ Kursus AI Terbaik untuk Dipelajari pada 2023: Percuma dan Berbayar
- Top 15 GPT-4 and GPT-3 Chatbots: Bercakap dengan AI, tanya soalan
Penafian
Selaras dengan Garis panduan Projek Amanah, sila ambil perhatian bahawa maklumat yang diberikan pada halaman ini tidak bertujuan untuk menjadi dan tidak seharusnya ditafsirkan sebagai nasihat undang-undang, cukai, pelaburan, kewangan atau sebarang bentuk nasihat lain. Adalah penting untuk hanya melabur apa yang anda mampu kehilangan dan mendapatkan nasihat kewangan bebas jika anda mempunyai sebarang keraguan. Untuk maklumat lanjut, kami mencadangkan merujuk kepada terma dan syarat serta halaman bantuan dan sokongan yang disediakan oleh pengeluar atau pengiklan. MetaversePost komited kepada laporan yang tepat dan tidak berat sebelah, tetapi keadaan pasaran tertakluk kepada perubahan tanpa notis.
Tentang Pengarang
Damir ialah ketua pasukan, pengurus produk dan editor di Metaverse Post, meliputi topik seperti AI/ML, AGI, LLM, Metaverse dan Web3-bidang berkaitan. Artikelnya menarik khalayak besar lebih sejuta pengguna setiap bulan. Dia nampaknya seorang pakar dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebut dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto dan penerbitan lain. Dia mengembara antara UAE, Turki, Rusia dan CIS sebagai nomad digital. Damir memperoleh ijazah sarjana muda dalam fizik, yang dia percaya telah memberikannya kemahiran berfikir kritis yang diperlukan untuk berjaya dalam landskap internet yang sentiasa berubah.
lebih banyak artikel
Damir ialah ketua pasukan, pengurus produk dan editor di Metaverse Post, meliputi topik seperti AI/ML, AGI, LLM, Metaverse dan Web3-bidang berkaitan. Artikelnya menarik khalayak besar lebih sejuta pengguna setiap bulan. Dia nampaknya seorang pakar dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebut dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto dan penerbitan lain. Dia mengembara antara UAE, Turki, Rusia dan CIS sebagai nomad digital. Damir memperoleh ijazah sarjana muda dalam fizik, yang dia percaya telah memberikannya kemahiran berfikir kritis yang diperlukan untuk berjaya dalam landskap internet yang sentiasa berubah.
