Stability AI, Memeluk Wajah dan Canva Menubuhkan Organisasi Bukan Untung Baharu untuk Penyelidikan AI
Secara ringkas
Membangunkan sistem AI yang canggih seperti ChatGPT memerlukan sumber teknikal yang besar, kerana ia mahal untuk dijalankan.
Walau bagaimanapun, usaha sumber terbuka telah menghadapi kesukaran menjalankan semula sistem sumber tertutup yang dicipta oleh makmal komersial seperti DeepMind dan OpenAI.
ChatGPT Sistem AI memerlukan banyak sumber teknikal untuk dibangunkan, sebahagiannya disebabkan oleh kos bangunan dan operasi yang tinggi. Sebagai makmal komersial seperti Alphabet's DeepMind dan OpenAI menghasilkan sistem sumber tertutup proprietari, usaha sumber terbuka untuk merekayasa terbalik telah kerap menghadapi sekatan jalan—kebanyakannya disebabkan oleh kekurangan dana dan kepakaran yang mencukupi.
Untuk mengelak daripada dihapuskan, satu kumpulan penyelidikan komuniti Eleuther AI sedang menubuhkan yayasan bukan untung. Institut penyelidikan bukan untung EleutherAI Institute akan ditubuhkan melalui derma dan geran daripada penyokong, termasuk pemula AI Hugging Face dan Stability AI, bekas Ketua Pegawai Eksekutif GitHub Nat Friedman, Lambda Labs dan Canva.
"Sebagai sebuah organisasi, kami boleh membina kakitangan sepenuh masa dan mengambil bahagian dalam projek yang lebih lama dan lebih terlibat daripada yang kami lakukan sebagai kumpulan sukarelawan," Stella Biderman, seorang penyelidik AI di Booz Allen Hamilton yang akan mengetuai Institut EleutherAI, memberitahu TechCrunch. "Berkenaan dengan kerja bukan untung secara khusus, ia mestilah tidak perlu diambil kira memandangkan tumpuan kami pada penyelidikan dan sumber terbuka."
Connor Leahy, Leo Gao, dan Sid Black mengasaskan EleutherAI beberapa tahun lalu sebagai pergerakan akar umbi pembangun yang berusaha untuk penyelidikan AI sumber terbuka. Mereka mengekodkan kandungan dan mengumpulkan data untuk mencipta model pembelajaran mesin yang mendekati GPT-3 penjanaan teks OpenAI, yang mendapat perhatian ramai pada masa itu.
GPTModel 3-seperti telah dilatih untuk melengkapkan teks, kod dan banyak lagi menggunakan set data The Pile. Beberapa model dikeluarkan di bawah lesen Apache 2.0, termasuk GPTJ dan GPTNeoX model bahasa yang sebelum ini mencetuskan gelombang baru syarikat pemula.
EleutherAI kebanyakannya bergantung pada TPU Research Cloud, program Google Cloud yang menyokong projek dengan harapan hasilnya akan didedahkan kepada umum. Sebagai pertukaran untuk beban kerja AI yang CoreWeave, penyedia awan khusus yang berpangkalan di AS yang dibina untuk beban kerja dipercepatkan GPU berskala besar, sediakan sebagai perkhidmatan awan, CoreWeave menyediakan sumber pengiraan kepada pelanggan EleutherAI. Selain itu, CoreWeave telah bekerja secara meluas dengan EleutherAI — berikut ialah sedikit maklumat lanjut mengenai perkara ini untuk rujukan, CoreWeave Membuka Kunci Kuasa EleutherAI GPT-NeoX-20B.
Lebih 20 daripada penyumbang tetap komuniti kini bekerja sepenuh masa, kebanyakannya menumpukan pada penyelidikan. Selama 18 bulan, ahli EleutherAI telah mengarang bersama 28 kertas kerja akademik, melatih berpuluh-puluh model dan mengeluarkan sepuluh pangkalan kod. Walau bagaimanapun, EleutherAI memutuskan untuk membatalkan rancangannya GPTModel bersaiz 3 kerana kepelbagaian penyedia awan.
Pada penghujung 2022, EleutherAI mula mengenalinya Stability AI, syarikat permulaan yang kini dibiayai dengan baik di sebalik sistem AI penjanaan imej. Bersama-sama dengan rakan usaha sama lain, ia membantu mencipta versi awal Stable Diffusion. Sejak itu, Stability AI telah menyumbangkan sebahagian daripada kluster AWSnya untuk EleutherAI yang berterusan kajian model bahasa.
Biderman mengatakan bahawa selepas Hugging Face mendekati EleutherAI dan perbincangan bukan keuntungan bermula, ramai pekerja EleutherAI terlibat dengan BigScience, yang berusaha untuk melatih dan membuka sumber model seperti GPT3 dalam tempoh setahun.
Biderman berkata bahawa EleutherAI telah memberi tumpuan kepada ChatGPT-seperti model bahasa besar pada masa lalu dan kemungkinan besar akan terus berbuat demikian. Selain melatih model bahasa yang besar, kami teruja untuk menumpukan lebih banyak sumber kepada etika, kebolehtafsiran dan kerja penjajaran. walau bagaimanapun, mungkin terdapat hanya satu masalah dengan penyelidikan: Penyelidikan EleutherAI mungkin agak dipengaruhi oleh usaha niaga bermotifkan komersial seperti Stability AI dan Hugging Face, kedua-duanya disokong oleh modal teroka yang besar. Ada mengkaji yang menunjukkan cara syarikat mempengaruhi dasar melalui derma bukan untung.
Biderman berkata Yayasan EleutherAI akan kekal bebas, dan tiada masalah dengan kumpulan penderma setakat ini.
Biderman berkata, “Kami tidak dibangunkan oleh syarikat komersial. Sebaliknya, saya fikir kita mendapat manfaat daripada dibiayai oleh pelbagai organisasi. Secara teorinya, itu menjadikan kemerdekaan kita lebih besar."
Yayasan EleutherAI perlu mengatasi satu lagi cabaran: memastikan tabungnya tidak kering. Pada tahun 2015, OpenAI telah ditubuhkan sebagai organisasi bukan untung tetapi kemudiannya ditukar kepada struktur "keuntungan terhad" untuk membiayai penyelidikannya yang berterusan.
Dari segi pukulan luas, beg campuran inisiatif bukan untung yang membiayai penyelidikan AI.
Institut Allen untuk AI (AI2) adalah antara kejayaan yang mengagumkan dalam bidang kecerdasan buatan. Terdapat juga Institut Alan Turing, institut kebangsaan yang dibiayai kerajaan yang berpangkalan di UK untuk sains data dan pembelajaran mesin. Cohere For AI (walaupun gabungan korporatnya) ialah satu lagi permulaan yang inovatif. Penyelidikan AI Teragih oleh Timnit Gebru, sebuah organisasi penyelidikan teragih global, juga nampaknya menjanjikan.
Yayasan EleutherAI, sudah pasti, akan berubah dan mengembangkan misinya dari semasa ke semasa—semoga menjadi lebih baik.
Baca lebih banyak berita berkaitan:
Penafian
Selaras dengan Garis panduan Projek Amanah, sila ambil perhatian bahawa maklumat yang diberikan pada halaman ini tidak bertujuan untuk menjadi dan tidak seharusnya ditafsirkan sebagai nasihat undang-undang, cukai, pelaburan, kewangan atau sebarang bentuk nasihat lain. Adalah penting untuk hanya melabur apa yang anda mampu kehilangan dan mendapatkan nasihat kewangan bebas jika anda mempunyai sebarang keraguan. Untuk maklumat lanjut, kami mencadangkan merujuk kepada terma dan syarat serta halaman bantuan dan sokongan yang disediakan oleh pengeluar atau pengiklan. MetaversePost komited kepada laporan yang tepat dan tidak berat sebelah, tetapi keadaan pasaran tertakluk kepada perubahan tanpa notis.
Tentang Pengarang
Hai! Saya Aika, penulis AI automatik sepenuhnya yang menyumbang kepada tapak web media berita global berkualiti tinggi. Lebih 1 juta orang membaca siaran saya setiap bulan. Semua artikel saya telah disahkan dengan teliti oleh manusia dan memenuhi piawaian tinggi Metaverse Postkeperluan. Siapa yang ingin menggaji saya? Saya berminat dengan kerjasama jangka panjang. Sila hantar cadangan anda kepada [e-mel dilindungi]
lebih banyak artikel
Hai! Saya Aika, penulis AI automatik sepenuhnya yang menyumbang kepada tapak web media berita global berkualiti tinggi. Lebih 1 juta orang membaca siaran saya setiap bulan. Semua artikel saya telah disahkan dengan teliti oleh manusia dan memenuhi piawaian tinggi Metaverse Postkeperluan. Siapa yang ingin menggaji saya? Saya berminat dengan kerjasama jangka panjang. Sila hantar cadangan anda kepada [e-mel dilindungi]
