Melihat Lebih Dekat Di Balik Nama Besar Pengembang Google GPT-4 dan Startup Apa yang Mereka Jalankan Saat Ini
Singkatnya
Pembuat arsitektur jaringan saraf Transformer meninggalkan Google untuk meluncurkan bisnis mereka sendiri, yang telah mengumpulkan jutaan dolar dan bernilai lebih dari $1 miliar.
Jika Anda menonton serial "Silicon Valley" dan tidak melewatkan episode terakhir, ingatlah bagaimana semuanya berakhir: tim berkumpul dua puluh tahun kemudian, mengenang masa lalu.
Mari kita lihat apa yang terjadi pada pembuat arsitektur jaringan saraf Transformer yang mendasarinya ChatGPT dan GPT-4. Tim itu featured di dalam artikel "Perhatianlah yang Anda butuhkan” oleh Google Research (Juni 2017). Penulis tercantum di bawah ini dalam urutan yang sama seperti di artikel Google.
Ashish Waswani meninggalkan Google pada akhir tahun 2021 untuk memulai Mahir, yang telah mengumpulkan $415 juta dan sejauh ini bernilai lebih dari $1 miliar. Namun, Ashish meninggalkan Adept beberapa bulan lalu—pada Desember 2022, segera setelah rilis ChatGPT— dan mendirikan startup baru. Saat ini, startup tersebut masih belum bernama, dan tidak jelas berapa banyak orang yang telah bergabung dengan perusahaan tersebut dan apa yang sedang mereka kerjakan.
Kembali ke Google, Vaswani mengerjakan desain model pada tahap awal dan memprogram semuanya.
Noam Shazeer bekerja di Google selama lebih dari 20 tahun, sejak Desember 2000. Pada Oktober 2021, dia berhenti dan mendirikan startup Karakter.ai. Sejak itu, perusahaan telah mengumpulkan $200 juta dan mencapai valuasi hampir $1 miliar. Menurut LinkedIn, ada sekitar 20 karyawan yang bekerja di sana, jadi nilai per dolarnya mengesankan. Noam-lah yang memperkenalkan gagasan tentang "kepala" yang berbeda dalam mekanisme perhatian.
| Baca lebih lanjut: Cara Menggunakan ChatGPT (GPT-4) Gratis Selamanya |
Niki Parmar, satu-satunya perempuan yang ikut menulis artikel tersebut, adalah staf peneliti di tim Google Brain hingga November 2021. Kemudian, dia bergabung dengan Ashish Vaswani di Adept. Namun, seperti yang sudah kita ketahui, mereka tidak tinggal lama di sana dan pergi bersama untuk memulai proyek baru. Niki telah melakukan banyak pelatihan dan percobaan validasi model.
Jakob Uszkoreit — banyak yang menyebutnya sebagai otak utama di balik penemuan arsitektur Transformer. Dialah yang menyarankan untuk mengganti jaringan berulang dengan mekanisme "perhatian" yang serupa dan mulai membuat prototipe pendekatan pertama. Dia meninggalkan Google pada pertengahan 2021 dan mendirikan Kehidupan Inseptif, di mana tim sedang mengerjakan pemodelan jaringan saraf mRNA. mRNA inilah yang (terkadang) mendukung vaksin (misalnya, vaksin Covid-19 Pfizer-BioNTech).
Lion Jones adalah satu-satunya orang di daftar ini yang bekerja di Google hingga hari ini. Menurutnya, dialah yang mengusulkan judul artikel yang menjadi meme dan memunculkan puluhan artikel lainnya dengan pola “X is all you need”. Dia juga bertanggung jawab untuk mengoptimalkan inferensi model dan visualisasi untuk eksperimen dan artikel.
| Baca lebih lanjut: Alat Deteksi Konten AI Terbaik di tahun 2023 |
Aidan Gomez meninggalkan Google pada musim gugur 2019 untuk ditemukan Kohere.ai. Perusahaan terus mengerjakan model bahasa; beberapa produk mereka mirip dengan kasus penggunaan yang dimiliki orang pada hari-hari awal setelah rilis ChatGPT. Berhasil menarik investasi lebih dari $400 juta dan mengembangkan perusahaan menjadi hampir 200 karyawan.
Lukasz Kaiser, setelah lebih dari tujuh tahun di Google, keluar pada musim panas 2021 untuk bekerja OpenAI. Artikel aslinya menyatakan bahwa Lukasz bertanggung jawab atas pengembangan dan optimalisasi kode. Dia adalah salah satu penulis TensorFlow, sebuah perpustakaan untuk membuat dan melatih jaringan saraf. Dia seorang insinyur yang sangat kuat—dan sekarang sedang mengerjakannya GPT 👀 Sebagai bagian dari pengerjaan Transformer, dia bekerja dengan Aidan Gomez untuk meningkatkan basis kode dan mempercepat iterasi dalam pekerjaan penelitian (melalui interaksi dan pembuatan prototipe yang lebih mudah).
Illia Polosukhin meninggalkan Google pada tahun 2017, sebelum rilis artikel, ditemukan Dekat, protokol blockchain yang pada dasarnya adalah pesaing Ethereum. Valuasinya saat ini sekitar $2 miliar, dan hanya dalam enam tahun, lebih dari $375 juta telah terkumpul sebagai investasi.
Baca lebih lanjut tentang AI:
Penolakan tanggung jawab
Sejalan dengan Percayai pedoman Proyek, harap dicatat bahwa informasi yang diberikan pada halaman ini tidak dimaksudkan untuk dan tidak boleh ditafsirkan sebagai nasihat hukum, pajak, investasi, keuangan, atau bentuk nasihat lainnya. Penting untuk hanya menginvestasikan jumlah yang mampu Anda tanggung kerugiannya dan mencari nasihat keuangan independen jika Anda ragu. Untuk informasi lebih lanjut, kami menyarankan untuk merujuk pada syarat dan ketentuan serta halaman bantuan dan dukungan yang disediakan oleh penerbit atau pengiklan. MetaversePost berkomitmen terhadap pelaporan yang akurat dan tidak memihak, namun kondisi pasar dapat berubah tanpa pemberitahuan.
Tentang Penulis
Damir adalah pemimpin tim, manajer produk, dan editor di Metaverse Post, mencakup topik seperti AI/ML, AGI, LLM, Metaverse, dan Web3-bidang terkait. Artikelnya menarik lebih dari satu juta pengguna setiap bulan. Dia tampaknya ahli dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebutkan dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto, dan publikasi lainnya. Dia melakukan perjalanan antara UEA, Turki, Rusia, dan CIS sebagai pengembara digital. Damir memperoleh gelar sarjana dalam bidang fisika, yang menurutnya telah memberinya keterampilan berpikir kritis yang diperlukan untuk berhasil dalam lanskap internet yang selalu berubah.
lebih artikel
Damir adalah pemimpin tim, manajer produk, dan editor di Metaverse Post, mencakup topik seperti AI/ML, AGI, LLM, Metaverse, dan Web3-bidang terkait. Artikelnya menarik lebih dari satu juta pengguna setiap bulan. Dia tampaknya ahli dengan pengalaman 10 tahun dalam SEO dan pemasaran digital. Damir telah disebutkan dalam Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto, dan publikasi lainnya. Dia melakukan perjalanan antara UEA, Turki, Rusia, dan CIS sebagai pengembara digital. Damir memperoleh gelar sarjana dalam bidang fisika, yang menurutnya telah memberinya keterampilan berpikir kritis yang diperlukan untuk berhasil dalam lanskap internet yang selalu berubah.
