Acı Ders: Neden ChatGPT El Yapımı Hesaplama Tekniklerine Karşı Zafer Kazandı
Kısaca
Profesör Rich Sutton'ın 2019 tarihli "The Bitter Lesson" makalesi, AI'da aşağıdakiler gibi önemli ilerlemeler öngörüyor: ChatGPT/GPT-4 ve OpenAImetodolojileri.
Metin, hesaplama yöntemlerinin insan sezgisi olmadan performansa hakim olduğu AI'daki paradigma değişimini vurgulamaktadır.
Ancak birçok araştırmacılar sezgiye dayalı yaklaşımları takip etmeye devam ediyor, hesaplama odaklı yöntemlerin potansiyelini gözden kaçırmak.
Deneme "acı dersProfesör Rich Sutton tarafından 2019'da yazılan ", o zamandan beri makine öğrenimi uzmanları ve yapay zekanın geleceğini anlamakla ilgilenen kişiler için önem kazandı. Bu belgede sağlanan içgörüler, yapay zekanın ortaya çıkması da dahil olmak üzere yapay zekadaki önemli gelişmeleri öngördü. ChatGPT/GPT-4 ve kabulü OpenAImetodolojileri.
"Acı Ders"in özü, yapay zeka alanındaki bir paradigma değişimini araştırıyor. Geçmişte yapay zeka üzerine çalışan bilim adamları, gelişmiş yapay zeka geliştirmenin "tümevarımsal önyargı" olarak da bilinen dikkate değer, ayırt edici bir yaklaşım gerektirdiğini düşünme eğilimindeydiler. Bu fikir, daha sonra makinenin çözüm yolunu yönlendiren özel bir sorunun eklenmesine veya sezgisel olarak anlaşılmasına işaret eder.
“Acı Ders”in ana teması, yapay zeka araştırmalarındaki bir paradigma değişimini inceliyor. Önceden, yapay zeka üzerine çalışan araştırmacılar, gelişmiş yapay zeka yaratmanın dikkate değer, benzersiz bir yaklaşım gerektirdiğine inanma eğilimindeydiler. Bu önyargıya "endüktif önyargı" denir. Bu kavram, daha sonra makinenin çözüm yolunu yönlendiren özel bir soruna özel bilgi veya sezgisel içgörü eklenmesini önerir.
Ancak yinelenen bir model belirgin hale geldi. Araştırmacılar tekrar tekrar, sadece daha fazlasını ekleyerek buldular. veri ve hesaplama gücü, bu özenle hazırlanmış yöntemlerin ürettiği sonuçlardan daha iyi performans gösterebilirler. Bu model tek bir alana özgü değildi, satranç, go, starcraft ve muhtemelen nethack'te de ortaya çıktı. Evrişimli sinir ağlarıörneğin, bilgisayarlı görü alanında aşağıdakiler gibi manuel tekniklerden daha iyi performans gösterir: ELEMEK. SIFT'in mucidinin daha sonra, araştırmasını yürütürken sinir ağları etrafta olsaydı, bu hareket tarzını seçeceğini söylemesi ilginçtir. Buna benzer LSTM'ler tüm kural tabanlı sistemlerden daha iyi performans gösterdi makine çevirisi alanında. Basit bir "daha fazla katman ekle" stratejisi kullanarak, ChatGPT/GPT-4Bu eğilimin önde gelen örneklerinden biri olan , hesaplamalı dilbilimciler tarafından oluşturulan son derece gelişmiş modelleri geride bırakmayı başardı.
Sutton'ın "acı dersi"nin özü, insan sezgisi tarafından değiştirilmeyen hesaplama yöntemlerinin, performans açısından sıklıkla diğer yaklaşımlardan daha iyi performans gösterdiğidir. Ancak bu anlayış geniş çapta kabul görmedi. Pek çok araştırmacı, kapsayıcı, hesaplamaya dayalı yaklaşımların potansiyelini sıklıkla göz ardı ederek, hâlâ karmaşık, sezgiye dayalı stratejiler izliyor.
Bunun beş nedeni GPT el işi hesaplama tekniklerine karşı zafer kazandı:
- ölçeklenebilirlik: Hesaplamalı yöntemler, özellikle daha fazla veriyle güçlendirildiğinde, teknoloji ilerledikçe gelişme ve uyum sağlama potansiyeline sahiptir, bu da onları geleceğe daha hazır hale getirir.
- verim: Hesaplamalara ve verilere dayalı genel yöntemler, satranç ve Go gibi oyunlardan makine çevirisine ve bilgisayar görüşüne kadar çeşitli alanlarda özel, insan sezgisine dayalı yöntemlerden sürekli olarak daha iyi performans göstermiştir.
- Geniş Uygulanabilirlik: Bu genel, hesaplama güdümlü yöntemler çok yönlüdür ve alana özgü ince ayarlara ihtiyaç duymadan çeşitli disiplinlerde uygulanabilir.
- Basitlik: Ham temel üzerine kurulu sistemler hesaplama gücü ve veriler, insan sezgisine dayanan karmaşık ayarlamalara gerek kalmadan, yaklaşım açısından daha basit olma eğilimindedir.
- Tutarlı Performans: Aşağıdaki gibi örneklerle gösterildiği gibi ChatGPT/GPT-4hesaplamaya dayalı modeller, genellikle özel yöntemleri geride bırakarak tutarlı yüksek performans elde edebilir.
Orijinal deneme, Profesör Sutton'ın bakış açısını ve bu AI yörüngesine rehberlik eden ilkeleri daha iyi anlamak için paha biçilmez bir araçtır.
Makale, Telegram kanalından ilham aldı "Yine Boris."
AI hakkında daha fazlasını okuyun:
Feragatname
Doğrultusunda Trust Project yönergeleri, lütfen bu sayfada sağlanan bilgilerin hukuki, vergi, yatırım, finansal veya başka herhangi bir tavsiye niteliğinde olmadığını ve bu şekilde yorumlanmaması gerektiğini unutmayın. Yalnızca kaybetmeyi göze alabileceğiniz kadar yatırım yapmak ve herhangi bir şüpheniz varsa bağımsız finansal tavsiye almak önemlidir. Daha fazla bilgi için şartlar ve koşulların yanı sıra kartı veren kuruluş veya reklamveren tarafından sağlanan yardım ve destek sayfalarına bakmanızı öneririz. MetaversePost doğru, tarafsız raporlamaya kendini adamıştır, ancak piyasa koşulları önceden haber verilmeksizin değiştirilebilir.
Yazar hakkında
Damir şu anda ekip lideri, ürün yöneticisi ve editördür: Metaverse Post, AI/ML, AGI, LLM'ler, Metaverse ve Web3-İlgili alanlar. Makaleleri, her ay bir milyondan fazla kullanıcıdan oluşan büyük bir kitleyi kendine çekiyor. SEO ve dijital pazarlama konusunda 10 yıllık deneyime sahip bir uzman gibi görünüyor. Damir'den Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ve diğer yayınlar. Dijital bir göçebe olarak BAE, Türkiye, Rusya ve BDT arasında seyahat ediyor. Damir, kendisine internetin sürekli değişen ortamında başarılı olmak için gereken eleştirel düşünme becerilerini verdiğine inandığı fizik alanında lisans derecesi aldı.
Daha fazla haber
Damir şu anda ekip lideri, ürün yöneticisi ve editördür: Metaverse Post, AI/ML, AGI, LLM'ler, Metaverse ve Web3-İlgili alanlar. Makaleleri, her ay bir milyondan fazla kullanıcıdan oluşan büyük bir kitleyi kendine çekiyor. SEO ve dijital pazarlama konusunda 10 yıllık deneyime sahip bir uzman gibi görünüyor. Damir'den Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ve diğer yayınlar. Dijital bir göçebe olarak BAE, Türkiye, Rusya ve BDT arasında seyahat ediyor. Damir, kendisine internetin sürekli değişen ortamında başarılı olmak için gereken eleştirel düşünme becerilerini verdiğine inandığı fizik alanında lisans derecesi aldı.
