Muling Pag-imbento ng AI Research: Mga Pagdulog sa isang Landscape na Pinamamahalaan ng Kumpanya
Sa madaling sabi
Ang artikulo nina Togelius at Yannakakis ay nagbibigay ng mahahalagang insight sa mga hamon na kinakaharap ng AI academics sa academic settings.
Itinatampok ng artikulo ang kakulangan ng mga mapagkukunan sa pag-compute, pangingibabaw ng korporasyon, at ang pangangailangan para sa mas maliliit na eksperimento.
Dapat tumuon ang mga mananaliksik sa paggamit ng mga pretrained na modelo, malalim na pagsusuri ng mga kasalukuyang modelo, paggalugad ng reinforcement learning (RL), pagsisiyasat sa mga modelong minimally load, paggalugad ng mga hindi pa nagamit o napapabayaang mga lugar, at pagsubok ng mga hindi inaasahang pamamaraan.
Iminumungkahi din nila ang pag-navigate sa mga hangganan ng etika, pakikipagtulungan sa mga stakeholder ng industriya, at pag-promote ng mga pakikipagtulungan sa pagitan ng unibersidad.
Ang mga estratehiyang ito ay nag-aalok ng roadmap para sa mga akademikong AI upang i-navigate ang mga hamong ito at magpatuloy sa paggawa ng makabuluhang kontribusyon sa larangan.
Mahalagang suriin ang epekto ng AI sa iba't ibang stakeholder, kabilang ang mga akademikong mananaliksik ng AI, dahil ang larangan ay sumasailalim sa mabilis na pagbabago. Isang kamakailang artikulo nina Togelius J. at Yannakakis GN na pinamagatang “Piliin ang Iyong Sandata: Mga Diskarte sa Survival para sa Depressed AI Academics” ay nagbibigay ng malalim na pananaw sa lugar na ito.
Ang nilalaman ng papel ay ginalugad ang mga paghihirap na kinakaharap ng mga nakikibahagi sa teoretikal pananaliksik sa AI sa mga setting ng akademiko, sa kabila ng mapaglarong mungkahi ng pagsasalaysay ng pamagat. Ang mga pangunahing ideya at konklusyon ng pag-aaral ay ibubuod sa pagsusuri na ito.
Bahagi 1: Ang Dilemma AI Academics Face
1. Kakapusan ng Computing Resources:
Binibigyang-diin ng artikulo ang pagtaas ng pagkakaiba sa mga mapagkukunan sa pag-compute na magagamit ng mga akademya ng AI at ang kanilang mga katapat sa mga departamento ng AI ng kumpanya. Isang dekada na ang nakalipas, ang mga lokal na computational setup ay sapat na para sa pagsulong ng AI research sa akademya. Gayunpaman, ang kontemporaryong senaryo ay nakakita ng isang pagbabago sa paradigm. Ang mga makabuluhang pagsulong sa AI ngayon ay kadalasang umaasa sa malawak na computational power at isang serye ng mga detalyadong eksperimento. Sa kasamaang palad, maraming mga akademikong mananaliksik ang nakakahanap ng kanilang sarili na walang sapat na access sa mga naturang mapagkukunan.
2. Ang Hamon ng Dominasyon ng Kumpanya:
Ang konsepto ng kompetisyon sa mundo ng siyentipikong pananaliksik ay tumindi. Sa isip, ang mga siyentipikong eksperimento ay kumakatawan sa mga pagtutulungang pagsisikap, na may nararapat na pagkilala sa bawat nag-aambag. Gayunpaman, ang pagtaas ng impluwensya ng corporate realm ay medyo nalampasan ang kooperatiba na espiritu na ito. Kapag ang mga korporasyon ay naghahatid ng malalaking pamumuhunan sa pagsasaliksik ng AI, malamang na dominahin nila ang pagbuo ng mga promising na ideya, kadalasang isinasantabi ang mga orihinal na nag-aambag sa akademiko. Ang papel ay gumuhit ng isang parallel sa pagitan ng sitwasyong ito at ang kababalaghan kung saan ang isang mega-retailer tulad ng Walmart ay nagtatatag ng sarili malapit sa isang lokal na tindahan ng pamilya, na sumasakop sa negosyo nito.
Ang mga nabanggit na hamon, tulad ng itinampok nina Togelius at Yannakakis, ay naglalarawan ng isang nauukol na tanawin para sa mga akademikong AI. Ang mga kundisyon ay humantong sa isang tiyak na antas ng pagkadismaya, na nakakaapekto sa moral at pagiging produktibo ng mga mananaliksik na nagtalaga ng kanilang mga karera sa pagsulong ng larangan.
Ang pag-aaral ay hindi lamang tumutukoy sa mga problema; nagbibigay din ito ng mga diskarte sa kaligtasan para sa mga nasa akademya na nakakaramdam ng bigat ng mga hamong ito. Ang isang kasunod na pagsusuri sa ibaba ay susuriin nang mas malalim sa mga potensyal na solusyon na iminungkahi ng mga may-akda, na naglalayong mag-alok ng AI academics ng mga nasasalat na landas upang mag-navigate sa umuusbong na terrain na ito.
Bahagi 2: Mga Istratehiya para sa Pag-navigate sa mga Hamon
1. Pagpili para sa Alternatibong Publication Avenue:
Pinapayuhan ang mga mananaliksik na isaalang-alang ang pag-publish sa mga journal na hindi gaanong mataas ang profile, na tumutuon sa pagpino sa mga teknikal na aspeto at paggalugad ng mga niche na tanong sa mas malawak na mga paksa.
2. Pagbibigay-priyoridad sa Mga Mapagkukunan ng Pag-compute:
Binibigyang-diin ang paglalaan ng malaking bahagi ng mga gawad ng pananaliksik para sa mga mapagkukunang computational. Gayunpaman, nabanggit na kahit na ang mga malalaking gawad ay maaaring hindi sapat para sa pagsasagawa ng mga advanced na eksperimento na katumbas ng mga pagsisikap ng kumpanya.
3. Pagtuon sa Mas Maliit na Scale na Eksperimento:
Maaaring isentro ng mga mananaliksik ang kanilang mga pagsisikap sa mas maigsi na mga problema, gamit ang mga ito upang patunayan ang mga teoretikal na pagsulong. Ilang mga papeles, tulad ng mga ni Shafiullah et al. (2022) at Pearce et al. (2023), matagumpay na ginamit ang diskarteng ito. Bagama't ang mga pamamaraang ito ay maaaring makatanggap ng limitadong atensyon sa simula, ang kanilang kaugnayan ay maaaring lumago kapag nasubok sa mas malalaking dataset.
4. Paggamit ng mga Pretrained na Modelo:
Sa halip na magsimula sa simula, gamit ang pretrained maaaring mapabilis ng mga modelo ang proseso ng pananaliksik, kahit na minsan ay maaaring limitahan nito ang lalim ng mga natuklasan.
5. Malalim na Pagsusuri ng Mga Umiiral na Modelo:
Ang mga mananaliksik ay hinihikayat na suriing mabuti ang mga masalimuot ng kasalukuyang mga modelo sa halip na eksklusibong tumuon sa paglikha ng mga bago.
6. Paggalugad Pagpapatibay ng Pagkatuto (RL):
Ang RL ay iminungkahi bilang isang mahalagang tool, lalo na dahil hindi ito umaasa nang husto sa malawak na set ng data. Gayunpaman, mahalaga na balansehin ang ambisyon sa pagiging posible.
7. Pagsisiyasat sa Mga Modelong Minimally Loaded:
Itinatampok ng papel ang tumataas na kahalagahan ng pagguhit ng mga konklusyon gamit ang mga minimally load na modelo at isang limitadong dataset, na tumutukoy sa mga pamamaraan ng Bayesian bilang isang halimbawa.
8. Paggalugad sa Mga Hindi Nagamit o Napabayaang Lugar:
Maaaring suriin ng mga mananaliksik ang mga paksang kasalukuyang hindi napapansin ng industriya o muling buhayin ang mga dating inabandunang pamamaraan. Ang diskarte na ito ay maaaring mag-alok ng isang window ng pagkakataon bago makakuha ng makabuluhang pansin.
9. Pag-eksperimento sa Mga Hindi Inaasahang Paraan:
Ang mga mananaliksik ay sinenyasan na hamunin ang status quo sa pamamagitan ng pagsubok ng mga pamamaraan na tila counterintuitive.
10. Pag-navigate sa Etikal na Hangganan:
Bagama't ang mga korporasyon ay maaaring paghihigpitan ng mga etikal na alituntunin at pagsasaalang-alang sa reputasyon, ang mga akademiko ay may bahagyang higit na kalayaan. Iminumungkahi ng mga may-akda na tuklasin ang mga paksang maaaring ituring na kontrobersyal ngunit binibigyang-diin ang kahalagahan ng pagsunod sa legal na regulasyon.
11. Pakikipagtulungan sa Industriya:
Ang pagtatatag ng mga pakikipagsosyo sa mga stakeholder ng industriya ay maaaring magbigay ng pagpopondo at posibleng humantong sa pagsisimula ng mga start-up. Gayunpaman, mahalaga para sa pananaliksik na iayon sa mga praktikal na aplikasyon.
12. Pagsusulong ng Inter-University Collaborations:
Ang pagtatayo ng mga tulay sa pagitan ng mga unibersidad ay maaaring magsulong ng isang collaborative na kapaligiran, kahit na ang mga agarang benepisyo ay maaaring mukhang mailap.
Ang mga estratehiyang binalangkas ni Togelius at Yannakakis (2023) kumakatawan sa isang roadmap para sa mga akademikong AI na nagna-navigate sa mga kasalukuyang hamon. Habang ang hinaharap ng AI academia ay nananatiling hindi sigurado, ang mga alituntuning ito ay nag-aalok ng mga landas upang magpatuloy sa paggawa ng makabuluhang kontribusyon sa larangan. Ang kasunod na mga artikulo sa seryeng ito ay higit na susuriin ang mga implikasyon ng mga rekomendasyong ito at ang kanilang potensyal na pangmatagalang epekto.
Magbasa pa tungkol sa AI:
Pagtanggi sa pananagutan
Sa linya na may Mga alituntunin ng Trust Project, pakitandaan na ang impormasyong ibinigay sa pahinang ito ay hindi nilayon at hindi dapat bigyang-kahulugan bilang legal, buwis, pamumuhunan, pananalapi, o anumang iba pang paraan ng payo. Mahalagang mamuhunan lamang kung ano ang maaari mong mawala at humingi ng independiyenteng payo sa pananalapi kung mayroon kang anumang mga pagdududa. Para sa karagdagang impormasyon, iminumungkahi naming sumangguni sa mga tuntunin at kundisyon pati na rin sa mga pahina ng tulong at suporta na ibinigay ng nagbigay o advertiser. MetaversePost ay nakatuon sa tumpak, walang pinapanigan na pag-uulat, ngunit ang mga kondisyon ng merkado ay maaaring magbago nang walang abiso.
Tungkol sa Ang May-akda
Si Damir ang pinuno ng pangkat, tagapamahala ng produkto, at editor sa Metaverse Post, sumasaklaw sa mga paksa gaya ng AI/ML, AGI, LLMs, Metaverse, at Web3-mga kaugnay na larangan. Ang kanyang mga artikulo ay umaakit ng napakalaking madla na mahigit sa isang milyong user bawat buwan. Mukhang isa siyang eksperto na may 10 taong karanasan sa SEO at digital marketing. Nabanggit si Damir sa Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto, at iba pang publikasyon. Naglalakbay siya sa pagitan ng UAE, Turkey, Russia, at ng CIS bilang digital nomad. Nakamit ni Damir ang bachelor's degree sa physics, na pinaniniwalaan niyang nagbigay sa kanya ng mga kritikal na kasanayan sa pag-iisip na kailangan para maging matagumpay sa pabago-bagong tanawin ng internet.
Mas marami pang artikulo
Si Damir ang pinuno ng pangkat, tagapamahala ng produkto, at editor sa Metaverse Post, sumasaklaw sa mga paksa gaya ng AI/ML, AGI, LLMs, Metaverse, at Web3-mga kaugnay na larangan. Ang kanyang mga artikulo ay umaakit ng napakalaking madla na mahigit sa isang milyong user bawat buwan. Mukhang isa siyang eksperto na may 10 taong karanasan sa SEO at digital marketing. Nabanggit si Damir sa Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto, at iba pang publikasyon. Naglalakbay siya sa pagitan ng UAE, Turkey, Russia, at ng CIS bilang digital nomad. Nakamit ni Damir ang bachelor's degree sa physics, na pinaniniwalaan niyang nagbigay sa kanya ng mga kritikal na kasanayan sa pag-iisip na kailangan para maging matagumpay sa pabago-bagong tanawin ng internet.
