AI-onderzoek opnieuw uitvinden: benaderingen in een door bedrijven gedomineerd landschap
In het kort
Het artikel van Togelius en Yannakakis biedt waardevolle inzichten in de uitdagingen waarmee AI-academici in academische omgevingen worden geconfronteerd.
Het artikel benadrukt de schaarste aan computerbronnen, de dominantie van bedrijven en de behoefte aan experimenten op kleinere schaal.
Onderzoekers zouden zich moeten concentreren op het benutten van vooraf getrainde modellen, diepgaande analyse van bestaande modellen, het verkennen van Reinforcement Learning (RL), het onderzoeken van minimaal belaste modellen, het verkennen van onaangeboorde of verwaarloosde gebieden en het testen van onverwachte methoden.
Ze stellen ook voor om ethische grenzen te verkennen, samen te werken met belanghebbenden uit de sector en interuniversitaire samenwerkingen te bevorderen.
Deze strategieën bieden een routekaart voor AI-academici om deze uitdagingen het hoofd te bieden en zinvolle bijdragen aan het veld te blijven leveren.
Het is van vitaal belang om de impact van AI op verschillende belanghebbenden, waaronder academische AI-onderzoekers, te evalueren, aangezien het veld een snelle transformatie ondergaat. Een recent artikel van Togelius J. en Yannakakis GN getiteld “Kies je wapen: overlevingsstrategieën voor depressieve AI-academici” geeft diepgaand inzicht in dit gebied.
De inhoud van het artikel onderzoekt de moeilijkheden waarmee degenen die zich bezighouden met theoretische problemen worden geconfronteerd AI-onderzoek in academische settings, ondanks de speelse verhalende suggestie van de titel. In deze review worden de belangrijkste ideeën en conclusies van het onderzoek kort samengevat.
Deel 1: De dilemma's waarmee AI-academici worden geconfronteerd
1. Schaarste aan computerbronnen:
Het artikel onderstreept de toenemende ongelijkheid in computerbronnen die beschikbaar zijn voor AI-academici en hun tegenhangers in AI-afdelingen van bedrijven. Tien jaar geleden waren lokale computeropstellingen voldoende om AI-onderzoek in de academische wereld vooruit te helpen. Het hedendaagse scenario heeft echter een paradigmaverschuiving ondergaan. Aanzienlijke vorderingen in AI zijn tegenwoordig vaak afhankelijk van uitgebreide rekenkracht en een reeks uitgebreide experimenten. Helaas hebben veel academische onderzoekers geen adequate toegang tot dergelijke bronnen.
2. De uitdaging van bedrijfsdominantie:
Het concept van concurrentie in de wereld van wetenschappelijk onderzoek is geïntensiveerd. Idealiter zouden wetenschappelijke experimenten samenwerkingsinspanningen vertegenwoordigen, met gepaste erkenning voor elke bijdrager. Toch heeft de toenemende invloed van het bedrijfsleven deze coöperatieve geest enigszins overschaduwd. Wanneer bedrijven substantiële investeringen doen in AI-onderzoek, hebben ze de neiging om de ontwikkeling van veelbelovende ideeën te domineren, waarbij ze vaak de oorspronkelijke academische bijdragers buitenspel zetten. De krant trekt een parallel tussen deze situatie en het fenomeen waarbij een megaretailer als Walmart zich vestigt in de buurt van een plaatselijke familiewinkel en zijn bedrijf overschaduwt.
De bovengenoemde uitdagingen, zoals benadrukt door Togelius en Yannakakis, schetsen een zorgwekkend landschap voor AI-academici. De omstandigheden hebben geleid tot een zekere mate van desillusie, wat gevolgen heeft voor het moreel en de productiviteit van onderzoekers die hun carrière hebben gewijd aan het bevorderen van het veld.
De studie identificeert niet alleen problemen; het biedt ook overlevingsstrategieën voor degenen in de academische wereld die het meest te lijden hebben onder deze uitdagingen. Een volgende analyse hieronder zal dieper ingaan op de mogelijke oplossingen die door de auteurs zijn voorgesteld, met als doel AI-academici tastbare wegen te bieden om door dit evoluerende terrein te navigeren.
| Verwant: Mustafa Suleyman stelt een ACI-benadering voor om de kloof tussen zwakke AI en AGI te overbruggen |
Deel 2: Strategieën om met uitdagingen om te gaan
1. Kiezen voor alternatieve publicatiewegen:
Onderzoekers wordt geadviseerd om te overwegen om in minder spraakmakende tijdschriften te publiceren, zich te concentreren op het verfijnen van technische aspecten en het onderzoeken van nichevragen binnen bredere onderwerpen.
2. Prioriteit geven aan computerbronnen:
De nadruk wordt gelegd op het toekennen van een aanzienlijk deel van de onderzoekssubsidies aan computerbronnen. Er wordt echter opgemerkt dat zelfs substantiële subsidies mogelijk niet voldoende zijn voor het uitvoeren van geavanceerde experimenten die vergelijkbaar zijn met de inspanningen van het bedrijf.
3. Focussen op experimenten op kleinere schaal:
Onderzoekers kunnen hun inspanningen concentreren op meer beknopte problemen en deze gebruiken om theoretische vorderingen te valideren. Verschillende kranten, zoals die van Shafiullah et al. (2022) en Pearce et al. (2023), heeft deze aanpak met succes toegepast. Hoewel deze methoden in eerste instantie misschien weinig aandacht krijgen, kan hun relevantie groeien als ze eenmaal op grotere datasets zijn getest.
4. Vooraf getrainde modellen gebruiken:
In plaats van vanaf nul te beginnen, met behulp van voorgetraind modellen kunnen het onderzoeksproces versnellen, hoewel het soms de diepte van bevindingen kan beperken.
5. Grondige analyse van bestaande modellen:
onderzoekers worden aangemoedigd om zich te verdiepen in de fijne kneepjes van de huidige modellen in plaats van zich uitsluitend te concentreren op het creëren van nieuwe.
6. Verkennen Versterking leren (RL):
RL wordt voorgesteld als een waardevolle tool, vooral omdat het niet sterk afhankelijk is van uitgebreide datasets. Het is echter essentieel om ambitie en haalbaarheid in evenwicht te brengen.
7. Onderzoek naar minimaal geladen modellen:
Het artikel benadrukt het toenemende belang van het trekken van conclusies met behulp van minimaal geladen modellen en een beperkte dataset, waarbij Bayesiaanse methoden als voorbeeld worden genoemd.
8. Onontgonnen of verwaarloosde gebieden verkennen:
Onderzoekers zouden zich kunnen verdiepen in onderwerpen die momenteel door de industrie over het hoofd worden gezien of eerder verlaten methodologieën nieuw leven kunnen inblazen. Deze aanpak kan een kans bieden voordat er veel aandacht wordt getrokken.
9. Experimenteren met onverwachte methoden:
Onderzoekers worden ertoe aangezet de status-quo uit te dagen door methoden te testen die contra-intuïtief lijken.
10. Navigeren door ethische grenzen:
Hoewel bedrijven misschien worden beperkt door ethische richtlijnen en reputatieoverwegingen, hebben academici iets meer speelruimte. De auteurs stellen voor om onderwerpen te onderzoeken die als controversieel kunnen worden beschouwd, maar die het belang van naleving onderstrepen wettelijke voorschriften.
11. Samenwerken met de industrie:
Het aangaan van partnerschappen met belanghebbenden uit de sector kan financiering opleveren en mogelijk leiden tot het ontstaan van start-ups. Toch is het essentieel dat het onderzoek aansluit bij praktische toepassingen.
12. Bevordering van interuniversitaire samenwerkingen:
Het bouwen van bruggen tussen universiteiten kan een samenwerkingsomgeving bevorderen, hoewel de directe voordelen ongrijpbaar lijken.
De strategieën geschetst door Togelius en Yannakakis (2023) vertegenwoordigen een routekaart voor AI-academici die de huidige uitdagingen aangaan. Hoewel de toekomst van de AI-academie onzeker blijft, bieden deze richtlijnen wegen om zinvolle bijdragen aan het veld te blijven leveren. In de daaropvolgende artikelen in deze serie zullen we dieper ingaan op de implicaties van deze aanbevelingen en hun potentiële langetermijneffect.
Lees meer over AI:
Disclaimer
In lijn met de Richtlijnen voor vertrouwensprojectenHoud er rekening mee dat de informatie op deze pagina niet bedoeld is en niet mag worden geïnterpreteerd als juridisch, fiscaal, beleggings-, financieel of enige andere vorm van advies. Het is belangrijk om alleen te beleggen wat u zich kunt veroorloven te verliezen en onafhankelijk financieel advies in te winnen als u twijfels heeft. Voor meer informatie raden wij u aan de algemene voorwaarden en de hulp- en ondersteuningspagina's van de uitgever of adverteerder te raadplegen. MetaversePost streeft naar nauwkeurige, onpartijdige berichtgeving, maar de marktomstandigheden kunnen zonder voorafgaande kennisgeving worden gewijzigd.
Over de auteur
Damir is de teamleider, productmanager en redacteur bij Metaverse Post, met onderwerpen als AI/ML, AGI, LLM's, Metaverse en Web3-gerelateerde velden. Zijn artikelen trekken maandelijks een enorm publiek van meer dan een miljoen gebruikers. Hij blijkt een expert te zijn met 10 jaar ervaring in SEO en digitale marketing. Damir is genoemd in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto en andere publicaties. Hij reist als digitale nomade tussen de VAE, Turkije, Rusland en het GOS. Damir behaalde een bachelordiploma in natuurkunde, wat hem volgens hem de kritische denkvaardigheden heeft gegeven die nodig zijn om succesvol te zijn in het steeds veranderende landschap van internet.
Meer artikelen
Damir is de teamleider, productmanager en redacteur bij Metaverse Post, met onderwerpen als AI/ML, AGI, LLM's, Metaverse en Web3-gerelateerde velden. Zijn artikelen trekken maandelijks een enorm publiek van meer dan een miljoen gebruikers. Hij blijkt een expert te zijn met 10 jaar ervaring in SEO en digitale marketing. Damir is genoemd in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto en andere publicaties. Hij reist als digitale nomade tussen de VAE, Turkije, Rusland en het GOS. Damir behaalde een bachelordiploma in natuurkunde, wat hem volgens hem de kritische denkvaardigheden heeft gegeven die nodig zijn om succesvol te zijn in het steeds veranderende landschap van internet.
