Gramenerin toimitusjohtaja Anand S varoittaa riskeistä sokeasti luotettavissa LLM:issä, mallilukutaidon puolestapuhujissa
Lyhyesti
Keskustelussa Metaverse Post – Anand S, Gramenerin toimitusjohtaja, korosti mahdollisia sudenkuoppia, jotka liittyvät liialliseen LLM:hen luottamiseen.
Kun sadat tekoäly- ja ML-työkalut kyllästävät markkinoita, innovaatiopotentiaali on rajaton. Lukuisia startup-yrityksiä on syntymässä vastaamaan alan haasteisiin, kun taas jatkuva parannettujen suurten kielimallien virta joka viikko vahvistaa alan muutosvoimaa. generatiivinen tekoäly. Tämä teknologinen lähentyminen muokkaa teollisuudenaloja, joissa on rajattomat mahdollisuudet.
Kaksosten kaltaisten voimakkaiden kielimallien julkaisu ja laaja käyttö herättää kuitenkin tärkeitä eettisiä ja käytännöllisiä näkökohtia ja pyytää meitä pohtimaan kysymystä – Voimmeko me ihmisinä luottaa sokeasti sellaisiin malleihin?
Keskustelussa Metaverse Post — Anand S, yhdysvaltalaisen B2B SaaS -yrityksen toimitusjohtaja Gramener korosti liiallisen riippuvuuden mahdollisia sudenkuoppia, kuten LLM:itä ChatGPT, varoittaa, että tämä suuntaus todennäköisesti jatkuu nousevien mallien, kuten Gemini, kanssa.
”Ihminen voi oikeilla harjoitustiedoillakin tehdä virheitä, kun hän menee oman osaamisalueensa ulkopuolelle. Onko suuri kielimalli siksi ekstrapoloivaa vai muistaako se oppimansa? Ero on valtava, ja se kannattaa testata. Rakennamme luottamusta intuitioiden avulla toistuvilla vuorovaikutuksilla ihmisten kanssa”, Anand sanoi. "Tiedämme, että meidän on tutkittava tuntematonta henkilöä, ja näin meidän pitäisi luultavasti olla vuorovaikutuksessa myös suurten kielimallien kanssa."
Esimerkiksi asiassa Varghese vs. Southern Airlines Company Limited, asianajaja viittasi kuvitteelliseen ChatGPT- luotuja tapauksia, jotka johtavat siihen, että tuomari rankaisee asianajajaa korostaen kritiikittömän käytön riskejä. Anand korostaa varovaisuuden ja tarkastelun tarvetta tällaisten kielimallien hyödyntämisessä.
Tämän lisäksi ala vaatii vankkaa palautemekanismia. ChatGPT rohkaisee käyttäjiä antamaan palautetta yksinkertaisen peukalo ylös/peukalo alas -painikkeen ja tekstinsyötön avulla. Tämä lähestymistapa kerää arvokkaita näkemyksiä siitä, mikä toimii hyvin ja mikä ei. Tämä palautejärjestelmä tulee todennäköisesti yleistymään käytön myötä suuria kielimalleja, mikä auttaa parantamaan suorituskykyään.
"Ei ole kovin taloudellista seurata LLM:n jokaista tulosta, mutta mahdollisten virheiden ilmoittaminen on tehokas vipu", Anand kertoi. Metaverse Post.
"Mielenkiintoista on, että suuret kielimallit itsessään ovat melko hyviä arvioimaan muita suuria kielimalleja. Joten sen sijaan, että käyttäisimme ihmistä yksinomaan tulosten seurantaan, voimme käyttää LLM:ien ja ihmisten yhdistelmää, jolloin LLM:t ottavat lopulta suurimman osan ihmisen roolista kehittyessään", hän lisäsi.
Mallilukutaito on tie eteenpäin
Elinkeinoelämän alalla syntyy keskeinen periaate – mitä enemmän vuorovaikutusta, sitä syvempää ymmärrystä. Tämä suoraviivainen konsepti korostaa suhdetta käyttäjien sitoutumisen ja LLM-ominaisuuksien ymmärtämisen välillä, mikä viime kädessä lisää käyttöastetta.
"Kyse on myös ymmärtämisestä, mihin tietty LLM on hyvä. En esimerkiksi käyttäisi DALL-E:tä logojen luomiseen, koska se ei luo tekstiä kovin hyvin. Mutta se tekee hienoa työtä logoideoiden ja logosuunnitelmien luomisessa. Tämä on esimerkki mallilukutaidosta, joka on syntynyt toistuvassa käytössä ja antaa siksi minulle defiluottamuksen alueita, joilla voin käyttää mallia tehokkaammin”, Anand sanoi.
Pyrkiessään tasapainoiseen integrointiin kielimalleja, kuten Kaksoset Anand ehdottaa useita strategioita. Ensinnäkin hän kannattaa päivittäistä vuorovaikutusta suurten kielimallien kanssa, mikä edistää tapaa, joka kehittyy ajan myötä. Samoin näiden työkalujen yleisen saatavuuden varmistaminen on ratkaisevan tärkeää, ja henkilökohtaiseen käyttöön on kannustettava enemmän. Anand panee merkille nykyisen suuntauksen, jossa organisaatiot estävät ChatGPT työtietokoneissa, mikä korostaa tukevan viestinnän tarvetta.
Hän ehdottaa organisatoristen mekanismien käyttöönottoa kielimallien (LLM) käyttömahdollisuuksien tarjoamiseksi ja kokeilun edistämiseksi ympäristössä.
”Viime kädessä ihmiset tutustuvat siihen, että he ymmärtävät, mihin kannattaa luottaa, milloin ja miten sitä tulee käyttää. Lisääntynyt käyttö ja käytön lisääminen ovat tärkeimmät strategiat ja koulutusaloitteet, joita kuka tahansa voi käyttää, Anand kertoi. Metaverse Post.
Vastuun kieltäminen
Mukaisesti Luottamusprojektin ohjeetHuomaa, että tällä sivulla annettuja tietoja ei ole tarkoitettu eikä niitä tule tulkita oikeudellisiksi, verotukselliseksi, sijoitus-, rahoitus- tai minkään muun muodon neuvoiksi. On tärkeää sijoittaa vain sen verran, mitä sinulla on varaa menettää, ja pyytää riippumatonta talousneuvontaa, jos sinulla on epäilyksiä. Lisätietoja saat käyttöehdoista sekä myöntäjän tai mainostajan tarjoamista ohje- ja tukisivuista. MetaversePost on sitoutunut tarkkaan, puolueettomaan raportointiin, mutta markkinaolosuhteet voivat muuttua ilman erillistä ilmoitusta.
Author
Kumar on kokenut teknologiatoimittaja, joka on erikoistunut AI/ML:n dynaamisiin risteyksiin, markkinointiteknologiaan ja nouseviin aloihin, kuten krypto-, lohkoketju- ja NFTs. Yli 3 vuoden kokemuksella alalta Kumar on saavuttanut todistetun ennätyksen vakuuttavien tarinoiden laatimisessa, oivaltavien haastattelujen tekemisessä ja kattavien näkemysten toimittamisessa. Kumarin asiantuntemus perustuu vaikuttavan sisällön tuottamiseen, mukaan lukien artikkeleita, raportteja ja tutkimusjulkaisuja merkittäville alan alustoille. Ainutlaatuisella taitosarjalla, jossa yhdistyvät tekninen tietämys ja tarinankerronta, Kumar on erinomainen kommunikoimaan monimutkaisia teknologisia käsitteitä eri yleisöille selkeällä ja mukaansatempaavalla tavalla.
lisää artikkeleita
Kumar on kokenut teknologiatoimittaja, joka on erikoistunut AI/ML:n dynaamisiin risteyksiin, markkinointiteknologiaan ja nouseviin aloihin, kuten krypto-, lohkoketju- ja NFTs. Yli 3 vuoden kokemuksella alalta Kumar on saavuttanut todistetun ennätyksen vakuuttavien tarinoiden laatimisessa, oivaltavien haastattelujen tekemisessä ja kattavien näkemysten toimittamisessa. Kumarin asiantuntemus perustuu vaikuttavan sisällön tuottamiseen, mukaan lukien artikkeleita, raportteja ja tutkimusjulkaisuja merkittäville alan alustoille. Ainutlaatuisella taitosarjalla, jossa yhdistyvät tekninen tietämys ja tarinankerronta, Kumar on erinomainen kommunikoimaan monimutkaisia teknologisia käsitteitä eri yleisöille selkeällä ja mukaansatempaavalla tavalla.
