Huhtikuu 05, 2023

Kuuden kuukauden tauko tekoälykoulutuksessa on hyvä idea, mutta se ei välttämättä riitä

Julkaistu: 05. huhtikuuta 2023 klo 7 Päivitetty: 59. huhtikuuta 05 klo 2023

Lyhyesti

Vetoomuksen tarina ja Yudkovskyn artikkelin julkaiseminen ovat polarisoineet yhteiskunnan.

Vangin dilemma ja peliteoria viittaavat siihen, että tällaisten ongelmien ratkaisemiseen tarvitaan kriittinen massa järkeviä ihmisiä eri paikoissa.

Tässä ajatuksessa on kuitenkin muutamia mutkia, kuten tietoisuuden, tahdon ja tahdon puute digitaalisessa evoluutiossa.

Tarina Vetoomus lopettaa kehittyneempien tekoälyjärjestelmien kehittäminen GPT-4 on selvästi polarisoinut yhteiskuntaa. Yudkovskyn julkaisu artikkeli pyytää lopettamaan jatkokehityksen GPT mallit lisäsivät öljyä tuleen, erityisesti hänen kohdat datakeskusten pommituksista.

6 kuukauden koulutustauko Ai on hyvä, mutta ei tarpeeksi

Verkosta havaittavan perusteella vetoomuksen kannattajia näyttää olevan paljon vähemmän kuin vastustajia, joilla on kolme pääargumenttia:

1	– Edistystä ei voi pysäyttää. – Vetoomuksen keksi OpenAI kilpailijat. – Kiina ei odota.
2	– Tekoälyä ei pidä pelätä, vaan ihmisiä. - GPT sillä ei ole tietoisuutta, tahtoa, pyrkimyksiä tai tahdonvapautta, joten ei ole mitään pelättävää. - GPT-4 on järjettömän kaukana maailman orjuuttamisesta, koska se ei ymmärrä mitään, tekee typeriä virheitä ja on yleensä melko tyhmä. - GPT-4 ei pysty ajamaan maailmaa, koska sillä ei ole käsiä/jalkoja.
3	– Kolmas ryhmä ei ymmärrä miten GPT-4 toimii ensisijaisesti.

Emme keskity kolmanteen joukkoon, koska heidän kantansa johtuu tietämättömyydestä. Tämä ei tarkoita, että kaikki tekoälyn vastustajat tietävät kaiken tekoälystä; löytyy paljon tekoälyn vastustajia, joilla ei ole ymmärrystä teknologiasta ja sen sisällöstä, vaikka Yudkovsky itse onkin syvällisemmin AI-aiheessa, joten tietämättömyydestä häntä ei voida syyttää.

Katsotaanpa ensimmäistä ryhmää ihmisiä – niitä, jotka uskovat, että edistystä ei voida pysäyttää. He tarjoavat erilaisia, mutta samankaltaisia argumentteja, ja kaiken kaikkiaan nuo ihmiset eivät kiellä tekoälyn kykyjä ja sen käyttöönoton tuomia näkymiä ja uskovat, että tekoälyn kehitys jatkuu mitä tahansa.

Ensimmäinen teesi pysäyttämättömästä edistymisestä on iskulause, jonka ei tarvitse olla totta. Ihmiset näyttävät lopettaneen joitakin tieteellisiä kokeita, ja monia kerran hyväksyttyjä tutkimusprojekteja ei pidetä enää eettisinä, eikä vastaavia koskaan sallittaisi nykyään. Mutta kuinka paljon enemmän edistystä menneisyydessä pysäytti inkvisitio ja muu uskonnollinen vaino, kirjakiellot ja tiedemiesten murhat Kiinassa (ja muissa maissa)? Se on jotain, jota emme koskaan pysty täysin ymmärtämään selviytymisharhaisuuden vuoksi.

Muut opinnäytetyöt koskevat lähestymistapaa, joka voidaan tiivistää seuraavasti: "Jos emme me, se tulee olemaan he". Vaikka tämä ajattelutapa saattaa olla ymmärrettävämpi, se ei myöskään näytä olevan oikea ratkaisu. Se on hyvin samanlainen kuin peliteorian vangin dilemma.

Toinen argumenttien ryhmä on mielenkiintoisin. Vaikka olen henkilökohtaisesti samaa mieltä siitä jossain määrin, on muutamia mutta joita on käsiteltävä. Kyllä, tekoälyllä ei ole tietoisuutta, tahtoa, tahdonvoimaa jne. Ei myöskään COVID-19, ja silti se aiheutti tuhoa maailmanlaajuisesti. Jollakin ei tarvitse olla tahdontunnetta ja tietoisuutta tullakseen vaaralliseksi; skenaario, että elämä maapallolta pyyhkäisi pois viruksen takia, ei ole mahdotonta kuvitella. Kun työnsä on tehty, se voi laittaa tuolit pöydille, sammuttaa valot ja lähteä ikuisesti.

Jatkaen biologista analogiaa, on upea artikkeli "Digitaalievoluution yllättävä luovuus: kokoelma anekdootteja evoluutiolaskennan ja tekoelämän tutkimusyhteisöistä", joka tarjoaa monia esimerkkejä siitä, milloin prosessit menevät odottamattomaan suuntaan. Jopa ilman evoluutioprosessia, kaikki voi mennä väärään yleistykseen "Tavoitteen virheellinen yleistäminen: Miksi oikeat määritykset eivät riitä oikeisiin tavoitteisiin". Vapaan ohjauksen antamista optimointiprosessille, joka voi mennä pieleen, käsitellään artikkelissa "Kehittyneiden koneoppimisjärjestelmien oppitun optimoinnin riskit"

Samaan aikaan emme yleensä ota huomioon riskejä tekoälyn haitallinen käyttö ja kaikki väärinkäyttö, joka vain ruokkii argumenttia, että meidän on pelättävä ihmisiä, ei tekoälyä itseään. Totuus on kuitenkin se, että tekoäly voi olla huono myös ilman ilkeitä ihmisiä.

Olen myös samaa mieltä siitä, että malli tekee typeriä virheitä, mutta niin tekevät ihmiset, ja silti tiedämme, että he voivat vahingoittaa. Vaikka mallit tekevät monia virheitä, ne voivat myös ratkaista monia mahtavia, siistejä ja monimutkaisia ongelmia, joita keskivertoihminen ei pysty ratkaisemaan. Pahamaineisesta teoksesta "Keinotekoisen yleisen älykkyyden kipinät: varhaiset kokeilut GPT-4”, Olin hämmästynyt siitä, että tekoäly pystyi ratkaisemaan, vaikkakaan ei aina oikein, Fermi-ongelmia, melko monimutkaisia matemaattisia ongelmia. Sen mielen teoria ja "ikään kuin kyky ymmärtää" muiden toimia ovat myös erittäin vaikuttavia. Kaikki nämä asiat viittaavat tekoälyn älykkyyteen; olemassa, mutta ei aivan kuten meidän.

Ainakin joidenkin tekoälymallien tekemien virheiden poistaminen on yleensä mahdollista, joten niiden älykkyys voi vain kasvaa. Sinun tarvitsee vain lisätä moduuli tarkkoja laskelmia varten, faktapohja ja validointi toisella mallilla.

Kaikkein tärkeintä tässä koko tarinassa on tekoälyn kehityksen nopeus. GPT mallit ovat kasvaneet huimaa vauhtia. Nyt niitä on ChatGPT liitännäiset saatavilla, voit käyttää GPT malleja koodin kirjoittamiseen, API:t ovat suuren yleisön saatavilla, ja voit käyttää ulkoisia työkaluja ilman aiempaa koulutusta.

GPT-4, ei tietenkään valloita maailmaa, mutta se voi ravistaa taloutta paljon. GPT-5, ja mallin tuleva iteraatio, eivät välttämättä ole kovin kaukana edessä ja tulevat todennäköisesti paljon vahvemmilla kyvyillä. Ja totta puhuen, emme voi toivoa ymmärtävämme ei-olemassa olevia malleja; emme ole edes lähelläkään ymmärtäneet jo olemassa olevia malleja. Tässä mielessä kuuden kuukauden tauko saattaa olla hyvä idea, mutta se ei yksinkertaisesti välttämättä riitä.

Ja ottaen huomioon, että AI-kilpailu on alkanut, ei ole aikaa opetella.

Yleisesti ottaen tämän kaiken huomioon ottaen myös allekirjoitin vetoomuksen. Vaikka en usko, että se auttaa millään tavalla.

Lue lisää aiheeseen liittyvistä aiheista:

Tunnisteet:

Vastuun kieltäminen

Mukaisesti Luottamusprojektin ohjeetHuomaa, että tällä sivulla annettuja tietoja ei ole tarkoitettu eikä niitä tule tulkita oikeudellisiksi, verotukselliseksi, sijoitus-, rahoitus- tai minkään muun muodon neuvoiksi. On tärkeää sijoittaa vain sen verran, mitä sinulla on varaa menettää, ja pyytää riippumatonta talousneuvontaa, jos sinulla on epäilyksiä. Lisätietoja saat käyttöehdoista sekä myöntäjän tai mainostajan tarjoamista ohje- ja tukisivuista. MetaversePost on sitoutunut tarkkaan, puolueettomaan raportointiin, mutta markkinaolosuhteet voivat muuttua ilman erillistä ilmoitusta.

Author

Damir on tiimin johtaja, tuotepäällikkö ja toimittaja osoitteessa Metaverse Post, kattaa aiheita, kuten AI/ML, AGI, LLMs, Metaverse ja Web3- liittyvät kentät. Hänen artikkelinsa houkuttelevat yli miljoonan käyttäjän massiivisen yleisön joka kuukausi. Hän näyttää olevan asiantuntija, jolla on 10 vuoden kokemus hakukoneoptimoinnista ja digitaalisesta markkinoinnista. Damir on mainittu Mashablessa, Wiredissä, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ja muut julkaisut. Hän matkustaa Arabiemiirikuntien, Turkin, Venäjän ja IVY-maiden välillä digitaalisena nomadina. Damir suoritti kandidaatin tutkinnon fysiikasta, jonka hän uskoo antaneen hänelle kriittisen ajattelun taidot menestyäkseen jatkuvasti muuttuvassa internetin maisemassa.

lisää artikkeleita

Damir Yalalov