OpenAI: Tekoäly voi mahdollisesti aiheuttaa paljon haittaa ihmisille, mutta edistyksen pysäyttäminen ei ole vaihtoehto
Lyhyesti
OpenAIAsiakirjassa "Planning for AGI and Beyond" ehdotetaan monimutkaisempien ja "älykkäiden" mallien asteittaista, hidasta käyttöönottoa, suurten järjestelmien riippumattomien tarkastusten järjestämistä ja laskentaresurssien rajoittamista.
OpenAI haluaa tekoälyn olevan avoin kaikille tasapuolisesti ja luoda johdonmukaisempia ja hallittavia malleja vähentämään harhaa ja ei-toivottua käyttäytymistä.
OpenAI julkaisi äskettäin asiakirjan nimeltä "Planning for AGI and Beyond". Siinä hahmotellaan laajat ajatukset, jotka ohjaavat yrityksen toimintaa maailman lähestyessä AGI:n (artificial general intelligence) kehitystä.
OpenAI uskoo, että vaikka tekoäly voi aiheuttaa merkittävää haittaa ihmisille, edistyksen pysäyttäminen ei ole vaihtoehto. Tämän seurauksena meidän on opittava ylläpitämään tätä parannusta, jotta se ei huonone merkittävästi.
Asiakirja löytyy tätä. Korostetaan siitä muutamia tärkeitä elementtejä:
- OpenAI haluaa AGI:n auttavan ihmisiä menestymään kaikilla elämänsä osa-alueilla, sekä taloudellisesti että tieteellisesti.
Sen sijaan, että loisit superhienon suuren tekoälyn ja julkaiseisit sen välittömästi maailmalle, OpenAI ottaa käyttöön monimutkaisempia ja "älykkäämpiä" malleja vähitellen. Oletuksena on, että asteittain kasvavat tekoälyominaisuudet eivät järkytä maailmaa, vaan antavat ihmisille aikaa sopeutua, mukauttaa taloutta ja rakentaa menetelmiä vuorovaikutukseen tekoälyn kanssa. - OpenAI kehottaa kaikkia organisaatioita ottamaan virallisesti käyttöön edellä mainitun periaatteen (ottaa asteittain käyttöön tehokas tekoäly). Altman suosittelee myös mallien kouluttamiseen käytettävien laskentaresurssien rajoittamista ja suurten järjestelmien puolueettomien auditointien suorittamista ennen niiden julkistamista. Sen sijaan, että osallistuisit kilpailuihin, kuten "kuka ottaa ensimmäisenä käyttöön viileämmän ja suuremman mallin?" OpenAI pyytää yrityksiä työskennellä yhdessä parantaa tekoälyn turvallisuutta.
- OpenAI uskoo, että on ratkaisevan tärkeää, että hallituksille tiedotetaan tietyn mittakaavan ylittävistä koulutusajoista. Tämä on kiehtova käsite, ja haluaisimme tietää lisää suunnitelmat OpenAI on tässä suhteessa. Tämä ehdotus ei aluksi vaikuta minusta kovin hyvältä.
- OpenAI yrittää kehittää malleja, jotka ovat luotettavampia ja hallittavampia, mikä todennäköisimmin rajoittaa harhaa ja epäsuotuisaa käyttäytymistä tekoälyssä. Noudatettu lähestymistapa OpenAI Tässä tapauksessa mallin saattaminen suuren yleisön saataville hyvin rajoitetussa muodossa ja samalla antaa käyttäjille mahdollisuus muokata sitä. Koska kuluttajat eivät voi "personoida" mitään, en ole varma, kuinka tämä auttaa mallia kokonaisuudessaan tulemaan vähemmän puolueelliseksi. Ellei se vapauta yritystä vastuusta mallin toimista.
Kaiken kaikkiaan asiakirja osoittaa oikeaan suuntaan. Pieni ristiriita oli kuitenkin "emme heti näytä hienoja malleja yleisölle, mutta puhumme niistä valtioille" ja välillä. "ihmisten pitäisi tietää tekoälyn edistymisestä." Lyhyesti sanottuna, odotamme yksityiskohtaisia selvennyksiä OpenAI kaikista aiheista.
Lue lisää tekoälystä:
Vastuun kieltäminen
Mukaisesti Luottamusprojektin ohjeetHuomaa, että tällä sivulla annettuja tietoja ei ole tarkoitettu eikä niitä tule tulkita oikeudellisiksi, verotukselliseksi, sijoitus-, rahoitus- tai minkään muun muodon neuvoiksi. On tärkeää sijoittaa vain sen verran, mitä sinulla on varaa menettää, ja pyytää riippumatonta talousneuvontaa, jos sinulla on epäilyksiä. Lisätietoja saat käyttöehdoista sekä myöntäjän tai mainostajan tarjoamista ohje- ja tukisivuista. MetaversePost on sitoutunut tarkkaan, puolueettomaan raportointiin, mutta markkinaolosuhteet voivat muuttua ilman erillistä ilmoitusta.
Author
Damir on tiimin johtaja, tuotepäällikkö ja toimittaja osoitteessa Metaverse Post, kattaa aiheita, kuten AI/ML, AGI, LLMs, Metaverse ja Web3- liittyvät kentät. Hänen artikkelinsa houkuttelevat yli miljoonan käyttäjän massiivisen yleisön joka kuukausi. Hän näyttää olevan asiantuntija, jolla on 10 vuoden kokemus hakukoneoptimoinnista ja digitaalisesta markkinoinnista. Damir on mainittu Mashablessa, Wiredissä, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ja muut julkaisut. Hän matkustaa Arabiemiirikuntien, Turkin, Venäjän ja IVY-maiden välillä digitaalisena nomadina. Damir suoritti kandidaatin tutkinnon fysiikasta, jonka hän uskoo antaneen hänelle kriittisen ajattelun taidot menestyäkseen jatkuvasti muuttuvassa internetin maisemassa.
lisää artikkeleita
Damir on tiimin johtaja, tuotepäällikkö ja toimittaja osoitteessa Metaverse Post, kattaa aiheita, kuten AI/ML, AGI, LLMs, Metaverse ja Web3- liittyvät kentät. Hänen artikkelinsa houkuttelevat yli miljoonan käyttäjän massiivisen yleisön joka kuukausi. Hän näyttää olevan asiantuntija, jolla on 10 vuoden kokemus hakukoneoptimoinnista ja digitaalisesta markkinoinnista. Damir on mainittu Mashablessa, Wiredissä, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ja muut julkaisut. Hän matkustaa Arabiemiirikuntien, Turkin, Venäjän ja IVY-maiden välillä digitaalisena nomadina. Damir suoritti kandidaatin tutkinnon fysiikasta, jonka hän uskoo antaneen hänelle kriittisen ajattelun taidot menestyäkseen jatkuvasti muuttuvassa internetin maisemassa.
