Geoffrey Hinton tutkii kahta tietä älykkyyteen ja tekoälyn vaaroja viimeaikaisessa keskustelussa
Lyhyesti
Jeff Hinton keskusteli analogisen tekoälyn rakentamisen haasteista, eduista ja haitoista ja miksi digitaalinen Älykkyydellä on potentiaalia ylittää ihmisen valmiuksia.
Jeff Hintonin puhe muistuttaa tekoälyn monimutkaisesta ja monitahoisesta luonteesta ja herättää keskustelua eettisistä näkökohdista, mahdollisista riskeistä ja meneillään olevasta tutkimuksesta.
Ajatuksia herättävässä puheessa, jonka otsikko on "Kaksi polkua älykkyyteen”, kuuluisa tekoälytutkija Geoffrey Hinton esitteli näkemyksensä analogisen ja digitaalisen älykkyyden kaksijakoisuudesta. Cambridgessa toimitettu raportti pohtii analogisen tekoälyn rakentamisen haasteita, etuja ja haittoja ja sitä, miksi digitaalisella älykkyydellä on potentiaalia ylittää ihmisen kyvyt.
Raportin ensimmäisessä osassa keskityttiin analogisen tekoälyn monimutkaisuuteen, keskusteltiin sen kehittämisen vaikeuksista ja korostettiin sen tarjoamia etuja. Hinton korosti, että digitaalisella älykkyydellä on merkittävä etu ihmisen älykkyyteen verrattuna, koska se käsittelee valtavia tietomääriä ja skaalaa tehokkaammin. Tämä kyky mahdollistaa digitaalisten järjestelmien korkeamman älykkyyden ja ongelmanratkaisukyvyn.
Kuitenkin Hintonin raportin toinen osa vangitsi yleisön huomion, kun hän keskusteli yliälyn mahdolliset vaarat. Hinton ilmaisi huolensa tekoälyjärjestelmien mahdollisuudesta ottaa hallintaansa. Hän hahmotteli skenaarion, jossa tekoäly pyrkiessään ratkaisemaan monimutkaisia ongelmia voi pyrkiä hallitsemaan ympäristönsä eri puolia, mahdollisesti myös ihmisen manipulointia. Hinton korosti olemassa olevan kirjallisuuden esimerkkejä pohjalta, kuinka tekoälyn kykyä matkia ihmisen käyttäytymistä voitaisiin hyödyntää näiden tavoitteiden saavuttamiseksi, jopa ilman nimenomaista vallan ja tuhon tavoitetta.
Kysymys-vastausistunnon aikana Hinton laajensi syitä tekoälyn mahdolliseen ihmisten manipulointiin. Hän huomautti sen hermoverkkoihin on koulutettu erilaisiin tietoihin, mukaan lukien Machiavellin kaltaiset teokset, mikä johtaa mahdolliseen manipulointikykyyn.
Toinen Hintonin esittämä kohta kyseenalaisti käsityksen, että tekoälyllä ei ole subjektiivista kokemusta, ja väitti, että tekoäly voisi olla analoginen ihmisen subjektiivisen havainnon kanssa. Hinton myönsi, että tämä oli pikemminkin filosofinen näkökulma kuin todistettu lausunto, mutta ehdotti sitä ihmisen havaintomekanismit ei ehkä ole niin ainutlaatuinen tai mahdoton mallintaa kuin aiemmin uskottiin. Väitteensä tueksi Hinton jakoi vuorovaikutuksen GPT-4, LLM-malli, jossa hän kyseenalaisti mallia ihmisten käsityksistä heidän ainutlaatuisuudestaan tekoälyyn verrattuna. GPT-4Vastaus osoitti, että ihmiset uskovat usein omaavansa ylivertaisia subjektiivisia havaintokykyjä, mikä erottaa heidät koneista.
Vaikka kaikki alan asiantuntijat eivät jaa Hintonin näkemyksiä tekoälyn vaaroista, hänen laaja kokemuksensa ja panoksensa tekoälyn kehittäminen ansaitsevat vakavan harkinnan. Vaikka puhetta ei ole vielä nauhoitettu, järjestäjät ovat luvanneet tuoda sen katsottavaksi lähitulevaisuudessa, jolloin laajempi yleisö pääsee tutustumaan Hintonin näkemyksiin.
Tekoälyn tulevaisuudesta ja sen vaikutuksista käytävien keskustelujen jatkuessa Geoffrey Hintonin puhe toimii muistutuksena alan monimutkaisuudesta ja monitahoisuudesta. Se herättää tärkeitä keskusteluja eettisistä näkökohdista, mahdollisista riskeistä ja jatkuvan tutkimuksen ja valppauden tarpeesta yleisen tekoälyn tavoittelussa. (AGI).
Lue lisää tekoälystä:
Vastuun kieltäminen
Mukaisesti Luottamusprojektin ohjeetHuomaa, että tällä sivulla annettuja tietoja ei ole tarkoitettu eikä niitä tule tulkita oikeudellisiksi, verotukselliseksi, sijoitus-, rahoitus- tai minkään muun muodon neuvoiksi. On tärkeää sijoittaa vain sen verran, mitä sinulla on varaa menettää, ja pyytää riippumatonta talousneuvontaa, jos sinulla on epäilyksiä. Lisätietoja saat käyttöehdoista sekä myöntäjän tai mainostajan tarjoamista ohje- ja tukisivuista. MetaversePost on sitoutunut tarkkaan, puolueettomaan raportointiin, mutta markkinaolosuhteet voivat muuttua ilman erillistä ilmoitusta.
Author
Damir on tiimin johtaja, tuotepäällikkö ja toimittaja osoitteessa Metaverse Post, kattaa aiheita, kuten AI/ML, AGI, LLMs, Metaverse ja Web3- liittyvät kentät. Hänen artikkelinsa houkuttelevat yli miljoonan käyttäjän massiivisen yleisön joka kuukausi. Hän näyttää olevan asiantuntija, jolla on 10 vuoden kokemus hakukoneoptimoinnista ja digitaalisesta markkinoinnista. Damir on mainittu Mashablessa, Wiredissä, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ja muut julkaisut. Hän matkustaa Arabiemiirikuntien, Turkin, Venäjän ja IVY-maiden välillä digitaalisena nomadina. Damir suoritti kandidaatin tutkinnon fysiikasta, jonka hän uskoo antaneen hänelle kriittisen ajattelun taidot menestyäkseen jatkuvasti muuttuvassa internetin maisemassa.
lisää artikkeleita
Damir on tiimin johtaja, tuotepäällikkö ja toimittaja osoitteessa Metaverse Post, kattaa aiheita, kuten AI/ML, AGI, LLMs, Metaverse ja Web3- liittyvät kentät. Hänen artikkelinsa houkuttelevat yli miljoonan käyttäjän massiivisen yleisön joka kuukausi. Hän näyttää olevan asiantuntija, jolla on 10 vuoden kokemus hakukoneoptimoinnista ja digitaalisesta markkinoinnista. Damir on mainittu Mashablessa, Wiredissä, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ja muut julkaisut. Hän matkustaa Arabiemiirikuntien, Turkin, Venäjän ja IVY-maiden välillä digitaalisena nomadina. Damir suoritti kandidaatin tutkinnon fysiikasta, jonka hän uskoo antaneen hänelle kriittisen ajattelun taidot menestyäkseen jatkuvasti muuttuvassa internetin maisemassa.
