6 mēnešu pauze AI apmācībā ir laba ideja, taču ar to var nepietikt
Īsumā
Stāsts par petīciju un Judkovska raksta publiskošana ir polarizējusi sabiedrību.
Ieslodzīto dilemma un spēļu teorija liek domāt, ka, lai šādas problēmas atrisinātos, dažādās vietās ir nepieciešama saprātīgu cilvēku kritiskā masa.
Tomēr šai idejai ir daži trūkumi, piemēram, apziņas, gribas un rīcības trūkums digitālajā evolūcijā.
Stāsts par lūgumraksts pārtraukt attīstīt AI sistēmas, kas ir progresīvākas nekā GPT-4 ir manāmi polarizējusi sabiedrību. Judkovska atbrīvošana raksts lūdzot pārtraukt turpmāko attīstību GPT modeļi pielēja eļļu ugunij, īpaši viņa fragmenti par datu centru bombardēšanu.
No tā, ko var novērot tiešsaistē, šķiet, ka petīcijas atbalstītāju ir daudz mazāk nekā pretinieku, kuriem ir trīs galvenie argumenti:
| 1 | – Progresu nevar apturēt. – Lūgumrakstu izdomāja OpenAI konkurenti. – Ķīna negaidīs. |
| 2 | – Jums nevajadzētu baidīties no AI, bet gan no cilvēkiem. - GPT nav apziņas, gribas, centienu vai rīcības brīvības, tāpēc nav no kā baidīties. - GPT-4 ir ārprātīgi tālu no pasaules paverdzināšanas, jo neko nesaprot, pieļauj muļķīgas kļūdas un vispār ir diezgan stulbs. - GPT-4 nespēs palaist pasauli, jo tai nav roku/kāju. |
| 3 | – Trešā grupa nesaprot, kā GPT-4 darbojas pirmkārt. |
Mēs nekoncentrēsimies uz trešo grupu, jo viņu nostāja izriet no neziņas. Tas nenozīmē, ka visi AI pretinieki zina visu par AI; jūs varat atrast daudz pret AI cilvēku, kuriem trūkst izpratnes par tehnoloģiju un to, ko tas ietver, lai gan pats Judkovskis ir ļoti dziļš AI tēmā, tāpēc viņu nevar apsūdzēt neziņā.
Apskatīsim pirmo cilvēku grupu – tos, kuri uzskata, ka progresu nevar apturēt. Viņi piedāvā dažādus, tomēr līdzīgus argumentus, un kopumā šie cilvēki nenoliedz AI iespējas un izredzes, ko tas rada, un uzskata, ka AI attīstība turpināsies neatkarīgi no tā.
Pirmā tēze par neapturamu progresu ir sauklis, kam nav jābūt patiesam. Šķiet, ka cilvēki ir pārtraukuši dažus zinātniskus eksperimentus, un daudzi kādreiz pieņemti pētniecības projekti vairs netiek uzskatīti par ētiskiem, un līdzīgi šodien vairs nebūtu atļauti. Tomēr, cik daudz progresu pagātnē apturēja inkvizīcija un citas reliģiskās vajāšanas, grāmatu aizliegumi un zinātnieku slepkavības Ķīnā (un citās valstīs)? Tas ir kaut kas tāds, ko mēs nekad nevarēsim pilnībā aptvert izdzīvošanas aizspriedumu dēļ.
Citas tēzes ietver pieeju, ko var rezumēt kā “ja ne mēs, tad tie būs viņi”. Lai gan šāda domāšana var būt saprotamāka, tas arī nešķiet pareizais risinājums. Tas ir ļoti līdzīgs ieslodzīto dilemmai spēļu teorijā.
Otrā argumentu grupa ir visinteresantākā. Lai gan es personīgi tam zināmā mērā piekrītu, ir daži trūkumi, kas ir jārisina. Jā, mākslīgajam intelektam nav apziņas, gribas, rīcības brīvības utt. Arī Covid-19 nav, un tomēr tas radīja postījumus visā pasaulē. Kaut kam nav jābūt rīcības un apziņas sajūtai, lai tas kļūtu bīstams; Scenārijs, ka dzīvība uz zemes tiek iznīcināta vīrusa dēļ, nav neiedomājams. Kad tas ir paveikts, tas var nolikt krēslus uz galdiem, izslēgt gaismas un atstāt uz visiem laikiem.
Turpinot bioloģisko analoģiju, ir brīnišķīgs raksts “Digitālās evolūcijas pārsteidzošais radošums: evolūcijas aprēķinu un mākslīgās dzīves izpētes kopienu anekdošu krājums”, kurā sniegti daudzi piemēri, kad procesi norit negaidītā virzienā. Pat bez evolūcijas procesa viss var nonākt nepareizā vispārinājumā “Mērķa nepareiza vispārināšana: kāpēc ar pareizajām specifikācijām nepietiek pareiziem mērķiem”. Brīvības došana optimizācijas procesam var noiet greizi, tiek apspriesta sadaļā “Riski, ko rada apgūtā optimizācija uzlabotajās mašīnmācīšanās sistēmās. "
Tajā pašā laikā mēs parasti neņemam vērā riskus ļaunprātīga AI izmantošana un jebkura nepareiza lietošana, kas tikai baro argumentu, ka mums ir jābaidās no cilvēkiem, nevis paša AI. Tomēr patiesība ir tāda, ka AI var būt slikta pat bez ļaunprātīgiem cilvēkiem.
Es piekrītu arī tam, ka modele pieļauj stulbas kļūdas, bet arī cilvēki, un tomēr mēs zinām, ka viņi var nodarīt ļaunumu. Lai gan modeļi pieļauj daudzas kļūdas, tie var arī atrisināt daudzas satriecošas, foršas un sarežģītas problēmas, kuras vidusmēra cilvēks nevar atrisināt. No bēdīgi slavenā darba “Sparks of Artificial General Intelligence: Early Experiments with GPT-4”, mani pārsteidza tas, ka mākslīgais intelekts spēj atrisināt, kaut arī ne vienmēr pareizi, Fermi problēmas, diezgan sarežģītas matemātiskas problēmas. Tās prāta teorija un “tāpat kā spēja saprast” citu rīcību ir arī ļoti iespaidīgas. Visas šīs lietas norāda uz AI inteliģenci; esošu, bet ne gluži kā mūsējo.
Vismaz dažas no AI modeļu pieļautajām kļūdām parasti ir iespējams novērst, tāpēc to intelekts var tikai pieaugt. Viss, kas jums jādara, ir jāpievieno modulis precīziem aprēķiniem, faktu bāze un apstiprināšana ar citu modeli.
Vissvarīgākais visā šajā stāstā ir AI attīstības ātrums. GPT modeļi ir auguši ārkārtīgi reibinošā tempā. Tagad tādas ir ChatGPT spraudņi pieejams, varat izmantot GPT modeļi koda rakstīšanai, API ir pieejamas lielai sabiedrībai, un jūs varat izmantot ārējos rīkus bez iepriekšējas apmācības.
GPT-4, protams, pasauli neiekaros, bet ekonomiku var stipri satricināt. GPT-5, un modeļa turpmākā iterācija, iespējams, nav ļoti tālu uz priekšu, un, iespējams, tam būs daudz spēcīgākas spējas. Un, atzīsim, mēs nevaram cerēt, ka izprotam vēl neesošos modeļus; mēs pat neesam pietuvojušies jau esošo modeļu izpratnei. Šajā ziņā sešu mēnešu pārtraukums varētu būt laba ideja, taču ar to vienkārši var nepietikt.
Un, ņemot vērā to, AI sacīkstes ir sācies, nav laika mācīties.
Kopumā, ņemot vērā to visu, es arī parakstīju petīciju. Lai gan es neticu, ka tas kaut kādā veidā palīdzēs.
Lasiet vairāk saistītās tēmas:
Atbildības noraidīšana
Atbilstīgi Uzticības projekta vadlīnijas, lūdzu, ņemiet vērā, ka šajā lapā sniegtā informācija nav paredzēta un to nedrīkst interpretēt kā juridisku, nodokļu, ieguldījumu, finanšu vai jebkāda cita veida padomu. Ir svarīgi ieguldīt tikai to, ko varat atļauties zaudēt, un meklēt neatkarīgu finanšu padomu, ja jums ir šaubas. Lai iegūtu papildinformāciju, iesakām skatīt pakalpojumu sniegšanas noteikumus, kā arī palīdzības un atbalsta lapas, ko nodrošina izdevējs vai reklāmdevējs. MetaversePost ir apņēmies sniegt precīzus, objektīvus pārskatus, taču tirgus apstākļi var tikt mainīti bez iepriekšēja brīdinājuma.
Par Autors
Damirs ir komandas vadītājs, produktu vadītājs un redaktors Metaverse Post, kas aptver tādas tēmas kā AI/ML, AGI, LLM, Metaverse un Web3- saistītie lauki. Viņa raksti katru mēnesi piesaista lielu auditoriju, kas pārsniedz miljonu lietotāju. Šķiet, ka viņš ir eksperts ar 10 gadu pieredzi SEO un digitālā mārketinga jomā. Damirs ir minēts Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto un citas publikācijas. Viņš ceļo starp AAE, Turciju, Krieviju un NVS kā digitālais nomads. Damirs ir ieguvis bakalaura grādu fizikā, kas, viņaprāt, ir devis viņam kritiskās domāšanas prasmes, kas nepieciešamas, lai gūtu panākumus nepārtraukti mainīgajā interneta vidē.
Vairāk rakstus
Damirs ir komandas vadītājs, produktu vadītājs un redaktors Metaverse Post, kas aptver tādas tēmas kā AI/ML, AGI, LLM, Metaverse un Web3- saistītie lauki. Viņa raksti katru mēnesi piesaista lielu auditoriju, kas pārsniedz miljonu lietotāju. Šķiet, ka viņš ir eksperts ar 10 gadu pieredzi SEO un digitālā mārketinga jomā. Damirs ir minēts Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto un citas publikācijas. Viņš ceļo starp AAE, Turciju, Krieviju un NVS kā digitālais nomads. Damirs ir ieguvis bakalaura grādu fizikā, kas, viņaprāt, ir devis viņam kritiskās domāšanas prasmes, kas nepieciešamas, lai gūtu panākumus nepārtraukti mainīgajā interneta vidē.
