Ross Andersons apspriež AI modeļa sabrukumu kā pieaugošu tiešsaistes satura problēmu
Īsumā
Ross Andersons brīdina par iespējamiem riskiem, kas saistīti ar lielo valodu modeļu nākamo paaudžu intelektuālo lejupslīdi (LLM), kas ir kļuvuši par primāro rīku jaunu tekstu rediģēšanai un veidošanai.
Modeļa sabrukumu var novērst, izprotot un mazinot riskus, kas saistīti ar ģeneratīvais AI.
Tikai sešu mēnešu laikā ģeneratīvais AI ir guvis ievērojamus panākumus, piesaistot pasaules uzmanību. ChatGPT, izcils šīs tehnoloģijas piemērs, ātri ieguva popularitāti un plašu izmantošanu. Tomēr slavenais eksperts Ross Andersons brīdina par iespējamie riski saistīta ar nākamo modeļu paaudžu intelektuālo pagrimumu.
Ross Andersons ir drošības inženierijas pionieris un vadošā iestāde drošības sistēmu un algoritmu ievainojamību atrašanā. Būdams Karaliskās Inženieru akadēmijas līdzstrādnieks un Kembridžas universitātes profesors, viņš ir devis lielu ieguldījumu informācijas drošības jomā, veidojot draudu modeļus dažādās nozarēs.
Tagad Andersons ceļ trauksmi par globāliem draudiem cilvēcei -lielo valodu modeļu (LLM) sabrukums. Vēl nesen lielāko daļu teksta internetā radīja cilvēki. LLM tagad ir kļuvuši par galveno rīku jaunu tekstu rediģēšanai un radīšanai, aizstājot cilvēku radīto saturu.
Šī maiņa rada svarīgus jautājumus: kur šī tendence novedīs un kas notiks, kad LLM dominēs internetā? Sekas pārsniedz tikai tekstu. Piemēram, ja a muzikālais modelis ir apmācīts ar Mocarta skaņdarbiem, nākamajām paaudzēm var pietrūkt oriģināla spožuma un iegūt zemākus rezultātus, kas ir salīdzināmi ar mūziklu “Salieri”. Ar katru nākamo paaudzi palielinās kvalitātes un inteliģences pasliktināšanās risks.
Šis jēdziens var atgādināt filmu "Daudzkārtība”, ar Maiklu Kītonu galvenajā lomā, kur klonēšana noved pie intelekta samazināšanās un katra nākamā klona stulbuma palielināšanās.
Tāda pati parādība var rasties ar LLM. Modeļa apmācība ar modeļa ģenerētu saturu noved pie neatgriezeniskiem defektiem un teksta kvalitātes pasliktināšanās paaudžu gaitā. Sākotnējais satura sadalījums tiek izkropļots, kā rezultātā tiek pieplūst nejēdzīga informācija. Gausa sadalījumi saplūst, un ārkārtējos gadījumos teksts var kļūt bezjēdzīgs. Nākamās paaudzes var pat nepareizi uztvert realitāti, pamatojoties uz viņu priekšgājēju pieļautajām kļūdām. Šī parādība ir pazīstama kā "modeļa sabrukums".
Modeļa sabrukšanas sekas ir nozīmīgas:
✔️ Internets kļūst arvien vairāk piepildīts ar muļķīgu saturu.
✔️ Personas, kas patērē šo saturu, var negribot kļūt mazāk informētas un zaudēt intelektuālās spējas.
Par laimi, ir cerība. Andersons norāda, ka modeļa sabrukumu var novērst, piedāvājot optimisma mirdzumu starp bažām. Lai uzzinātu vairāk par iespējamiem risinājumiem un to, kā izvairīties no tiešsaistes informācijas kvalitātes samazināšanās, iesakām izpētīt tālāk.
Lai gan ģeneratīvais AI ir daudzsološs, ir svarīgi saglabāt modrību un risināt problēmas, ko tas rada. Izprotot un mazinot ar modeļa sabrukumu saistītos riskus, mēs varam strādāt, lai izmantotu šīs tehnoloģijas priekšrocības, vienlaikus saglabājot internetā pieejamās informācijas integritāti.
Lasiet vairāk par AI:
Atbildības noraidīšana
Atbilstīgi Uzticības projekta vadlīnijas, lūdzu, ņemiet vērā, ka šajā lapā sniegtā informācija nav paredzēta un to nedrīkst interpretēt kā juridisku, nodokļu, ieguldījumu, finanšu vai jebkāda cita veida padomu. Ir svarīgi ieguldīt tikai to, ko varat atļauties zaudēt, un meklēt neatkarīgu finanšu padomu, ja jums ir šaubas. Lai iegūtu papildinformāciju, iesakām skatīt pakalpojumu sniegšanas noteikumus, kā arī palīdzības un atbalsta lapas, ko nodrošina izdevējs vai reklāmdevējs. MetaversePost ir apņēmies sniegt precīzus, objektīvus pārskatus, taču tirgus apstākļi var tikt mainīti bez iepriekšēja brīdinājuma.
Par Autors
Damirs ir komandas vadītājs, produktu vadītājs un redaktors Metaverse Post, kas aptver tādas tēmas kā AI/ML, AGI, LLM, Metaverse un Web3- saistītie lauki. Viņa raksti katru mēnesi piesaista lielu auditoriju, kas pārsniedz miljonu lietotāju. Šķiet, ka viņš ir eksperts ar 10 gadu pieredzi SEO un digitālā mārketinga jomā. Damirs ir minēts Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto un citas publikācijas. Viņš ceļo starp AAE, Turciju, Krieviju un NVS kā digitālais nomads. Damirs ir ieguvis bakalaura grādu fizikā, kas, viņaprāt, ir devis viņam kritiskās domāšanas prasmes, kas nepieciešamas, lai gūtu panākumus nepārtraukti mainīgajā interneta vidē.
Vairāk rakstus
Damirs ir komandas vadītājs, produktu vadītājs un redaktors Metaverse Post, kas aptver tādas tēmas kā AI/ML, AGI, LLM, Metaverse un Web3- saistītie lauki. Viņa raksti katru mēnesi piesaista lielu auditoriju, kas pārsniedz miljonu lietotāju. Šķiet, ka viņš ir eksperts ar 10 gadu pieredzi SEO un digitālā mārketinga jomā. Damirs ir minēts Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto un citas publikācijas. Viņš ceļo starp AAE, Turciju, Krieviju un NVS kā digitālais nomads. Damirs ir ieguvis bakalaura grādu fizikā, kas, viņaprāt, ir devis viņam kritiskās domāšanas prasmes, kas nepieciešamas, lai gūtu panākumus nepārtraukti mainīgajā interneta vidē.
