Rasistični škandal: Kitajski žaljivi generator slik AI povzroči mednarodni incident
Na kratko
Tencentova umetna inteligenca namesto v anime like črnce pomotoma spremeni v živali
Tencentov Different Dimension Me (DDM) je nedavno predstavljeno orodje AI, ki lahko obračaj fotografije ljudi v anime like. Platforma je bila zasnovana za kitajske uporabnike, vendar je kmalu postala priljubljena v drugih regijah, kjer so anime oboževani, kot je Južna Amerika. Vendar pa so uporabniki kmalu ugotovili, da platforma ne more prepoznati temnopoltih in velikih ljudi, skupin, ki jih očitno ni v japonskih animejih, kar je povzročilo žaljive rezultate, ustvarjene z umetno inteligenco.
Na žalost umetna inteligenca ni vedno prinesla najbolj laskavih rezultatov. V nekaterih primerih so bile slike, ustvarjene z umetno inteligenco, rasno žaljive, na primer temnopolti moški s pretiranimi ustnicami ali bela ženska s pretirano velikimi prsmi.
Do te težave je verjetno prišlo zaradi pomanjkanja podatkov, na podlagi katerih bi se umetna inteligenca lahko učila. Japonski anime ne prikazuje temnopoltih in ogromnih ljudi kot glavnih likov, kar pomeni, da ni bilo natančnih podatkov, iz katerih bi se umetna inteligenca lahko učila. Posledično so bili rezultati, ustvarjeni z AI, netočni in žaljivi.
Tencent se je od takrat opravičil za žaljive rezultate in se zavezal, da bo izboljšal AI, da bo lahko bolje prepoznal različne vrste ljudi. Uporabnikom medtem svetujemo, naj bodo previdni pri uporabi platforme in preverijo rezultate, preden jih javno delijo.
O kitajskih nevronskih mrežah
Imajo svoje nevronske mreže tam, in so precej napumpani in popolnoma neodvisni od dosežkov Googla, Nvidie, OpenAI, StabilityAI, in druge Midjourney podjetja.
- Baidu, ki se je uveljavil v spletnih iskalnikih in je v zadnjih letih okrepil svojo dejavnost na področju avtonomne vožnje, uporablja ERNIE-ViLG, model z 10 milijardami parametrov, naučen na podatkovnem nizu 145 milijonov kitajskih slikovnih in besedilnih parov.
- Different Dimension Me (DDM) podjetja Tencent lahko spremeni fotografije ljudi v like iz animejev. Namenjen kitajskim uporabnikom, je nenadoma postal priljubljen v drugih regijah, ki obožujejo animeje.
- Še en Kitajec model besedila v sliko je Taiyi, zamisel IDEA, raziskovalnega laboratorija, ki ga vodi Harry Shum, ki je soustanovil največji raziskovalni oddelek Microsoft Research Asia. Odprtokodni model je usposobljen na 20 milijonih filtriranih kitajskih parov slika-besedilo in ima milijardo parametrov.
Zanimivo je videti, kako bodo Kitajci uredili vso to sramoto, ker imajo več izkušenj v "predpis« kot preostali svet. In medtem ko uporniki AI zbirajo denar za ustvarjanje "Stable Diffusion brez cenzure,« Kitajci mirno pilijo algoritme za uravnavanje nevronskih mrež v interesi države in ne osredotočanje na občutke vernikov.
Preberite več o AI:
Zavrnitev odgovornosti
V skladu z Smernice projekta Trust, upoštevajte, da informacije na tej strani niso namenjene in se jih ne sme razlagati kot pravni, davčni, naložbeni, finančni ali kakršen koli drug nasvet. Pomembno je, da vlagate samo tisto, kar si lahko privoščite izgubiti, in da poiščete neodvisen finančni nasvet, če imate kakršne koli dvome. Za dodatne informacije predlagamo, da si ogledate določila in pogoje ter strani s pomočjo in podporo, ki jih nudi izdajatelj ali oglaševalec. MetaversePost se zavzema za natančno in nepristransko poročanje, vendar se tržni pogoji lahko spremenijo brez predhodnega obvestila.
O avtorju
Damir je vodja ekipe, produktni vodja in urednik pri Metaverse Post, ki pokriva teme, kot so AI/ML, AGI, LLMs, Metaverse in Web3- sorodna področja. Njegovi članki vsak mesec pritegnejo množično občinstvo več kot milijon uporabnikov. Zdi se, da je strokovnjak z 10-letnimi izkušnjami na področju SEO in digitalnega trženja. Damir je bil omenjen v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto in druge publikacije. Kot digitalni nomad potuje med ZAE, Turčijo, Rusijo in SND. Damir je diplomiral iz fizike, kar mu je po njegovem mnenju dalo sposobnosti kritičnega razmišljanja, potrebne za uspeh v nenehno spreminjajočem se okolju interneta.
več člankov
Damir je vodja ekipe, produktni vodja in urednik pri Metaverse Post, ki pokriva teme, kot so AI/ML, AGI, LLMs, Metaverse in Web3- sorodna področja. Njegovi članki vsak mesec pritegnejo množično občinstvo več kot milijon uporabnikov. Zdi se, da je strokovnjak z 10-letnimi izkušnjami na področju SEO in digitalnega trženja. Damir je bil omenjen v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto in druge publikacije. Kot digitalni nomad potuje med ZAE, Turčijo, Rusijo in SND. Damir je diplomiral iz fizike, kar mu je po njegovem mnenju dalo sposobnosti kritičnega razmišljanja, potrebne za uspeh v nenehno spreminjajočem se okolju interneta.
