Microsoft VALL-E sa javí ako najnebezpečnejší podvodný softvér vôbec
Stručne
Vall-E je počítačom generovaný hlas, ktorý možno použiť na vydávanie sa za skutočných ľudí.
Je vytvorený pomocou hlasového záznamu skutočnej osoby a kódu Microsoft.
VALL-E bol propagovaný ako nástroj na zlepšenie zdravotného postihnutia ľudí prostredníctvom prekladu textu do reči.
Na trénovanie AI vývojári použili až 60,000 XNUMX hodín anglickej reči.
Zatiaľ nie je verejný, ale ak áno, podvodníci by ho mohli použiť na oklamanie ostatných, aby posielali peniaze.
Od svojho oznámenia Začiatkom roku 2023 bol VALL-E od Microsoftu ponúkaný ako nástroj na zlepšenie zdravotného postihnutia ľudí prekladom textu do reči alebo nahradením hlasových hercov, aby bol film alebo hra cenovo dostupnejšia. Teraz sa však zdá, že VALL-E môže byť najnebezpečnejším podvodným softvérom, aký bol kedy vydaný.
Podľa komentárov, VALL-E možno použiť na oklamanie ľudí o peniaze napodobňovaním hlasu priateľa alebo hlasu celebrity. Je to trochu ako masky pre FaceApp, ale pre hlas. Microsoft zatiaľ nekomentoval správy o tom, že VALL-E je podvod.
Čo je Vall-E?
Vall-E je syntetický hlas, ktorý možno použiť na napodobňovanie skutočných ľudí. Vyrába sa pomocou nahrávky hlasu skutočnej osoby a kódu Microsoft. Tento kód zatiaľ nie je verejný, ale je možné, že by mohol uniknúť.
Vedci sa snažia nájsť spôsoby, ako zlepšiť spôsob, akým systémy prevodu textu na reč (TTS) produkujú reč už od predstavenia prvého modelu TTS. Najnovší model spoločnosti Microsoft, VALL-E, predstavuje v tejto oblasti značný pokrok.
Ako Vall-E účinkuje?
Najlepšie na tom je, že to vyžaduje len tri sekundy reči na učenie, presnejšie na mikroučenie. To znamená, že ak máte trojsekundový zvukový klip s niekým rozprávajúcim, môžete mu do úst vložiť ľubovoľný text.
A teraz, hlasom Zuckerberga, AI neslávne znevažuje predpoveď počasia v metaverze.
Vypočujte si ukážky v sekcii Syntéza diverzity posúvaním nadol. Táto AI môže pridať farbu hlasu a dať emóciám okrem, povedzme, zachovania emocionálnych tónov vzorky.
Príklad č. 1
Príklad č. 2
Príklad č. 3
Nikto to predtým nerobil, a preto to urobili tak obratne, ale vývojári použili až 60,000 XNUMX hodín reči počas tréningovej fázy (ktorá sa zdá byť vystrihnutá z aplikácie Teams).
Dajte si slzy do hlasu, aby všetci plakali
hlasový riaditeľ teraz notoricky dáva pokyny AI
Čo robí Vall-E tak nebezpečným?
Vall-E je nebezpečný, pretože ho môžu použiť hanební agenti na oklamanie zraniteľných ľudí, aby previedli prostriedky na kartu. Podvodníci ho môžu použiť na vydávanie sa za niekoho, koho obeť pozná, napríklad za člena rodiny alebo priateľa. To môže viesť k tomu, že ľudia prídu o veľa peňazí.
Microsoft zatiaľ nezverejnil kód pre Vall-E, takže nie je dostupný pre širokú verejnosť. Ak by však unikol, mohol by ho použiť ktokoľvek a z akéhokoľvek dôvodu. To by takmer znemožňovalo určiť, či je hlas osoby skutočný alebo nie.
Ak budete niekedy požiadaní o prevod prostriedkov na kartu, pred odoslaním akýchkoľvek peňazí overte totožnosť osoby.
Ako sa môžete chrániť pred Vall-E?
V dnešnej dobe je dôležité dávať si pozor na to, s kým telefonujete. S príchodom technológie klonovania hlasu je teraz možné, aby podvodníci vytvorili falošné nahrávky hlasov skutočných ľudí. To môže veľmi sťažiť zistenie, či hovoríte so skutočnou osobou alebo nie.
Ak máte niekedy pochybnosti, existuje niekoľko vecí, ktoré môžete urobiť, aby ste sa ochránili. Najprv sa pokúste overiť identitu osoby tak, že jej položíte otázky, na ktoré bude poznať odpoveď iba skutočná osoba. Ak si stále nie ste istí, môžete im povedať, že im zavoláte späť a zavoláte na číslo, o ktorom viete, že im patrí. Ak máte nejaké pochybnosti, môžete sa danej osoby opýtať na jej meno a funkciu. Ak sa zdráhajú poskytnúť vám tieto informácie alebo sa vám zdajú byť inak pochybné, môžete vždy zavesiť a zavolať do spoločnosti, pre ktorú údajne pracujú, aby si overila ich identitu.
Mali by ste si tiež uvedomiť červené vlajky, ktoré môžu naznačovať, že hovoríte s podvodníkom. Buďte podozrievaví, ak vás daná osoba požiada o prevod prostriedkov na predplatenú kartu alebo ak použije všeobecný pozdrav ako „Ahoj, priateľ“. Okamžite zaveste telefón, ak máte pocit, že vás niekto podviedol.
Ak sa vás týka podvod VALL-E, mali by ste to nahlásiť miestnemu policajnému oddeleniu. Bolo by dobré kontaktovať spoločnosť Microsoft a zistiť, či môžete získať náhradu, aby ste zabránili miliardám dolárov v súdnych sporoch.
Prečítajte si viac o AI:
Vylúčenie zodpovednosti
V súlade s Pokyny k projektu Trust, uvedomte si, že informácie uvedené na tejto stránke nie sú zamýšľané a nemali by byť interpretované ako právne, daňové, investičné, finančné alebo iné formy poradenstva. Je dôležité investovať len toľko, koľko si môžete dovoliť stratiť a v prípade akýchkoľvek pochybností vyhľadať nezávislé finančné poradenstvo. Ak chcete získať ďalšie informácie, odporúčame vám pozrieť si zmluvné podmienky, ako aj stránky pomoci a podpory poskytnuté vydavateľom alebo inzerentom. MetaversePost sa zaviazala poskytovať presné a nezaujaté správy, ale podmienky na trhu sa môžu zmeniť bez upozornenia.
O autorovi
Damir je vedúci tímu, produktový manažér a redaktor v Metaverse Post, pokrývajúce témy ako AI/ML, AGI, LLM, Metaverse a Web3- súvisiace oblasti. Jeho články priťahujú každý mesiac obrovské publikum s viac ako miliónom používateľov. Zdá sa, že je odborníkom s 10-ročnými skúsenosťami v oblasti SEO a digitálneho marketingu. Damir bol spomenutý v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a ďalšie publikácie. Ako digitálny nomád cestuje medzi SAE, Tureckom, Ruskom a SNŠ. Damir získal bakalársky titul z fyziky, o ktorom sa domnieva, že mu dal schopnosti kritického myslenia potrebné na to, aby bol úspešný v neustále sa meniacom prostredí internetu.
Ďalšie články
Damir je vedúci tímu, produktový manažér a redaktor v Metaverse Post, pokrývajúce témy ako AI/ML, AGI, LLM, Metaverse a Web3- súvisiace oblasti. Jeho články priťahujú každý mesiac obrovské publikum s viac ako miliónom používateľov. Zdá sa, že je odborníkom s 10-ročnými skúsenosťami v oblasti SEO a digitálneho marketingu. Damir bol spomenutý v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a ďalšie publikácie. Ako digitálny nomád cestuje medzi SAE, Tureckom, Ruskom a SNŠ. Damir získal bakalársky titul z fyziky, o ktorom sa domnieva, že mu dal schopnosti kritického myslenia potrebné na to, aby bol úspešný v neustále sa meniacom prostredí internetu.
