Microsofts VALL-E ser ud til at være den farligste fidussoftware nogensinde
Kort sagt
Vall-E er en computergenereret stemme, der kan bruges til at efterligne rigtige mennesker.
Den er lavet med en rigtig persons stemmeoptagelse og en Microsoft-kode.
VALL-E er blevet promoveret som et værktøj til at forbedre menneskers handicap gennem tekst-til-tale-oversættelse.
For at træne AI'en brugte udviklerne op til 60,000 timers engelsk tale.
Det er endnu ikke offentligt, men hvis det er, kan svindlere bruge det til at bedrage andre til at sende penge.
Siden meddelelse i begyndelsen af 2023 er Microsofts VALL-E blevet udråbt som et værktøj til at forbedre folks handicap ved at oversætte tekst til tale eller udskifte stemmeskuespillere for at gøre en film eller spil mere overkommelig. Det ser dog nu ud til, at VALL-E kan være den farligste fidussoftware, der nogensinde er udgivet.
Ifølge kommentarerne, VALL-E kan bruges til at snyde folk for penge ved at efterligne en vens stemme eller en berømtheds stemme. Det er lidt ligesom masker til FaceApp, men til stemme. Microsoft har endnu ikke kommenteret på rapporterne om, at VALL-E er en fidus.
Hvad er Vall-E?
Vall-E er en syntetisk stemme, der kan bruges til at efterligne rigtige mennesker. Det er lavet ved hjælp af en optagelse af en rigtig persons stemme og en Microsoft-kode. Denne kode er endnu ikke offentlig, men det er muligt, at den kan blive lækket.
Forskere har arbejdet på at finde måder at forbedre måden tekst-til-tale (TTS)-systemer producerer tale på, siden introduktionen af den første TTS-model. Den seneste Microsoft-model, VALL-E, repræsenterer et betydeligt fremskridt på dette område.
Hvordan virker Vall-E?
Det bedste er, at det bare kræver tre sekunders tale for at lære, eller mere præcist, for mikrolæring. Det betyder, at hvis du har et lydklip på tre sekunder af en, der taler, kan du lægge enhver tekst, du vil, i munden på vedkommende.
Lyt til eksemplerne i Diversity Synthesis-sektionen ved at rulle ned. Denne AI kan tilføje farve til stemmen og give efter for følelser ud over, for eksempel, at bevare samplets følelsesmæssige toner.
eksempel #1
eksempel #2
eksempel #3
Ingen gjorde det før, og derfor gjorde de det så behændigt, men udviklerne brugte op til 60,000 timers tale i løbet af træningsfasen (som ser ud til at være skåret fra Teams-appen).
Hvad gør Vall-E så farlig?
Vall-E er farlig, fordi ondsindede agenter kunne bruge det til at narre sårbare mennesker til at overføre penge til et kort. Svindlere kan bruge det til at efterligne en, der er bekendt for offeret, såsom et familiemedlem eller en ven. Dette kan føre til, at folk mister mange penge.
Microsoft har endnu ikke udgivet koden til Vall-E, så den er ikke tilgængelig for offentligheden. Men hvis den er lækket, kan den bruges af alle og af enhver grund. Dette ville gøre det næsten umuligt at sige, om en persons stemme er ægte eller ej.
Hvis du nogensinde bliver bedt om at overføre penge til et kort, skal du sørge for at bekræfte personens identitet, før du sender nogen penge.
Hvordan kan du beskytte dig mod Vall-E?
I disse dage er det vigtigt at være opmærksom på, hvem du taler med i telefonen. Med fremkomsten af stemmekloningsteknologi er det nu muligt for svindlere at lave falske optagelser af rigtige menneskers stemmer. Dette kan gøre det meget svært at sige, om du taler til en rigtig person eller ej.
Hvis du nogensinde er i tvivl, er der et par ting, du kan gøre for at beskytte dig selv. Prøv først at verificere personens identitet ved at stille dem spørgsmål, som kun den rigtige person ville vide svaret på. Hvis du stadig ikke er sikker, kan du fortælle dem, at du vil ringe tilbage og ringe til det nummer, du ved tilhører dem. Hvis du er i tvivl, kan du spørge personen om navn og stilling. Hvis de er tilbageholdende med at give dig disse oplysninger eller virker på anden måde lyssky, kan du altid lægge på og ringe til det firma, de hævder at arbejde for, for at bekræfte deres identitet.
Du bør også være opmærksom på de røde flag, der kan indikere, at du taler til en svindler. Vær mistænksom, hvis personen beder dig om at overføre penge til et forudbetalt kort, eller hvis vedkommende bruger en generisk hilsen som "Hej, ven". Læg straks røret på, hvis du føler, at du bliver snydt.
Hvis du er berørt af VAL-E-svindel, bør du rapportere det til din lokale politiafdeling. Det ville være godt at kontakte Microsoft for at se, om du kan få en refusion for at forhindre milliarder af dollars i retssager.
Læs mere om AI:
Ansvarsfraskrivelse
I tråd med den Trust Project retningslinjer, bemærk venligst, at oplysningerne på denne side ikke er beregnet til at være og ikke skal fortolkes som juridiske, skattemæssige, investeringsmæssige, finansielle eller nogen anden form for rådgivning. Det er vigtigt kun at investere, hvad du har råd til at tabe, og at søge uafhængig finansiel rådgivning, hvis du er i tvivl. For yderligere information foreslår vi at henvise til vilkårene og betingelserne samt hjælpe- og supportsiderne fra udstederen eller annoncøren. MetaversePost er forpligtet til nøjagtig, objektiv rapportering, men markedsforholdene kan ændres uden varsel.
Om forfatteren
Damir er teamleder, produktchef og redaktør på Metaverse Post, der dækker emner som AI/ML, AGI, LLM'er, Metaverse og Web3-relaterede felter. Hans artikler tiltrækker et massivt publikum på over en million brugere hver måned. Han ser ud til at være en ekspert med 10 års erfaring i SEO og digital markedsføring. Damir er blevet nævnt i Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto og andre publikationer. Han rejser mellem UAE, Tyrkiet, Rusland og SNG som en digital nomade. Damir tog en bachelorgrad i fysik, som han mener har givet ham de kritiske tænkningskompetencer, der er nødvendige for at få succes i internettets evigt skiftende landskab.
Flere artiklerDamir er teamleder, produktchef og redaktør på Metaverse Post, der dækker emner som AI/ML, AGI, LLM'er, Metaverse og Web3-relaterede felter. Hans artikler tiltrækker et massivt publikum på over en million brugere hver måned. Han ser ud til at være en ekspert med 10 års erfaring i SEO og digital markedsføring. Damir er blevet nævnt i Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto og andre publikationer. Han rejser mellem UAE, Tyrkiet, Rusland og SNG som en digital nomade. Damir tog en bachelorgrad i fysik, som han mener har givet ham de kritiske tænkningskompetencer, der er nødvendige for at få succes i internettets evigt skiftende landskab.