VALL-E van Microsoft lijkt de gevaarlijkste zwendelsoftware ooit te zijn
In het kort
Vall-E is een door de computer gegenereerde stem die kan worden gebruikt om zich voor te doen als echte mensen.
Het is gemaakt met de stemopname van een echte persoon en een Microsoft-code.
VALL-E is gepromoot als een hulpmiddel voor het verbeteren van de handicap van mensen door middel van tekst-naar-spraakvertaling.
Om de AI te trainen, gebruikten de ontwikkelaars tot 60,000 uur Engelse spraak.
Het is nog niet openbaar, maar als dat zo is, kunnen oplichters het gebruiken om anderen te misleiden om geld te sturen.
Sinds haar aankondiging begin 2023 werd VALL-E van Microsoft aangeprezen als een hulpmiddel om de handicaps van mensen te verbeteren door tekst naar spraak te vertalen of stemacteurs te vervangen om een film of game betaalbaarder te maken. Het lijkt er nu echter op dat VALL-E misschien wel de gevaarlijkste zwendelsoftware is die ooit is uitgebracht.
Volgens de commentaren, kan VALL-E worden gebruikt om mensen geld op te lichten door de stem van een vriend of de stem van een beroemdheid te imiteren. Het is een beetje zoals maskers voor FaceApp, maar dan voor stem. Microsoft heeft nog geen commentaar gegeven op de berichten dat VALL-E oplichterij is.
Wat is Vall-E?
Vallei is een synthetische stem die kan worden gebruikt om echte mensen te imiteren. Het is gemaakt met behulp van een opname van de stem van een echt persoon en een Microsoft-code. Deze code is nog niet openbaar, maar het is mogelijk dat deze wordt gelekt.
Sinds de introductie van het eerste TTS-model hebben onderzoekers gewerkt aan manieren om de manier waarop tekst-naar-spraak (TTS)-systemen spraak produceren te verbeteren. Het meest recente model van Microsoft, de VALL-E, vertegenwoordigt een aanzienlijke vooruitgang op dit gebied.
Hoe werkt Vall-E?
Het beste is dat er slechts drie seconden spraak nodig is om te leren, of beter gezegd, voor microleren. Dit betekent dat als je een audiofragment van drie seconden hebt van iemand die praat, je elke gewenste tekst in hun mond kunt stoppen.
Luister naar de voorbeelden in de sectie Diversiteitssynthese door naar beneden te scrollen. Deze AI kan kleur aan de stem toevoegen en toegeven aan emoties, naast bijvoorbeeld het behoud van de emotionele tonen van de sample.
voorbeeld #1
voorbeeld #2
voorbeeld #3
Niemand deed het eerder, en daarom deden ze het zo behendig, maar de ontwikkelaars gebruikten tot 60,000 uur aan spraak tijdens de trainingsfase (die uit de Teams-app lijkt te zijn geknipt).
Wat maakt Vall-E zo gevaarlijk?
Vall-E is gevaarlijk omdat snode agenten het kunnen gebruiken om kwetsbare mensen te misleiden om geld over te maken naar een kaart. Oplichters kunnen het gebruiken om zich voor te doen als iemand die het slachtoffer kent, zoals een familielid of een vriend. Hierdoor kunnen mensen veel geld verliezen.
Microsoft heeft de code voor Vall-E nog niet vrijgegeven, dus deze is niet beschikbaar voor het grote publiek. Als het echter is gelekt, kan het door iedereen en om welke reden dan ook worden gebruikt. Dit zou het bijna onmogelijk maken om te zeggen of de stem van een persoon echt is of niet.
Als u ooit wordt gevraagd om geld over te maken naar een kaart, zorg er dan voor dat u de identiteit van de persoon verifieert voordat u geld verzendt.
ChatGPTDe watermerken van Google kunnen Google helpen bij het detecteren van door AI gegenereerde tekst |
Hoe kun je jezelf beschermen tegen Vall-E?
Tegenwoordig is het belangrijk om waakzaam te zijn over met wie je aan de telefoon praat. Met de komst van technologie voor het klonen van stemmen is het nu mogelijk voor oplichters om valse opnames te maken van de stemmen van echte mensen. Dit kan het erg moeilijk maken om te bepalen of je met een echt persoon spreekt of niet.
Als je ooit twijfelt, zijn er een paar dingen die je kunt doen om jezelf te beschermen. Probeer eerst de identiteit van de persoon te verifiëren door hem/haar vragen te stellen waarop alleen de echte persoon het antwoord zou weten. Als je het nog steeds niet zeker weet, kun je ze vertellen dat je ze terugbelt en het nummer bellen waarvan je weet dat het van hen is. Als u twijfelt, kunt u de persoon naar zijn naam en functie vragen. Als ze aarzelen om u deze informatie te geven of op een andere manier louche lijken, kunt u altijd ophangen en het bedrijf bellen waarvoor ze beweren te werken om hun identiteit te verifiëren.
U moet ook op de hoogte zijn van de rode vlaggen die kunnen aangeven dat u met een oplichter spreekt. Wees op uw hoede als de persoon u vraagt om geld over te maken naar een prepaidkaart of als ze een generieke begroeting gebruiken, zoals 'Hallo, vriend'. Hang direct op als je het gevoel hebt opgelicht te worden.
Als u het slachtoffer bent van de VAL-E-zwendel, moet u dit melden bij uw plaatselijke politiebureau. Het zou goed zijn om contact op te nemen met Microsoft om te zien of u een terugbetaling kunt krijgen om miljarden dollars aan rechtszaken te voorkomen.
Lees meer over AI:
Disclaimer
In lijn met de Richtlijnen voor vertrouwensprojectenHoud er rekening mee dat de informatie op deze pagina niet bedoeld is en niet mag worden geïnterpreteerd als juridisch, fiscaal, beleggings-, financieel of enige andere vorm van advies. Het is belangrijk om alleen te beleggen wat u zich kunt veroorloven te verliezen en onafhankelijk financieel advies in te winnen als u twijfels heeft. Voor meer informatie raden wij u aan de algemene voorwaarden en de hulp- en ondersteuningspagina's van de uitgever of adverteerder te raadplegen. MetaversePost streeft naar nauwkeurige, onpartijdige berichtgeving, maar de marktomstandigheden kunnen zonder voorafgaande kennisgeving worden gewijzigd.
Over de auteur
Damir is de teamleider, productmanager en redacteur bij Metaverse Post, met onderwerpen als AI/ML, AGI, LLM's, Metaverse en Web3-gerelateerde velden. Zijn artikelen trekken maandelijks een enorm publiek van meer dan een miljoen gebruikers. Hij blijkt een expert te zijn met 10 jaar ervaring in SEO en digitale marketing. Damir is genoemd in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto en andere publicaties. Hij reist als digitale nomade tussen de VAE, Turkije, Rusland en het GOS. Damir behaalde een bachelordiploma in natuurkunde, wat hem volgens hem de kritische denkvaardigheden heeft gegeven die nodig zijn om succesvol te zijn in het steeds veranderende landschap van internet.
Meer artikelenDamir is de teamleider, productmanager en redacteur bij Metaverse Post, met onderwerpen als AI/ML, AGI, LLM's, Metaverse en Web3-gerelateerde velden. Zijn artikelen trekken maandelijks een enorm publiek van meer dan een miljoen gebruikers. Hij blijkt een expert te zijn met 10 jaar ervaring in SEO en digitale marketing. Damir is genoemd in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto en andere publicaties. Hij reist als digitale nomade tussen de VAE, Turkije, Rusland en het GOS. Damir behaalde een bachelordiploma in natuurkunde, wat hem volgens hem de kritische denkvaardigheden heeft gegeven die nodig zijn om succesvol te zijn in het steeds veranderende landschap van internet.