Google predstavuje detekciu spamu s podporou AI na ochranu Gmailu
Stručne
Google dnes predstavil systém na detekciu spamu poháňaný AI, ktorý je určený na identifikáciu „nepriateľských manipulácií s textom“ v reálnom čase.
Google dnes predstavila systém na detekciu spamu poháňaný umelou inteligenciou určený na identifikáciu „nepriateľských textových manipulácií“ v reálnom čase, čím sa posilňuje ochrana proti e-mailom so špeciálnymi znakmi, emoji, preklepmi a inými vyhýbavými prvkami, ktoré predtým obchádzali Gmailbezpečnostné opatrenia.
Toto vylepšenie, ktoré sa označuje ako „jedna z najväčších obranných vylepšení za posledné roky“, má podobu systému klasifikácie textu známeho ako RETVec (Resilient and Efficient Text Vectorizer).
„Aby sme zvýšili odolnosť a efektivitu textových klasifikátorov, zaviedli sme prelomový, viacjazyčný textový vektorizátor s názvom RETVec. Táto inovácia umožňuje modelom dosahovať najmodernejší výkon klasifikácie a zároveň výrazne znižovať výpočtové náklady,“ vysvetlil Google v oficiálnom vyhlásení.
kritické služby Google, ako je Gmail, YouTube a Google Play sa pri určovaní škodlivého obsahu, ako sú phishingové útoky, nevhodné komentáre a podvody, vo veľkej miere spoliehajú na modely klasifikácie textu. Nepriateľské manipulácie s textom predstavujú jedinečnú výzvu, pretože zlí herci aktívne využívajú taktiky, ako sú homoglyfy, neviditeľné znaky a nadsádzanie kľúčových slov, aby prekabátili klasifikátorov.
„Vďaka svojej novej architektúre funguje RETVec bezproblémovo vo všetkých jazykoch a znakoch bez potreby predchádzajúceho predbežného spracovania textu. Táto funkcia ho stavia ako hlavnú voľbu pre nasadenie na zariadení, web a rozsiahle nasadenie klasifikácie textu,“ potvrdila spoločnosť.
Kompaktná reprezentácia modelov trénovaných pomocou RETVec sa premieta do vyššej rýchlosti odvodzovania. Menšia veľkosť modelu nielenže znižuje výpočtové náklady, ale tiež minimalizuje latenciu, čo je podľa technologického giganta kľúčový faktor pre rozsiahle aplikácie a modely na zariadeniach.
RETVec sa objavuje ako vektorizátor textu s otvoreným zdrojovým kódom, ktorý umožňuje jednotlivcom vytvárať klasifikátory textu na strane servera a na zariadení.
Google zdôrazňuje integráciu RETVec do filtra nevyžiadanej pošty Gmail, kde hrá kľúčovú úlohu pri opevnení doručenej pošty Gmailu proti škodlivým e-mailom, čo znamená úsilie o zlepšenie opatrení kybernetickej bezpečnosti a ochranu používateľov pred vyvíjajúcimi sa hrozbami v digitálnom prostredí.
Využitie generátora AI na boj proti spamovej pošte
Zistila to nedávna správa 70% škodlivých e-mailov od maloobchodných zákazníkov obsahovalo prílohy HTML, pričom 30 % z nich bolo zahmlených. LLM ako ČervGPT a podvodomGPT tiež prispôsobujú e-mailový phishing.
Indický telekomunikačný gigant Bharati Airtel predstavil riešenie založené na AI/ML zamerané na proaktívnu identifikáciu, prevenciu a odstraňovanie phishingového spamu prostredníctvom kanálov na odosielanie správ. V súčasnosti prebieha testovanie v spolupráci s HDFC Bank a toto riešenie vytvára účinný antispamový filter.
V korešpondencii s Telecom Regulatory Authority of India (Trai) telekomunikačný gigant odhaľuje, že riešenie preukázalo účinnosť, pričom denne detegovalo a blokovalo impozantné dva milióny správ.
V podobnom akte spoločnosť Perception Point, spoločnosť zaoberajúca sa prevenciou hrozieb, predstavuje pokročilý detekčný model na boj proti vyvíjajúcej sa hrozbe generatívnej založené na AI e-mailové útoky.
Podľa spoločnosti využíva technológia poháňaná AI veľké jazykové modely (LLMs) a architektúru hlbokého učenia na efektívnu identifikáciu a prevenciu útokov na obchodné e-mailové kompromisy (BEC) v meniacom sa prostredí ovplyvnenom nárastom generatívna AI technológie.
Vylúčenie zodpovednosti
V súlade s Pokyny k projektu Trust, uvedomte si, že informácie uvedené na tejto stránke nie sú zamýšľané a nemali by byť interpretované ako právne, daňové, investičné, finančné alebo iné formy poradenstva. Je dôležité investovať len toľko, koľko si môžete dovoliť stratiť a v prípade akýchkoľvek pochybností vyhľadať nezávislé finančné poradenstvo. Ak chcete získať ďalšie informácie, odporúčame vám pozrieť si zmluvné podmienky, ako aj stránky pomoci a podpory poskytnuté vydavateľom alebo inzerentom. MetaversePost sa zaviazala poskytovať presné a nezaujaté správy, ale podmienky na trhu sa môžu zmeniť bez upozornenia.
O autorovi
Kumar je skúsený technický novinár so špecializáciou na dynamické prieniky AI/ML, marketingových technológií a nových oblastí, ako sú krypto, blockchain a NFTs. S viac ako 3-ročnými skúsenosťami v tomto odvetví má Kumar preukázané výsledky pri vytváraní pútavých príbehov, vedení dômyselných rozhovorov a poskytovaní komplexných poznatkov. Kumarova odbornosť spočíva vo vytváraní vysoko účinného obsahu vrátane článkov, správ a výskumných publikácií pre prominentné priemyselné platformy. Vďaka jedinečnému súboru zručností, ktorý kombinuje technické znalosti a rozprávanie príbehov, Kumar vyniká v komunikácii zložitých technologických konceptov pre rôzne publikum jasným a pútavým spôsobom.
Ďalšie články
Kumar je skúsený technický novinár so špecializáciou na dynamické prieniky AI/ML, marketingových technológií a nových oblastí, ako sú krypto, blockchain a NFTs. S viac ako 3-ročnými skúsenosťami v tomto odvetví má Kumar preukázané výsledky pri vytváraní pútavých príbehov, vedení dômyselných rozhovorov a poskytovaní komplexných poznatkov. Kumarova odbornosť spočíva vo vytváraní vysoko účinného obsahu vrátane článkov, správ a výskumných publikácií pre prominentné priemyselné platformy. Vďaka jedinečnému súboru zručností, ktorý kombinuje technické znalosti a rozprávanie príbehov, Kumar vyniká v komunikácii zložitých technologických konceptov pre rôzne publikum jasným a pútavým spôsobom.
