- Meta nasadzuje výstražné systémy na Facebooku, WhatsApp a Messengeri, aby v reálnom čase zastavila podvody.
- Spoločnosť kombinuje cloudovú umelú inteligenciu a detekciu na zariadení na identifikáciu vzorcov podvodov.
- Bolo odstránených 159 miliónov klamlivých reklám a deaktivovaných 10,9 milióna účtov prepojených s podvodnými centrami.
- Meta podporuje overovanie inzerentov s cieľom znížiť mieru podvodnej reklamy a posilniť dôveru.
Spoločnosť Meta urobila ďalší krok vo svojej bezpečnostnej stratégii spustením systém varovania pred podvodmi ktorá koordinovane funguje na Facebooku, WhatsAppe a Messengeri. Tento krok prichádza v čase, keď digitálne podvody prudko vzrástli na celom svete, a to aj v... Španielsko a zvyšok EurópyA hlavné technologické platformy sú pod tlakom, aby tento problém riešili.
Spoločnosť teraz kombinuje nové moduly umelej inteligencieupozornenia v reálnom čase a prísnejšie kontroly platenej reklamy. Cieľom je znížiť množstvo podvodného obsahu, ktorý sa dostáva k používateľom, ako aj inzerenti, ktorí používajú sociálne médiá na klamanies osobitným dôrazom na investičné podvody, spoofing a zneužívanie obrazu známych ľudí.
Spoločnosť sa spoliehala na vyškolené systémy umelej inteligencie odhaliť typické vzorce podvodov a zlepšiť včasné odstraňovanie nebezpečného obsahu.
Dvojitý plán: vyčistiť obsah a zefektívniť reklamu
Meta už mesiace pracuje na dvoch paralelných frontoch: na jednej strane zabraňuje podvodný obsah sa dostane k používateľoviNa druhej strane sa zameriava na obmedzenie príjmov z reklamy pre tých, ktorí nedodržiavajú pravidlá. Táto nová vlna opatrení je špeciálne navrhnutá na implementáciu tejto stratégie s konkrétnymi číslami, technickými nástrojmi a viditeľnými zmenami na troch hlavných platformách skupiny.
V oblasti organického obsahu sa spoločnosť spoliehala na Systémy umelej inteligencie vyškolené na detekciu typických vzorcov podvodovZahŕňa to všetko od účtov vydávajúcich sa za značky alebo celebrity až po odkazy špeciálne určené na krádež údajov alebo peňazí. Uvedeným cieľom je odstrániť tento obsah čo najrýchlejšie, ideálne skôr, ako dôjde k poškodeniu akýchkoľvek obetí.
V oblasti reklamy spoločnosť Meta uznáva, že reklama spojená s podvody a zakázané produkty malo významný vplyv na jej podnikanie. Samotná spoločnosť uviedla, že tento typ reklamy mohol v posledných rokoch tvoriť približne 10 % príjmov, čo je nepríjemné číslo, ktoré vysvetľuje zrýchlenie programov monitorovania a overovania inzerentov.
V súčasnosti okolo 70 % príjmov z reklamy Pochádza od overených inzerentov a spoločnosť Meta si dala za cieľ zvýšiť tento podiel na 90 % do jedného rokaTo predstavuje značný skok, ktorý v praxi prinúti mnohé spoločnosti prejsť prísnejšími identifikačnými procesmi, ak chcú pokračovať v inzercii na Facebooku a Instagrame.
Automatická detekcia a upozornenia pre používateľa v reálnom čase
Najviditeľnejšia časť zmeny sa dotkne tých, ktorí aplikácie Meta používajú denne. Zavedenie zahŕňa kontextové upozornenia prispôsobené každej platforme, navrhnuté tak, aby sa zobrazovali presne v momentoch najväčšieho rizika, bez toho, aby používateľ musel čokoľvek aktivovať alebo meniť nastavenia.
Facebook zavedie upozornenia, keď systém zistí žiadosti o priateľstvo z podozrivých profilovZohľadnia sa faktory, ako je absencia spoločných priateľov, nezrovnalosti medzi polohou používateľa a profilom, ktorý žiada o kontakt, alebo nadmerné odosielanie žiadostí o priateľstvo. Ak je prítomných viacero týchto faktorov, zobrazí sa jasné upozornenie, aby sa daná osoba mohla rozhodnúť, či žiadosť prijme, zablokuje alebo ignoruje.
WhatsApp, najpoužívanejšia aplikácia na odosielanie správ v Španielsku, posilňuje svoju ochranu pred rastúcim problémom: podvodné prepojenie zariadenía ponúka zdroje pre chrániť vaše osobné údajeZločinci používajú taktiky, ako sú falošné súťaže alebo ankety, ktoré od používateľa vyžadujú zadanie telefónneho čísla a kódu, alebo ho k tomu nabádajú. skenovať klamlivé QR kódy Tieto metódy v skutočnosti prepoja zariadenie podvodníka s legitímnym účtom. Ak sa zistí tento typ správania, WhatsApp zobrazí správy s upozornením, že žiadosť o prepojenie môže byť podozrivá.
V Messengeri prichádza do úvahy systém Pokročilá detekcia podvodov založená na umelej inteligencii ktorý analyzuje konverzačné vzorce a zahŕňa mechanizmy na ich detekciu krádež údajov v správachAk správy vykazujú typické znaky podvodu – ako sú sľuby o garantovanej návratnosti investícií, pochybné pracovné ponuky alebo žiadosti o finančné údaje – aplikácia vydá varovanie a požiada o povolenie podrobiť chat ďalšej analýze pomocou umelej inteligencie.
Ak sa riziko potvrdí, Meta zobrazí používateľovi bežné typy podvodov, vrátane variantov ako napr Podvod so zaťom v núdziktoré sa podobajú tomu, čo sa deje v danom chate, a pripomenú vám základné bezpečnostné pokyny, ako napríklad vyhýbanie sa prevodom peňazí, neposielanie darčekových poukážok alebo neposkytovanie hesiel či overovacích kódov, čo je obzvlášť dôležité pre zraniteľné skupiny alebo pre tých, ktorí sú s týmto typom podvodu menej oboznámení.
Umelá inteligencia na zariadení a rešpektovanie šifrovania v aplikáciách WhatsApp a Messenger
Jedným z kľúčových bodov nasadenia je, ako zosúladiť odhaľovanie podvodov s end-to-end šifrovaním, ktoré chráni konverzácie v aplikácii WhatsApp a čoraz častejšie aj v aplikácii Messenger. Meta sa rozhodla pre hybridný prístup, ktorý kombinuje cloudové spracovanie s lokálna analýza na samotnom mobilnom zariadení používateľ.
Podľa spoločnosti niektoré z nových bezpečnostných funkcií fungujú pomocou umelej inteligencie, ktorá beží priamo na zariadení bez odosielania obsahu správ na centrálne servery. Táto detekcia na zariadení skúma textové a behaviorálne vzorce spojené s podvodmi, napríklad keď Neznáme číslo Začne sa konverzácia a prvé správy obsahujú nezvyčajné žiadosti o kódy, bankové údaje alebo odkazy na podozrivé webové stránky.
Keď je nástroj aktivovaný, používateľ uvidí upozornenie, že obsah chatu môže byť súčasťou pokusu o podvod. Meta trvá na tom, že pokiaľ sa nepoužíva funkcia „nahlásiť“ konverzáciu, Nikto mimo zariadenia si nemôže prečítať správy.Ani samotná spoločnosť. Iba ak sa daná osoba rozhodne chat nahlásiť, časť histórie sa odošle na kontrolu centralizovaným automatizovaným systémom alebo v prípade potreby ľudským tímom.
Cieľom tohto prístupu je splniť regulačné požiadavky Európska únia o ochrane súkromiaPozorne monitorujú akýkoľvek prístup k šifrovanej komunikácii. Zároveň sa snažia ponúknuť ďalšiu vrstvu ochrany pred čoraz sofistikovanejším prostredím podvodov, kde zločinci prispôsobujú svoj jazyk a triky, aby obišli tradičné filtre.
Spoločnosť však neskrýva, že účinnosť týchto systémov bude závisieť od... spolupráca samotných používateľovTo platí pre hlásenie podozrivého obsahu aj pre dodržiavanie pokynov zobrazených v upozorneniach. Cieľom je, aby upozornenia fungovali ako akýsi „druhý zmysel“, ktorý spustí všetky alarmy, keď sa niečo zdá byť zvláštne.
Čísla z ofenzívy proti podvodom a falošným účtom
Za týmto nasadením sa skrýva objem podvodnej činnosti, ktorý, súdiac podľa údajov, nie je ani zďaleka marginálny. Meta tvrdí, že Odstránených bolo 159 miliónov podvodných reklám V minulom roku bola veľká väčšina – približne 92 % – automaticky odstránená ešte predtým, ako ich nahlásili používatelia alebo iné externé subjekty.
Medzitým spoločnosť tvrdí, že má 10,9 milióna deaktivovaných účtov na Facebooku a Instagrame Tieto sú prepojené s organizovanými podvodnými sieťami rozmiestnenými v rôznych regiónoch vrátane Mjanmarska, Laosu, Kambodže, Spojených arabských emirátov a Filipín. Boli prijaté opatrenia aj proti viac ako 21 000 webovým stránkam, ktoré sa bez povolenia vydávali za kanály zákazníckych služieb legitímnych spoločností.
Tieto čísla, hoci sú pôsobivé, nechávajú otvorenú nepríjemnú otázku: ak je objem podvodných účtov a reklám v jednom roku taký vysoký, problém má štrukturálny charakternejde o ojedinelý incident. Spoločnosť preto kombinuje interné opatrenia so súdnymi konaniami a spoluprácou s regulačnými orgánmi.
V posledných týždňoch spoločnosť Meta podala žaloby proti niekoľkým subjektom obvineným z používania Deepfakes a imidž verejne známych osobností propagovať pochybné produkty a údajné investičné zľavy. Tento vzorec, známy ako Celebná návnadaPre sociálne médiá je to už dlho veľký problém, pretože zneužíva dôveru vytvorenú známymi tvárami na dodávanie dôveryhodnosti ponukám, ktoré sú v skutočnosti podvodom.
Rozhodnutie spoločnosti spojiť odstraňovanie obsahu, blokovanie účtov, overenie inzerenta A právne kroky naznačujú zmenu postoja: prechod od čisto reaktívnej reakcie k odstrašujúcejšej stratégii, ktorá sa snaží sťažiť situáciu profesionálnym podvodným sieťam pôsobiacim na medzinárodnej úrovni.
Dopad na používateľov v Španielsku a zvyšku Európy
Pre tých, ktorí v Španielsku denne používajú Facebook, WhatsApp a Messenger, sa mnohé z týchto nových funkcií objavia nenápadne, prostredníctvom... progresívne aktualizácie z aplikácií. Upozornenia sa zobrazia integrované do bežného rozhrania: kontextové okná, ktoré varujú pred možnými podvodmi, vysvetľujúce správy, keď niečo nie je v poriadku alebo keď sa zistí správanie, ktoré zodpovedá známym podvodným schémam.
Európske orgány už dlho vyzývajú hlavné platformy, aby zohrávali aktívnejšiu úlohu v digitálna ochrana spotrebiteľanajmä pokiaľ ide o klamlivú reklamu, vysoko rizikové investície a krádež identity. Sprísnenie kontrol inzerentov a hromadné odstraňovanie podvodných reklám je v súlade s duchom nariadení, ako je zákon o digitálnych službách (DSA), ktorý stanovuje nové povinnosti v oblasti transparentnosti a zmierňovania rizík pre technologických gigantov.
V tejto súvislosti možno výstražné systémy spustené spoločnosťou Meta interpretovať aj ako pokus o zosúladiť s regulačnými požiadavkami A tým pádom posilniť dôveru európskych používateľov a inzerentov. Zníženie podvodov má vplyv nielen na bezpečnosť ľudí, ale aj na dôveryhodnosť samotného reklamného ekosystému platformy.
V každom prípade spoločnosť uznáva, že boj proti tomuto typu kriminality je diaľkové pretekyOrganizované skupiny pôsobiace z rôznych krajín neustále upravujú svoje taktiky, testujú nové háčiky a reklamné formáty, zatiaľ čo predchádzajúce medzery sa odstraňujú. Meta preto vníma tieto opatrenia ako vyvíjajúci sa proces, v ktorom sa systémy umelej inteligencie budú naďalej aktualizovať o nové príklady podvodov s cieľom zlepšiť ich detekčné schopnosti.
Týmto spustením sa Meta snaží vyslať jasný signál: jej platformy nie sú miestom, kde sa šíria podvody alebo hraničná reklama. Zostáva sa len uvidieť, či posilnené overovanie inzerentov, proaktívne upozornenia v aplikáciách A kombinácia automatizovanej detekcie a ľudského zásahu im umožňuje udržať si náskok pred tými, ktorí si z digitálneho podvodu urobili svoj obchodný model.
