- Meta använder varningssystem på Facebook, WhatsApp och Messenger för att stoppa bedrägerier i realtid.
- Företaget kombinerar molnbaserad AI och detektering på enheter för att identifiera bedrägerimönster.
- 159 miljoner vilseledande annonser har tagits bort och 10,9 miljoner konton kopplade till bedrägericenter har inaktiverats.
- Meta främjar verifiering av annonsörer för att minska bedräglig reklam och stärka förtroendet.
Meta har tagit ytterligare ett steg i sin säkerhetsstrategi genom att lansera en system för bedrägerivarning som verkar på ett samordnat sätt på Facebook, WhatsApp och Messenger. Åtgärden kommer vid en tidpunkt då digitala bedrägerier har skjutit i höjden världen över, inklusive i Spanien och resten av EuropaOch de stora teknikplattformarna är under press att ta itu med problemet.
Företaget kombinerar nu nya moduler för artificiell intelligensrealtidsvarningar och strängare kontroller av betald annonsering. Målet är att minska både mängden bedrägligt innehåll som når användarna och annonsörer som använder sociala medier för att luramed särskild uppmärksamhet på investeringsbedrägerier, identitetsstöld och missbruket av bilden av välkända personer.
Företaget har förlitat sig på tränade AI-system för att upptäcka typiska bedrägerimönster och förbättra tidig borttagning av farligt innehåll.
En tvådelad plan: rensa upp innehållet och effektivisera annonseringen
Meta har arbetat på två parallella fronter i månader: å ena sidan, att förhindra bedrägligt innehåll når användarenÅ andra sidan syftar den till att minska annonsintäkterna för dem som inte följer reglerna. Denna nya våg av åtgärder är specifikt utformad för att genomföra denna strategi med konkreta siffror, tekniska verktyg och synliga förändringar på hela gruppens tre huvudplattformar.
Inom området organiskt innehåll har företaget förlitat sig på AI-system tränade för att upptäcka typiska bedrägerimönsterDetta inkluderar allt från konton som utger sig för att vara varumärken eller kändisar till länkar som är specifikt utformade för att stjäla data eller pengar. Det uttalade målet är att ta bort detta innehåll så snabbt som möjligt, helst innan några offer skadas.
Inom reklamområdet erkänner Meta att reklam i samband med bedrägerier och förbjudna produkter har haft en betydande inverkan på dess verksamhet. Företaget har självt angett att den här typen av reklam kan ha stått för cirka 10 % av intäkterna de senaste åren, en obekväm siffra som förklarar accelerationen av annonsörsövervaknings- och verifieringsprogram.
För närvarande, runt 70 % av annonsintäkterna Det kommer från verifierade annonsörer, och Meta har satt sig som mål att höja den andelen till 90 % inom ett årDetta representerar ett avsevärt språng som i praktiken kommer att tvinga många företag att gå igenom strängare identifieringsprocesser om de vill fortsätta annonsera på Facebook och Instagram.
Automatisk detektering och varningar i realtid för användaren
Den mest synliga delen av förändringen når de som använder Metas applikationer dagligen. Utrullningen inkluderar kontextuella varningar skräddarsydd för varje plattform, utformad för att visas exakt i de ögonblick då risken är störst, utan att användaren behöver aktivera något eller ändra sina inställningar.
Facebook kommer att introducera aviseringar när systemet upptäcker vänförfrågningar från misstänkta profilerFaktorer som avsaknad av gemensamma vänner, skillnader mellan användarens plats och profilen som begär kontakt, eller överdrivet antal vänförfrågningar kommer att beaktas. Om flera av dessa faktorer föreligger visas en tydlig varning så att personen kan bestämma om de ska acceptera, blockera eller ignorera begäran.
WhatsApp, den mest använda meddelandeappen i Spanien, stärker sitt skydd mot ett växande problem: falsk enhetslänkningoch erbjuder resurser för skydda dina personuppgifterBrottslingar använder taktiker som falska tävlingar eller omröstningar som ber användaren att ange sitt telefonnummer och en kod, eller uppmuntrar dem att skanna vilseledande QR-koder Dessa metoder länkar faktiskt bedragarens enhet till det legitima kontot. Om den här typen av beteende upptäcks kommer WhatsApp att visa meddelanden som varnar för att länkningsförfrågan kan vara misstänkt.
I Messenger kommer ett system till spel AI-baserad avancerad bedrägeriupptäckt som analyserar konversationsmönster och använder mekanismer för att upptäcka datastöld i meddelandenOm meddelandena visar typiska tecken på bedrägeri – såsom löften om garanterad avkastning på investeringar, tvivelaktiga jobberbjudanden eller förfrågningar om finansiell information – kommer appen att utfärda en varning och be om tillstånd att analysera chatten ytterligare med hjälp av artificiell intelligens.
Om risken bekräftas kommer Meta att visa användaren vanliga typer av bedrägerier, inklusive varianter som Son-i-nöd-bedrägerietsom liknar vad som händer i den chatten och kommer att påminna dig om grundläggande säkerhetsriktlinjer, som att undvika att överföra pengar, inte skicka presentkort eller lämna ut lösenord eller verifieringskoder, något som är särskilt relevant för utsatta grupper eller de som är mindre bekanta med den här typen av bedrägerier.
AI på enheten och respekt för kryptering i WhatsApp och Messenger
En av de viktigaste punkterna i utplaceringen är hur man ska förena bedrägeriupptäckt med end-to-end-kryptering som skyddar konversationer på WhatsApp och, i allt högre grad, på Messenger. Meta har valt en hybridmetod som kombinerar molnbehandling med lokal analys på själva mobilenheten av användaren.
Enligt företaget fungerar några av de nya säkerhetsfunktionerna med hjälp av AI som körs direkt på enheten, utan att skicka meddelandeinnehåll till centrala servrar. Denna detektering på enheten undersöker text- och beteendemönster som är kopplade till bedrägerier, till exempel när en Okänt nummer En konversation börjar, och de första meddelandena innehåller ovanliga förfrågningar om koder, bankuppgifter eller länkar till misstänkta webbplatser.
När verktyget aktiveras ser användaren en varning som indikerar att chattinnehållet kan vara en del av ett bedrägeriförsök. Meta insisterar på att så länge funktionen "rapportera" konversationen inte används, Ingen utanför enheten kan läsa meddelandena.Inte ens företaget självt. Endast om personen väljer att rapportera chatten skickas en del av historiken för granskning av ett centraliserat automatiserat system eller, om nödvändigt, ett mänskligt team.
Denna metod syftar till att uppfylla de regulatoriska kraven i Europeiska unionen om integritetDe övervakar noggrant all åtkomst till krypterad kommunikation. Samtidigt strävar de efter att erbjuda ett extra skyddslager mot ett alltmer sofistikerat bedrägerilandskap, där brottslingar anpassar sitt språk och sina krokar för att kringgå traditionella filter.
Företaget döljer dock inte att effektiviteten hos dessa system kommer att bero på användarnas egna samarbeteDetta gäller både rapportering av misstänkt innehåll och att följa instruktionerna som visas i varningarna. Målet är att varningarna ska fungera som ett slags "andra sinne", vilket utlöser alla larm när något verkar fel.
Siffror från offensiven mot bedrägerier och bedrägliga konton
Bakom denna utplacering ligger en mängd bedrägerier som, utifrån uppgifterna, är långt ifrån marginell. Meta påstår sig ha 159 miljoner bluffannonser borttagna Under det senaste året togs en stor majoritet – cirka 92 % – bort automatiskt innan de rapporterades av användare eller andra externa enheter.
Samtidigt hävdar företaget att de har 10,9 miljoner Facebook- och Instagram-konton inaktiverade Dessa är kopplade till organiserade bedrägerienätverk spridda över olika regioner, inklusive Myanmar, Laos, Kambodja, Förenade Arabemiraten och Filippinerna. Åtgärder har också vidtagits mot fler än 21 000 webbplatser som utan tillstånd utgav sig för att vara legitima företags kundtjänstkanaler.
Dessa siffror, även om de är imponerande, lämnar en obekväm fråga: om volymen av bedrägliga konton och annonser är så hög under ett enda år, har problemet en strukturell karaktärinte en isolerad händelse. Därför kombinerar företaget interna åtgärder med rättsliga förfaranden och samarbete med tillsynsmyndigheter.
Under de senaste veckorna har Meta stämt flera enheter som anklagas för att använda Deepfakes och bilden av offentliga personer att marknadsföra tvivelaktiga produkter och förmodade investeringserbjudanden. Detta mönster, känt som kändisbeteDet har länge varit ett stort problem för sociala medier, eftersom de utnyttjar det förtroende som skapas av bekanta ansikten för att ge trovärdighet åt erbjudanden som i själva verket är en bluff.
Företagets beslut att kombinera borttagning av innehåll, kontoblockering, annonsörsverifiering Och rättsliga åtgärder tyder på en ändrad hållning: en övergång från en rent reaktiv respons till en mer avskräckande strategi som försöker göra det svårare för professionella bedrägerikontexter som verkar på internationell nivå.
Påverkan på användare i Spanien och resten av Europa
För de som använder Facebook, WhatsApp och Messenger dagligen i Spanien kommer många av dessa nya funktioner att lanseras tyst, via progressiva uppdateringar från applikationerna. Aviseringarna visas integrerade i det vanliga gränssnittet: popup-fönster som varnar för eventuella bedrägerier, förklarande meddelanden när något inte stämmer eller när beteenden som matchar kända bedrägerier upptäcks.
Europeiska myndigheter har länge uppmanat stora plattformar att spela en mer aktiv roll i digitalt konsumentskyddsärskilt när det gäller vilseledande reklam, högriskinvesteringar och identitetsstöld. Skärpningen av kontrollerna av annonsörer och massborttagningen av bedrägliga annonser överensstämmer med andan i regleringar som Digital Services Act (DSA), som fastställer nya skyldigheter för teknikjättar vad gäller transparens och riskreducering.
I detta sammanhang kan de varningssystem som lanserats av Meta också tolkas som ett försök att anpassa sig till myndighetskrav Och i sin tur stärka förtroendet hos europeiska användare och annonsörer. Att minska bedrägerier påverkar inte bara människors säkerhet utan även trovärdigheten för plattformens annonsekosystem i sig.
I vilket fall som helst erkänner företaget att kampen mot den här typen av brottslighet är en långdistansloppOrganiserade grupper som verkar från olika länder justerar ständigt sina taktiker och testar nya krokar och annonsformat i takt med att tidigare kryphål täpps till. Meta ser därför dessa åtgärder som en process som utvecklas, där AI-system kommer att fortsätta uppdateras med nya exempel på bedrägerier för att förbättra sina upptäcktsmöjligheter.
Med denna utrullning vill Meta skicka en tydlig signal: deras plattformar är inte fria för bedrägerier eller på gränsen till reklam. Det återstår att se om den förstärkta annonsörsverifieringen, den proaktiva varningar i applikationer Och kombinationen av automatiserad upptäckt och mänsklig intervention gör att de kan ligga steget före dem som har gjort digitalt bedrägeri till sin affärsmodell.
