- Meta wdraża systemy alarmowe na Facebooku, WhatsAppie i Messengerze, aby na bieżąco zapobiegać oszustwom.
- Firma łączy opartą na chmurze sztuczną inteligencję z wykrywaniem na urządzeniach w celu identyfikowania wzorców oszustw.
- Usunięto 159 milionów oszukańczych reklam i dezaktywowano 10,9 miliona kont powiązanych z centrami oszustw.
- Meta promuje weryfikację reklamodawców w celu ograniczenia liczby fałszywych reklam i wzmocnienia zaufania.
Meta wykonała kolejny krok w swojej strategii bezpieczeństwa, wprowadzając system ostrzegania o oszustwach który działa w sposób skoordynowany na Facebooku, WhatsAppie i Messengerze. Ten ruch ma miejsce w czasie, gdy oszustwa cyfrowe gwałtownie wzrosły na całym świecie, w tym w Hiszpania i reszta EuropyNa główne platformy technologiczne wywierana jest presja, aby uporać się z tym problemem.
Firma łączy teraz nowe moduły sztucznej inteligencjialerty w czasie rzeczywistym i surowsze kontrole płatnych reklam. Celem jest ograniczenie zarówno ilości fałszywych treści docierających do użytkowników, jak i reklamodawcy wykorzystujący media społecznościowe do oszukiwaniaze szczególnym uwzględnieniem oszustw inwestycyjnych, kradzież tożsamości i niewłaściwe wykorzystanie wizerunku znanych osób.
Firma polegała na wyszkolonych systemów AI w celu wykrywania typowych wzorców oszustw i usprawnienia wczesnego usuwania niebezpiecznych treści.
Dwutorowy plan: oczyszczenie treści i usprawnienie reklam
Od miesięcy Meta działa na dwóch równoległych frontach: z jednej strony zapobiega treść oszukańcza dociera do użytkownikaZ drugiej strony, celem jest ograniczenie przychodów z reklam dla tych, którzy nie przestrzegają zasad. Ta nowa fala środków została zaprojektowana specjalnie w celu wdrożenia tej strategii, z wykorzystaniem konkretnych liczb, narzędzi technicznych i widocznych zmian na trzech głównych platformach grupy.
W obszarze zawartości organicznej firma postawiła na Systemy sztucznej inteligencji wyszkolone w wykrywaniu typowych wzorców oszustwObejmuje to wszystko, od kont podszywających się pod marki lub celebrytów, po linki zaprojektowane specjalnie w celu kradzieży danych lub pieniędzy. Deklarowanym celem jest jak najszybsze usunięcie tych treści, najlepiej zanim którakolwiek z ofiar zostanie skrzywdzona.
W dziedzinie reklamy Meta uznaje, że reklama związana z oszustwa i zakazane produkty Miało to znaczący wpływ na jej działalność. Sama firma wskazała, że ten rodzaj reklamy mógł stanowić około 10% przychodów w ostatnich latach, co jest niepokojącą liczbą, która wyjaśnia przyspieszenie programów monitorowania i weryfikacji reklamodawców.
Obecnie około 70% przychodów z reklam Pochodzi od zweryfikowanych reklamodawców, a Meta postawiła sobie za cel zwiększenie tego udziału do 90% w ciągu jednego rokuTo oznacza ogromny krok naprzód, który w praktyce zmusi wiele firm do przejścia przez bardziej rygorystyczne procesy identyfikacyjne, jeśli chcą nadal reklamować się na Facebooku i Instagramie.
Automatyczne wykrywanie i ostrzeżenia w czasie rzeczywistym dla użytkownika
Najbardziej widoczna część zmian dotyczy tych, którzy codziennie korzystają z aplikacji Meta. Wdrożenie obejmuje: alerty kontekstowe dostosowane do każdej platformy, zaprojektowane tak, aby pojawiać się precyzyjnie w momentach największego ryzyka, bez konieczności aktywowania przez użytkownika czegokolwiek lub zmiany ustawień.
Facebook wprowadzi powiadomienia, gdy system wykryje prośby o dodanie do znajomych z podejrzanych profiliPod uwagę będą brane takie czynniki, jak brak wspólnych znajomych, rozbieżności między lokalizacją użytkownika a profilem, z którego pochodzi prośba o kontakt, czy nadmierna liczba próśb o dodanie do znajomych. Jeśli wystąpi kilka z tych czynników, pojawi się wyraźne ostrzeżenie, dzięki któremu użytkownik będzie mógł zdecydować, czy zaakceptować, zablokować, czy zignorować prośbę.
WhatsApp, najpopularniejsza aplikacja do przesyłania wiadomości w Hiszpanii, wzmacnia ochronę przed narastającym problemem: łączenie fałszywych urządzeńi oferuje zasoby dla chroń swoje dane osobowePrzestępcy stosują taktyki takie jak fałszywe konkursy lub ankiety, które proszą użytkownika o podanie numeru telefonu i kodu lub zachęcają go do tego. skanuj oszukańcze kody QR Metody te faktycznie łączą urządzenie oszusta z legalnym kontem. W przypadku wykrycia tego typu zachowania, WhatsApp wyświetli komunikat ostrzegający, że prośba o połączenie może być podejrzana.
W Messengerze w grę wchodzi system Zaawansowane wykrywanie oszustw oparte na sztucznej inteligencji który analizuje wzorce konwersacji i włącza mechanizmy wykrywania kradzież danych w wiadomościachJeśli wiadomości zawierają typowe oznaki oszustwa — takie jak obietnice gwarantowanego zwrotu z inwestycji, podejrzane oferty pracy lub prośby o udostępnienie danych finansowych — aplikacja wyświetli ostrzeżenie i poprosi o pozwolenie na poddanie czatu dalszej analizie z wykorzystaniem sztucznej inteligencji.
Jeśli ryzyko zostanie potwierdzone, Meta pokaże użytkownikowi typowe rodzaje oszustw, w tym warianty takie jak Oszustwo z synem w opałachktóre przypominają to, co dzieje się na czacie, i przypomną Ci podstawowe zasady bezpieczeństwa, takie jak unikanie przekazywania pieniędzy, niewysyłanie kart podarunkowych i niepodawanie haseł lub kodów weryfikacyjnych. Jest to szczególnie istotne dla grup narażonych na ataki lub osób mniej zaznajomionych z tego typu oszustwami.
Sztuczna inteligencja na urządzeniu i poszanowanie szyfrowania w WhatsApp i Messengerze
Jednym z kluczowych punktów wdrożenia jest sposób uzgadniania wykrywanie oszustw z kompleksowym szyfrowaniem, które chroni rozmowy na WhatsAppie i, coraz częściej, na Messengerze. Meta zdecydowała się na hybrydowe podejście, łączące przetwarzanie w chmurze z lokalna analiza na samym urządzeniu mobilnym użytkownik.
Według firmy, niektóre z nowych funkcji bezpieczeństwa wykorzystują sztuczną inteligencję, która działa bezpośrednio na urządzeniu, bez wysyłania treści wiadomości do serwerów centralnych. To wykrywanie na urządzeniu analizuje tekst i wzorce zachowań związane z oszustwami, na przykład gdy… Nieznany numer Rozpoczyna się rozmowa, a pierwsze wiadomości zawierają nietypowe prośby o podanie kodów, danych bankowych lub linków do podejrzanych stron internetowych.
Po aktywacji narzędzia użytkownik widzi alert informujący, że treść czatu może być częścią próby oszustwa. Meta podkreśla, że dopóki funkcja „zgłoś” konwersację nie jest używana, Nikt poza urządzeniem nie może odczytać wiadomości.Nawet nie sama firma. Dopiero gdy dana osoba zdecyduje się zgłosić czat, część historii zostanie przesłana do weryfikacji przez scentralizowany system automatyczny lub, w razie potrzeby, zespół ludzki.
Podejście to ma na celu dostosowanie się do wymogów regulacyjnych Unia Europejska w sprawie prywatnościŚciśle monitorują każdy dostęp do szyfrowanej komunikacji. Jednocześnie starają się zapewnić dodatkową warstwę ochrony przed coraz bardziej wyrafinowanym systemem oszustw, w którym przestępcy dostosowują swój język i metody, aby ominąć tradycyjne filtry.
Firma nie ukrywa jednak, że skuteczność tych systemów będzie zależeć od współpraca samych użytkownikówDotyczy to zarówno zgłaszania podejrzanych treści, jak i postępowania zgodnie z instrukcjami wyświetlanymi w alertach. Celem jest, aby alerty działały jak swego rodzaju „drugi zmysł”, uruchamiając wszystkie alarmy, gdy coś wydaje się nie tak.
Dane z ofensywy przeciwko oszustwom i fałszywym kontom
Za tym wdrożeniem kryje się skala oszustw, która, sądząc po danych, jest daleka od marginalnej. Meta twierdzi, że Usunięto 159 milionów oszukańczych reklam W ubiegłym roku zdecydowana większość — około 92% — została automatycznie usunięta, zanim zostali zgłoszeni przez użytkowników lub inne podmioty zewnętrzne.
Tymczasem firma twierdzi, że ma 10,9 miliona kont na Facebooku i Instagramie zostało dezaktywowanych Są one powiązane ze zorganizowanymi sieciami oszustw rozsianymi po różnych regionach, w tym w Mjanmie, Laosie, Kambodży, Zjednoczonych Emiratach Arabskich i na Filipinach. Podjęto również działania przeciwko ponad 21 000 stronom internetowym podszywającym się pod kanały obsługi klienta legalnych firm bez zezwolenia.
Choć te liczby robią wrażenie, rodzą niewygodne pytanie: jeśli liczba fałszywych kont i reklam jest tak duża w ciągu jednego roku, problem jest poważny. charakter strukturalnyNie jest to incydent odosobniony. Dlatego firma łączy działania wewnętrzne z postępowaniami prawnymi i współpracą z organami regulacyjnymi.
W ostatnich tygodniach Meta złożyła pozwy przeciwko kilku podmiotom oskarżonym o wykorzystywanie Deepfakes i wizerunek osób publicznych promować podejrzane produkty i rzekome okazje inwestycyjne. Ten schemat, znany jako przynęta na celebrytówOd dawna jest to poważny problem dla mediów społecznościowych, ponieważ wykorzystują zaufanie zdobyte dzięki znajomym twarzom, aby uwiarygodnić oferty, które w rzeczywistości są oszustwem.
Decyzja firmy o połączeniu usuwania treści i blokowania kont, weryfikacja reklamodawcy Podjęcie kroków prawnych sugeruje zmianę stanowiska: odejście od czysto reaktywnej reakcji na rzecz strategii bardziej odstraszającej, która ma na celu utrudnienie działalności profesjonalnym sieciom oszustów działającym na skalę międzynarodową.
Wpływ na użytkowników w Hiszpanii i reszcie Europy
Dla osób korzystających codziennie z Facebooka, WhatsApp i Messengera w Hiszpanii wiele z tych nowych funkcji pojawi się po cichu, za pośrednictwem postępowe aktualizacje z aplikacji. Alerty będą zintegrowane ze standardowym interfejsem: wyskakujące okienka ostrzegające przed możliwymi oszustwami, komunikaty wyjaśniające, gdy coś jest nie tak lub gdy wykryte zostaną zachowania pasujące do znanych oszustw.
Władze europejskie od dawna wzywają główne platformy do odgrywania bardziej aktywnej roli w cyfrowa ochrona konsumentazwłaszcza w odniesieniu do oszukańczej reklamy, inwestycji wysokiego ryzyka i kradzieży tożsamości. Zaostrzenie kontroli nad reklamodawcami i masowe usuwanie fałszywych reklam są zgodne z duchem przepisów takich jak ustawa o usługach cyfrowych (DSA), która ustanawia nowe obowiązki w zakresie przejrzystości i ograniczania ryzyka dla gigantów technologicznych.
W tym kontekście systemy alarmowe uruchomione przez Meta można interpretować również jako próbę dostosować się do wymogów regulacyjnych A co za tym idzie, wzmocnić zaufanie europejskich użytkowników i reklamodawców. Ograniczenie oszustw wpływa nie tylko na bezpieczeństwo użytkowników, ale także na wiarygodność samego ekosystemu reklamowego platformy.
W każdym razie firma przyznaje, że walka z tego typu przestępczością jest wyścig długodystansowyZorganizowane grupy działające w różnych krajach stale dostosowują swoje taktyki, testując nowe metody i formaty reklam, ponieważ dotychczasowe luki są eliminowane. Dlatego Meta postrzega te działania jako proces ewolucyjny, w którym systemy sztucznej inteligencji będą stale aktualizowane o nowe przykłady oszustw, aby udoskonalić ich możliwości wykrywania.
Wprowadzając tę usługę, Meta chce wysłać jasny sygnał: jej platformy nie są miejscem, gdzie każdy może natknąć się na oszustwa lub reklamy z pogranicza. Pozostaje pytanie, czy wzmocniona weryfikacja reklamodawców, proaktywne alerty w aplikacjach Połączenie automatycznego wykrywania i interwencji człowieka pozwala im wyprzedzić tych, dla których cyfrowe oszustwa stały się modelem biznesowym.
