- Meta izvieto brīdināšanas sistēmas pakalpojumos Facebook, WhatsApp un Messenger, lai reāllaikā apturētu krāpniecību.
- Uzņēmums apvieno mākonī balstītu mākslīgo intelektu un ierīcē iebūvētu noteikšanu, lai identificētu krāpšanas modeļus.
- Ir noņemtas 159 miljoni maldinošu reklāmu un deaktivizēti 10,9 miljoni kontu, kas saistīti ar krāpniecības centriem.
- Meta veicina reklāmdevēju verifikāciju, lai samazinātu krāpniecisku reklāmu un stiprinātu uzticību.
Meta ir spērusi vēl vienu soli savā drošības stratēģijā, uzsākot krāpšanas brīdināšanas sistēma kas darbojas koordinēti pakalpojumos Facebook, WhatsApp un Messenger. Šis solis tiek sperts laikā, kad digitālā krāpšana ir strauji pieaugusi visā pasaulē, tostarp Spānija un pārējā EiropaUn galvenās tehnoloģiju platformas ir spiestas risināt šo problēmu.
Uzņēmums tagad apvieno jaunus mākslīgā intelekta moduļireāllaika brīdinājumi un stingrāka maksas reklāmas kontrole. Mērķis ir samazināt gan krāpnieciska satura apjomu, kas sasniedz lietotājus, gan reklāmdevēji, kas izmanto sociālos medijus, lai maldinātuīpašu uzmanību pievēršot investīciju krāpniecībai, identitātes zādzība un pazīstamu cilvēku tēla ļaunprātīga izmantošana.
Uzņēmums ir paļāvies uz apmācītas mākslīgā intelekta sistēmas lai atklātu tipiskus krāpšanas modeļus un uzlabotu bīstama satura agrīnu noņemšanu.
Divvirzienu plāns: satura sakopšana un reklāmu racionalizēšana
Meta mēnešiem ilgi strādā divās paralēlās frontēs: no vienas puses, novēršot krāpnieciska satura nonākšana pie lietotājaNo otras puses, tā mērķis ir pārtraukt reklāmas ieņēmumus tiem, kas neievēro noteikumus. Šī jaunā pasākumu virkne ir īpaši izstrādāta, lai īstenotu šo stratēģiju ar konkrētiem skaitļiem, tehniskiem rīkiem un redzamām izmaiņām visās trīs galvenajās grupas platformās.
Organiskā satura jomā uzņēmums ir paļāvies uz Mākslīgā intelekta sistēmas, kas apmācītas tipisku krāpšanas modeļu atklāšanaiTas ietver visu, sākot ar kontiem, kas uzdodas par zīmoliem vai slavenībām, līdz saitēm, kas īpaši izstrādātas datu vai naudas zagšanai. Deklarētais mērķis ir pēc iespējas ātrāk noņemt šādu saturu, ideālā gadījumā, pirms cietušajiem tiek nodarīts kaitējums.
Reklāmas jomā Meta atzīst, ka reklāma, kas saistīta ar krāpniecība un aizliegti produkti ir būtiski ietekmējusi tā uzņēmējdarbību. Pats uzņēmums ir norādījis, ka šāda veida reklāma pēdējos gados varētu būt veidojusi aptuveni 10% no ieņēmumiem, kas ir nepatīkams skaitlis, kas izskaidro reklāmdevēju uzraudzības un verifikācijas programmu paātrināšanos.
Pašlaik, ap 70% no reklāmas ieņēmumiem Tas nāk no pārbaudītiem reklāmdevējiem, un Meta ir izvirzījis mērķi palielināt šo proporciju līdz 90% viena gada laikāTas ir ievērojams solis, kas praksē piespiedīs daudzus uzņēmumus ievērot stingrākus identifikācijas procesus, ja tie vēlas turpināt reklamēties Facebook un Instagram.
Automātiska noteikšana un lietotāja brīdinājumi reāllaikā
Visredzamākā izmaiņu daļa sasniedz tos, kas ikdienā izmanto Meta lietojumprogrammas. Ieviešana ietver kontekstuālie brīdinājumi pielāgoti katrai platformai, izstrādāti tā, lai parādītos tieši vislielākā riska brīžos, neprasot lietotājam neko aktivizēt vai mainīt iestatījumus.
Facebook ieviesīs paziņojumus, kad sistēma konstatēs draugu pieprasījumi no aizdomīgiem profiliemTiks ņemti vērā tādi faktori kā kopīgu draugu neesamība, neatbilstības starp lietotāja atrašanās vietu un profilu, kurā pieprasīts sazināties, vai pārmērīga draudzības pieprasījumu sūtīšana. Ja pastāv vairāki no šiem faktoriem, parādīsies skaidrs brīdinājums, lai persona varētu izlemt, vai pieņemt, bloķēt vai ignorēt pieprasījumu.
WhatsApp, Spānijā visvairāk izmantotā ziņojumapmaiņas lietotne, stiprina savu aizsardzību pret pieaugošu problēmu: krāpnieciska ierīču saistīšanaun piedāvā resursus aizsargāt savus personas datusNoziedznieki izmanto tādu taktiku kā viltus konkursus vai aptaujas, kurās lietotājam tiek lūgts ievadīt savu tālruņa numuru un kodu vai arī tiek mudināts to darīt. skenēt maldinošus QR kodus Šīs metodes faktiski saista krāpnieka ierīci ar likumīgo kontu. Ja šāda veida rīcība tiek konstatēta, WhatsApp parādīs ziņojumus, kas brīdina, ka saistīšanas pieprasījums varētu būt aizdomīgs.
Messenger lietotnē spēlē lomu sistēma Uz mākslīgā intelekta balstīta uzlabota krāpniecības atklāšana kas analizē sarunu modeļus un ietver mehānismus to noteikšanai datu zādzība ziņojumapmaiņāJa ziņojumos ir redzamas tipiskas krāpšanas pazīmes, piemēram, solījumi par garantētu ieguldījumu atdevi, apšaubāmi darba piedāvājumi vai finanšu datu pieprasījumi, lietotne parādīs brīdinājumu un lūgs atļauju veikt tērzēšanu tālāku analīzi, izmantojot mākslīgo intelektu.
Ja risks tiek apstiprināts, Meta parādīs lietotājam izplatītākie krāpniecības veidi, tostarp tādi varianti kā Dēla nelaimē krāpšanakas atgādinās tērzēšanā notiekošo un atgādinās par pamata drošības vadlīnijām, piemēram, naudas pārskaitījumu neizplatīšanu, dāvanu karšu nesūtīšanu vai paroļu vai verifikācijas kodu nenorādīšanu, kas ir īpaši svarīgi neaizsargātām grupām vai tiem, kas ir mazāk pazīstami ar šāda veida krāpniecību.
Mākslīgais intelekts ierīcē un šifrēšanas ievērošana pakalpojumos WhatsApp un Messenger
Viens no izvietošanas galvenajiem punktiem ir tas, kā saskaņot krāpšanas atklāšana ar pilnīgu šifrēšanu, kas aizsargā sarunas lietotnēs WhatsApp un arvien vairāk arī lietotnē Messenger. Meta ir izvēlējusies hibrīda pieeju, kas apvieno mākoņapstrādi ar lokālā analīze pašā mobilajā ierīcē lietotāja.
Saskaņā ar uzņēmuma sniegto informāciju, dažas no jaunajām drošības iespējām darbojas, izmantojot mākslīgo intelektu (AI), kas darbojas tieši ierīcē, nesūtot ziņojumu saturu uz centrālajiem serveriem. Šī ierīcē iebūvētā noteikšana pārbauda ar krāpniecību saistītos teksta un uzvedības modeļus, piemēram, kad Nezināms numurs Sākas saruna, un pirmajos ziņojumos ir neparasti pieprasījumi pēc kodiem, bankas datiem vai saitēm uz aizdomīgām vietnēm.
Kad rīks tiek aktivizēts, lietotājs redz brīdinājumu, kas norāda, ka tērzēšanas saturs varētu būt daļa no krāpšanas mēģinājuma. Meta uzstāj, ka, ja vien netiek izmantota sarunas funkcija “ziņot”, Neviens ārpus ierīces nevar lasīt ziņojumus.Pat ne pats uzņēmums. Tikai tad, ja persona nolemj ziņot par tērzēšanu, daļa vēstures tiek nosūtīta pārskatīšanai centralizētai automatizētai sistēmai vai, ja nepieciešams, cilvēku komandai.
Šīs pieejas mērķis ir atbilst regulējošajām prasībām. Eiropas Savienība par privātumuViņi rūpīgi uzrauga jebkādu piekļuvi šifrētai saziņai. Vienlaikus viņi cenšas piedāvāt papildu aizsardzības līmeni pret arvien sarežģītāku krāpniecības vidi, kur noziedznieki pielāgo savu valodu un āķus, lai apietu tradicionālos filtrus.
Tomēr uzņēmums neslēpj, ka šo sistēmu efektivitāte būs atkarīga no pašu lietotāju sadarbībaTas attiecas gan uz aizdomīga satura ziņošanu, gan brīdinājumos redzamo norādījumu izpildi. Mērķis ir panākt, lai brīdinājumi darbotos kā sava veida "otrā maņa", aktivizējot visus trauksmes signālus, kad kaut kas šķiet nepareizi.
Skaitļi no ofensīvas pret krāpniecību un krāpnieciskiem kontiem
Aiz šīs ieviešanas slēpjas krāpniecisku darbību apjoms, kas, spriežot pēc datiem, nebūt nav margināls. Meta apgalvo, ka ir Noņemti 159 miljoni krāpniecisku reklāmu Pagājušajā gadā liela daļa — aptuveni 92 % — tika automātiski noņemti, pirms par tiem ziņoja lietotāji vai citas ārējas struktūras.
Tikmēr uzņēmums apgalvo, ka tam ir 10,9 miljoni Facebook un Instagram kontu deaktivizēti Tie ir saistīti ar organizētiem krāpniecības tīkliem, kas izplatīti dažādos reģionos, tostarp Mjanmā, Laosā, Kambodžā, Apvienotajos Arābu Emirātos un Filipīnās. Ir veiktas arī darbības pret vairāk nekā 21 000 tīmekļa vietnēm, kas bez atļaujas uzdevās par likumīgu uzņēmumu klientu apkalpošanas kanāliem.
Šie skaitļi, lai arī iespaidīgi, atstāj neatbildētu jautājumu: ja krāpniecisku kontu un reklāmu apjoms viena gada laikā ir tik liels, problēma ir... strukturāls rakstursnav atsevišķs incidents. Tādēļ uzņēmums apvieno iekšējās darbības ar tiesvedību un sadarbību ar regulatīvajām iestādēm.
Pēdējās nedēļās Meta ir iesniegusi prasības pret vairākām struktūrām, kuras tiek apsūdzētas par [trūkst informācijas] izmantošanu. Dziļi viltojumi un publisku personu tēls lai reklamētu apšaubāmus produktus un it kā izdevīgus ieguldījumu darījumus. Šis modelis, kas pazīstams kā slavenību ēsmaTas jau sen ir sagādājis lielas galvassāpes sociālajiem medijiem, jo tie izmanto pazīstamu seju radīto uzticību, lai piešķirtu ticamību piedāvājumiem, kas patiesībā ir krāpniecība.
Uzņēmuma lēmums apvienot satura noņemšanu, kontu bloķēšanu, reklāmdevēja verifikācija Un tiesvedība liecina par nostājas maiņu: pāreju no tīri reaģējošas atbildes uz preventīvāku stratēģiju, kas cenšas apgrūtināt lietas profesionāliem krāpšanas tīkliem, kas darbojas starptautiskā mērogā.
Ietekme uz lietotājiem Spānijā un pārējā Eiropā
Tiem, kas Spānijā ikdienā lieto Facebook, WhatsApp un Messenger, daudzas no šīm jaunajām funkcijām nonāks klusībā, izmantojot progresīvi atjauninājumi no lietojumprogrammām. Brīdinājumi tiks integrēti parastajā saskarnē: uznirstošie logi, kas brīdina par iespējamām krāpniecībām, skaidrojoši ziņojumi, ja kaut kas nav kārtībā vai ja tiek konstatēta rīcība, kas atbilst zināmām krāpnieciskām shēmām.
Eiropas iestādes jau sen aicina lielākās platformas uzņemties aktīvāku lomu. digitālā patērētāju aizsardzībaīpaši attiecībā uz maldinošu reklāmu, augsta riska ieguldījumiem un identitātes zādzību. Reklāmdevēju kontroles pastiprināšana un krāpniecisku reklāmu masveida noņemšana atbilst tādu noteikumu garam kā Digitālo pakalpojumu likums (DSA), kas nosaka jaunus pārredzamības un riska mazināšanas pienākumus tehnoloģiju gigantiem.
Šajā kontekstā Meta ieviestās brīdināšanas sistēmas var interpretēt arī kā mēģinājumu saskaņot ar normatīvajām prasībām Un, savukārt, stiprināt Eiropas lietotāju un reklāmdevēju uzticību. Krāpšanas samazināšana ietekmē ne tikai cilvēku drošību, bet arī pašas platformas reklāmas ekosistēmas uzticamību.
Jebkurā gadījumā uzņēmums atzīst, ka cīņa pret šāda veida noziegumiem ir garo distanču skrējiensOrganizētas grupas, kas darbojas no dažādām valstīm, pastāvīgi pielāgo savu taktiku, testējot jaunus āķus un reklāmu formātus, jo iepriekšējās nepilnības tiek novērstas. Tāpēc Meta uzskata šos pasākumus par mainīgu procesu, kurā mākslīgā intelekta sistēmas tiks pastāvīgi atjauninātas ar jauniem krāpšanas piemēriem, lai uzlabotu to atklāšanas spējas.
Ar šo ieviešanu Meta vēlas raidīt skaidru signālu: tās platformas nav paredzētas krāpniecībai vai robežreklāmai. Vēl jānoskaidro, vai pastiprinātā reklāmdevēju verifikācija, proaktīvi brīdinājumi lietojumprogrammās Un automatizētas noteikšanas un cilvēka iejaukšanās kombinācija ļauj viņiem būt soli priekšā tiem, kas digitālo maldināšanu ir padarījuši par savu biznesa modeli.
