- Meta, dolandırıcılıkları gerçek zamanlı olarak engellemek için Facebook, WhatsApp ve Messenger'da uyarı sistemleri kullanıyor.
- Şirket, dolandırıcılık modellerini belirlemek için bulut tabanlı yapay zekayı ve cihaz içi tespiti birleştiriyor.
- 159 milyon yanıltıcı reklam kaldırıldı ve dolandırıcılık merkezleriyle bağlantılı 10,9 milyon hesap devre dışı bırakıldı.
- Meta, sahte reklamları azaltmak ve güveni güçlendirmek için reklamveren doğrulamasını teşvik eder.
Meta, yeni bir güvenlik stratejisi başlatarak bu alanda bir adım daha ileriye gitti. dolandırıcılık uyarı sistemi Bu sistem, Facebook, WhatsApp ve Messenger'da koordineli bir şekilde faaliyet gösteriyor. Bu hamle, dijital dolandırıcılığın dünya çapında, özellikle de bazı ülkelerde, hızla arttığı bir dönemde geliyor. İspanya ve Avrupa'nın geri kalanıVe büyük teknoloji platformları bu sorunu çözmek için baskı altında.
Şirket şimdi yeni unsurları bir araya getiriyor. yapay zeka modülleriGerçek zamanlı uyarılar ve ücretli reklamlara yönelik daha sıkı kontroller. Amaç, kullanıcılara ulaşan sahte içerik miktarını ve aynı zamanda Sosyal medyayı aldatmak için kullanan reklamcılarYatırım dolandırıcılıklarına özel önem verilerek, kimlik taklit etme ve tanınmış kişilerin imajının kötüye kullanılması.
Şirket şunlara güvendi: eğitilmiş yapay zeka sistemleri Tipik dolandırıcılık yöntemlerini tespit etmek ve tehlikeli içeriklerin erken aşamada kaldırılmasını iyileştirmek.
İki aşamalı bir plan: içerikleri temizlemek ve reklamları optimize etmek.
Meta aylardır iki paralel cephede çalışıyor: bir yandan, Sahte içerik kullanıcıya ulaşıyorÖte yandan, kurallara uymayanların reklam gelirlerini kesmeyi hedefliyor. Bu yeni önlem dalgası, grubun üç ana platformunda somut rakamlar, teknik araçlar ve gözle görülür değişikliklerle bu stratejiyi uygulamak için özel olarak tasarlandı.
Organik içerik alanında şirket, şunlara güvenmiştir: Tipik dolandırıcılık yöntemlerini tespit etmek üzere eğitilmiş yapay zeka sistemleri.Bu, markaları veya ünlüleri taklit eden hesaplardan, özellikle veri veya para çalmak için tasarlanmış bağlantılara kadar her şeyi içerir. Belirtilen amaç, bu içeriği mümkün olan en kısa sürede, ideal olarak herhangi bir mağdur zarar görmeden önce kaldırmaktır.
Meta, reklamcılık alanında, reklamcılıkla ilişkili unsurların farkındadır. dolandırıcılık ve yasaklı ürünler Bu durum, şirketin işleyişini önemli ölçüde etkiledi. Şirketin kendisi, bu tür reklamların son yıllarda gelirlerin yaklaşık %10'unu oluşturmuş olabileceğini belirtti; bu rahatsız edici rakam, reklamveren izleme ve doğrulama programlarının hızlandırılmasını açıklıyor.
Şu anda, yaklaşık olarak reklam gelirlerinin %70'i Bu, doğrulanmış reklamverenlerden geliyor ve Meta, bu oranı artırmayı hedefliyor. Bir yıl içinde %90Bu, pratikte birçok şirketin Facebook ve Instagram'da reklam vermeye devam etmek istiyorsa daha sıkı kimlik doğrulama süreçlerinden geçmesini gerektirecek önemli bir sıçramayı temsil ediyor.
Kullanıcı için otomatik algılama ve gerçek zamanlı uyarılar
Değişikliğin en görünür kısmı, Meta'nın uygulamalarını günlük olarak kullananlara ulaşıyor. Uygulama kapsamı şunları içeriyor: bağlamsal uyarılar Her platforma özel olarak tasarlanmış, kullanıcının herhangi bir şeyi etkinleştirmesine veya ayarlarını değiştirmesine gerek kalmadan, en büyük risk anlarında tam olarak görünecek şekilde yapılandırılmıştır.
Facebook, sistem algıladığında bildirimler sunmaya başlayacak. Şüpheli profillerden gelen arkadaşlık istekleriOrtak arkadaşların olmaması, kullanıcının konumu ile iletişim isteğinde bulunan profil arasındaki tutarsızlıklar veya aşırı sayıda arkadaşlık isteği gönderilmesi gibi faktörler dikkate alınacaktır. Bu faktörlerden birkaçı mevcutsa, kişinin isteği kabul edip etmeyeceğine, engelleyip engellemeyeceğine veya görmezden gelip gelmeyeceğine karar verebilmesi için açık bir uyarı görünecektir.
İspanya'da en çok kullanılan mesajlaşma uygulaması olan WhatsApp, giderek büyüyen bir soruna karşı önlemlerini güçlendiriyor: sahte cihaz bağlantısıve kaynaklar sunmaktadır. kişisel verilerinizi koruyunSuçlular, kullanıcıdan telefon numarasını ve bir kodu girmesini isteyen veya onları dolandırıcılığa teşvik eden sahte yarışmalar veya anketler gibi taktikler kullanırlar. yanıltıcı QR kodlarını tarayın Bu yöntemler aslında dolandırıcının cihazını meşru hesaba bağlıyor. Bu tür bir davranış tespit edilirse, WhatsApp bağlantı isteğinin şüpheli olabileceği konusunda uyarı mesajları gösterecektir.
Messenger'da bir sistem devreye giriyor. Yapay zekâ tabanlı gelişmiş dolandırıcılık tespiti konuşma kalıplarını analiz eden ve tespit mekanizmalarını içeren bir sistem. mesajlaşmada veri hırsızlığıEğer mesajlar, yatırım getirisi garantisi vaatleri, şüpheli iş teklifleri veya finansal veri talepleri gibi tipik dolandırıcılık belirtileri gösteriyorsa, uygulama bir uyarı yayınlayacak ve yapay zekâ kullanarak sohbeti daha detaylı analiz etme izni isteyecektir.
Risk doğrulanırsa, Meta kullanıcıya bunu gösterecektir. yaygın dolandırıcılık türleri, gibi varyantlar da dahil olmak üzere zor durumdaki oğul dolandırıcılığıBu, sohbette olup bitenlere benzeyen ve para transferi yapmaktan, hediye kartı göndermekten veya şifre ya da doğrulama kodu vermekten kaçınmak gibi temel güvenlik kurallarını hatırlatacak bir yöntemdir; bu, özellikle savunmasız gruplar veya bu tür dolandırıcılıklara daha az aşina olanlar için önemlidir.
WhatsApp ve Messenger'da cihaz üzerinde yapay zeka ve şifrelemeye saygı
Dağıtımın kilit noktalarından biri, uzlaştırmanın nasıl yapılacağıdır. dolandırıcılık tespiti WhatsApp ve giderek artan bir şekilde Messenger'daki konuşmaları koruyan uçtan uca şifreleme ile Meta, bulut işlemeyi birleştiren hibrit bir yaklaşım tercih etti. mobil cihazın kendisinde yerel analiz kullanıcı.
Şirkete göre, yeni güvenlik özelliklerinden bazıları, mesaj içeriğini merkezi sunuculara göndermeden, doğrudan cihaz üzerinde çalışan yapay zeka kullanılarak gerçekleştiriliyor. Bu cihaz içi tespit, örneğin bir dolandırıcılık vakasıyla ilişkili metin ve davranış kalıplarını inceliyor. Bilinmeyen numara Bir konuşma başlar ve ilk mesajlar alışılmadık kod talepleri, banka bilgileri veya şüpheli web sitelerine bağlantılar içerir.
Araç etkinleştirildiğinde, kullanıcı sohbet içeriğinin bir dolandırıcılık girişiminin parçası olabileceğini belirten bir uyarı görür. Meta, "şikayet et" işlevi kullanılmadığı sürece, Cihazın dışındaki hiç kimse mesajları okuyamaz.Şirketin kendisi bile değil. Sadece kişi sohbeti bildirmeye karar verirse, geçmişin bir kısmı merkezi otomatik bir sistem tarafından veya gerekirse bir insan ekibi tarafından incelenmek üzere gönderilir.
Bu yaklaşım, düzenleyici gerekliliklere uyum sağlamayı amaçlamaktadır. Avrupa Birliği'nin gizlilik politikasıŞifreli iletişimlere yapılan her türlü erişimi yakından izliyorlar. Aynı zamanda, suçluların geleneksel filtreleri aşmak için dillerini ve yöntemlerini uyarladıkları, giderek daha karmaşık hale gelen dolandırıcılık ortamına karşı ek bir koruma katmanı sunmayı amaçlıyorlar.
Ancak şirket, bu sistemlerin etkinliğinin şunlara bağlı olacağını gizlemiyor: kullanıcıların kendi aralarındaki işbirliğiBu durum hem şüpheli içerikleri bildirmek hem de uyarılarda gösterilen talimatları takip etmek için geçerlidir. Amaç, uyarıların bir tür "ikinci his" görevi görerek, bir şeylerin ters gittiğini fark ettiklerinde tüm alarmları tetiklemesidir.
Sahtekarlık ve dolandırıcı hesaplara karşı yürütülen operasyondan elde edilen rakamlar.
Bu uygulamanın ardında, verilere bakıldığında azımsanmayacak kadar büyük bir dolandırıcılık faaliyeti yatıyor. Meta, bu konuda şu iddiada bulunuyor: 159 milyon sahte reklam kaldırıldı. Geçtiğimiz yıl, büyük çoğunluk (yaklaşık %92'si), kullanıcılar veya diğer harici kuruluşlar tarafından bildirilmeden önce otomatik olarak kaldırıldı.
Bu arada şirket, sahip olduğunu iddia ediyor. 10,9 milyon Facebook ve Instagram hesabı devre dışı bırakıldı. Bunlar, Myanmar, Laos, Kamboçya, Birleşik Arap Emirlikleri ve Filipinler de dahil olmak üzere çeşitli bölgelere yayılmış organize dolandırıcılık ağlarıyla bağlantılıdır. Ayrıca, meşru şirketlerin müşteri hizmetleri kanallarını izinsiz taklit eden 21.000'den fazla web sitesine karşı da işlem başlatılmıştır.
Bu rakamlar etkileyici olsa da, rahatsız edici bir soruyu da beraberinde getiriyor: Eğer sahte hesap ve reklam sayısı tek bir yılda bu kadar yüksekse, sorun daha da büyümüş olabilir mi? yapısal bir özellikBu, münferit bir olay değil. Dolayısıyla şirket, iç önlemleri yasal süreçlerle ve düzenleyici otoritelerle iş birliğiyle birleştiriyor.
Son haftalarda Meta, çeşitli kuruluşları kötüye kullanmakla suçlayarak onlara karşı dava açtı. Deepfake teknolojisi ve kamu figürlerinin imajı Şüpheli ürünleri ve sözde yatırım fırsatlarını tanıtmak için. Bu yöntem, şu şekilde bilinir: ünlü yemiSosyal medya için uzun zamandır büyük bir baş ağrısı olmuştur, çünkü tanıdık yüzlerin yarattığı güveni kullanarak gerçekte dolandırıcılık olan tekliflere inandırıcılık kazandırmaktadır.
Şirketin içerik kaldırma, hesap engelleme ve diğer özellikleri birleştirme kararı, reklamveren doğrulaması Ve yasal işlem, tutum değişikliğine işaret ediyor: tamamen tepkisel bir yaklaşımdan, uluslararası ölçekte faaliyet gösteren profesyonel dolandırıcılık şebekeleri için işleri zorlaştırmayı amaçlayan caydırıcı bir stratejiye geçiş.
İspanya ve Avrupa'nın geri kalanındaki kullanıcılar üzerindeki etkisi
İspanya'da Facebook, WhatsApp ve Messenger'ı günlük olarak kullananlar için bu yeni özelliklerin çoğu, sessizce, dolaylı yollarla kullanıma sunulacak. aşamalı güncellemeler Uygulamalardan gelen uyarılar, alışılagelmiş arayüze entegre edilmiş şekilde görünecektir: olası dolandırıcılıklara karşı uyarı veren açılır pencereler, bir şeylerin tutarsız olduğu durumlarda açıklayıcı mesajlar veya bilinen dolandırıcılık yöntemleriyle eşleşen davranışlar tespit edildiğinde gösterilen uyarılar.
Avrupa yetkilileri uzun zamandır büyük platformları daha aktif bir rol oynamaya çağırıyor. dijital tüketici korumasıÖzellikle yanıltıcı reklamlar, yüksek riskli yatırımlar ve kimlik hırsızlığı konularında, reklamverenler üzerindeki kontrollerin sıkılaştırılması ve sahte reklamların toplu olarak kaldırılması, teknoloji devleri için yeni şeffaflık ve risk azaltma yükümlülükleri getiren Dijital Hizmetler Yasası (DSA) gibi düzenlemelerin ruhuna uygundur.
Bu bağlamda, Meta tarafından başlatılan uyarı sistemleri de bir tür girişim olarak yorumlanabilir. düzenleyici gerekliliklerle uyumlu Bu da Avrupa'daki kullanıcıların ve reklamverenlerin güvenini güçlendirir. Sahtekarlığın azaltılması sadece insanların güvenliğini değil, aynı zamanda platformun reklam ekosisteminin güvenilirliğini de etkiler.
Her halükarda, şirket bu tür suçlarla mücadele etmenin bir zorunluluk olduğunu kabul etmektedir. uzun mesafe yarışıFarklı ülkelerden faaliyet gösteren organize gruplar, önceki açıklar kapatıldıkça taktiklerini sürekli olarak değiştiriyor, yeni yöntemler ve reklam formatları deniyor. Bu nedenle Meta, bu önlemleri, yapay zeka sistemlerinin tespit yeteneklerini geliştirmek için yeni dolandırıcılık örnekleriyle güncellenmeye devam edeceği, evrim geçiren bir süreç olarak görüyor.
Meta bu hamleyle net bir mesaj vermek istiyor: platformları dolandırıcılık veya sınırda reklamcılık için serbest bir alan değil. Güçlendirilmiş reklamveren doğrulamasının ne kadar işe yarayacağı ise henüz belli değil. uygulamalarda proaktif uyarılar Otomatik tespit ve insan müdahalesinin birleşimi, dijital aldatmayı iş modeli haline getirenlerin önünde kalmalarını sağlıyor.
