- TikTok võtab Euroopas kasutusele täiustatud vanuse ennustamise ja kontrollimise tehnoloogia, et tuvastada alla 13-aastastele kasutajatele kuuluvaid kontosid.
- Algoritmid analüüsivad profiili, videoid ja käitumist ning kahtluste korral edastavad iga juhtumi spetsialiseerunud inimmoderaatoritele.
- Platvorm eemaldab iga kuu miljoneid alaealiste kontosid ja tugevdab teismeliste meetmeid enam kui 50 turvamuudatusega.
- Kasutajad saavad Euroopa regulaatorite järelevalve all otsuseid edasi kaevata ja oma vanust kontrollida Yoti, ametliku dokumendi või krediitkaardi abil.
Lühikeste videote sotsiaalvõrgustik TikTok on hakanud Euroopas vanusepiiranguid märkimisväärselt karmistama. eesmärgiga eemaldada platvormilt alla 13-aastased lapsed ja kohandada kogemust paremini teismelistele, mis meenutab strateegiat Vanuse kontrollimine RobloxisSee samm tuleb keset regulatiivset rünnakut Euroopa Liidus ja teistes Euroopa riikides, kus suurtelt platvormidelt nõutakse alaealiste kaitseks suuremate tagatiste pakkumist, suurendamata samal ajal isikuandmete kogumist.
Hiina kontsernile kuuluv ettevõte ByteDance võtab kasutusele keerukama vanuse ennustamise tehnoloogia See lisandub tavapärasele sünnikuupäeva väljale. Süsteem kasutab profiiliteavet, avaldatud sisu ja teatud kasutusmustreid kasutaja vanuse hindamiseks ning kui see tuvastab märke, et kasutaja võib olla alla 13-aastane, saadab see juhtumi spetsialiseerunud meeskondadele üksikasjalikuks läbivaatamiseks ja vajadusel konto kustutamiseks.
Alla 13-aastaste laste vanuse rangem kontroll.
Platvormi jaoks on vanuse kontrollimine veebis muutunud oluliseks. „keeruline väljakutse“, kuna puudub üldtunnustatud meetod mis tagab nii täpsuse kui ka privaatsuse austamise. Sellega seoses on TikTok kordanud oma pühendumust hoida alla 13-aastased kasutajad – ametlik minimaalne vanus konto avamiseks – teenusest eemal ja pakkuda vanusepõhiseid kogemusi kasutajatele, kes sellele nõudele vastavad.
Uus lähenemisviis Euroopas põhineb järgmisel: täiustatud vanuse ennustamise tehnoloogia mis ühendab mitut tüüpi signaale. Esiteks võtab see arvesse kasutaja profiilis deklareeritud teavet, sealhulgas sünnikuupäeva ja muid põhiandmeid. Seejärel analüüsib süsteem videod, mida ta postitab, kasutatav keel ja suhtlusviis koos muu sisuga, tuvastades nooremate kasutajatega seotud statistilisi mustreid.
Kui automatiseeritud mudel tuvastab olulise tõenäosuse, et kontot haldab alla 13-aastane isik, ei suleta juhtumit koheselt. Seejärel antakse konto üle vanuse kontrollimisele spetsialiseerunud moderaatorite meeskonnale., mis vaatab profiili uuesti põhjalikult üle ja otsustab, kas selle jäädav eemaldamine on asjakohane.
Nagu ettevõte ise on selgitanud, ei tekkinud see süsteem eikuskilt: Seda on varem Euroopas pilootprogrammi raames aasta aega testitud.TikTok väidab, et see viis tuhandete alaealiste hallatavate kontode eemaldamiseni. See testimisperiood aitas algoritmide ja moderaatorite töövoo täpsust enne mandril kasutuselevõttu lihvida.
Kuidas uus vanuse kontrollimise süsteem töötab
TikTok väidab, et selle vanuse ennustamise tehnoloogia See ei põhine ainult sellel, mida kasutaja enda kohta ütlebvaid pigem elementide kombinatsioon. Nende hulka kuuluvad profiiliandmed, üleslaaditud videote tüüp, visuaalne stiil, kasutatud efektid, kommentaaride kirjutamise viis ja kontaktide võrgustik, aga ka muud rakendusesisesed käitumismallid, mida sageli alaealistega seostatakse.
Kui algoritm märgib konto potentsiaalselt hallatavaks isiku poolt, kes ei vasta miinimumvanusele, aktiveeritakse sisemine protokoll. Konto suunatakse moderaatorile, kellel on spetsiaalne väljaõpe alaealiste tuvastamiseks.Enne otsuse langetamist vaatab süsteem üle sisu, suhtluse ja kõik täiendavad tõendid. Kui kinnitust leiab, et kasutaja on alla 13-aastane, kustutatakse konto ja teise konto taasavamine samast seadmest või vahetust keskkonnast erineva sünnikuupäevaga blokeeritakse.
Samuti rõhutab ettevõte, et isegi väljamaksefaasis Esimene kaitseliin jääb konto loomisel sisestatud sünnikuupäevaks.Seda süsteemi peetakse "neutraalseks", kuna TikToki sõnul ei sunni ega sunni see kasutajat sisestama kindlat vanust; kui andmed näitavad, et isik on alla miinimumvanuse, blokeeritakse registreerimine ja seda piiratakse uuesti proovimisega teise kuupäevaga.
Lisaks automatiseeritud tehnoloogiale tugevdab platvorm ka käsitsi jälgimist. Üldised modereerimismeeskonnad saavad koolituse, et tuvastada märke, mis viitavad sellele, et konto võib kuuluda alaealisele.isegi kui nad vaatavad sisu üle muudel põhjustel, näiteks kogukonna reeglite rikkumise tõttu. Kui nad tuvastavad tõendeid selliste rikkumiste kohta, võivad nad konto edasiseks analüüsiks suunata vanusepõhisele arvustusrühmale.
Sellel automatiseeritud ja inimeste loodud tõkete komplektil on mõõdetav mõju: TikTok väidab, et eemaldab iga kuu umbes kuus miljonit alaealistele kuuluvat kontot kogu maailmas.Suur osa neist peatamistest tugineb sellisele kombineeritud avastamis- ja läbivaatamissüsteemile.
Edasikaebamise õigus ja ekslikult blokeeritud kontode taastamine
Ettevõte möönab, et ükski vanuse kontrollimise süsteem pole eksimatu ja seetõttu on võimaldanud Euroopa kasutajatele ametliku apellatsioonimenetluse kelle kontod kustutatakse või peatatakse alaealisuse kahtluse tõttu. See protsess püüab tasakaalustada alaealiste kaitset ja võimalust parandada modereerimisvigu, kui need mõjutavad täiskasvanuid või teismelisi, kes vastavad nõuetele.
Selle apellatsioonimehhanismi raames saavad kasutajad erinevate meetodite abil tõestada, et nad on nõutavas vanuses. Üks võimalustest on Briti ettevõtte Yoti välja töötatud näotuvastuse tehnoloogia.See töötab mobiiltelefoni kaameraga salvestatud kiire video abil ja hindab vanuse näojoonte põhjal ilma kasutaja biomeetrilist tuvastamist tegemata.
Need, kes ei soovi seda automatiseeritud süsteemi kasutada, saavad valida esitama kehtiva ametliku isikut tõendava dokumendi, mille on väljastanud avalik-õiguslik asutusnäiteks riiklik isikutunnistus, pass või samaväärne dokument teistes Euroopa riikides. Teise võimalusena loetakse ka järgmist: krediitkaardiga kinnitamine, ressurss, mida teistes teenustes juba kasutatakse seadusliku vanuse tõendamiseks.
Ettevõte nõuab, et need täiendavad kinnitusvahendid Need aktiveeritakse ainult siis, kui kasutaja otsustab modereerimisotsuse edasi kaevata.ja mitte valimatult kõigi profiilide puhul. Sel viisil on eesmärk täita Euroopa reguleerivate asutuste läbipaistvuse ja andmekaitse nõudmisi, üldistamata eriti tundliku teabe kogumist.
Paralleelselt on TikTok pühendunud saatmisele selged teated Euroopa Majanduspiirkonna, Šveitsi ja Ühendkuningriigi kasutajatele Need täiustatud kontrollimeetmed rakendatakse siis, kui need on kehtestatud, ja kui see on asjakohane, siis siis, kui kontot mõjutavad automatiseeritud süsteemide tehtud otsused. Sellised teavitused on osa digiteenuste seaduse ja ELi andmekaitse-määruste kohastest kohustustest.
Erinevad kogemused ja enam kui 50 turvaseadet teismelistele
Kontrolli karmistamine ei ole suunatud ainult alla 13-aastaste laste väljasaatmisele, vaid ka Täiustage platvormil lubatud teismeliste kasutuskogemustTikTok on loonud nn teismeliste kontod, millel on üle 50 sellele vanuserühmale mõeldud funktsiooni ja seadistuse, sarnaselt PlayStation Family rakendus.
Nende sätete hulka kuuluvad vaikimisi lubatud ekraaniaja piirangud, näiteks päevane kasutuspiirang, mis mõnel juhul on umbes 50 minutit noorematele kasutajateleSee hõlmab piiranguid automaatsete teavituste saatmisele öösel, et vähendada unehäireid. Samuti karmistatakse privaatsusvõimalusi ja võõraste inimeste võimalust laste sisuga suhelda.
Sama vanuse ennustamise tehnoloogiat, mida kasutatakse alla 13-aastaste laste tuvastamiseks, kasutatakse ka ... määrake igale kasutajale tema vanusevahemikule vastav kogemusKui süsteem tuvastab märke, et keegi võib olla näiteks 13–15-aastane, kuid sisestatud kuupäev ei vasta sellele hinnangule, läheb konto tagasi moderaatoritele, et nad otsustaksid, kas kohandada turva- ja privaatsusseadeid vastavalt kasutaja tegelikule profiilile.
Selle lähenemisviisi abil soovib TikTok pakkuda täiendavaid kaitsekihte ilma pealetükkivaid sisenemistõkkeid kehtestamata, mis nõuaksid isikuandmete süstemaatilist esitamist. Peamine on automaatselt kohandada, mida kasutaja saab teha, millist sisu ta näeb ja millised funktsioonid talle lubatakse. olenevalt vanusevahemikust, kuhu nad pärast ülevaatamist paigutatakse.
Samal ajal tuletab platvorm meile meelde, et Igaüks saab teatada kontost, mille puhul kahtlustatakse, et see kuulub alla 13-aastasele lapsele.isegi kui neil pole TikToki profiili. Need välised aruanded integreeritakse spetsialiseeritud meeskonna ülevaatuskanalitesse, mis seob teabe automatiseeritud tuvastustööriistade tulemustega.
Regulatiivne surve Euroopas ja dialoog andmekaitseasutustega
Vanusekontrolli süsteemide tugevdamist ei saa mõista ilma regulatiivse kontekstita. Euroopa regulaatorid on pikka aega nõudnud sotsiaalmeedia platvormidelt alaealiste kaitsmiseks tugevamaid mehhanisme.Samas hoiatavad nad ka, et mõned lahendused võivad kaasa tuua isikuandmete liigse kogumise, mis oleks vastuolus isikuandmete kaitse üldmäärusega (GDPR).
Selles edasi-tagasi vaidluses paluvad võimud platvormidel selgelt selgitada. kuidas nende automatiseeritud modereerimissüsteemid töötavadMilliseid andmeid nad kasutavad, kui täpsed need on ja millised on veapiirid? Digiteenuste õigusakt nõuab neilt ka ligipääsetavate apellatsioonikanalite pakkumist, läbipaistvaid teateid algoritmide abil tehtud otsuste kohta ning riiklike reguleerivate asutuste pidevat järelevalvet.
TikToki konkreetsel juhul väidab ettevõte, et on säilitanud konsultatsioonid Iirimaa andmekaitsekomisjoniga (DPC)Platvormi peamise järelevalve eest vastutava asutuse käest ELis on palutud kohandada oma vanuse ennustamise tööriistade disaini, et see vastaks Euroopa privaatsusstandarditele. Ettevõte väidab, et on integreerinud andmekaitse põhimõtted "alates disainifaasist", piirates nende süsteemide kasutamist ainult vanuse kontrollimise ja kontode suunamisega inimestest moderaatoritele.
Samal ajal on mitmes Euroopa riigis algamas laiem poliitiline debatt teemal... laste ja noorukite juurdepääs sotsiaalvõrgustikele ja nende võimalikud psühholoogilised ja füüsilised mõjudAlates ettepanekutest täielike keeldude kehtestamiseks teatud vanuserühmadele kuni "digitaalsete liikumiskeeldudeni" kaaluvad riikide parlamendid, kuidas ühendada platvormidega seotud kohustused otseste juriidiliste piirangutega nende teenuste kasutamisele alaealistele.
Stsenaariumis, kus Prantsusmaa, Taani, Hispaania, Itaalia ja Kreeka kaaluvad rangemate seaduste kehtestamist, TikToki sammud rangema vanusekontrolli suunas võivad olla eeskujuks. See on kooskõlas sellega, mida regulaatorid ootavad teistelt suurtelt platvormidelt. Laste turvalisuse, sõnavabaduse ja privaatsuse kaitse vaheline tasakaal on muutunud Euroopa digitaalse tegevuskava võtmeküsimuseks.
Selle tehnoloogia järkjärgulise rakendamisega Euroopa Majanduspiirkonnas, Šveitsis ja Ühendkuningriigis püüab lühivideoteenus tulevastest sanktsioonidest ette jõuda ja näidata, et see tugevdab alaealiste turvalisust ilma, et kõik kasutajad peaksid läbima invasiivse tuvastamise. Nende kontrollimeetmete tegelik tõhusus, avastamise edukuse määr ja apellatsioonide menetlemine Nüüd jälgivad neid tähelepanelikult regulaatorid, seadusandjad ja lastekaitseorganisatsioonid kogu Euroopas.
