- ТикТок примењује напредну технологију предвиђања и верификације старости у Европи како би открио налоге који припадају корисницима млађим од 13 година.
- Алгоритми анализирају профил, видео записе и понашање и, ако постоје било какве сумње, прослеђују сваки случај специјализованим људским модераторима.
- Платформа сваког месеца уклања милионе малолетних налога и појачава мере за тинејџере са више од 50 безбедносних подешавања.
- Корисници ће моћи да се жале на одлуке и да потврде своје године користећи Јоти, званичну документацију или кредитну картицу, под надзором европских регулатора.
Друштвена мрежа за кратке видео записе, ТикТок, почела је значајно да пооштрава своје старосне контроле у Европи са циљем уклањања корисника млађих од 13 година са платформе и бољег прилагођавања искуства тинејџерима – стратегија која подсећа на проверу старости на Роблоксу . Овај потез долази усред регулаторног притиска у Европској унији и другим европским земљама, где се од великих платформи захтева да обезбеде веће мере заштите за малолетнике, а да истовремено не повећају прикупљање личних података.
Компанија, у власништву кинеске групе ByteDance, примењује софистициранију технологију предвиђања старости поред традиционалног поља за датум рођења. Систем користи информације о профилу, објављени садржај и одређене обрасце коришћења да би проценио старост корисника. Ако открије знаке да је корисник можда млађи од 13 година, случај шаље специјализованим тимовима на детаљан преглед и, ако је потребно, брисање налога.
Строжија провера старости за децу млађу од 13 година.
За платформу, онлајн верификација старости постала је „сложен изазов“ јер не постоји универзално прихваћена метода која гарантује и тачност и поштовање приватности. У том контексту, ТикТок је поновио своју посвећеност да ће корисници млађи од 13 година — званична минимална старост за отварање налога — бити ван услуге и да ће понудити искуства прилагођена узрасту корисницима који испуњавају тај услов.
Нови приступ у Европи ослања се на побољшану технологију предвиђања старости која комбинује неколико врста сигнала. Прво, разматра информације које је корисник навео у свом профилу, укључујући датум рођења и друге основне податке. Затим, систем анализира видео записе које објављују, језик који користе и како интерагују са другим садржајем, идентификујући статистичке обрасце повезане са млађим корисницима.
Када аутоматизовани систем открије значајну вероватноћу да налог води неко млађи од 13 година, случај се не затвара одмах. Налог се затим предаје људском тиму модератора специјализованих за верификацију старости , који поново детаљно прегледају профил и одлучују да ли ће га трајно избрисати.
Како је сама компанија објаснила, овај систем се није појавио ниоткуда: претходно је тестиран годину дана у Европи у пилот програму , за који ТикТок тврди да је резултирао уклањањем хиљада налога којима управљају малолетници. Овај период тестирања послужио је за фино подешавање тачности алгоритама и тока рада модератора пре него што је уведен широм континента.
Како функционише нови систем за проверу старости
ТикТок инсистира да се његова технологија предвиђања старости не заснива искључиво на ономе што корисник говори о себи , већ на комбинацији фактора. То укључује податке профила, врсту отпремљених видео снимака, визуелни стил, коришћене ефекте, стил писања коментара и мрежу контаката, као и друга понашања у апликацији која се обично повезују са малолетницима.
Када алгоритам означи налог као потенцијално управљан од стране особе млађе од минималне старости, активира се интерни протокол. Налог се шаље људском модератору посебно обученом за откривање деце , који прегледа садржај, интеракције и све додатне индикаторе пре него што донесе одлуку. Ако се потврди да је корисник млађи од 13 година, налог се брише, а могућност креирања другог налога са другим датумом рођења са истог уређаја или непосредног окружења се блокира.
Компанија такође наглашава да, чак и током фазе регистрације, прва линија одбране остаје датум рођења унет приликом креирања налога . Овај систем се сматра „неутралним“ јер, према ТикТоку, не подстиче нити врши притисак на корисника да унесе одређену старост; ако информације указују да је особа млађа од минималне старости, регистрација се блокира, а корисницима је забрањено да покушају поново да се региструју са другим датумом.
Поред аутоматизоване технологије, платформа такође појачава ручно праћење. Општи тимови за модерирање су обучени да идентификују знаке да налог може припадати малолетнику , чак и када прегледају садржај из других разлога, као што су кршења смерница заједнице. Ако открију назнаке овога, могу упутити налог групи за преглед специфичној за узраст ради даље анализе.
Ова комбинација аутоматизованих и људских баријера има мерљив утицај: ТикТок извештава да сваког месеца уклања приближно шест милиона налога малолетника широм света . Значајан део ових суспензија ослања се на ове комбиноване системе за откривање и преглед.
Право на жалбу и враћање грешком блокираних рачуна
Компанија признаје да ниједан систем за верификацију старости није непогрешив и стога је успоставила формални поступак жалбе за европске кориснике чији су налози обрисани или суспендовани због сумње на малолетни статус. Овај поступак има за циљ да уравнотежи заштиту малолетника са могућношћу исправљања грешака у модерирању када оне утичу на одрасле или тинејџере који испуњавају старосне услове.
У оквиру овог поступка жалбе, корисници могу доказати да су пунолетни користећи неколико метода. Једна од опција је технологија процене лица коју је развила британска компанија Јоти , а која функционише тако што користи кратак видео снимљен камером мобилног телефона и процењује старост на основу црта лица без биометријске идентификације корисника.
Они који не желе да користе овај аутоматизовани систем могу се одлучити за достављање важећег званичног идентификационог документа издатог од стране јавног тела , као што је национална лична карта, пасош или еквивалентан документ у другим европским земљама. Алтернативно, верификација кредитном картицом је такође опција, метод који већ користе друге службе за доказивање пунолетства.
Компанија инсистира да се ови додатни алати за верификацију активирају само када корисник одлучи да се жали на одлуку о модерирању , а не без разлике за све профиле. На овај начин циљ је да се испуне захтеви европских регулатора у вези са транспарентношћу и заштитом података, а да се притом не генерализује прикупљање посебно осетљивих информација.
Паралелно са тим, ТикТок се обавезао да ће слати јасна обавештења корисницима у Европском економском простору, Швајцарској и Уједињеном Краљевству када се ове побољшане контроле примене и, где је то применљиво, када на налог утичу одлуке које доносе аутоматизовани системи. Таква обавештења су део његових обавеза према Закону о дигиталним услугама и прописима ЕУ о заштити података.
Разнолика искуства и више од 50 безбедносних подешавања за тинејџере
Пооштравање контрола није усмерено само на уклањање корисника млађих од 13 година, већ и на побољшање корисничког искуства за тинејџере којима је дозвољен приступ платформи . ТикТок је представио оно што назива „тинејџерским налозима“, који долазе са преко 50 функција и подешавања дизајнираних за ову старосну групу, слично апликацији PlayStation Family.
Ова подешавања укључују подразумевана ограничења времена проведеног испред екрана, као што је дневно ограничење коришћења које је у неким случајевима око 50 минута за млађе кориснике , као и ограничења слања аутоматских обавештења ноћу како би се смањили прекиди сна. Опције приватности су такође пооштрене, ограничавајући могућност странаца да интерагују са садржајем за децу.
Иста технологија предвиђања узраста која се користи за идентификацију деце млађе од 13 година користи се за додељивање сваком кориснику искуства које одговара његовом узрасту . Ако систем открије знаке да би неко могао имати, на пример, између 13 и 15 година, али се наведени датум не поклапа са том проценом, модератори прегледају налог како би одлучили да ли да прилагоде подешавања безбедности и приватности стварном профилу корисника.
Овим приступом, ТикТок има за циљ да понуди додатне слојеве заштите без увођења наметљивих баријера за улазак које захтевају систематско достављање личне документације. Кључ лежи у аутоматском прилагођавању шта корисник може да ради, коју врсту садржаја види и које функције се активирају за њих на основу старосне групе која им је додељена након прегледа.
Истовремено, платформа подсећа кориснике да свако може да пријави налог за који сумња да припада детету млађем од 13 година , чак и ако нема TikTok профил. Ови екстерни извештаји су интегрисани у канале за преглед специјализованог тима, који укршта информације са резултатима аутоматизованих алата за детекцију.
Регулаторни притисак у Европи и дијалог са органима за заштиту података
Јачање система за верификацију старости не може се разумети без разматрања регулаторног контекста. Европски регулатори већ дуго захтевају робусније механизме од платформи друштвених медија за заштиту малолетника , али истовремено упозоравају да би нека решења могла довести до прекомерног прикупљања личних података, што би било у супротности са Општом уредбом о заштити података (GDPR).
У овом надметању, власти траже од платформи да јасно објасне како функционишу њихови аутоматизовани системи модерирања , које врсте података користе, колико су тачни и које су маргине грешке. Закон о дигиталним услугама такође захтева од њих да понуде приступачне канале за жалбе, транспарентна обавештења када се одлуке доносе помоћу алгоритама и континуирани надзор од стране националних регулатора.
У конкретном случају ТикТока, компанија наводи да се консултовала са Ирском комисијом за заштиту података (DPC) , главним органом задуженим за надзор платформе у ЕУ, како би ускладила дизајн својих алата за предвиђање старости са европским стандардима приватности. Компанија тврди да је интегрисала принципе заштите података „од фазе дизајнирања“, ограничавајући употребу ових система искључиво на верификацију старости и упућујући налоге људским модераторима.
У међувремену, у разним европским земљама се одвија шира политичка дебата о приступу деце и адолесцената друштвеним мрежама и његовим потенцијалним психолошким и физичким ефектима . Од предлога за потпуне забране за одређене старосне групе до „дигиталног полицијског часа“, национални парламенти разматрају како да комбинују обавезе платформи са директним законским ограничењима коришћења ових услуга од стране малолетника.
У контексту где Француска, Данска, Шпанија, Италија и Грчка истражују строже законе, кораци ТикТока ка строжој контроли старости могу послужити као референтна тачка за оно што регулатори очекују од других великих платформи. Равнотежа између безбедности деце, слободе изражавања и заштите приватности постала је кључно питање на европској дигиталној агенди.
Постепеном имплементацијом ове технологије у Европском економском простору, Швајцарској и Уједињеном Краљевству, сервис кратких видео снимака покушава да спречи будуће санкције и покаже да јача безбедност деце без потребе за инвазивном идентификацијом од свих корисника. Стварна ефикасност ових контрола, стопа успеха откривања и поступање по жалбама сада ће бити пажљиво испитивани од стране регулатора, законодаваца и организација за заштиту деце широм Европе.
