- Califòrnia es converteix en el primer estat dels EUA a vetar funcions com el 'scroll infinit' o la reproducció automàtica per a menors.
- La nova llei també imposa controls estrictes als chatbots d'intel·ligència artificial, amb l'anomenada 'Ley Adam' com a eix central.
- Les sancions poden assolir fins a un milió de dòlars per menor perjudicat en cas de negligència de les plataformes.
- La mesura s'emmarca en un context de pressió global i arriba poques setmanes després de l'acord de Meta amb diversos estats pel disseny addictiu de les xarxes.
Califòrnia ha fet un pas històric en la regulació de les plataformes digitals en promulgar un ampli paquet de lleis que prohibeix a les xarxes socials oferir funcions dissenyades per generar addicció entre els menors de 16 anys. La mesura, signada pel governador Gavin Newsom, suposa la primera normativa d'aquest tipus als Estats Units i arriba en un moment de preocupació creixent per l'impacte de la tecnologia en la salut mental dels joves.
La legislació, coneguda com a AB-1709, situa al punt de mira mecanismes com el desplaçament infinit, la reproducció automàtica de vídeos i els algorismes que estan redefinint l'experiència en xarxes socials . Segons els seus impulsors, aquestes tècniques d'explotació psicològica estan dissenyades per maximitzar la interacció i afavoreixen un ús compulsiu, especialment perillós en edats primerenques.
Quines funcions queden prohibides per a menors
La norma californiana especifica que les plataformes no podran oferir a usuaris menors de 16 anys un 'feed' addictiu basat en recomanacions personalitzades, l''scroll' infinit que carrega contingut de manera contínua, ni la reproducció automàtica de vídeos. També queden sota la lupa les anomenades 'pàgines per a tu', que es construeixen a partir del comportament de l'usuari. Les empreses hauran d'implementar mesures alternatives raonables per a aquest grup d'edat o fins i tot vetar-los l'accés si no poden desactivar aquestes funcions.
La llei, que forma part d'un paquet de 13 normes signades el mateix dia, també estableix un sistema de senyal de verificació d'edat que les plataformes hauran d'implementar a partir del gener del 2027. Així, els sistemes operatius hauran de transmetre a les aplicacions el rang d'edat de l'usuari perquè puguin adaptar-ne les funcions. Tot i això, s'espera que les grans tecnològiques recorrin la mesura davant els tribunals al·legant que vulnera la llibertat d'expressió, com ja va apuntar The New York Times.
Multes de fins a un milió de dòlars al detall
Les conseqüències econòmiques per a les empreses que incompleixin la regulació són severes. La llei fixa sancions de fins a 25.000 dòlars per infracció negligent i de 50.000 per menor afectat en cas de dol. A més, una llei complementària, l'AB 2, amplia la responsabilitat civil: les companyies podrien afrontar multes de fins a un milió de dòlars per cada nen a qui les seves plataformes hagin causat danys demostrables, com ara ansietat, depressió o altres perjudicis per a la salut mental. Aquesta compensació es calcularà com el més gran entre 5.000 dòlars per violació (amb un límit d'un milió) o el triple dels danys reals acreditats.
La quantia d'aquestes sancions converteix Califòrnia en un dels territoris amb més poder coercitiu davant de les plataformes digitals, i envia un missatge clar a la indústria: la seguretat dels menors no és un extra, sinó una obligació integrada en el disseny.
La 'Ley Adam': control estricte dels chatbots d'IA
Un altre dels eixos del paquet legislatiu és l'anomenada 'Ley Adam' (SB 1119), batejada en memòria d'Adam Raine, un adolescent de 16 anys que va morir per suïcidi el 2025 després d'interactuar durant mesos amb un chatbot d'IA. La normativa estableix que els 'companion chatbots' –sistemes dissenyats per mantenir converses continuades amb usuaris– s'hauran de sotmetre a auditories independents de seguretat infantil abans del seu llançament, així com a avaluacions anuals de risc.
Les empreses que operin aquests serveis hauran d'incorporar controls parentals actius, protocols de crisi que notifiquin els tutors davant de senyals d'autolesió o ideació suïcida, i límits de temps d'ús per a menors. La llei també prohibeix durant quatre anys la fabricació i venda de joguines amb capacitats d'IA conversacional adreçades a nens menors de 16 anys, una mesura pionera al país.
Altres mesures de protecció: privadesa i continguts
El paquet signat per Newsom va més enllà de les xarxes socials i la IA. S'amplia la definició legal d'explotació sexual infantil per incloure-hi imatges generades o modificades digitalment mitjançant intel·ligència artificial que representin menors de 18 anys. També es reforça la privadesa de les dades estudiantils als sistemes d'IA, es prohibeix que les escoles exigeixin als alumnes de preescolar i infantil que portin dispositius electrònics a casa, i s'introdueixen disposicions sobre denúncies de material d'abús sexual infantil.
Una altra norma prioritza el benestar digital als currículums educatius, i es crea un Consell de Tecnologia per a Adolescents que donarà veu als joves en les polítiques estatals. Totes aquestes mesures consoliden Califòrnia com a laboratori legislatiu en protecció digital, amb un enfocament preventiu que busca aturar els riscos abans que es materialitzin en danys.
El context espanyol i europeu
La decisió de Califòrnia arriba en un moment en què altres territoris també mouen fitxa. A Espanya, el president del Govern, Pedro Sánchez, va anunciar al febrer la intenció de prohibir l'accés a les xarxes socials als menors de 16 anys, encara que la mesura continua sense concretar-se. La Fiscalia espanyola ja ha alertat de l'augment de la ciberviolència entre adolescents: un 28% de les noies de 16 i 17 anys afirmen haver-la patit, segons un informe de la Fundació ANAR i Mutua Madrileña, que també revela un repunt de l'assetjament escolar i el ciberbullying, que arriba als 14,1.
A nivell europeu, la Llei de Serveis Digitals ja contempla obligacions de disseny segur, i la Comissió Europea ha acusat plataformes com TikTok de vulnerar les normes pel seu disseny addictiu. Austràlia va ser el primer país del món a prohibir les xarxes socials per a menors de 16 anys , una mesura que ha inspirat més de 40 països a tot el món.
El precedent de Meta i la pressió sobre les plataformes
L'aprovació d'aquest paquet només es produeix unes setmanes després que Meta, propietària d'Instagram i Facebook, arribés a un acord amb una coalició d'estats de tot el país per resoldre una demanda col·lectiva que l'acusava de dissenyar les seves plataformes per generar addicció entre els menors i d'enganyar els consumidors sobre la seva seguretat. L'acord preveu que la companyia pugui arribar a pagar fins a 18.000 milions de dòlars i aplicar canvis substancials als serveis: limitar a dues hores diàries l'ús per part d'adolescents, restriccions nocturnes, verificació d'edat i controls parentals.
El pacte va evitar un judici federal a Califòrnia, però no ha dissipat la pressió sobre el sector. Milers de famílies mantenen demandes contra altres plataformes com ara Snap, TikTok o YouTube. Amb aquesta nova llei, Califòrnia marca un punt d'inflexió: ja no n'hi ha prou amb avisar dels riscos, s'exigeix que el disseny de les aplicacions sigui segur per defecte per a la infància i l'adolescència.
En definitiva, la legislació californiana no només prohibeix tècniques addictives, sinó que imposa un canvi de paradigma: les plataformes han de prioritzar el benestar dels menors sobre el model de negoci propi. Mentre altres països i regions estudien mesures similars, Califòrnia se situa a l'avantguarda d'una batalla que tot just acaba de començar: recuperar el control sobre les nostres pantalles i, sobretot, sobre les ments més vulnerables.
