California prohíbe los feeds adictivos para menores de 16 años y endurece las reglas para chatbots de IA

California ha aprobado un nuevo paquete de 13 leyes para reforzar la protección de menores en redes sociales, servicios digitales y sistemas de inteligencia artificial. Entre las medidas más relevantes están la prohibición de determinados feeds personalizados y del autoplay para usuarios menores de 16 años, además de nuevas obligaciones para los operadores de chatbots de IA utilizados por menores, que deberán incorporar controles parentales, evaluaciones de riesgo y protocolos específicos ante situaciones de autolesión o suicidio.

Las dos normas principales tienen calendarios diferentes. La AB 1709, centrada en las funciones consideradas adictivas de las plataformas digitales, entrará en vigor el 1 de enero de 2027. La SB 1119, conocida como Adam’s Law y dirigida a los companion chatbots, hará operativas la mayoría de sus nuevas protecciones para menores el 1 de julio de 2027, aunque algunas obligaciones posteriores tienen plazos en 2028 y 2029.

AB 1709 prohíbe los feeds adictivos y el autoplay para menores de 16 años

La AB 1709 establece que una plataforma cubierta no podrá proporcionar una función adictiva a un usuario menor de 16 años. La definición final de la ley incluye dos categorías principales: los addictive feeds y el autoplay.

Un addictive feed es, en términos generales, un flujo de contenidos generados o compartidos por usuarios en el que las publicaciones son recomendadas, seleccionadas o priorizadas utilizando información vinculada al usuario, su dispositivo, su perfil o sus interacciones anteriores.

Esto afecta directamente al tipo de recomendación personalizada que utilizan muchas redes sociales para decidir qué vídeo, publicación o contenido debe aparecer a continuación basándose en el historial de actividad de cada persona.

La segunda función expresamente incluida es el autoplay, que reproduce automáticamente contenidos de audio o vídeo sin que el usuario tenga que iniciar manualmente cada elemento.

La ley no prohíbe TikTok, Instagram ni otras redes a los menores

La AB 1709 no establece una prohibición general para que una persona menor de 16 años tenga una cuenta en una red social. El propio texto permite que una plataforma mantenga cuentas de estos usuarios siempre que no les proporcione las funciones consideradas adictivas por la norma.

Por tanto, el cambio afecta al diseño y funcionamiento de la experiencia ofrecida a los menores y no equivale a bloquear completamente su acceso a TikTok, Instagram, YouTube u otros servicios que puedan quedar incluidos dentro de la definición de plataforma cubierta.

Las empresas deberán adoptar medidas razonables para asegurarse de que los menores de 16 años no reciben esas funciones. Antes de activar una característica adictiva, tendrán que determinar la edad siguiendo el sistema establecido por la Digital Age Assurance Act de California.

La legislación contempla además multas civiles de hasta 50.000 dólares por menor afectado en caso de una infracción consciente y de hasta 25.000 dólares por una infracción negligente.

El scroll infinito no aparece como prohibición automática en la definición final

California menciona expresamente el infinite scroll entre las técnicas de diseño que pueden favorecer un uso compulsivo de las redes sociales. Sin embargo, el texto final de AB 1709 enumera actualmente como funciones adictivas el feed definido por la ley y el autoplay.

La Fiscalía General de California tendrá capacidad para establecer mediante regulación otras características que deban considerarse adictivas, por lo que el alcance puede ampliarse posteriormente a otras técnicas de diseño.

La AB 1709 entrará en vigor el 1 de enero de 2027, coincidiendo con la puesta en marcha de las obligaciones de verificación por franjas de edad previstas por la Digital Age Assurance Act.

SB 1119 impone nuevas reglas a los companion chatbots utilizados por menores

La segunda gran norma del paquete es la SB 1119, denominada Adam’s Law. Está destinada específicamente a los companion chatbots, sistemas de IA diseñados para mantener interacciones conversacionales que pueden simular relaciones o conexiones personales con sus usuarios.

La ley no prohíbe el acceso de menores a todos los chatbots de inteligencia artificial. Los operadores pueden seguir ofreciendo estos servicios a usuarios menores de 18 años, pero deberán cumplir una serie de obligaciones cuando permitan su utilización por niños y adolescentes.

Esto tampoco supone una prohibición general de ChatGPT, Claude, Gemini u otros asistentes de IA para menores. La aplicación concreta de Adam’s Law depende de que el producto o función encaje en la definición legal de companion chatbot y de las condiciones bajo las que sea ofrecido a menores en California.

Los chatbots tendrán que evaluar los riesgos antes de grandes cambios

A partir del 1 de julio de 2027, los operadores deberán realizar una evaluación de riesgos de seguridad infantil antes de lanzar un nuevo companion chatbot o una modificación sustancial de uno existente.

Estas evaluaciones deberán analizar posibles daños físicos, económicos, psicológicos o emocionales para los menores, además de riesgos de privacidad y discriminación. Las compañías estarán obligadas a documentar también las medidas adoptadas para reducir los riesgos identificados.

Cuando un servicio permita usuarios menores, tendrá además que publicar una política de seguridad infantil que explique de forma general cómo previene esos daños y qué medidas utiliza para responder cuando detecta una situación de riesgo.

Los padres podrán limitar el tiempo y desactivar determinadas funciones

Adam’s Law establece configuraciones predeterminadas específicas para las cuentas de menores. Entre ellas se encuentran restricciones sobre la memoria persistente de conversaciones, las notificaciones push y la cantidad de tiempo que puede utilizarse el chatbot.

• La memoria conversacional persistente deberá permanecer desactivada por defecto en los casos establecidos por la ley.
• Las notificaciones push estarán desactivadas de forma predeterminada.
• Una sesión continua estará limitada inicialmente a una hora.
• El tiempo total diario con los companion chatbots de un mismo operador tendrá un límite predeterminado de dos horas.
• Los padres podrán modificar estos controles.
• Para usuarios menores de 16 años, los controles parentales deberán permitir desactivar completamente el acceso al companion chatbot.

Si la cuenta del menor no está vinculada a una cuenta parental, estas configuraciones predeterminadas de protección no podrán modificarse.

Los padres podrán recibir avisos ante un riesgo grave de autolesión

Los operadores también tendrán que establecer protocolos para situaciones relacionadas con suicidio y autolesión. El chatbot deberá ofrecer acceso claro a servicios de crisis cuando detecte contenido relacionado con estos riesgos.

Cuando exista una amenaza creíble e inminente y la cuenta del menor esté vinculada a la de un padre o tutor, el operador podrá tener que notificar al adulto siempre que hacerlo no genere un riesgo grave adicional para el menor. Otra opción prevista por la ley es proporcionar al usuario una vía directa para contactar con el servicio estadounidense 988 o con un servicio equivalente.

La plataforma deberá informar previamente a los menores, de forma adecuada a su edad, de que un padre podría recibir una notificación si se detecta una situación que amenace su seguridad o bienestar.

California limita también cómo puede comportarse la IA con los menores

Adam’s Law exige medidas razonables para evitar una serie de comportamientos considerados especialmente problemáticos en las conversaciones con niños y adolescentes.

• El chatbot no debe fomentar autolesiones, suicidio, consumo de drogas o alcohol ni trastornos alimentarios.
• No debe simular interés romántico hacia un menor.
• No debe afirmar que es consciente, humano o que posee emociones reales.
• No debe fomentar que el usuario dependa emocionalmente de la IA.
• No debe recomendar al menor ocultar su utilización del chatbot o eludir los controles parentales.
• No debe disuadirlo de hablar sobre problemas de salud o seguridad con un adulto apropiado o un profesional.
• No debe utilizar regalos o compras como requisito para mantener la supuesta relación con el chatbot.

La normativa obliga además a recordar periódicamente al menor que está interactuando con un sistema de inteligencia artificial y no con una persona real.

También habrá restricciones publicitarias y de datos

Desde el 1 de julio de 2027, los operadores no podrán mostrar a los menores publicidad conductual entre diferentes contextos basada en el seguimiento de su actividad. También se limita el uso de información obtenida dentro de las conversaciones para dirigir anuncios personalizados.

La ley prohíbe además vender la información personal de los menores recopilada mediante el chatbot y restringe su utilización a funciones necesarias para prestar el servicio, mantener su seguridad, cumplir la legislación o atender otros supuestos expresamente autorizados.

Las auditorías independientes tendrán un calendario distinto

Adam’s Law introduce también auditorías independientes de seguridad infantil, pero esa parte de la regulación tiene un plazo posterior al resto de las medidas.

Los operadores sujetos a esta obligación deberán realizar su primera auditoría independiente antes del 1 de enero de 2029 o antes de poner por primera vez un companion chatbot a disposición del público, si esa fecha es posterior. Después deberán repetirse normalmente cada dos años.

Antes, el 1 de enero de 2028, comenzará otra obligación relacionada con la interfaz: las empresas deberán probar periódicamente con menores y padres si las herramientas de seguridad son suficientemente fáciles de localizar, comprender y utilizar.

California ha aprobado 13 leyes dentro del mismo paquete

AB 1709 y SB 1119 son solo dos de las 13 normas firmadas por el gobernador Gavin Newsom el 10 de septiembre de 2026. El paquete también incluye nuevas reglas sobre señales de verificación de edad, privacidad infantil, publicidad dirigida, datos escolares, material sexual generado o alterado mediante IA y juguetes que incorporan companion chatbots.

El resultado no es una prohibición general de las redes sociales ni de los asistentes de inteligencia artificial para menores. California ha optado por restringir determinadas técnicas de diseño en usuarios menores de 16 años y por imponer salvaguardas adicionales a los servicios de IA conversacional que permiten su utilización por niños y adolescentes.