AI WORLD HQ
Si tienes un adolescente en casa, lo más probable es que ya haya trasteado con ChatGPT, Gemini o Claude: para los deberes, por diversión o simplemente para ver qué dice el bot. La mayoría de esas conversaciones son inofensivas. Pero de vez en cuando algo sale mal: un chatbot da un mal consejo, interpreta un personaje que no debería o no detecta que un niño está pasando por un momento realmente difícil.
Ese tipo de momento es justo lo que intenta abordar un nuevo proyecto de ley en California. OpenAI, la creadora de ChatGPT, lo ha apoyado públicamente. Esto es lo que sabemos a día de hoy y por qué importa a las familias de todas partes, no solo en California.
Qué se está proponiendo
El proyecto, conocido como California SB 1119, se centra en cómo las empresas de IA gestionan las conversaciones con menores (cualquier persona menor de 18 años). Dicho de forma sencilla, el objetivo es asegurarse de que, cuando un adolescente usa un chatbot, el bot aplique medidas de protección más estrictas que las que aplicaría con un adulto.
Cómo se traducen esas medidas en la práctica todavía se está definiendo. Normalmente incluyen cosas como pasos razonables para identificar a los usuarios más jóvenes, un trato especial en conversaciones sobre autolesiones o suicidio, y límites más estrictos en ciertas funciones de role-play o compañía para menores. La redacción exacta importa, y es justo lo que los legisladores californianos siguen negociando.
Por qué OpenAI lo apoya públicamente
No es habitual que una empresa apoye públicamente una ley que añade nuevas reglas a sus propios productos. OpenAI ha presentado el proyecto como algo lógico: reglas más claras significan expectativas más claras, tanto para los padres como para el sector de la IA.
Al mismo tiempo, OpenAI ha dejado claro que no quiere que las medidas sean tan estrictas que los adolescentes pierdan el acceso a la IA para aprender, crear o hacer los deberes. Ese equilibrio —proteger a los menores sin dejarles fuera— es la parte del debate que sigue muy abierta.
Qué significa esto para ti
- Si eres padre o madre: Aunque esta ley no se apruebe, la mayoría de las grandes herramientas de IA ya te permiten crear cuentas con límites extra para menores. En ChatGPT, por ejemplo, busca los controles parentales en Ajustes. Si se aprueba una nueva ley, este tipo de medidas dejarían de ser opcionales y pasarían a ser estándar.
- Si eres adolescente o joven adulto: Probablemente no notes un gran cambio en tu día a día. La diferencia más visible se dará cuando alguien intente iniciar un role-play romántico o de riesgo con un chatbot: esas conversaciones probablemente se cortarán o se redirigirán a recursos de ayuda.
- Si eres profesor o entrenador: Espera que más centros empiecen a redactar "políticas de uso de IA" parecidas a las que ya tienen para redes sociales. Este proyecto es una señal más de que la IA empieza a tratarse como un espacio público que necesita normas.
Un apunte sobre geografía: es un proyecto de ley de California, pero la mayoría de las grandes herramientas de IA están pensadas para mercados amplios, no para un solo estado. Las empresas suelen aplicar las reglas más estrictas en todas partes en lugar de mantener versiones distintas según la región. Si el proyecto se aprueba, lo más probable es que veas los cambios estés donde estés.
En conclusión
El apoyo de OpenAI al SB 1119 es una pieza más dentro de una conversación mucho más grande sobre cómo la IA debería tratar a los usuarios jóvenes. Nada está decidido todavía: los legisladores siguen puliendo la redacción exacta.
Un pequeño paso que puedes dar hoy: pregunta a los adolescentes que tienes cerca qué herramientas de IA usan realmente y para qué. Esa conversación de cinco minutos vale más que cualquier ley concreta.