El diseño de los modelos tecnológicos debe incorporar por defecto medidas que preserven a niños y adolescentes
Imagen telefonica.com/es
elpais.com/15/09/2026
El entorno digital ya no es un espacio separado en la vida de niñas, niños y adolescentes. Se ha convertido en uno de los entornos en los que crecen, aprenden, juegan, establecen relaciones y construyen una parte de su identidad. Y no es neutral: responde a decisiones sobre cómo se organiza, qué se prioriza y bajo qué intereses se desarrolla.
La inteligencia artificial abre una nueva etapa
Los sistemas capaces de conversar, aconsejar, recomendar, crear imágenes o mantener una relación continua con sus usuarios se incorporan progresivamente a la vida cotidiana de la infancia. Ofrecen posibilidades considerables para el aprendizaje, la creatividad y el acceso al conocimiento.
Pero también modifican la naturaleza de los riesgos a los que están expuestas las niñas y los niños. Porque esos riesgos no dependen del uso individual: también están condicionados por la forma en que los servicios han sido concebidos y por los incentivos que orientan su funcionamiento.
Tras la economía de la atención surge una economía del apego, en la que determinados servicios digitales pueden establecer interacciones cada vez más personalizadas, permanentes y, en ocasiones, emocionales.
Para la infancia cuyas capacidades de discernimiento y autonomía aún están en desarrollo, esta evolución exige una responsabilidad particular.
Al mismo tiempo, la violencia contra la infancia también ha cambiado de escala y de forma. Grooming, sextorsión, ciberacoso, difusión de material de abuso sexual infantil, deepfakes de carácter sexual y sistemas de recomendación que exponen a las personas menores a contenidos inadecuados: las tecnologías pueden amplificar formas de violencia ya existentes y generar otras nuevas.
Estos fenómenos atraviesan las fronteras
Por tanto, nuestra respuesta también debe trascenderlas.
Defendemos un principio sencillo: no corresponde a las niñas y niños —ni a sus familias— adaptarse a tecnologías que no han sido diseñadas teniendo en cuenta sus necesidades. Las tecnologías a las que pueden acceder deben concebirse, desde el origen, teniendo en cuenta sus derechos, su seguridad y su desarrollo. La responsabilidad de garantizarlo no puede trasladarse a quienes las utilizan: debe comenzar en quienes las diseñan y las ponen en circulación.
Este es el principio de Child Safety by Design (la seguridad de los niños por diseño).
Este enfoque supone un cambio de método.
Durante demasiado tiempo, la protección de la infancia se ha considerado principalmente después de diseñar los productos: controles parentales, moderación, mecanismos de denuncia y reparación de los daños.
Estos instrumentos siguen siendo indispensables. Sin embargo, a menudo intervienen cuando el riesgo ya existe o incluso cuando el daño ya se ha producido.
Ahora debemos actuar desde el principio
Del mismo modo que la protección de datos o la ciberseguridad se han convertido progresivamente en parámetros de diseño de las tecnologías, la protección de la infancia debe convertirse en un requisito de diseño por defecto.
Esto implica, entre otras cosas, diseñar servicios adaptados a la edad y al desarrollo; reducir los mecanismos que pueden favorecer usos compulsivos; prevenir contactos peligrosos; proteger los datos personales; limitar la exposición a contenidos perjudiciales; garantizar mecanismos accesibles de denuncia; e incorporar salvaguardas específicas en los sistemas de inteligencia artificial.
Pero Child Safety by Design no debe convertirse en una nueva lista de requisitos de cumplimiento.
Debe convertirse en un principio de gobernanza
La protección de la infancia en el entorno digital no es solo una cuestión de moderación o control parental. Abarca las decisiones de diseño, los modelos de negocio, los sistemas de recomendación, el uso de los datos y los modelos de inteligencia artificial y, también, los incentivos económicos que orientan su desarrollo
Por ello, afecta directamente a los directivos de las empresas que desarrollan estas tecnologías, a los consejos de administración que supervisan sus riesgos, a los inversores que las financian, a los reguladores que establecen las normas y a los poderes públicos responsables de proteger los derechos de la infancia.
El riesgo para la infancia debe convertirse en un riesgo que las organizaciones sepan identificar, evaluar, prevenir y gobernar. Y sobre el que las empresas deban rendir cuentas de manera efectiva.
Esta evolución no significa oponer innovación y protección.
Al contrario.
La historia de las grandes transformaciones tecnológicas demuestra que la confianza es una condición para su desarrollo sostenible. Pero esa confianza no puede descansar únicamente en compromisos voluntarios. Necesita reglas claras, transparencia, responsabilidad y capacidad de supervisión pública. Las empresas capaces de integrar la protección de los niños desde la fase de diseño contribuirán a construir un entorno digital más seguro y una innovación más sólida y responsable.
Europa ha comenzado a establecer bases importantes. Otros Estados e instituciones internacionales también están avanzando. Sin embargo, los niños utilizan las mismas plataformas, las mismas aplicaciones y, cada vez más, los mismos sistemas de inteligencia artificial, con independencia de las fronteras.
Proponemos iniciar una nueva etapa: consolidar una base internacional de principios comunes para garantizar los derechos de la infancia en el entorno digital.
Los Estados, las organizaciones internacionales, los reguladores, las empresas tecnológicas, los investigadores, la sociedad civil y las propias niñas, niños y jóvenes deben poder contribuir a su definición.
Esta base debe partir de principios universales: el interés superior de la infancia como consideración primordial; la protección por defecto; la proporcionalidad en función de la edad y el desarrollo; la prevención de los riesgos desde el diseño; la transparencia y la rendición de cuentas; y la evaluación periódica del impacto de las tecnologías en la infancia; así como la participación de las niñas, niños y adolescentes en conformidad con las normas internacionales.
Así pasaremos de una lógica de reparación a una lógica de prevención
Esta es una de las grandes decisiones colectivas de nuestro tiempo: decidir para qué y para quién queremos el progreso tecnológico. La innovación no puede medirse únicamente por su capacidad de avanzar más rápido, generar beneficios o abrir nuevos mercados. Debe medirse por su capacidad de ampliar derechos, reducir desigualdades y mejorar la vida de quienes crecerán con ella. La tecnología debe estar al servicio de las personas y del interés general, y no las personas al servicio de los intereses que hoy gobiernan buena parte de la tecnología.
Las y los niños solo tienen una infancia
___________________
Sira Rego es ministra de Juventud e Infancia del Gobierno de España; Sarah El Haïry es alta comisionada para la Infancia de Francia, y Najat Maalla M’jid es representante Especial del secretario general de las Naciones Unidas para la Violencia contra los Niños.
_________
Fuente:
