- España ha propuesto en Ginebra la creación de una coalición mundial bajo el paraguas de la ONU para proteger a la infancia de los riesgos algorítmicos.
- El Gobierno español ha aprobado una nueva ley que actualiza la protección del honor y la intimidad, penalizando específicamente los deepfakes sexuales.
- Informes de UNICEF advierten que millones de adolescentes ya utilizan la IA para tareas escolares y apoyo emocional, a menudo sin supervisión adulta.
- La iniciativa internacional cuenta con el respaldo inicial de Francia, Kenia y la Unión Europea para establecer criterios de diseño seguro.
La rápida expansión de los sistemas inteligentes ha generado un escenario donde los más jóvenes conviven con algoritmos avanzados mucho antes de que existan mecanismos de defensa sólidos. Ante esta realidad, se busca que el desarrollo tecnológico no avance a costa de la vulnerabilidad de la infancia, especialmente en entornos donde la manipulación algorítmica y el acceso a contenidos inadecuados son riesgos latentes. España se ha posicionado a la vanguardia de este movimiento, defendiendo que la gobernanza de estas herramientas es una prioridad absoluta para evitar errores del pasado cometidos con otras plataformas digitales.
Durante el reciente encuentro en Ginebra, se ha puesto de manifiesto que la protección de los niños no puede depender de acciones aisladas de cada país, sino de un compromiso global coordinado. El objetivo principal es garantizar que las aplicaciones y servicios digitales respeten los derechos fundamentales desde su fase de diseño, evitando que los menores se conviertan en sujetos de experimentación de tecnologías no reguladas. Esta postura busca equilibrar los beneficios educativos de la IA con la necesidad de establecer barreras infranqueables frente a posibles abusos o sesgos perjudiciales.
La propuesta española de una coalición mundial en la ONU
El Gobierno español ha aprovechado el marco del Diálogo Global sobre Gobernanza de la Inteligencia Artificial en Naciones Unidas para lanzar una propuesta de coalición internacional. Esta alianza, que ya ha recibido el visto bueno de socios como Francia, Kenia y la propia Unión Europea, pretende fijar unos estándares mínimos de seguridad que las empresas tecnológicas deban cumplir a nivel mundial. No se trata solo de prohibir, sino de establecer un lenguaje común que obligue a los desarrolladores a considerar el impacto de sus productos en el desarrollo emocional y social de los adolescentes.
Aunque esta iniciativa todavía no tiene un carácter sancionador inmediato, marca una hoja de ruta clara para futuras regulaciones que podrían cambiar las reglas del juego para las grandes tecnológicas. La idea es que la cooperación entre gobiernos y sociedad civil permita identificar rápidamente patrones de acoso o sistemas de recomendación que puedan resultar adictivos. Es fundamental que la tecnología sea un derecho mayoritario y no un arma que explote las vulnerabilidades neurológicas de quienes todavía están en pleno proceso de crecimiento.
Nuevas leyes en España para frenar los deepfakes
De forma paralela a la estrategia exterior, España ha movido ficha internamente con la aprobación de una normativa que actualiza la protección del honor y la propia imagen. Esta ley aborda de lleno el problema de los contenidos manipulados, conocidos popularmente como deepfakes, que afectan de manera desproporcionada a las mujeres y menores. A partir de ahora, la difusión de imágenes o voces creadas artificialmente sin consentimiento será considerada una intromisión ilegítima, salvo en casos muy específicos de ficción o sátira que estén debidamente señalizados para no engañar al público.
Un punto clave de este cambio legislativo es el establecimiento de los 16 años como la edad mínima para prestar consentimiento sobre la propia imagen en entornos digitales. Con esto se busca que los menores tengan un paraguas jurídico mucho más robusto frente a la viralización de contenidos que puedan dañar su reputación. Además, los tribunales podrán ordenar la retirada inmediata de estos materiales fraudulentos como medida cautelar, agilizando la respuesta ante situaciones de humillación o extorsión digital que antes quedaban en un limbo legal.
Riesgos detectados y el papel de la educación digital
Estudios recientes de organismos internacionales como UNICEF revelan que millones de adolescentes ya emplean chatbots para resolver dudas académicas e incluso para buscar consejo emocional. Este fenómeno es preocupante porque existe una brecha digital considerable entre padres e hijos, lo que dificulta que las familias puedan supervisar o guiar el uso de estas herramientas. La inteligencia artificial no solo personaliza respuestas, sino que puede llegar a crear vínculos de dependencia en usuarios que aún no tienen la capacidad crítica para distinguir entre un apoyo humano y un proceso puramente matemático.
Los expertos coinciden en que la prohibición total rara vez es la solución más eficaz, ya que los jóvenes suelen encontrar atajos para acceder a las plataformas. En su lugar, se apuesta por una alfabetización digital profunda que enseñe a los niños cómo funcionan realmente los algoritmos y qué hacen las empresas con su información personal. Crear ciudadanos resilientes que sepan identificar intentos de manipulación o publicidad encubierta es tan importante como tener leyes estrictas que vigilen el mercado tecnológico desde dentro.
La seguridad de los menores en la era de la inteligencia artificial depende de una combinación equilibrada entre la vigilancia de las administraciones, el diseño ético por parte de las empresas y el acompañamiento constante en el ámbito familiar. Mientras España lidera la creación de un frente común en Naciones Unidas y endurece sus leyes contra el contenido manipulado, el foco sigue puesto en evitar que la innovación tecnológica pase por encima de los derechos de la infancia. Es imperativo que las plataformas asuman su responsabilidad y que la regulación internacional avance al mismo ritmo que los procesadores, garantizando un entorno digital donde el aprendizaje y la creatividad no impliquen riesgos innecesarios para las generaciones venideras.
