La ia y los deepfakes exigen a las plataformas digitales reforzar la protección del menor en internet
El avance imparable de la inteligencia artificial está transformando la manera en que los menores interactúan en línea, pero también está abriendo la puerta a riesgos que evolucionan más rápido que los mecanismos de seguridad tradicionales. En el marco del Día del Niño, la firma de verificación de identidad Sumsub ha lanzado una advertencia contundente: los deepfakes y la suplantación de identidad están creciendo a un ritmo alarmante en Latinoamérica, y México encabeza esta preocupante tendencia con un incremento cercano al 500% en el uso de esta tecnología para fines maliciosos.
De acuerdo con datos de la compañía, la conectividad infantil en México alcanza ya al 77% de los menores, lo que significa que la mayoría de los niños y niñas del país tienen acceso a internet, muchas veces sin la supervisión adecuada ni filtros efectivos. Este escenario, combinado con la facilidad con que los delincuentes digitales pueden generar contenido fotorrealista mediante deepfakes, está superando la capacidad de respuesta de los controles de edad y verificación que actualmente implementan las plataformas. “Los mecanismos tradicionales, como los cuestionarios estáticos o la simple validación de documentos, son fácilmente evadibles por los atacantes”, señala el comunicado de Sumsub.
El problema no es menor. Los deepfakes —videos, audios o imágenes generados por IA que imitan con realismo a una persona real— se han convertido en una herramienta recurrente para el grooming, la extorsión sexual y la suplantación de identidad de menores. En Latinoamérica, el uso de esta tecnología creció 201% en el último periodo medido, pero México duplica ese promedio con un salto de casi 500%, lo que coloca al país en una posición crítica en materia de seguridad digital infantil. La facilidad de acceso a herramientas de IA generativa, muchas de ellas gratuitas y sin controles de uso, ha democratizado la creación de contenido falso, pero también ha multiplicado los vectores de ataque contra los más vulnerables.
Frente a este panorama, la industria tecnológica enfrenta el desafío de evolucionar hacia modelos de verificación más dinámicos y adaptativos. Sumsub propone un enfoque basado en monitoreo continuo, análisis de comportamiento y uso de inteligencia artificial para la prevención, en lugar de depender exclusivamente de barreras estáticas. “La verificación de identidad debe ser un proceso vivo, que detecte anomalías en tiempo real y se anticipe a los intentos de manipulación”, explica la empresa, que desarrolla soluciones de verificación remota y prevención de fraude.
La urgencia de esta transformación se refleja en la propia evolución de las amenazas. Mientras que hace unos años los deepfakes requerían conocimientos técnicos avanzados y equipos costosos, hoy cualquier persona con acceso a una aplicación móvil puede generar contenido sintético de alta calidad. Esto ha provocado que los delincuentes utilicen estas herramientas para crear perfiles falsos en redes sociales, suplantar la identidad de menores en plataformas de juegos o incluso simular conversaciones con padres o tutores para obtener información sensible.
Para las familias, la recomendación de los expertos es clara: fomentar una comunicación abierta con los hijos sobre los riesgos digitales, establecer controles parentales en los dispositivos y mantenerse informados sobre las nuevas formas de engaño que surgen con la IA. Sin embargo, la responsabilidad no puede recaer únicamente en los hogares. Las plataformas digitales, los reguladores y la industria tecnológica en su conjunto deben acelerar la adopción de sistemas de verificación más robustos, que no solo detecten la edad del usuario, sino que también sean capaces de identificar patrones de comportamiento sospechosos y bloquear la creación o difusión de contenido falso.
En un contexto donde la inteligencia artificial avanza a pasos agigantados, la seguridad infantil en internet no puede quedarse rezagada. El Día del Niño nos recuerda que proteger a los menores no es solo una responsabilidad familiar, sino un compromiso colectivo que exige la colaboración entre tecnología, legislación y conciencia social.