La Defensoría del Pueblo de la Ciudad de Buenos Aires presentó un nuevo informe institucional que analiza las experiencias de adolescentes en entornos digitales y advierte sobre el crecimiento de prácticas de violencia en línea, especialmente aquellas vinculadas con la circulación de imágenes manipuladas mediante inteligencia artificial, conocidas como deepfakes.
El estudio, titulado “Cuando la imagen deja de ser propia. Deepfakes, exposición y violencia digital en adolescentes”, fue elaborado con el objetivo de aportar herramientas para el diseño de políticas públicas orientadas a la protección de los derechos de niñas, niños y adolescentes en el ámbito digital.
La investigación combinó una encuesta realizada a 912 estudiantes de entre 12 y 19 años de la Ciudad de Buenos Aires, entrevistas en profundidad y el análisis de casos abordados por la propia Defensoría. Los resultados muestran que las tecnologías digitales ocupan un lugar central en la vida cotidiana de los jóvenes: siete de cada diez adolescentes pasan entre una y cinco horas diarias conectados, mientras que un 19% supera las seis horas de uso. En ese contexto, el 82% manifestó sentirse cómodo al interactuar en redes sociales.
Sin embargo, la familiaridad con las plataformas digitales convive con una elevada exposición a situaciones de violencia. Casi la mitad de los adolescentes consultados (49%) afirmó haber atravesado al menos una experiencia de agresión en línea. Entre las más frecuentes aparecen los comentarios ofensivos (25%) y la exclusión de grupos virtuales (24%).
El informe también señala diferencias de género en las formas de violencia experimentadas. Mientras los varones reportan una mayor exposición a insultos y amenazas, las mujeres se ven más afectadas por prácticas relacionadas con la exclusión, el daño a la reputación y la difusión no consentida de imágenes.
Uno de los aspectos centrales del trabajo es el análisis de los deepfakes, una tecnología que permite crear imágenes o videos falsos mediante inteligencia artificial. Aunque solo el 1% de los encuestados indicó haber sido víctima directa de este tipo de manipulación, el fenómeno aparece como una preocupación creciente: el 13% aseguró conocer casos ocurridos en su entorno escolar y el 43% afirmó haber recibido imágenes o videos alterados con IA. A su vez, apenas el 35% señaló que suele verificar la autenticidad de esos contenidos antes de compartirlos o interactuar con ellos.
Las respuestas frente a situaciones de violencia digital se concentran principalmente en el ámbito de los pares. El 66% de los adolescentes indicó que evita difundir contenidos dañinos y el 56% manifestó brindar apoyo a la persona afectada. En contraste, solo el 26% recurre a adultos, docentes o autoridades escolares para buscar ayuda o denunciar lo ocurrido.
El impacto de estas experiencias también se refleja en la percepción de sus consecuencias. El 82% de los participantes reconoció efectos negativos sobre la salud mental, mientras que el 64% identificó consecuencias en las relaciones sociales. Frente a este escenario, los adolescentes señalaron como prioritarias las estrategias de prevención y educación digital (63%), así como la disponibilidad de dispositivos de acompañamiento psicológico (60%).
El informe destaca además el papel de la escuela como un ámbito clave para la detección temprana, la prevención y la intervención frente a situaciones de violencia digital. Según la Defensoría, los resultados evidencian que las prácticas asociadas a la manipulación de imágenes mediante inteligencia artificial constituyen un fenómeno complejo que requiere respuestas integrales por parte del Estado, las instituciones educativas, las familias y las plataformas tecnológicas.
Entre las recomendaciones, el organismo plantea la necesidad de fortalecer la alfabetización digital crítica, mejorar los mecanismos institucionales de respuesta y avanzar en marcos regulatorios que definan responsabilidades para las plataformas digitales. El objetivo, concluye el documento, es garantizar entornos digitales más seguros y protectores para niñas, niños y adolescentes.
