- Más de la mitad de los videos de la sección "Para ti" relacionados con problemas de salud mental, romantizan, normalizan o animan al suicidio.
- El propio modelo de negocio de TikTok es intrínsecamente abusivo y privilegia la interacción para retener a las personas usuarias en la plataforma, con el fin de recolectar cada vez más datos sobre ellas.
- La app aplica protecciones desiguales a los usuarios de diferentes partes del mundo. En Argentina la protección es ínfima en comparación con los países de la Unión Europea.
El sistema de recomendación de contenidos de TikTok y su modelo de negocios suponen un peligro para sus jóvenes usuarios al amplificar contenidos sobre la depresión y el suicidio que pueden empeorar problemas de salud mental preexistentes. Así lo muestran dos informes complementarios publicados hoy por Amnistía Internacional.
Los informes —Empujados a la oscuridad: El feed “Para ti” de TikTok fomenta la autolesión y la ideación suicida (en inglés) y “Siento que no se me protege”: Emboscada en la red de vigilancia de TikTok (en español) —revelan los abusos que sufren los niños y jóvenes que usan la app y las formas en que estos abusos son causados por su algoritmo.
Las conclusiones proceden de una investigación técnica conjunta con el Algorithmic Transparency Institute (ATI) y la Conferencia Nacional sobre Ciudadanía y Análisis Forense de la Inteligencia Artificial.
“Para ti” y salud mental
La investigación contó con una etapa técnica y otra manual. La técnica se llevó a cabo con más de treinta cuentas automatizadas creadas para representar a jóvenes de 13 años de Kenia y EE.UU. con el fin de medir los efectos del sistema de recomendación de TikTok en los usuarios jóvenes. Además, se realizó una simulación manual con una cuenta en Kenia, otra en Filipinas y otra en Estados Unidos.
Empujados a la oscuridad: El feed “Para ti” de TikTok fomenta la autolesión y la ideación suicida detalla cómo la búsqueda incesante de la atención de los usuarios por parte de TikTok corre el riesgo de exacerbar problemas de salud mental como la depresión, la ansiedad y las autolesiones.
El feed "Para ti" es una página altamente personalizada y de desplazamiento infinito de contenidos recomendados algorítmicamente, elegidos para reflejar lo que el sistema dedujo que son los intereses del usuario.
La investigación técnica reveló que, tras utilizar la plataforma TikTok 5 o 6 horas, prácticamente 1 de cada 2 vídeos mostrados estaba relacionado con la salud mental y era potencialmente nocivo, cifra que multiplicaba aproximadamente por 10 el volumen presentado a cuentas sin interés por la salud mental.
Este efecto de "espiral” fue aún más rápido cuando los investigadores volvieron a ver manualmente los videos relacionados con salud mental sugeridos a las cuentas de prueba que imitaban a usuarios de 13 años de Kenia, Filipinas y Estados Unidos.
Entre los 3 y los 20 minutos de la investigación manual, más de la mitad de los videos de la sección "Para ti" estaban relacionados con problemas de salud mental que romantizaban, normalizaban o fomentaban el suicidio.
Adictivo por diseño
Los debates de grupos focales, las entrevistas y las simulaciones de cuentas de niños y niñas de Kenia, Filipinas y Estados Unidos, así como los tests existentes en los campos de la investigación sobre los daños de las redes sociales y la salud pública, revelan cómo el diseño de la plataforma de TikTok fomenta el uso poco saludable de la aplicación.
Un participante del grupo de discusión explicó: "Los contenidos que veo me hacen pensar [aún] más, como los vídeos en los que alguien está enfermo o se autodiagnostica. Afecta a mi mentalidad y me hace sentir que tengo los mismos síntomas y empeora mi ansiedad. Y ni siquiera los busco (los videos), simplemente aparecen en mi feed".
Los niños y jóvenes entrevistados en Kenia dijeron que sentían que su uso de TikTok afectaba a sus deberes escolares, a su tiempo social con los amigos y los llevaba a desplazarse por sus feeds a altas horas de la noche en lugar de dormir lo suficiente.
Estos testimonios fueron corroborados por varios psicólogos de adolescentes consultados por Amnistía Internacional como parte de la investigación.
Aunque las respuestas individuales de las y los jóvenes y los factores contextuales que afectan a su uso pueden variar, al igual que otras plataformas de medios sociales, el diseño de TikTok maximiza el tiempo que los usuarios pasan en la plataforma.
La red de vigilancia: privacidad
“Siento que no se me protege”: Emboscada en la red de vigilancia de TikTok muestra cómo las prácticas de recolección de datos de TikTok, que vulneran los derechos, apuntalan estas prácticas nocivas de captación de personas usuarias y se sustentan en tales prácticas.
La investigación de Amnistía Internacional muestra que el propio modelo de negocio de TikTok es intrínsecamente abusivo y privilegia la interacción para retener a las personas usuarias en la plataforma, con el fin de recopilar cada vez más datos. Además, la app solo aplica sus protecciones en determinadas partes del mundo. Así, los niños que viven en países con una regulación débil están sujetos a los peores abusos de su derecho a la privacidad.
"El abusivo modelo de negocios de TikTok falla en todo el mundo. Sin embargo, las investigaciones demuestran que hay países en donde los niños se ven más desprotegidos debido a la laxitud de sus regulaciones. Esta falla legal permite que haya jóvenes aún más expuestos a prácticas manipuladoras y adictivas. Nos preocupa sobremanera la salud de las infancias, por eso hemos realizado no sólo estas investigaciones a nivel global, sino que prontamente revelaremos el informe que llevamos adelante en Argentina”, adelantó Mariela Belski, directora ejecutiva de Amnistía Internacional Argentina.
Pedidos a TikTok
TikTok debe respetar los derechos de todos sus usuarios más jóvenes, no solo los de Europa, prohibiendo toda la publicidad dirigida a los menores de 18 años a nivel global.
También debe dejar de hiperpersonalizar el feed "Para ti" por defecto y, en su lugar, permitir que los usuarios elijan activamente qué intereses conforman sus recomendaciones de contenido en función de su consentimiento informado y de si desean un feed personalizado.
Aunque Amnistía Internacional pide a TikTok que adopte estas medidas urgentes hacia un modelo de negocio respetuoso de los derechos, también es necesaria una regulación vinculante para proteger y hacer realidad los derechos de la infancia y la juventud.
La mejor manera de proteger a los niños y niñas del abuso de sus datos personales en Internet es que los gobiernos prohíban por ley toda publicidad dirigida basada en la recopilación invasiva de datos personales.
En respuesta, TikTok dirigió a Amnistía Internacional a sus “Directrices de la Comunidad”, que establecen qué tipos de contenidos están prohibidos y, por tanto, si se denuncian o identifican de otro modo, se retiran de la plataforma. Entre ellos se incluye la prohibición de contenidos que "muestren, promuevan o proporcionen instrucciones sobre el suicidio y las autolesiones, así como retos, desafíos, juegos y pactos relacionados", "muestren o promuevan bulos sobre el suicidio y las autolesiones" y "compartan planes para el suicidio y las autolesiones".
TikTok declaró que está en proceso de desarrollar un "proceso de diligencia debida (gestiones), que incluirá la realización de evaluaciones periódicas del impacto sobre los derechos humanos". La empresa no dio detalles sobre qué riesgos específicos para los derechos humanos de los niños y jóvenes usuarios identificó. El hecho de que la empresa no cuente con un proceso de diligencia es un claro incumplimiento de su responsabilidad de respetar derechos.
Información complementaria
Ambos informes se suman a anteriores investigaciones de Amnistía Internacional. Gigantes de la vigilancia puso de manifiesto que el modelo de negocio de Facebook y Google es intrínsecamente incompatible con el derecho a la intimidad y supone una amenaza para otros derechos, como la libertad de opinión y de expresión, la libertad de pensamiento y el derecho a la igualdad y a la no discriminación.
Además, hay informes de Amnistía Internacional sobre Myanmar: La atrocidad social: Meta y el derecho a la reparación de los rohingya y La inacción de Meta contribuyó a la comisión de abusos contra la comunidad tigriana durante el conflicto en el norte de Etiopía se reveló que el modelo de negocio de la plataforma Facebook basado en la interacción puede tener efectos. Ambos revelan cómo el modelo de negocio de la plataforma Facebook basado en la interacción puede tener efectos devastadores mediante la amplificación de contenidos extremistas que incitan a la violencia, el odio y la discriminación, contribuyendo en última instancia a graves violaciones de derechos humanos y abusos.
En conjunto, estos reportes contribuyen a la creciente base de pruebas de la campaña mundial de Amnistía Internacional para que las empresas rindan cuentas y reparen los abusos contra los derechos humanos asociados al modelo de negocio basado en la vigilancia de Meta, Google, TikTok y otras plataformas de "grandes tecnologías".
