Según una investigación del Wall Street Journal, la red social Instagram recomienda videos sexuales a cuentas de niños de 13 años, a pesar de que la compañía había anunciado que brinda contenidos apropiados para su edad. Las pruebas realizadas indican que el algoritmo de la plataforma recomienda regularmente videos sexuales a cuentas de adolescentes apenas minutos después de iniciar sesión por primera vez.
Los creadores de contenido sexual para adultos comenzaron a aparecer en las sugerencias de videos de usuarios de 13 años en tan solo tres minutos. Después de menos de 20 minutos viendo reels, la página de inicio de las cuentas de prueba estuvo dominada por promociones de cuentas centradas en contenido sexualizado. Las pruebas en productos de videos cortos de Snapchat y TikTok no mostraron el mismo contenido sexualizado para usuarios menores de edad.
A pesar de los resultados, la empresa matriz de Instagram, Meta, descartó los hallazgos y consideró los experimentos como artificiales. Sin embargo, análisis internos realizados por empleados de Meta identificaron problemas similares, concluyendo que Instagram muestra más contenido inapropiado a usuarios jóvenes que a adultos.
Un análisis interno sugiere que la forma más efectiva de evitar que se entregue contenido inapropiado a usuarios menores de edad sería crear un sistema de recomendación completamente separado para adolescentes. A pesar de esta recomendación, Meta no siguió esa propuesta. En respuesta a estas preocupaciones, Nueva York está a punto de aprobar una ley para restringir el algoritmo de las redes sociales para los menores de edad, considerando que el contenido que proporcionan es adictivo y perjudicial.
El cirujano general de Estados Unidos, Vivek Murthy, coincide en que el contenido de redes sociales puede ser tan perjudicial como el tabaco o las apuestas. Murthy aboga por introducir avisos sobre la salud mental en las redes sociales, similar a las advertencias en las cajetillas de tabaco y botellas de alcohol. En cuanto a las pautas de la empresa, se establece que no se debe recomendar contenido sexualmente sugerente a usuarios de ninguna edad a menos que provenga de cuentas seguidas por los propios usuarios. Además, desde enero, Instagram prohibió mostrar contenido sexual explícito a adolescentes menores de 16 años.
