Sexualización de niños y pedofilia en YouTube
También en noviembre de 2017, se reveló en los medios de comunicación que muchos videos con niños, a menudo subidos por los mismos menores, y que mostraban contenido inocente, como niños jugando con juguetes o haciendo gimnasia, estaban atrayendo comentarios de pedófilos. con depredadores que encuentran los videos a través de listas de reproducción privadas de YouTube o que ingresan ciertas palabras clave en ruso. Otros videos centrados en los niños que se subieron originalmente a YouTube comenzaron a propagarse en la web oscura y se cargaron o insertaron en foros que se sabe que son utilizados por pedófilos.
Como resultado de la controversia, que se sumó a la preocupación por «Elsagate», varios anunciantes importantes cuyos anuncios se publicaban en contra de esos videos congelaron el gasto en YouTube. En diciembre de 2018, The Times encontró más de 100 casos de acicalamiento en los que los niños fueron manipulados en comportamientos sexualmente implícitos (como quitarse la ropa, adoptar poses abiertamente sexuales y tocar a otros niños de manera inapropiada) por extraños. Después de que un periodista marcó los videos en cuestión, la mitad de ellos fueron eliminados y el resto fue eliminado después de que The Times se puso en contacto con el departamento de relaciones públicas de YouTube.
En febrero de 2019, el vlogger de YouTube Matt Watson identificó un «agujero de gusano» que haría que el algoritmo de recomendación de YouTube atrajera a los usuarios a este tipo de contenido de video y que todo el contenido recomendado por ese usuario incluyera solo este tipo de videos. La mayoría de estos videos tenían comentarios de depredadores sexuales con marcas de tiempo de cuándo los niños se muestran en posiciones comprometedoras o haciendo comentarios indecentes. En algunos casos, otros usuarios habían vuelto a subir el video en un formato no listado pero con enlaces entrantes de otros videos, y luego los monetizaron, propagando esta red. A raíz de la controversia, el servicio informó que habían eliminado más de 400 canales y decenas de millones de comentarios, y denunciaron a los usuarios infractores a las fuerzas del orden y al Centro Nacional para Menores Desaparecidos y Explotados. Un portavoz explicó que «cualquier contenido, incluidos los comentarios, que ponga en peligro a los menores es aborrecible y tenemos políticas claras que lo prohíben en YouTube. Hay más por hacer y seguimos trabajando para mejorar y detectar el abuso más rápidamente». A pesar de estas medidas, AT&T, Disney, Dr. Oetker, Epic Games y Nestlé retiraron su publicidad de YouTube.
Posteriormente, YouTube comenzó a desmonetizar y bloquear la publicidad sobre los tipos de videos que han generado estos comentarios depredadores. El servicio explicó que se trataba de una medida temporal mientras exploran otros métodos para eliminar el problema. YouTube también comenzó a marcar los canales que presentan predominantemente a niños y a deshabilitar preventivamente sus secciones de comentarios. Los «socios de confianza» pueden solicitar que se vuelvan a habilitar los comentarios, pero el canal será responsable de moderar los comentarios. Estas acciones se dirigen principalmente a videos de niños pequeños, pero los videos de niños mayores y adolescentes también pueden estar protegidos si contienen acciones que pueden interpretarse como sexuales, como la gimnasia. YouTube declaró que también estaba trabajando en un mejor sistema para eliminar comentarios en otros canales que coincidieran con el estilo de los depredadores de niños.
Un intento relacionado de marcar algorítmicamente videos que contienen referencias a la cadena «CP» (una abreviatura de pornografía infantil) resultó en algunos falsos positivos prominentes que involucraban temas no relacionados con la misma abreviatura, incluidos videos relacionados con el videojuego para dispositivos móviles Pokémon Go (que usa » CP «como abreviatura de la estadística» Combat Power «) y Club Penguin. YouTube se disculpó por los errores y restableció los videos afectados. Por otra parte, los trolls en línea han intentado que los videos se marquen para su eliminación o eliminación mediante comentarios con declaraciones similares a las que habían dicho los depredadores de niños; esta actividad se convirtió en un problema durante la rivalidad PewDiePie vs T-Series a principios de 2019. YouTube declaró que no toman medidas en ningún video con estos comentarios, excepto aquellos que han marcado que probablemente atraigan la actividad de depredadores infantiles.
En junio de 2019, The New York Times citó a investigadores que encontraron que a los usuarios que vieron videos eróticos se les podrían recomendar videos aparentemente inocuos de niños. Como resultado, el senador Josh Hawley declaró planes para introducir una legislación federal que prohibiría que YouTube y otros sitios para compartir videos incluyan videos que incluyan principalmente a menores como videos «recomendados», excluyendo aquellos que fueron «producidos profesionalmente», como videos de talentos televisados. muestra. YouTube ha sugerido planes potenciales para eliminar todos los videos con niños del sitio principal de YouTube y transferirlos al sitio de YouTube Kids, donde tendrían controles más estrictos sobre el sistema de recomendación, así como otros cambios importantes en el sitio principal de YouTube para la función recomendada. y sistema de reproducción automática.