Una investigación de Sky News encontró material antisemita, racista y supremacista blanco en podcasts en uno de los servicios de transmisión más populares, Spotify.
La compañía dijo que no permite contenido de odio en su plataforma.
Pero encontramos podcasts que totalizan varios días de escucha que promueven puntos de vista extremos como el racismo científico, la negación del Holocausto y las teorías de conspiración antisemitas de extrema derecha.
Y aunque parte del material más impactante fue enterrado dentro de episodios que duraron horas, en algunos casos, se podían encontrar insultos explícitos en los títulos y descripciones de los episodios, mientras que las ilustraciones del álbum mostraban imágenes adoptadas por supremacistas blancos.
Spotify eliminó el contenido después de que lo informamos al gigante de la transmisión.
Pero muchos de estos podcasts permanecen en línea en otros lugares, incluso en directorios en gran parte no moderados como Google Podcasts.
Google no respondió a nuestra solicitud de comentarios.
Y a los expertos les preocupa que la naturaleza “fácilmente accesible” de este material pueda atraer a la gente hacia el extremismo.
Advertencia de contenido: este artículo incluye referencias al lenguaje e ideas racistas, antisemitas y de supremacía blanca.
Uno de los primeros resultados regresó en Spotify cuando la búsqueda de la frase “Plan Kalergi” nos dirigió a una serie que, en ese momento, tenía 76 episodios listados en la plataforma.
El llamado “Plan Kalergi” es una teoría de conspiración antisemita de extrema derecha que alega que las élites judías están detrás de un plan deliberado para borrar la raza blanca europea mediante la promoción de la inmigración masiva.
Hemos optado por no nombrar ninguna de las series de podcasts mencionadas en este artículo para evitar publicitar su contenido.
En un episodio, el orador promueve explícitamente el Plan Kalergi.
Afirma que la élite europea ha sido “reemplazada” por una “nueva nobleza urbana” formada por élites judías.
El monólogo de nueve minutos termina con un llamado explícito a la violencia contra el pueblo judío.
Otro episodio del mismo creador avanza la idea racista e infundada de que los blancos son biológicamente superiores a las personas de color.
“Hay algo sobre [white men] eso nos hace privilegiados, está en nuestra sangre ”, dice.
Promueve este punto de vista, sin oposición, durante 13 minutos. El monólogo está plagado de lenguaje deshumanizador y hace comparaciones que son demasiado ofensivas para ser incluidas en este artículo.
Esta bandera de la mitología nórdica ha sido adoptada por algunos supremacistas blancos.
La carátula del álbum de la serie representa la bandera del cuervo, un símbolo que se encuentra originalmente en la mitología nórdica, pero que algunos supremacistas blancos se han apropiado en los últimos años.
Mostramos nuestros hallazgos a Maurice Mcleod de Race on the Agenda, una organización benéfica de investigación social que se enfoca en temas que afectan a las minorías étnicas en el Reino Unido.
“Esto es increíblemente peligroso”, dijo a Sky News.
“A principios de mayo tuvimos la mayor [monthly] número de incidentes denunciados de antisemitismo y, en el año hasta marzo, tuvimos 115.000 incidentes denunciados de delitos motivados por prejuicios. Eso es solo lo que se informa, que siempre es solo la punta del iceberg “.
“Se siente como normalizar este tipo de cosas si puedes ir a Spotify y escuchar a Adele, y luego puedes escuchar estas cosas junto a él”. él dijo.
El Plan Kalergi es una variación de la teoría de la conspiración del Gran Reemplazo nacionalista blanca.
Jacob Davey, jefe de investigación y política de la extrema derecha y los movimientos de odio en el Instituto para el Diálogo Estratégico, dijo que era una creencia que había ido aumentando constantemente en popularidad durante la última década.
“Ha pasado de lo que realmente era un tema de conversación marginal entre unos pocos extremistas europeos a la discusión básica de los extremistas a nivel mundial”, dijo a Sky News.
Pero estas ideas no existen en un vacío en línea, dijo.
51 personas murieron en el ataque de Christchurch de 2019
“En 2019, cuando un individuo cometió un ataque terrorista realmente horrible en Christchurch, Nueva Zelanda, lo estaba haciendo directamente en respuesta a esta teoría”, dijo Davey.
“Y después de ese ataque, hubo varios otros a lo largo de 2019. La difusión de estas ideas realmente puede tener un impacto notable al obligar a las personas a seguir adelante y cometer actos de violencia atroz”.
Esta es solo una de las series con las que nos encontramos.
Otro, presentado por creadores de extrema derecha con sede en Estados Unidos, utiliza insultos racistas y símbolos de supremacía blanca en los títulos y descripciones de los episodios.
Los anfitriones promueven de manera informal y abierta una variedad de creencias y teorías antisemitas y racistas, incluida la negación del Holocausto y el racismo científico.
Una tercera serie de un creador diferente incluyó episodios que discutían lo que ellos llaman la “belleza” de la supremacía blanca, así como lecturas de ensayos y libros de figuras prominentes del Partido Nazi, incluidos Adolf Hitler y Joseph Goebbels.
El creador solía usar el cuadro de descripción del episodio en Spotify para anunciar videos compartidos en otras plataformas. Un enlace dirige a los usuarios a un video de una lectura de lo que llama “manifiesto revelador de Dylann Roof”.
Dylann Roof, quien mató a tiros a nueve feligreses negros, se convirtió en la primera persona en los Estados Unidos en ser sentenciada a muerte por un crimen de odio federal en 2017.
Otras descripciones de episodios se vinculan a un canal de Telegram que tiene una esvástica como icono.
Estas tres series suman casi 150 horas de contenido.
En respuesta a nuestros hallazgos, un portavoz de Spotify dijo: “Spotify prohíbe el contenido de nuestra plataforma que, de manera expresa y principal, promueva o incite al odio o la violencia contra un grupo o individuo en función de características, como raza, religión, identidad de género, sexo, etnia, nacionalidad, orientación sexual, condición de veterano o discapacidad.
“El contenido en cuestión se eliminó por violar nuestra política de contenido de odio”.
Spotify eliminó casi 150 horas de contenido después de que Sky News lo informara al servicio de transmisión
La plataforma permite a los usuarios informar sobre material que viole sus pautas de contenido. La compañía también dijo que está desarrollando una nueva tecnología de monitoreo para identificar material que ha sido marcado como contenido de odio en algunos registros internacionales.
Pero lo que se está haciendo actualmente para moderar su plataforma de podcasting más allá de responder a los informes de los usuarios no es de conocimiento público.
El gran volumen de contenido en línea significa que las empresas de tecnología requieren algoritmos y personas para moderar sus plataformas.
Y aunque se está desarrollando tecnología capaz de detectar el discurso de odio en el audio, todavía no se está implementando ampliamente.
“Uno de los problemas es que se necesita mucha más memoria para almacenar archivos de audio largos. El otro problema es que es desordenado: puede tener varios oradores y un diálogo rápido”, dijo Hannah Kirk, investigadora de inteligencia artificial en el Oxford Internet Institute. y el Instituto Alan Turing.
“También hay toneladas de señales lingüísticas adicionales en el audio: el tono, el tono de la voz, incluso silencios o risas incómodos. Y eso es un problema porque aún no tenemos la tecnología para codificar con precisión ese tipo de señales lingüísticas adicionales”, dijo. dijo a Sky News.
Kirk dijo que es posible que empresas como Spotify estén sufriendo limitaciones de recursos o tecnología, lo que significa que no pueden moderar su contenido de audio a escala.
Pero, dijo, la opción está disponible para que las empresas transcriban contenido de audio y lo ejecuten a través de modelos de procesamiento de texto capacitados para detectar el odio, que son mucho más avanzados.
También encontramos algunas de las mismas series en Google Podcasts.
El brazo de podcasting de Google opera como un directorio en lugar de una plataforma, lo que significa que no aloja contenido en su propio servidor y, en cambio, recopila los feeds de podcasts que extrae automáticamente de Internet.
La compañía ha recibido críticas antes por permitir a los usuarios acceder a contenido extremo y engañoso en su interfaz. Es uno de los pocos lugares que quedan en los que los usuarios todavía pueden encontrar el podcast del infame teórico de la conspiración Alex Jones.
Informamos nuestros hallazgos a Google, pero no respondió. La serie que marcamos permanece en su plataforma.
Un portavoz de la compañía le dijo anteriormente al New York Times que “no quiere limitar lo que la gente puede encontrar” y que solo elimina contenido en raras circunstancias.
Pero a los expertos les preocupa que la accesibilidad de material extremo en estas plataformas populares pueda llevar a la gente a radicalizarse.
El equipo de datos y análisis forense es una unidad polivalente dedicada a proporcionar un periodismo transparente de Sky News. Recopilamos, analizamos y visualizamos datos para contar historias basadas en datos. Combinamos las habilidades tradicionales de presentación de informes con el análisis avanzado de imágenes de satélite, redes sociales y otra información de código abierto. A través de la narración multimedia, nuestro objetivo es explicar mejor el mundo y al mismo tiempo mostrar cómo se hace nuestro periodismo.
Por qué el periodismo de datos es importante para Sky News