“Este sistema significa que el tiempo de visualización es clave. El algoritmo intenta hacer que las personas se vuelvan adictas en lugar de darles lo que realmente quieren “, dijo Guillaume Chaslot, fundador de Algo Transparencia, un grupo con sede en París que ha estudiado el sistema de recomendación de YouTube y tiene una visión oscura del efecto del producto en niños, en particular. El Sr. Chaslot revisó el documento de TikTok a mi solicitud.
“Creo que es una idea loca dejar que el algoritmo de TikTok dirija la vida de nuestros hijos”, dijo. “Cada video que mira un niño, TikTok obtiene información sobre él. En unas pocas horas, el algoritmo puede detectar sus gustos musicales, su atracción física, si está deprimido, si podría estar drogado y mucha otra información sensible. Existe un alto riesgo de que parte de esta información se utilice en su contra. Potencialmente, podría usarse para microorientarlo o hacerlo más adicto a la plataforma “.
El documento dice que el tiempo de visualización no es el único factor que considera TikTok. El documento ofrece una ecuación aproximada de cómo se califican los videos, en la que se resumen una predicción impulsada por el aprendizaje automático y el comportamiento real del usuario para cada uno de los tres bits de datos: me gusta, comentarios y tiempo de reproducción, así como una indicación de que el video tiene jugado:
Plike X Vlike + Pcomment X Vcomment + Eplaytime X Vplaytime + Pplay X Vplay
“El sistema de recomendación otorga puntajes a todos los videos en función de esta ecuación y devuelve a los usuarios los videos con los puntajes más altos”, dice el documento. “En aras de la brevedad, la ecuación que se muestra en este documento está muy simplificada. La ecuación real en uso es mucho más complicada, pero la lógica detrás es la misma “.
El documento ilustra en detalle cómo la empresa modifica su sistema para identificar y suprimir los “cebos similares” (vídeos diseñados para jugar con el algoritmo pidiendo explícitamente que les gusten a las personas) y cómo la empresa piensa en preguntas más matizadas.
“Algunos autores pueden tener algunas referencias culturales en sus videos y los usuarios solo pueden comprender mejor esas referencias viendo más videos del autor. Por lo tanto, el valor total de que un usuario mira todos esos videos es más alto que los valores de ver cada video sumado ”, dice el documento. “Otro ejemplo: si a un usuario le gusta un cierto tipo de video, pero la aplicación continúa presentándole el mismo tipo, rápidamente se aburrirá y cerrará la aplicación. En este caso, el valor total creado por el usuario que ve el mismo tipo de videos es menor que el de ver cada video, porque la repetición conduce al aburrimiento “.
“Hay dos soluciones a este problema”, prosigue el documento. “Haga algunas suposiciones y descomponga el valor en la ecuación de valor. Por ejemplo, en términos de exposición repetida, podríamos agregar un valor ‘same_author_seen’, y para el problema del aburrimiento, también podríamos agregar un valor negativo ‘same_tag_today’. Otras soluciones además de la ecuación de valor también pueden funcionar, como la recomendación forzada en los usuarios para la alimentación y la dispersión, etc. Por ejemplo, el problema del aburrimiento se puede resolver mediante la dispersión “.