Spotify está adquiriendo Kinzen, una startup que se especializa en usar el aprendizaje automático para analizar contenido e informar declaraciones potencialmente dañinas a moderadores humanos. En un comunicado de prensa , Spotify dice que la adquisición está destinada a ayudarlo a "brindar una experiencia segura y agradable en nuestra plataforma en todo el mundo", incluso cuando aumenta su enfoque en los podcasts y audiolibros generados por los usuarios , que podrían contener información errónea o otras violaciones de las políticas de Spotify.

Spotify ya ha estado trabajando con Kinzen, afirmando que se asoció con la compañía desde 2020 y que la tecnología de la startup ha sido "crítica para mejorar nuestro enfoque de la seguridad de la plataforma". Según el sitio de Kinzen , su tecnología es capaz de analizar el contenido de audio en varios idiomas y utiliza datos de Internet y expertos humanos para determinar si ciertas afirmaciones son dañinas. (Incluso afirma ser capaz de detectar silbatos para perros, frases aparentemente inocuas que en realidad se refieren a algo con un significado más oscuro).

Dustee Jenkins, directora global de asuntos públicos de Spotify, citada en su comunicado de prensa, dice que traer a Kinzen internamente mejorará la capacidad de la compañía para "detectar y abordar contenido dañino y, lo que es más importante, de una manera que considere mejor el contexto local".

Como ha señalado mi colega Ariel Shapiro , la compañía ha pasado los últimos años consultando con expertos y lanzando consejos asesores en un intento por descubrir la moderación de contenido, especialmente después de que compró la plataforma de podcasts de bricolaje Anchor en 2019. Spotify dice que hubo más de un millón de podcasts agregados a su servicio por "creadores independientes" el año pasado, una cantidad monstruosa de contenido de audio que realmente no tiene mucha supervisión.

Spotify no ha podido evitar la controversia incluso con el contenido con el que tiene una conexión directa: el debate público sobre lo que dice gente como Joe Rogan en los podcasts exclusivos de Spotify es un ejemplo perfecto de eso. Y si hay problemas que surgen en esa cantidad proporcionalmente pequeña de contenido, imagina lo que podría estar pasando desapercibido en algunos de esos más de un millón de podcasts.

Como señala un informe reciente de la Liga Anti-Difamación , el contenido que claramente viola las políticas de Spotify aún puede escapar de la acción legal. El informe analizó explícitamente la música supremacista blanca, pero Kinzen parece estar más enfocado en encontrar contenido problemático de palabras habladas y llamar la atención de los moderadores; El comunicado de prensa de Spotify dice que es "particularmente adecuado para podcasting y formatos de audio". El algoritmo tendrá que trabajar horas extras si quiere escuchar los miles de podcasts que se agregan a la plataforma cada día.