La página web bloqueó durante 24 horas al usuario Antonio Radic, con más de un millón de seguidores en la plataforma, después de detectar un presunto agravio, que se trataba en realidad de la descripción de un movimiento del juego, sacado de contexto por el algoritmo.

En tiempos en los cuales Youtube pone fuertes castigos contra aquellos usuarios que difundan contenido racista, un error de interpretación provocó un castigo inmerecido sobre un canal de ajedrez que realizaba una transmición en vivo, que fue cerrado al momento que el algoritmo escuchó que la frase "blanco ataca negro".

El canal Agadmator’s Chess Channel, fue bloqueado por contenido “dañino y peligroso” por la compañía, mientras su administrador y campeón mundial de ajedrez Antonio Radic, realizaba un directo con el maestro del "deporte ciencia" Hikaru Nakamura.

El canal de Radic, oriundo de Croacia, se restableció 24 horas después, en lo que quedó como un gran error de interpretación de los algoritmos de inteligencia artificial que utiliza Youtube para identificar en este caso contenido racista.

Antonio Radic, ex campeón mundial de ajedrez y administrador del canal


Un estudio de la Universidad Carnegie Mellon de Estados Unidos hizo un estudio sobre los errores en inteligencia artificial y consideró que este tipo de frases “confunden a algoritmos de inteligencia artificial entrenados para detectar el racismo y otros discursos de odio".

“Si confían en la inteligencia artificial para detectar el lenguaje racista, este tipo de accidente puede suceder”, aseguró al diario británico The Independent Ashiqur KhudaBukhsh, científico del proyecto.

KhudaBukhsh llegó a esta conclusión después de recoger 680.000 comentarios de los 5 canales más populares en YouTube centrados en el ajedrez, en donde descubrió que el 82% de las palabras clasificadas como "incitación al odio" eran “negro”, “blanco”, “ataque” y “amenaza”, las cuales son lenguaje común de este deporte.