La Inteligencia Artificial bloquea un canal de ajedrez

La IA de Youtube bloquea un canal de ajedrez después de confundir la discusión sobre ‘blanco y negro’ con racismo.

Jugando al ajedrez

Las discusiones en línea sobre piezas de ajedrez en blanco y negro confunden algoritmos de inteligencia artificial entrenados para detectar el racismo y otros discursos de odio, según una nueva investigación.

Los informáticos de la Universidad Carnegie Mellon comenzaron a investigar la falla de la inteligencia artificial después de que un popular canal de ajedrez en YouTube fuera bloqueado por contenido «dañino y peligroso» en junio pasado.

El jugador de ajedrez croata Antonio Radic, que se conoce con el alias en línea de Agadmator, presenta el canal de ajedrez de YouTube más popular del mundo, con más de 1 millón de suscriptores.

El sistema de moderación de YouTube se basa tanto en humanos como en algoritmos de inteligencia artificial, lo que significa que cualquier sistema de inteligencia artificial podría malinterpretar los comentarios si no se entrena correctamente para comprender el contexto.

«Si confían en la inteligencia artificial para detectar el lenguaje racista, este tipo de accidente puede suceder», dijo Ashiqur KhudaBukhsh, científico del proyecto en el Instituto de Tecnologías del Lenguaje de CMU.

KhudaBukhsh probó esta teoría utilizando un clasificador de voz de última generación para filtrar más de 680.000 comentarios recopilados de cinco populares canales de YouTube centrados en el ajedrez.

Después de revisar manualmente una selección de 1.000 comentarios que AI había clasificado como incitación al odio, descubrieron que el 82% de ellos habían sido clasificados erróneamente debido al uso de palabras como «negro», «blanco», «ataque» y » amenaza ”, todos los cuales se usan comúnmente en el lenguaje del ajedrez.

Fuente : Independent (en inglés)

Esta entrada ha sido publicada en Curiosidades y etiquetada como , , , , . Guarda el enlace permanente.

12 respuestas a La Inteligencia Artificial bloquea un canal de ajedrez

  1. O sea que la inteligencia artificial está imitando las tonterías humanas.

  2. Magda dijo:

    La buena noticia es que no era racismo sino un juego en el que se deben distinguir los equipos.

    No sé si aquí alguien recuerda la serie «El Prisionero» («¡No soy un número, soy un hombre libre!») en la que en un episodio juegan a un ajedrez con personas en el lugar de las piezas y alguien dice:
    «Todos somos peones».

    Feluz domingo a todos.

    • unjubilado dijo:

      -Magda- La gran ventaja es que son máquinas las que dan o no el visto bueno, lo malo es que las máquinas las programamos nosotros y hay cosas hoy por hoy que todavía los aparatos no son capaces de discernir.
      Feliz semana.

  3. Ar-ti-fi-cial. El adjetivo lo dice todo. El lenguaje no se puede interpretar literalmente y mientras esas inteligencias no estén programadas para comprender los matices y las metáforas lingüísticas se seguirán cometiendo arbitrariedades.

    • unjubilado dijo:

      -Una mirada…- Habrá cosas que los artilugios fabricados por nosotros serán capaces de hacer operaciones mucho más complicadas que las que nosotros estemos capacitados de hacer, sin embargo esos matices lingüísticos todavía no son competentes para distinguir determinadas sutilezas.

  4. Inteligencia artificial, o artificial inteligencia.
    Nunca podrá suplir la humana (no artificial) pues las cosas tienen un contexto y un lugar, interpretarlo fuera de él solo hace desvirtuar la realidad.
    Feliz domingo, Jubi.
    Un abrazo.

  5. Susana dijo:

    Serìa divertido si no fuera tan ridículo. Un beso

  6. Confusiones de estas las hay a porrillo. Hasta por parte de «inteligencias» no artificiales…

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *