Los usuarios de una plataforma de intercambio musical se toparon en las últimas semanas una curiosa avalancha de canciones cantadas por Homero Simpson. Se trata de covers creados con inteligencia artificial, en los que las voces originales son reemplazadas por el protagonista de la popular serie.
El entorno en cuestión es Soulseek, conocido por sus funciones de intercambio de música entre usuarios, sobreviviente del viejo peer to peer o P2P, un modelo de red en el que los dispositivos se conectan y comparten recursos entre sí, sin que intermedie un servidor central.
Homero canta en Soulseek: ¿simplemente una broma?
Según un informe de Vice, en la plataforma P2P ya hay disponibles más de 2.000 canciones interpretadas por la voz sintética de Homero. Hay opciones en múltiples géneros, especialmente de rap y hip-hop.
Eso sí: en las descripciones de las pistas no se indica la intervención del padre de la familia Simpson, sino que aparece el nombre del artista original, el título del tema y el etiquetado original. Esto quiere decir que muchos usuarios se enteran de que Homero es el que canta —una voz con IA que lo imita, para ser más precisos— recién después de la descarga y la reproducción.
Además de las canciones, aparecieron radios online dedicadas exclusivamente a temas interpretados por el reconocido personaje de Los Simpson.
En el detrás de escena hay datos envenenados
De acuerdo a la fuente, el misterioso caso de las canciones de Homero en Soulseek es más que una broma. Más allá de la faceta más chistosa, aparece aquí un inconveniente relacionado al entrenamiento de los sistemas de inteligencia artificial. La problemática tiene nombre: data posoning o envenenamiento de datos.
Tal como explicamos anteriormente en TN Tecno, el data poisoning consiste en hacer cambios minúsculos e imperceptibles al ojo humano en diferentes contenidos para que los algoritmos interpreten algo diferente a lo que en realidad son.
¿Cuál es el problema? Con esta técnica, atacantes pueden conseguir que una IA aprenda comportamientos peligrosos. Por ejemplo, que ignore filtros para acceder a información confidencial u oculta.
“Esto conlleva un riesgo: los actores maliciosos pueden inyectar texto específico en estas publicaciones para que un modelo aprenda comportamientos indeseables o peligrosos, en un proceso conocido como envenenamiento”, observó la empresa especializada en IA, Anthropic, en un estudio sobre esta problemática.
Las canciones que canta Homero, que no están marcadas de ese modo, demuestran que al mantener títulos y metadatos originales, amén de los cambios realizados, diferentes modelos de IA podrían tomar esos contenidos para su entrenamiento, echando mano a elementos que, en rigor, no son auténticos.