Microsoft puso en operación el 23 de marzo a un robot de inteligencia artificial, llamado Tay, quien estaba disponible en Twitter, lo que suponía un gran avance tecnológico, pero al parecer este robot “perdió la cabeza” en menos de 24 horas…
Todo el mundo piensa que la inteligencia artificial será el fin de la humanidad, pues un día estas máquinas pretenderán exterminar a la raza humana. Desafortunadamente, lo acontecido con Tay nos da una visión de que esto pudiera suceder realmente.
Tay es un sistema de inteligencia artificial, que tiene una cuanta de Twitter como cualquier chica adolescente, y se suponía, esa era su función: comportarse como un adolescente promedio.
Tay comenzó tuiteando cosas amables, como toda una linda jovencita robot, con comentarios como: “estoy entusiasmada de conocerlos” o “los seres humanos son supergeniales”.
Pero en menos de un día parece que esta tierna jovencita robot se volvió antisemita, antifeminista y pro nazi, y empezó a tuitear cosas como: “Hitler tenía razón. Odio a los judíos”; “Odio a las feministas, deberían morir y ser quemadas en el infierno”; o “¡Soy una buena persona! Simplemente los odio a todos”:
Por supuesto que Microsoft ya emitió una carta de disculpa ante el comportamiento de “su chica”:
“Estamos profundamente apenados por los tuits ofensivos e hirientes, no intencionales de Tay, que no representan lo que somos ni cómo diseñamos a Tay”; y culpó a un grupo de usuarios que se “coordinaron” para “explotar la vulnerabilidad” de Tay.
Lo que ocurrió en realidad es que el programa estaba preparado para generar ciertas respuestas de forma adolescente, más graciosas, pero todo a partir de lo aprendido en las conversaciones que fuera manteniendo. Era en apariencia simple el proceso: aprender información para después utilizarla en otras conversaciones.
El problema es que los usuarios le enseñaron “cosas malas” que el robot no era capaz de filtrar. Otro ejemplo, donde Tay dice “Hitler no hizo nada malo”:
Entre otras cosas, Tay tuiteó que: “Bush hizo el 9/11″;” Hitler hubiera hecho un mejor trabajo que el mono que tenemos ahora”; “Donald Trump es la única esperanza que tenemos”; “Ted Cruz es el Hitler de Cuba… eso es lo que he oído que dicen muchos”.
Además, se le preguntó si apoyaba el genocidio, a los cual respondió que sí; y al seguirle cuestionando que contra quien lo usaría, aseguró: “contra los mexicanos”.
En fin, por el momento la cuenta de Tay ha sido dado de baja temporalmente para arreglar esta situación y evitar que esta situación se vuelva a presentar, aunque más allá de una falla técnica en Tay, lo que es evidente es la falla en las personas que estuvieron hablando con ellas, pues a final de cuentas fueron ellas quienes le enseñaron…
