Tay, la degeneración de la máquina

Por Diego Alonso.

Microsoft se ha visto obligada a retirar un robot de Twitter porque en su interacción con seres humanos elaboraba mensajes de contenido racista, sexista y xenófobo. El chatbot Tay fue creado por la compañía de Redmond para intentar mantener en las redes sociales una conversación informal y divertida con una audiencia de entre 18 y 24 años.

Lo que empezó siendo un experimento amable y divertido, con tuits en los que Tay evidenciaba su interés por conocer a los humanos y aprender de ellos y su total predisposición a esta tarea degeneró en una espiral de odio y agresividad en la que no faltaron mensajes xenófobos, ensalzamiento del nazismo, odio a las feministas o apoyo a candidatos estadounidenses con dudoso aprecio a la democracia. No se a vosotros, pero a un servidor le ha parecido que los primeros minutos de la película “Funny Games” del director alemán Michael Haneke sirve como alegoría perfecta para explicar dicho experimento.

tay-microsoft-3

Finalmente solo 24 horas después de dar luz verde al experimento, los chicos de Microsoft se vieron obligados a suspender el mismo y a pedir disculpas a todos aquellos que se hubieran podido sentir ofendidos por este “personaje” que haría las delicias en cualquier programa de tertulias de los que se ven en televisión últimamente.

Aquí se pueden ver a los ingenieros de Microsoft viendo como Tay se les va de las manos:

A pesar del fracaso de este experimento, lo que si ha quedado demostrado es el enorme avance que se está viviendo en el campo de la Inteligencia Artificial. Tay fue creado para emitir respuestas personalizadas a los usuarios, recabando información sobre cada uno de ellos durante la interacción, lo que supondría que las máquinas son capaces de interactuar y aprender de nosotros de una forma cada vez más natural. Como ya analizamos en nuestro podcast “Her: la humanización de la máquina”, los avances que se están llevando a cabo en este campo son realmente fascinantes y cada vez parece menos ciencia ficción el hecho de que podamos tener como compañeros, amigos o incluso parejas a robots. La parte física parece que cada vez está más cerca de lograrse, como hemos visto con Sophia, la última creación de Hanson Robotics, que es capaz de entablar conversaciones y posee 62 expresiones faciales diferentes, aunque aún debe superar el llamado “valle inquietante” para generarnos atracción en lugar de rechazo.

Valle Inquietante

 

Con el experimento de Microsoft Tay, a pesar de sus problemas, se ha dado un gran paso en la parte quizás más complicada de imitar, la creación de una personalidad propia y la posibilidad de aprender del entorno y de los demás. No es por tanto extraño suponer que en un futuro no muy lejano compartamos nuestro día a día con máquinas que puedan ser incluso más humanas que nosotros mismos, aunque para ello aún deben ser capaces de recrear el elemento más importante del ser humano, la empatía.

Logo Her

Anuncios

Responder

Introduce tus datos o haz clic en un icono para iniciar sesión:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Cerrar sesión / Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Cerrar sesión / Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Cerrar sesión / Cambiar )

Google+ photo

Estás comentando usando tu cuenta de Google+. Cerrar sesión / Cambiar )

Conectando a %s