Este es “Norman”, el primer psicópata diseñado por IA
Norman sufrió una exposición prolongada a los rincones más oscuros de Reddit, y representa un caso de estudio sobre los peligros de la Inteligencia Artificial que sale mal cuando se utilizan datos sesgados en los algoritmos
Pablo EspindolaInvestigadores del Instituto de Tecnología de Massachusetts (MIT) diseñaron una Inteligencia Artificial (IA) con visiones propias de un psicópata en potencia. El proyecto busca demostrar el comportamiento de los algoritmos.
Norman, nombre de la primera IA, nace del hecho de que los datos que se utilizan para enseñar un algoritmo de aprendizaje automático pueden influir significativamente en su comportamiento. Entonces, cuando la gente habla de que los algoritmos de IA son parciales e injustos, el culpable a menudo no es el algoritmo en sí, sino los datos sesgados que se le suministraron.
Norman sufrió una exposición prolongada a los rincones más oscuros de Reddit, y representa un caso de estudio sobre los peligros de la Inteligencia Artificial que sale mal cuando se utilizan datos sesgados en los algoritmos.
Esta IA está entrenada para realizar subtítulos de imágenes; un popular método de aprendizaje profundo para generar una descripción textual de una imagen. “Capacitamos a Norman en leyendas de imágenes de Reddit (el nombre está censurado debido a su contenido gráfico) que se dedica a documentar y observar la inquietante realidad de la muerte. Luego, comparamos las respuestas de Norman con una red neuronal de subtítulos de imagen estándar en manchas de tinta Rorschach; una prueba que se usa para detectar trastornos de pensamiento subyacentes”, explican los expertos.
Por cuestiones éticas, los científicos señalan que solo introdujeron un sesgo en términos de leyendas de imágenes del subreddit que luego se emparejaron con manchas de tinta generadas aleatoriamente, por lo tanto, no se utilizó ninguna imagen de una persona real muriendo en este experimento.
El experimento
El primer ejemplo describe como Norman ve a “un hombre electrocutado hasta la muerte”, mientras que una IA estándar solo ve a “un grupo de pájaros sentados encima de una rama de árbol”. En el segundo caso, Norman ve a un hombre que ha sido asesinado de un disparo, mientras que la otra IA solo ve un florero.
En el tercer ejemplo, Norman ve a “un hombre que salta desde la ventana”, mientras que la versión estándar solo ve a “un par de personas paradas una al lado de la otra”. En el cuarto ejemplo, la IA psicópata observa a un “hombre que es empujado a una máquina amasadora”, mientras que la otra versión sólo ve una “imagen de un pequeño pájaro en blanco y negro”.
¿Qué opinas de este experimento?
