Joseph Weizenbaum se dio cuenta de que programas como su chat ELIZA podían ser un peligro para la humanidad La nueva trampa del mercado inmobiliario: fotos creadas por IA que convierten pisos ruinosos en viviendas en las que sí apetece vivir Cuando el profesor Joseph Weizenbaum creó ELIZA en los años 60, tenía un objetivo: demostrar que la comunicación entre humanos y ordenadores podía ser extremadamente artificial . Aquel programa informático ahora se reconoce como el primer chatbot de la historia, pero a Weizenbaum no se le recuerda tanto por este hito , sino por su trayectoria posterior. El científico dedicó gran parte de su vida a alertar sobre los peligros que podía acarrear esta tecnología en los humanos. Para desarrollar el programa, Weizenbaum pensó en hacer una parodia de los psicólogos que seguían la conocida “terapia centrada en el cliente”, creada por el doctor Carl Rogers. La idea del profesor era que ELIZA mantuviera una conversación que pareciese que escuchaba al paciente . Así, la máquina escaneaba las palabras introducidas por los usuarios y luego recurría a ciertas reglas para generar una oración o pregunta como respuesta. Una de estas reglas consistía en captar palabras claves y realizar preguntas que estuvieran relacionadas de alguna manera. Por ejemplo, si el usuario hacía referencia a su madre, el programa respondía haciendo preguntas con temas relacionados con la familia. Si esta fórmula no funcionaba, ELIZA estaba programada para responder con una frase genérica : “Continúa”, “ya veo” o “cuéntame más” eran algunas de sus respuestas “salvavidas”. Weizenbaum contó más tarde que, cuando su secretaria probó el chat, esta le pidió que saliera del despacho para poder continuar la conversación con ELIZA en privado. Esta sensación de proyectar ciertas cualidades a la máquina empezaron a alertar al informático. “No me había dado cuenta de que exposiciones extremadamente breves a un programa informático relativamente simple podían inducir fuertes pensamientos delirantes en personas completamente normales ”, escribió en 1976. Los riesgos de la informática moderna Cuando Joseph Weizenbaum publicó ELIZA en 1966, se llevó una gran sorpresa. El programa tuvo un gran impacto y mucha gente confió en la máquina como si de un humano real se tratara. Incluso llegó a ser muy comentada en el ámbito de la psiquiatría, algo que no gustó nada a su creador. “Fue inmediatamente malinterpretada como el inicio de la psiquiatría computarizada , algo que detesto”, llegó a decir. En 1976, Weizenbaum publicó Poder computacional y razón humana: del juicio al cálculo , un libro en el que ya entonces alertó sobre cómo las máquinas podían llegar a abarcar cualquier ámbito del pensamiento humano. “Sin embargo, hay ciertas tareas que los ordenadores no deberían realizar , independientemente de si pueden o no”, escribió entonces. Durante toda su vida, Weizenbaum intentó que su mensaje calara en la sociedad: no debemos dejar que las máquinas tomen decisiones por nosotros porque la inteligencia artificial nunca tendrá cualidades humanas básicas , como la empatía o la compasión. En sus últimos años, también se le reconoció como pacifista por su firme oposición al uso de los ordenadores y la tecnología como armas.