14/3/2024 - Tecnología e Innovación

Eliza y Parry, los abuelos del Chat GPT

Por Melissa Bargman

Eliza y Parry, los abuelos del Chat GPT

El 30 de noviembre de 2022, el mundo se vio revolucionado por el lanzamiento de un novedoso sistema de IA: el famoso Chat GPT desarrollado por la empresa norteamericana Open IA. En sólo 5 días, llegó a alcanzar los 100 millones de usuarios. No hubo esfera humana que no estuviera envuelta en las controversias por los riesgos y oportunidades de esta nueva y potente tecnología.

¿En qué puedo ayudarte hoy?

Las siglas del chat GPT significan Chat Generative Pre-Trained Transformer (Transformador Pre-entrenado Generativo). Para entender exactamente qué es, le preguntamos directamente al sistema. Nos respondió:

“El ChatGPT es un sistema de inteligencia artificial. Utiliza la tecnología de procesamiento del lenguaje natural para comprender y generar respuestas en conversaciones escritas. Funciona mediante el aprendizaje automático y está basado en una arquitectura de red neuronal llamada GPT (Generative Pre-trained Transformer), específicamente GPT-3.5 en mi caso. Este modelo puede mantener conversaciones, responder preguntas, generar texto coherente y realizar una variedad de tareas relacionadas con el lenguaje natural.”

Para poder comprender esta definición, primero debemos entender los conceptos evocados y sobre todo, viajar en el tiempo para descubrir que el chat GPT no es más que una versión prodigio de combinaciones de poderosos sistemas de procesamiento creados décadas atrás.

Los no-humanos que nos rodean

Para entender la base del Chat GPT, tenemos que saber que técnicamente se trata de un Chatbot. Los bots de charla o bots conversacionales son programas de software que “simulan mantener una conversación con una persona y proveen respuestas automáticas a las consultas realizadas por los usuarios”.Para lograr esta comunicación artificial, existen técnicas estándares de programación que seleccionan un conjunto limitado de respuestas frente a las inquietudes (búsqueda de palabras clave) que reciben de las personas. Simulan reacciones y frases de un interlocutor humano con el que pueden llevar adelante una conversación con cierta lógica, a tal punto que el usuario puede no distinguir si quien le responde es una máquina o una persona.Los asistentes inteligentes como Siri, Alexa, Google y los chats con los que interactuamos por lo general en servicios de soporte, se basan en la aplicación del Procesamiento del Lenguaje Natural, un campo de las Ciencias de la Computación cuyo objetivo es la formulación e investigación de mecanismos eficaces para la comunicación entre personas y máquinas a través del uso del lenguaje humano (abarcando cada vez más idiomas).

Una aventura por la mente humana

Como sucede con cualquier tecnología innovadora, los ámbitos en los que surgen o se aplican por primera vez resultan ser el de la salud o, (como Internet en sus orígenes) como armas o herramientas para escenarios de guerra.La IA no es una excepción y por ello no es casualidad que los primeros desarrollos de chatbots estuvieran relacionados con la salud y sobre todo, con la salud mental.Si consideramos que la Inteligencia Artificial tiene por objetivo desarrollar sistemas capaces de pensar y actuar como humanos, entonces primero hay que entender cómo piensa el ser humano, construir los procesos cerebrales, cuando funcionan en condiciones normales pero también conocer sus desvíos y por qué se generan.

Eliza, la primera Psicóloga portátil

Entre 1964 y 1966, Joseph Weizenbaum, profesor de informática del Instituto Tecnológico de Massachusetts (MIT) desarrolla el que sería el primer chatbot de la historia llamado ELIZA. El proyecto consistió en desarrollar un sistema que simulara ser una psicoterapeuta rogeriana entrenada para entablar una conversación lógica con una persona a través del análisis de palabras clave.Al tratarse de uno de los primeros desarrollos tecnológicos para los que no se necesitaba conocimiento técnico a la hora de probarlo, cualquier persona podía utilizarlo. Por eso mismo, en pocos meses Eliza se expandió por diferentes instituciones académicas a lo largo de EE.UU. y hasta llegó a convertirse en un juguete en ciertos círculos de especialistas.En su libro “Computer Power and Human Reason: From Judgement to Calculation” del año 1976, Weizenbaum rescata tres puntos que en sus palabras lo “shockearon” en su análisis de la relación persona-máquina:

  • Muchos psiquiatras profesionales seriamente afirmaron que el programa podría convertirse en un especialista casi automático de la salud mental preparado para interactuar con pacientes en un futuro cercano.

  • “Estaba sorprendido por lo rápido y profundamente involucrados emocionalmente se sentían las personas al conversar con el sistema y cuán unívocamente lo antropomorfizaban”. El autor cuenta que su propia secretaria, quien lo había visto trabajar incansablemente en el programa y sabía fehacientemente que se trataba meramente de un código informático, comenzó a conversar con Eliza. Luego de un par de sesiones, la secretaria le solicitó a Weizenbaum que abandonara la sala mientras interactuaba con el sistema. Efectivamente, las personas llegaban a confiarle a la máquina cuestiones personales extremadamente sensibles.

  • Weizenbaum no podía entender como muchos académicos consideraron que ELIZA había resuelto el problema de la interpretación del lenguaje humano por parte de las máquinas. Todo lo contrario: este sistema lo que demostró fue que la comunicación siempre debe ser analizada y estudiada en su contexto y estructura social de circulación.

De esta manera, lograr la comunicación entre máquinas y humanos es una misión (casi) imposible porque existen tantas convenciones sociales como personas en la historia. Es por eso, que se habla de las “alucinaciones” de sistemas como el chat GPT.

Parry, la esquizofrenia elemental de la IA

Otro proyecto icónico de programación de IA, fue el desarrollado por el psiquiatra Kenneth Colby mientras aún estudiaba en la Universidad de Stanford en 1972. Parry simulaba a un paciente que padecía un cuadro de esquizofrenia paranoide. En un experimento para probar su eficacia, se convocó a 33 psiquiatras profesionales que se dividieron en dos grupos: unos dieron terapia a Parry o otros a pacientes reales. A ambos grupos se les pidió que identificaran en qué casos se trataba de una interacción máquina-terapista y en cuáles se hablaba de paciente real-terapista. Los psiquiatras pudieron identificar correctamente un 48% de las ocasiones. Conclusión: la IA en sus versiones más arcaicas fue capaz de engañar a especialistas íntegramente dedicados a la salud mental.

Que la ilusión no se convierta en alucinación

Nadie duda que estos sistemas automáticos de interacción han facilitado muchos procesos que antes requerían leer manuales, anotar en agendas, buscar en la guía. Sin embargo, cuando se trata de la búsqueda de información sensible o noticias, o de producción de material propio, siempre hay que chequear los datos, ir a las fuentes. A pesar de que adquieran forma humana, tengan en muchos casos hasta personificaciones y nombres propios que saludan y sonríen, no son más que miles de líneas de código que buscan palabras clave y replican comportamientos automáticos.Será nuestra naturaleza humana de relacionarnos lo que hace que nos encariñemos con estos códigos… pero no entreguemos nuestros sentimientos a quien pueda alucinarnos o mejor, dicho, engañarnos.

¿Deseas validar esta nota?

Al Validar estás certificando que lo publicado es información correcta, ayudándonos a luchar contra la desinformación.

Validado por 0 usuarios
Melissa Bargman

Melissa Bargman

Hola! Soy Melissa, Comunicadora Social y Profesora de la Materia Legislación Comparada en la Facultad de Cs. Sociales de la Universidad de Buenos Aires. Me dedico a la investigación de las nuevas tecnologías y su aplicación en la vida diaria, su regulación, sus oportunidades y riesgos en la sociedad.

Twitter Linkedin Instagram

Vistas totales: 24

Comentarios