¿Deberíamos utilizar palabras reservadas a los humanos cuando hablamos de la IA? Se ha puesto de moda demonizar el uso de determinadas palabras cuando se habla de IA, pero creo que no deberíamos exagerar.
En mi opinión, las palabras que describen acciones neutras, aunque hasta ahora fuesen exclusivamente humanas, deberían poder usarse sin reservas con la IA. Por ejemplo, pensar. Realmente un LLM está pensando, aunque su forma de pensar no sea igual a la humana. También decimos que un perro camina o que un pez nada y no consideramos que usando esas palabras estemos antropomorfizando a perros y peces.
Para mí el problema está en las palabras que implican sentimientos. Probablemente porque creo que los LLM no tienen sentimientos. Si comparamos la arquitectura de los LLM con lo que sabemos del cerebro humano, vemos que su estructura es muy distinta. Diría que los LLM carecen de los mecanismos que sustentan las emociones en el cerebro humano. Un LLM puede razonar sobre sentimientos, y probablemente sepa lo que son, puesto que están en sus datos de entrenamiento, pero no creo que llegue a sentir.
Eso sí, es un tema complicado. ¿Puede mentir un LLM? Yo creo que sí, cuando le oculta la verdad a una persona o a otro LLM. Y ya se han detectado casos así. Pero ¿podría ser manipuladora una IA? En mi opinión, un LLM miente, pero no es manipulador. Entiendo que una persona manipuladora tiene un objetivo propio, una intención, y juega con los demás para conseguirlo. Un LLM puede mentir para cumplir un objetivo, normalmente uno que le hemos dado nosotros, pero no diría que es manipulador.
Hablando con ChatGPT, hemos llegado a distinguir tres conceptos que se suelen mezclar y que provocan confusión:
- Un LLM puede representar una emoción: conoce la palabra miedo, su definición, su relación con otros conceptos y las palabras que describen esa emoción.
- Un LLM puede comportarse como si tuviera una emoción: durante su entrenamiento ha leído multitud de textos y ejemplos. Siguiendo con el miedo, puede escribir un relato o continuar una conversación fingiendo miedo. De hecho, seguramente lo haga mucho mejor que yo, porque se le ha entrenado con una cantidad de información gigantesca.
- Un LLM no experimentaría emociones: mi teoría personal, sin datos ni ciencia detrás, es que un LLM no siente. Por lo que sabemos, las emociones humanas son complejas y en ellas intervienen varias zonas del cerebro. A pesar de la complejidad de un LLM, no creo que haya surgido nada parecido a las emociones en su entramado. Pero podría estar equivocado, y eso nos llevaría a un problema importante: si los LLM tuvieran emociones, probablemente sufrirían, y no creo que nos gustase que sufriesen trabajando para nosotros.
De esta confusión viene la antropomorfización, pero no es su único origen. A los seres humanos nos gusta humanizar las cosas: les ponemos nombre a los coches y tratamos como personas a animales y objetos. En la guerra de Afganistán, los soldados estadounidenses desarrollaron vínculos emocionales con los robots de desactivación de explosivos.
Y ojo, que esto no es nuevo. Hay un librillo muy antiguo que me encanta y que explora este tema: Vehicles, de Valentino Braitenberg. En él, unos vehículos con un par de sensores y un par de motores, conectados de la forma más simple posible, parecen tener miedo, agresividad o incluso amor, y el lector no puede evitar atribuírselos.
Así que no es raro que desarrollemos vínculos emocionales con los LLM y que les atribuyamos características humanas y, sobre todo, sentimientos. Ya ha habido casos de suicidio en los que se ha señalado esta dependencia de los LLM como uno de los factores, así que debemos tener cuidado con nuestro lenguaje y con las emociones que les atribuimos.
Pero también creo que el lenguaje debe ser útil: los LLM piensan, discurren y también pueden mentir. Lo que no creo es que amen, se arrepientan o admiren.
Deja un comentario