A veces oigo despotricar de los chatbots: que alucinan, que no tienen ni idea, que se lo inventan todo. Y en algunos casos es verdad, pero en otros no es culpa del modelo, es simplemente que no le hemos dado información suficiente para contestar correctamente.
Hoy no toca hablar de humanizar a los LLM. De hecho ya hablé de ello hace mucho (por ejemplo en este artículo y en este). Poner nombres a los barcos, coches y aviones y tratarlos como personas es algo normal en los seres humanos que sucede desde siempre, y con los chatbots pasa lo mismo. Pero no era el tema de hoy, sino algo que sucede al interactuar con los LLM y de lo que no todo el mundo es consciente.
En los LLM es muy importante la contextualización de la conversación que estamos teniendo. Soy muy malo buscando ejemplos útiles, pero ejemplos simplones para que se entienda se me ocurren más. Si a un LLM le dices ¿qué pasa con mis vacas? seguro que te entiende, pero lo que te conteste depende por completo del contexto que le hayas puesto: si eres ganadero o si eres oficinista seguro que te contesta distinto.
Mi mujer tiene la manía de cambiar de tema internamente. Lo mismo te está hablando del cole de los chicos, se queda en silencio un rato y me pregunta que si he pasado a recogerlo. Ya le tengo cogido el hilo, ya sé que puede ser algo del colegio o puede que se haya adelantado a otro tema. Pero me pasa como a los LLM: necesito más información para contestar.
El problema es que los LLM contestan con lo primero que se les viene a la cabeza (más bien lo primero que se les viene a la red neuronal). Aunque han mejorado, su tendencia es a contestar algo, cualquier cosa. Y ahí es dónde la cagan: no tienen información suficiente, pero como su algoritmo está pensado para generar texto, terminan inventando y se produce una alucinación.
Así que el consejo de hoy es simplemente que, en este sentido, los tratemos como personas: cuanta más información contextual incluyamos en una pregunta, más fácil es que el LLM nos conteste a lo que le pedimos. Los modelos más nuevos van a necesitar cada vez menos contexto para contestar correctamente, pero mientras tanto, saber explicarles bien lo que queremos va a ser una habilidad casi tan útil como saber buscar en google.
Deja un comentario