El otro día, escuchando el maravilloso podcast Heavy Mental, se me ocurrió una idea curiosa, de las que dan para pensar un rato.
Supongamos que la IA se queda como está, con las capacidades cognitivas que tiene hoy. No llegamos a la superinteligencia y no tenemos a unos seres superiores paseándose entre nosotros (eso sí cambiaría las reglas del juego). Pero supongamos también que la informática sigue mejorando en lo técnico: más velocidad de proceso y más memoria. Es lo que lleva décadas pasando con los ordenadores gracias a la famosa Ley de Moore. Que, por cierto, va más despacio que antes, pero todavía no se ha parado.
En ese escenario le dejo a un agente que gestione mis correos, los mensajes del móvil, la agenda, el calendario, etc. Tiene acceso a todos los datos de mis contactos y una memoria mucho más grande y precisa que la mía. Y seguramente tenga más memoria no solo que la mía (algo fácil) sino que la de cualquier persona. Ese agente llevará mi agenda con mucha más eficiencia que yo, y ni siquiera tendrá que contar conmigo para concertar citas o intercambiar información con buena parte de mis contactos.
Pero esto no tiene por qué ser bueno para mí como persona. Si mi IA está alineada y mira también por mi bien, probablemente me obligará a hacer llamadas, a mantener el contacto, a recordar fechas, direcciones y números, aunque ella pueda hacerlo mejor y más rápido. Solo para que mi cerebro siga activo.
Y esto no es una hipótesis tan descabellada como parece, porque ya nos ha pasado con el GPS. Desde que lo llevamos en el bolsillo casi nadie se aprende de memoria cada calle de la ciudad y hay estudios que relacionan usarlo mucho con una peor memoria espacial. Nadie nos obligó a dejar de orientarnos, simplemente dejamos de hacerlo porque no hacía falta.
Así que la IA probablemente nos obligará a recordar ciertas cosas solo para mantenernos en forma y que el cerebro no se nos atrofie del todo.
Claro que aquí hay una trampa. Una IA que decide qué es bueno para mí y me lo impone tampoco suena muy bien. Lo razonable sería que me lo propusiera y que yo eligiera, como el entrenador que te dice que hoy toca pierna aunque no te apetezca.
Y si no lo hace, ni siquiera como propuesta, será porque no está alineada con nuestros intereses como personas. Puede que esté mal dirigida (sus valores no encajan con los míos), que obedezca a los intereses de otros (empresas, gobiernos, etc.), que sea maliciosa (y por alguna razón no le interese ayudarme) o que sea estúpida (creemos que es inteligente y en realidad solo es fachada).
El corolario es que sucederá lo mismo con la robótica, si se desarrolla a un nivel similar. Para evitar que terminemos como los humanos de Wall-e los robots nos obligarán a hacer ejercicio.
Lo curioso es que esto nos da otro punto de vista sobre cómo podemos medir a la IA. Valoramos un asistente por todo lo que hace por nosotros, y puede que además debamos fijarnos en lo que se niega a hacer.
Deja un comentario