¿Qué perdemos con más IA?

Michael Sandel, en "Lo que el dinero no puede comprar", argumenta que existen límites morales al uso del mercado en nuestra sociedad. Sostiene que no todos los bienes y servicios deben estar disponibles para su compra, ya que esto puede corromper valores fundamentales. Un ejemplo que menciona es el de las filas: cuando permitimos que las personas paguen para saltarse la fila en una audiencia pública, lo que debería ser un mecanismo equitativo se convierte en una transacción económica, favoreciendo a quienes tienen más recursos y erosionando la igualdad en el acceso a las autoridades. Creo que podríamos hacer un paralelo con la creciente sustitución de actividades humanas por inteligencia artificial; es decir, si permitir que una IA realice tareas que antes hacían personas podría degradar valores fundamentales que consideramos inherentes a esas acciones.

Algo así ocurre con los chistes. Michael Yeomans descubrió en su investigación que tendemos a encontrar más graciosos los chistes recomendados por una IA que aquellos sugeridos por personas, incluso cuando esas personas nos conocen bien. Sin embargo, algo curioso sucede cuando al evaluador se le informa que el chiste fue seleccionado por una IA: de repente, pierde parte de su gracia, a pesar de que el contenido sea exactamente el mismo. ¿Por qué sucede esto? Tal vez se deba a una desconfianza innata hacia las recomendaciones automáticas, o quizás porque el lector prefiere imaginar la intención y el humor detrás de un recomendador humano, algo que la precisión de una máquina no podría replicar. Sea cual sea la razón, el simple hecho de saber que una máquina está detrás de la recomendación parece arruinar el chiste.

¿Han experimentado algo similar? Personalmente, la presencia de una IA tomando notas en reuniones degrada mi experiencia en la reunión misma, especialmente en un entorno de trabajo en equipo. Las reuniones no solo son para informar o tomar decisiones; son espacios de confianza donde se construye la cohesión del equipo. En estos momentos, espero que alguien se sienta lo suficientemente cómodo para compartir algo personal, y que sus compañeros puedan ofrecer palabras de apoyo. Es un espacio para generar pertenencia y complicidad. Me parece natural que se comenten aspectos difíciles sobre un cliente o que se discutan problemas personales con personas de otros equipos. Además, los líderes suelen usar estos encuentros para desafiar o hacer reflexionar a su equipo. Todo este "roce" es fundamental para formar equipos de alto desempeño, pero estas interacciones se ven mermadas cuando sabemos que todo quedará registrado por una IA más preocupada por la exactitud del resumen y los compromisos, que por cuidar a las personas que están realizando estos intercambios.

¿Por qué importa esto? Pensemos en la economía de los cuidados. Las tendencias demográficas nos indican que cada vez más adultos mayores necesitarán atención en el futuro, y ya estamos fallando ya en proporcionar el cuidado adecuado a niños, enfermos y personas con discapacidad, con consecuencias graves que recaen de manera desproporcionada en las mujeres. Esta demanda insatisfecha de cuidados podría parecer un campo prometedor para la inteligencia artificial, pero ¿cuán cómodo nos sentimos con la idea de que una máquina cuide de nuestra abuela? Más importante aún, ¿es este reemplazo del humano por una máquina un acto que degrada la experiencia esencial de cuidar y ser cuidado?

Antes de que me crucifiquen por anti-progreso, yo empujo con fuerza el carro de más IA en nuestras actividades. No descarto que, en el ámbito de los cuidados y en muchos otros, podríamos encontrar formas de aumentar la experiencia humana, como automatizar tareas administrativas para que los cuidadores puedan dedicar más tiempo a los pacientes. Sin embargo, el punto central es otro. Esta transformación no está ocurriendo, y estamos reflexionando mucho menos de lo que deberíamos sobre los efectos más profundos de sustituir a las personas por máquinas en roles sensibles y me temo que, no sabemos bien cómo tener este tipo de discusiones.