La nueva realidad y el escepticismo necesario

Uno de los aspectos que más me sorprende de la #IA generativa es lo referido a su capacidad de "alucinar", esto es, que invente respuestas que resultan verosímiles. Me sorprende no su capacidad técnica sino nuestra inclinación a aceptar su producción sin cuestionarla a pesar de que sus propios creadores nos aconsejen comprobar la veracidad de las respuestas, un consejo un tanto naif si tenemos en cuenta que llevamos décadas creyendo a pies juntillas cualquier cosa que vemos o leemos en Internet.

La IA está construyendo una nueva realidad basada en datos transformados en información -que no en conocimiento-, pero esta realidad matemática no es la única posible y al aceptarla como tal negamos otras como la realidad artística o la de las emociones. También indirectamente estamos aceptando como única opción la que se considera comercialmente productiva y prescindimos de lo que aparentemente es inútil, pero sin embargo es necesario para que existan personas y sociedades mejores, más libres y felices.

Esta nueva realidad construida a base de código informático está contribuyendo de manera determinante a uniformar y reducir el mundo, hace que visitemos los mismos lugares, veamos las mismas series, escuchemos la misma música, comamos los mismos platos y crezca el pensamiento único. Ahora más que nunca la singularidad queda marginada porque la estadística no se encuentra a gusto con la excepción, con los fuera de rango para los que hay que encontrar una solución que en la mayoría de los casos consiste en su exclusión (el término inglés "outlier" se traduce como aislado, es una observación anormal en una serie estadística y se convierte en uno de los primeros problemas que un científico del dato aprende a resolver), ahora es más difícil descubrir al nuevo Picasso o Cervantes porque su obra no estará siendo usada para entrenar la nueva versión de ChatGPT. Paradójicamente aceptamos de buen gusto, e incluso ayudamos a construir, esta realidad uniforme que nos limita y empobrece a cambio de la promesa de una vida más fácil. Huxley estaba en lo cierto y Orwell equivocado; el autoritarismo llega antes por la seducción que por la represión.

Frente a esta verdad incuestionable del dato se puede oponer el escepticismo, que no consiste en la negación per se sino en una actitud de cautela y moderación en la evaluación y adopción de la nueva realidad anunciada, en identificar y rechazar el dogma -que nunca ha supuesto progreso-, y ya de paso alumbrarnos menos con la luz de una pantalla y más con la propia.

Nota: este artículo está inspirado en la lectura de dos textos del filósofo Juan Arnau publicados en El País, y cuya lectura sin duda resultará más interesante y enriquecedora: "La erótica del dato apantalla nuestra luz interior" y "Escepticismo contra la digitalización del mundo", también en otras lecturas anteriores entre las que destaco "La utilidad de lo inútil", de Nuccio Ordine.