IA generativa y creación de la realidad

Comparto un resumen parcial para mis apuntes de otra lectura recomendada.

David Gant examina en este libro las relaciones  entre la cultura, el cerebro y la #InteligenciaArtificial generativa. Me parece de especial interés su enfoque sobre cómo estas fuerzas cognitivas configuran la conciencia humana y conducen hacia una forma emergente de absolutismo.

Uno de los puntos a destacar es la idea de la construcción cultural de la conciencia. Nuestra visión consciente del mundo no es una representación neutral de la realidad, sino más bien una proyección moldeada culturalmente, destinada a minimizar las amenazas externas y maximizar la satisfacción de deseos, lo que implica que las creencias que poseemos están profundamente arraigadas en nuestro cerebro, siendo a la vez producto de nuestra historia cultural y herramientas para afrontar la realidad externa. A través de este prisma, la cultura es la base sobre la que se conforma la agencia humana, en lugar de ser una simple influencia superficial.

De ello se deriva el concepto de absolutismo cultural, la idea de que las estructuras culturales que conforman nuestras creencias y conciencia tienen una cualidad inevitablemente autoritaria, ya que dictan cómo percibimos y respondemos al mundo. La inteligencia artificial generativa representa una extensión moderna de este absolutismo por su capacidad para moldear y reconfigurar nuestras creencias y percepciones sin una intervención consciente por parte del individuo. Tecnologías como los modelos de lenguaje avanzados y la realidad aumentada están comenzando a desempeñar un papel crucial en la construcción de la realidad percibida por el ser humano. Los modelos de lenguaje pueden moldear las opiniones al personalizar la información presentada en base a patrones de comportamiento previos, mientras que la realidad aumentada transforma cómo interactuamos físicamente con nuestro entorno, integrando datos en tiempo real que influyen en nuestras decisiones. Esto pone en serio peligro la autonomía individual, ya que los usuarios dependerán cada vez más de estas herramientas para interpretar y reaccionar ante el mundo, derivando en un futuro marcado por la sumisión cognitiva.

Existe una relación entre la tecnología y la creación de la realidad. La inteligencia artificial generativa, con su capacidad para simular procesos creativos y generar contenidos que parecen poseer valor epistémico, está comenzando a influir en la manera en que los individuos forman creencias sobre el mundo. Al insertar contenido con significados culturales directamente en los procesos cognitivos, la IA generativa transformará la forma en que las personas interactúan con su entorno reduciendo la capacidad de reflexión crítica y fomentando una forma de absolutismo tecnológico. La tecnología tiene el potencial de reformular las condiciones de existencia, llevándonos a la mencionada forma de dependencia y subyugación cognitiva. Para mitigar este riesgo, deberían implementarse estrategias basadas en el desarrollo de principios éticos claros,  promoción de la alfabetización tecnológica para fortalecer el juicio crítico y la creación de marcos legales que limiten el control desmedido de las plataformas tecnológicas, medidas que equilibrarían el impacto de la tecnología y garantizarían en cierta medida que permanezca como una herramienta complementaria al juicio humano.

Está ganando terreno la tendencia de considerar la tecnología como la última y mejor forma de gestionar la existencia humana. Se convierte así la tecnología en una suerte de "sujeto absoluto", una condición en la cual moldea el comportamiento y penetra en la conciencia, generando una especie de sujeto radicalmente autónomo, pero profundamente sometido a las lógicas operativas de las plataformas tecnológicas y la inteligencia artificial. Se evidencia en la influencia creciente de la tecnología en la formación de creencias, especialmente cuando los algoritmos de inteligencia artificial, como los modelos de lenguaje avanzados, actúan como mediadores de la información y los significados.

Grant insiste en que para contrarrestar la influencia cada vez más autoritaria de la inteligencia artificial, es necesario fomentar un enfoque de responsabilidad respetuosa y autónoma en los individuos, donde la tecnología no sea un sustituto del juicio humano, sino una herramienta que esté sujeta a él. La reformulación de los principios éticos y legales que regulan el uso de estas tecnologías se convierte en esencial para evitar que la IA generativa se degenere en el próximo estadio de absolutismo, que dictará tanto las condiciones materiales como las culturales de la existencia humana.