#18 - Pero entonces, ¿la IA razona o no? Os lo explico (actualizado)

Actualización: algunos me corregís en los comentarios sobre si el razonamiento ocurre a un nivel ortogonal y no de lenguaje, y sobre si habría que preguntar a un psicólogo o filósofo.

Y yo digo: por supuesto. Cuando digo que razona o que no razona, siempre estoy en el plano práctico del común de los mortales, no en el plano científico. Por eso esto es una newsletter en LinkedIn y no un paper en una publicación científica.

Pídele a una IA que razone por escrito. Pídele a un humano que razone por escrito. En la práctica, obtienes dos escritos similares. En muchos casos, el texto generado por la IA es mejor que el texto generado por un humano.

Si esta idea te parece intersante, este artículo te interesará. Si te parece una tomadura de pelo, mejor pasa de largo

¿Razona la IA? ¿ Copilot o ChatGPT razonan?

La respuesta no es nada obvia: Sí y no.

¿Razona la IA? sí o no

Normalmente decimos que la IA razona*. Y le ponemos un gran asterisco porque en realidad no razona, sino que imita razonamiento.

Bueno, si es capaz de imitar el razonamiento humano, pues me vale, ¿no?

Pues no exactamente. Funciona de manera distinta a un humano y hay que entender la diferencia para poder usarlo bien y no meter la pata.

¿Cómo razona un humano? 

Normalmente las personas tenemos procesos de razonamiento que nos llevan a una respuesta. La respuesta es el resultado del razonamiento. Hay una pregunta o una cuestión que resolver, hay un razonamiento, normalmente oculto, y hay una respuesta o solución como consecuencia del razonamiento.

¿Cómo razona la IA?

En el caso de la IA es distinto. Cuando le haces una pregunta a tu asistente favorito, éste directamente escupe la respuesta. No hay razonamiento intermedio. Es como una calculadora sobre-musculada. Pregunta = respuesta. Sin razonamiento. Como un humano que responde por intuición, sin pensárselo (ojo al bonus 2, al final)

Y aquí viene el problema: si después de la respuesta le pides un razonamiento al asistente, la IA creará un razonamiento que justifique su respuesta previa.

Esta idea es la importante, grábatela:

si después de la respuesta le pides un razonamiento al asistente, la IA creará un razonamiento que justifique su respuesta previa.

Esto sólo es un problema si no lo sabes. Conociéndolo, podemos usarlo como una herramienta más.

Solución: razonamiento antes que la respuesta

La solución si quiero que la IA me ayude con un razonamiento es simple: pide el razonamiento antes de la respuesta.

Esto forzará la asistente hacer un razonamiento y la respuesta final será la conclusión de dicho razonamiento.

Esto está más o menos implementado en GPT-4. Por eso están redicho, y cada vez que le haces una pregunta, por simple que sea, normalmente te da demasiadas explicaciones previas antes de la respuesta. Es muy pesado, pero necesita serlo para que la respuesta sea buena. Necesita "pensar en voz alta" 

Lo cual nos lleva a lo siguiente:

Evita los diálogos de besugos

Si le has hecho una pregunta a tu asistente preferido, te ha dado una respuesta, y no te fías mucho porque no la ha razonado (o por lo que sea) --> no le pidas explicaciones sobre la respuesta previa. Es muy probable que te metas en un diálogo de besugos donde la IA tratará de justificar lo que dijo previamente.

En este caso simplemente empieza de cero haciendo la pregunta de otra forma o pidiendo el razonamiento previo.

Bonus

El lío con todo esto es que la IA se comporta de forma sospechosa e inquietantemente parecida a las personas, pero con diferencias de base importantes que a menudo se pasan por alto. Hay que conocer estas diferencias para poder sacarle partido.

Recordad que la IA maneja muy bien el lenguaje, tiene un buen conocimiento e imita razonamientos, pero no significa que funcione como una persona. La IA no tiene intenciones, ni sentido común, ni sentimientos ni nada parecido. Lo que resulta obvio es una conversación entre humanos no lo es en absoluto en una conversación entre humano de IA.

 Tampoco razona al nivel que lo hace una persona; no me meto en si razona tan bien o de manera tan compleja como lo hace un humano. Pero a la velocidad a la que va esto, tiene pinta de que cualquier día razonará mejor que todos nosotros juntos...

Y más vale que no se acostumbremos más porque tiene pinta que los próximos años vamos a hablar más con los asistentes que con otras personas.

Bonus 2

Esto de llegar a una conclusión precipitada en base a deseos o emociones o prejuicios, en lugar de en la evidencia objetiva, y luego buscar información o argumentos que justifiquen esa conclusión, ignorando o desacreditando la evidencia que podría contradecirla, ocurre mucho entre humanos. Lamentablemente. Es una falacia común llamada "razonamiento motivado" o "racionalización motivada".

El ejemplo típico es el de las películas de policías, donde se aparta de la investigación al policía si está implicado personalmente, porque esa implicación personal hará que tienda a fabricar razonamientos que le lleven al resultado "motivado". Mola.

#MentesInquietas #GenAI #InteligenciaArtificial