The Algorithm, de Hilke Schellmann

La historia de cómo la Inteligencia Artificial ha llegado a mandar en el mundo del trabajo.

Hilke Schellmann dice que se dedica a mantener la IA bajo control - y queda claro desde el principio que su libro no es una celebración acrítica de los avances de esta tecnología. 

Al contrario: es una señal de alerta. “La IA decide quien será contratado, promovido o despedido” dice en la portada y nosotros “debemos luchar contra este estado de cosas ahora”.

Cómo buena periodista, lo primero que hace es tocar con mano:

• Prueba varias herramientas y las expone al ridículo, cómo cuando responde a una “entrevista automática” hablando de cualquier cosa en alemán y obtiene el mismo puntaje que en su respuesta “normal”;
• Habla con ex-empleados de las mismas y descubre un mundo de aproximación y superficialidad, donde la ciencia no es tan importante como los ingresos;
• Nos lleva a conocer personas que han sido despedidas por un algoritmo y explora sus emociones.

La promesa de la IA es tan seductora que queremos creerle: un mundo donde las decisiones se puedan finalmente basar en “los hechos” y no en los preconceptos, miradas o valores de una u otra persona. 

La selección de personal entonces no dependerá de la simpatía del entrevistado sino de sus méritos “objetivos”; lo mismo para la decisión de a quién despedir o promover.

Sin embargo, la tecnología es muy joven y es importante mantener una buena dosis de escepticismo: ¿qué tal que nos toque justo la herramienta equivocada?

La autora nos lleva luego a explorar los territorios de Talento Humano que han sido objeto de la invasión de la IA: juegos, scrapping de redes sociales, análisis de las expresiones faciales y del tono de voz; recolección de datos biométricos; vigilancia.

Su interés es siempre ir más allá de las características y entender:

• Primero: si estas herramientas funcionan (spoiler alert: la mayoría son dudosas)
• Segundo: qué impacto tienen sobre la sociedad, en particular a través del sesgo.

Intuitivamente, sabemos que las decisiones de un ser humano dependen en gran medida de su experiencia y de sus valores personales. Una máquina -al menos en teoría- debería estar libre de estas influencias y poder tomar decisiones equitativas.

Al pasar de humano a IA, en cambio, estaríamos simplemente cambiando un sesgo por otro; con la agravante que estos “nuevos prejuicios” son mucho más pervasivos y potentes: un entrevistador humano puede hacer veinte entrevistas al día, una máquina veinte millones.

Por ejemplo: si un algoritmo tuviera un sesgo en contra de las mujeres (casos se han visto y documentado) su impacto sería explosivo. Además, siendo una “caja negra” no sería fácil ni rápido demostrarlo.

Es tierra de frontera: todos estamos aprendiendo. Pero ya las grandes empresas usan estas herramientas, atraídas por la seductora promesa de eficacia y eficiencia.

la Inteligencia artificial no lo resuelve todo, y la mirada humana sigue siendo clave - especialmente en casos complejos. 

La máquina sin embargo tiene muchas ventajas, unas obvias (reducción de costos ) y otras paradójicas. 

Esta dualidad la estamos viendo en acción en Talento Humano ya hace unos años así como -por ejemplo- en el sistema bancario; pronto entrará a los tribunales, a la policía, al sistema de salud. 

Lo que vayamos aprendiendo ahora nos va a ser muy útil en las próximas décadas; los responsables de Recursos Humanos están en primera línea y juegan un rol clave.