Hacia una Ética Digital*

Durante el año 2018 ha surgido una suerte de despertar. Un despertar tras una larga luna de miel que duró cerca de 20 años. Desde la masificación de Internet han reinado los discursos entusiastas y tecno-utópicos sobre el poder transformador de las tecnologías digitales en la sociedad actual.

Si bien el enamoramiento aún no decae masivamente, es una realidad que coexiste junto a una comunidad que parece más sensible (o despierta) frente a los usos y abusos que se hacen a través de las tecnologías digitales.

Las causas del despertar son diversas. Algunas más circunstanciales que otras. El destape de la crisis Facebook-Cambridge Analítica, la intromisión rusa en las elecciones norteamericanas, las denuncias de Snowden y un largo etcétera. Pero hay otro ingrediente clave (que lleva el tema mucho más allá que los abusos de la privacidad), el creciente protagonismo que ha adquirido la inteligencia artificial (mejor llamado aprendizaje automático) junto a la masificación del Internet de las Cosas (mejor llamado dejamos nuestros datos por todos lados sin saber cuándo ni cómo) generando una ola de declaraciones de alerta. Hay una crisis de confianza en Internet. Mientras algunos claman por mayor regulación otros ven la necesidad de generar una “nueva” (o actualizada) ética digital.

El año concluye con una gran cantidad de declaraciones a todos los niveles: nacionales, corporativos así como de la sociedad civil llamando a no olvidar los costes humanos y sociales que puede tener un desarrollo tecnológico desenfrenado. Especialmente en una época en que una gran concentración del poder tecnológico parece enquistada en unas pocas organizaciones (ej. GAFA).

Yuval Noah Harari y Tristan Harris entrevistados por la revista  Wired advierten, entre otras cosas sobre nuestra pérdida de auto-control frente a la pantalla y sobre los riesgos de "hackear" a las personas.

El contexto digital se diversifica y complejiza con la expansión de sistemas de procesamiento de datos que comienzan a prescindir de la asistencia humana para la toma de decisiones. Los marcos jurídicos actuales podrían resultar insuficientes para este nuevo escenario. Se vislumbran nuevos desafíos éticos para sistemas que pueden estar configurados desde su origen para segregar, discriminar, lastimar, o ignorar a unas comunidades frente otras (como siempre, los más vulnerables suelen ser los más perjudicados).

Permítanme ser crítico frente a los críticos. Cuando hay una gran cantidad de organizaciones que en (muy) poco tiempo anuncian acciones similares (por ejemplo lamentarse frente a los riesgos de Internet, la excesiva vigilancia, pérdida de la privacidad o la deshumanización de una sociedad regida por la inteligencia artificial), bien puede ser el inicio de un cambio sustantivo pero también existe el riesgo de que sea simplemente una moda. O peor incluso, que se manipule el discurso en pro de una ética digital simplemente como una estrategia de relaciones públicas. Aún es muy temprano para saberlo. Pero es claro que la velocidad de los cambios sociales es mucho más lenta que el ritmo de los cambios tecnológicos. Es por ello que acciones y reflexiones en torno a este tema resultan críticas para atender (y entender) los desafíos de un mañana en movimiento.

Evgeny Morozov lleva al menos 10 años alertando sobre los abusos de poder en el entorno digital.

Aquí una breve selección de publicaciones que invocan a la necesidad de una ética digital (a veces descrita a través de manifiestos, marcos, declaraciones, etc.)

• Montreal Declaration for a Responsible Development of Artificial Intelligence
• Ethical Digital Standards: A Policy ToolKit - Barcelona
• Declaración Deusto Derechos Humanos en Entornos Digitales.
• Principios de Asilomar
• IBM Everyday Ethics for Artificial Intelligence & Trust and Transparency in AI
• Manifiesto por un Nuevo Pacto Digital de Telefónica
• Human rights in the age of artificial intelligence. Access Now.

Algunos libros sobre el tema:

• Algorithms of Oppression How Search Engines Reinforce Racism por Safiya Umoja.
• The Digital Street por Jeffrey Lane
• Automating Inequality: How High-Tech Tools Profile, Police and Punish the Poor por Virginia Eubanks
• Technically Wrong: Sexist Apps, Biased Algorithms, and Other Threats of Toxic Tech por Sara Wachter-Boettcher
• Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy por Cathy O'Neil
• Ten Arguments for Deleting Your Social Media Accounts Right Now por Jaron Lanier (ver reseña en Digitalismo)

Derechos que están en discusión en el ámbito digital: -Derecho al olvido en internet -Derecho a la desconexión en internet -Derecho al “legado digital” -Derecho a la protección de la integridad personal ante la tecnología -Derecho a la libertad de expresión en la red -Derecho a la identidad personal digital -Derecho a la privacidad en entornos tecnológicos -Derecho a la transparencia y responsabilidad en el uso de algoritmos -Derecho a disponer de una última instancia humana en las decisiones de sistemas expertos -Derecho a la igualdad de oportunidades en la economía digital -Derecho a las garantías de los consumidores en el comercio digital -Derecho a la propiedad intelectual en la red -Derecho a la accesibilidad universal a internet -Derecho a la alfabetización digital -Derecho a la imparcialidad de la red -Derecho a una red segura

*Este texto es un adelanto de mi próximo libro. Más información en @cristobalcobo

Versión original, publicada aquí,