A 1º morte humana por Drone Autônomo aconteceu, e agora?

O momento tão temido pelos entusiastas da tecnologia de IA aconteceu. Cruzamos a linha, onde uma IA caçou e executou seres humanos.

A quem diga que as IA já estão matando a tempos, afinal já existem acidentes automobilísticos com morte causados por IA que controlam carros autônomos. Também existes acidentes com ou sem morte em sistemas de automação de fábricas que utilizam braços robóticos. Mas em ambos os casos a IA foi treinada ou programada para que isso não ocorresse. Foram acidentes.

Militarmente as IA já são utilizadas em sistemas embarcados de vigilância, radares, sistemas de aproximação e auxilio a tomada de decisões, mas em todos os casos o botão vermelho deve ser apertado por um humano.

Em março de 2020, de acordo com um relatório de segurança da Organização das Nações Unidas (ONU) durante a Segunda Guerra Civil Líbia, as forças líbias usaram drones de fabricação turca para “caçar” as forças inimigas que estava em retirada. Foram interceptados por veículos aéreos de combate não tripulados. Estes sistemas foram preparados com explosivos e munição verdadeira sem a necessidade de um operador para pilotarem o veículo e nem para a autorização de disparo final.

O sistema utilizado foi o Kargu-2 (“Hawk”), um drone com 4 motores fornecido pela STM. Diferente de UVAs gigantes e caros o sistema é compacto e de fácil transporte. Se você não olhar direito, parece um brinquedo que seu sobrinho ganhou de natal.

Ele funciona da seguinte forma: O operador programa as coordenadas do alvo e lança o drone. O próprio drone ao chegar nas coordenadas, identifica prováveis alvos e executa um mergulho sobre o mesmo, explodindo ao chegar próximo ao alvo como uma espingarda, lançando vários projeteis na direção do alvo.

Literalmente é uma operação de “disparar e esquecer” já que o operador pode se concentrar em outros preparativos enquanto o drone cumpre a sua missão.

Em um cenário futurista não muito agradável, podemos imaginar enxames destes equipamentos patrulhando uma área como se fossem minas aéreas.

A questão fica mais aterrorizante ao imaginar ataques coordenados deste tipo de dispositivo. Veja por exemplo a festa de virada de ano na China, em 2019/2020 no vídeo abaixo.

Izaac Asimov (*) postulou as seguintes diretivas da robótica:

·        1ª Lei: Um robô não pode ferir um ser humano ou, por inação, permitir que um ser humano sofra algum mal.

·        2ª Lei: Um robô deve obedecer às ordens que lhe sejam dadas por seres humanos, exceto nos casos em que entrem em conflito com a Primeira Lei.

·        3ª Lei: Um robô deve proteger sua própria existência, desde que tal proteção não entre em conflito com a Primeira ou Segunda Leis.

·        Mais tarde Asimov acrescentou a “Lei Zero”, acima de todas as outras: um robô não pode causar mal à humanidade ou, por omissão, permitir que a humanidade sofra algum mal.

Essas diretivas ecoaram nas mentes dos entusiastas da robótica por anos, onde a máquina assume um papel de coadjuvante na história humana. Sem a capacidade de fazer mal e até mesmo ser mais altruísta que o próprio ser humano. Talvez estejamos iludidos em achar que seres imperfeitos podem criar “seres” perfeitos. Uma síndrome de Deuses.

Apesar de ser ainda um uso primitivo, ela inaugura uma nova fase da guerra para este tipo de armamento autônomo. Como iremos nos portar em relação a esta questão ainda é uma incógnita.

Discutir a Ética da IA nunca foi tão necessário, antes por causa de nossa privacidade e agora por nossas próprias vidas.

--

(*) Izaac Asimov foi um prolífico escritor não apenas de ficção científica mas também de obras científicas, publicando ao todo mais de 500 livros e contos ao longo dos seus 52 anos de carreira; entre eles incluindo-se "Eu, Robô" e "Manual de Robótica, 56 Edição, 2058 d.C."