Queda de avião na Etiópia expõe conflito: Homem x Máquina

Esta semana tivemos um triste acidente com o voo Ethiopian Airlines Flight 302, que caiu matando 157 pessoas. As buscas das causas do acidente estão ainda em etapa muito preliminar, mas já há um grande suspeito e não se trata nem do mecânico e nem do piloto.

O maior suspeito é o software do avião.

Não entendo de aeronáutica, o que estamos discutindo aqui é apenas a relação entre o homem e a máquina.

Vamos ao caso

Resumindo o caso, o avião em questão é um Boeing 737 Max 8, uma aeronave considerada o "estado da arte", uma das mais modernas e repleta dos mais recentes dispositivos de segurança. Esse modelo conta com um software avançadíssimo (MCAS) que, em resumo, toma decisões de "pilotagem", baixando o nariz da aeronave conforme a leitura dos instrumentos, sem necessidade do aval do piloto.

Segundo se especula, há a suspeita de que o software tenha sido acionado por falha de leitura, ou outro problema, e que esta seria a causa desse acidente e de um outro, com o mesmo modelo, no ano passado na Indonésia. Neste outro caso, alguns dizem que o piloto teria ficado "brigando" com o sistema por minutos. Contudo, quando conseguia corrigir o posicionamento da aeronave o software novamente baixava o nariz do avião, até sua queda.

Homem x Máquina

Não podemos fazer alegações de natureza específica do caso, pois não conhecemos os detalhes e nem temos a competência para tal. O que queremos é apenas meditar sobre esses acontecimentos.

Sabemos a capacidade dos sistemas, da inteligência artificial e de tudo o que trazem. Seus altos níveis de acerto e rapidez de decisão. A pergunta a ser feita aqui é a seguinte:

Pode a decisão de um sistema computacional sobrepor a decisão de um ser humano?

A resposta parece clara, mas ainda não... Essa questão já foi feita alguns anos atrás e, provavelmente, com outra sua resposta. Vamos relembrar a pergunta que fizemos no passado, e refazer a de hoje, cada uma com sua própria situação:

• Lembra do piloto alemão que se trancou na cabine e atirou, de propósito, o avião nas montanhas? Será que um sistema automatizado, ao ver a situação, não deveria ter capturado o comando da aeronave para evitar a queda?
• E neste voo da Indonésia (supondo que foi o que aconteceu)? O piloto, ao ver a situação, não deveria ter capturado o comando da aeronave para evitar a queda?

Pois é, duas respostas para a mesma pergunta. E a resposta é direta, apesar de ser bem complicada:

Deveria assumir o comando da aeronave, quem estiver certo!!

Dessa, outras dezenas de perguntas vão surgir:

• Os sistemas frios parecem mais confiáveis do que os homens? E se os dados estiverem incorretos? A decisão não será igualmente incorreta?
• Em quem é melhor confiar nossas vidas? Num piloto experiente ou num sistema da NASA?

A princípio, minha opinião é bastante clara. Em situações como esta não se pode confiar nem em um único software e nem em um único homem.

Talvez fosse melhor que os softwares sempre se submetessem a mais do que um homem. Um no avião e outro em terra. Pois um software erra, um homem erra. Mas uma decisão fatal teria que ser cometida por duas pessoas, olhando de ângulos diferentes.

E você, o que acha?