Como um software matou 400 pessoas

A cada dia que se passa, ouvimos mais a frase “a tecnologia mudou a nossa vida”, e ela fica mais clara e palpável.

Acessamos redes sociais para ver conteúdos, nos informarmos e publicarmos sobre nossa vida. Utilizamos o Whatsapp para nos comunicarmos. Ligamos a Smart TV para assistir nossas séries e filmes preferidos. Abrimos o Spotify para ouvir as músicas que amamos. Acessamos o Waze para mostrar o melhor caminho até nossos destinos.

Tudo isso tem a ver com tecnologia! E a tecnologia está criando impactos na vida real, mudanças significativas em várias áreas de nossas vidas.

Esses comportamentos citados são os mais visíveis, que alteram positivamente a nossa vida. São facilitadores da nossa experiência humana na terra.

Porém, a tecnologia, a mesma que melhora nossa vida, por meio de códigos que reduzem os erros normalmente cometidos por ser humanos, também pode ser responsável por ceifar vidas. Explico.

Vemos, em diversos filmes futuristas, robôs com inteligência artificial que ganham vida própria, assumem personalidades malignas e saem por aí com armas matando pessoas. Seres humanos que ganham imortalidade por meio de cópias de sua mente em softwares. Isso ainda está um pouco distante, mas há outras questões cruciais que fazem parte do cotidiano.

São robôs, também, e inteligência artificial, operados por códigos de programação, que mostram os posts que combinam com nosso perfil nas redes sociais. Sem contar que Interagimos e logo recebemos conteúdos com nossas últimas ações. Outro exemplo é a recomendação de uma série na Netflix. Robôs, mas não na forma como vemos em filmes (humanóides), mas existem e trabalham para gerar experiências personalizadas. ‘

E um software realmente pode ter matado 400 pessoas. Como? A Boeing, empresa líder de aviação global, lançou um novo modelo de seu avião em 2016, o Boeing 737 Max 8. Foi o avião com mais pedidos na história da companhia, com quase 5.000 modelos e bilhões de dólares em receita.

Em menos de 5 meses, foram 2 acidentes fatais. Em 28 de outubro passado, foi o voo da Lion Air, que deixou 189 mortos. Até então, como de praxe, órgãos internacionais investigam o acidente e fazem recomendações para que se evite esses acidentes: erro dos pilotos, de componentes. A aviação é uma das áreas mais tecnológicas do mundo, e seguras.

Março de 2019. Um vôo da Ethiopian Airlines caiu, matando 157 pessoas. Outro Boeing 737 Max 8.

Analisando-se a caixa preta, equipamento que guarda todos os registros do voo, se descobriu algo espantoso.

A Boeing é famosa pois seus aviões são verdadeiros robôs, possuem softwares extremamente tecnológicos, que controlam a aeronave e, em alguns pontos, não permitem sequer a intervenção humana. São computadores, que decolam e pousam sozinhos. Isso traz benefícios: evita-se erros humanos na operação desses equipamentos

Mas, softwares também erram, quando captam dados de forma equivocada. O modelo em questão possui um novo software, denominado MCAS. Esse software é responsável por algo primordial.

Em aviação, uma das grandes preocupações é o que se chama de estolagem, que é a perda de sustentação aerodinâmica. Isso ocorre quando o avião está subindo em um ângulo vertical demais sem a velocidade necessária e pode ocorrer a estolagem. Quando isso ocorre, no novo modelo, o software move o estabilizador horizontal na cauda para levar o nariz (do avião) para baixo, para evitar a estolagem.

O software é acionado quando o piloto automático da aeronave é ligado.

Nesse caso, nem mesmo se os pilotos quiserem assumir o controle do avião, conseguem.

O que preliminarmente se detectou é que alguns sensores do avião da Etiópia captaram dados errados que, ao serem passados para o computador de bordo do avião, fizeram com que ele acionasse esse sistema e jogasse o avião pra baixo, quando ele deveria ter ganhado altitude na decolagem. Em ambos os acidentes, o avião estava em decolagem, ganhando velocidade e altura, porém o software detectou uma posição equivocada da aeronave e acionou o sistema.

Os pilotos tentaram assumir o controle, mas sem saber exatamente o que estava acontecendo, o que fica claro na transcrição da caixa preta. Mas, por ironia do homem vs máquina, o software assumiu o controle e, certa do que estava fazendo, jogou o avião para baixo sem muito o que fazer.

Depois de várias agências regulatórias proibirem o modelo de voar até que se resolva o problema, a Boeing também seguiu a recomendação. Está trabalhando numa nova versão do software que capta mais dados da aeronave e que vai permitir, em casos como esse, que pilotos assumam o controle.

O impacto disso foi a queda de 13% da receita da Boeing no primeiro trimestre de 2019, causando perdas bilionárias. Centenas de aviões do mesmo modelo parado no pátio da empresa. E pilotos preocupados com o modelo.

Pode-se dizer que a tecnologia falhou? Nesse caso, a tecnologia funcionou. O que aconteceu é que os sensores a partir dos quais ela captou dados, estava errado. E o ser humano não foi capaz de colocar no software essa previsão. Ela fez o que deveria fazer, mas com os dados errados.

Tem-se criticado a Boeing pois os softwares que ela tem utilizado datam de mais de dezenas de anos. Para economizar, tanto em treinamento de pilotos para novos modelos, manutenção de outras aeronaves, está aproveitando sistema e fazendo atualizações, ao invés de criar um sistema do zero capaz de se adaptar às novas tecnologias, que prevejam por exemplo, como há em outras fabricantes, um sistema que indique exatamente o que está causando o problema.

E a luta Tecnologia vs Homem ganha novos capítulos, dando ao homem novamente o protagonismo na tomada de algumas decisões.

A tecnologia impactando em vendas, no valor de mercado de uma empresa, na vida das pessoas. É a economia digital, fruto da Era Digital.

Veja repercussão.

EUA convoca autoridades globais de aviação para avaliar mudanças no 737 MAX. Yahoo. 25/04/2019.

Com 737 MAX 8 impedido de voar, Boeing acumula despesas. The New York Times. 23/04/2019.