O Laboratorio do Doutor Nin

O advento da IA é como o da bomba atômica, diz o principal funcionário de tecnologia da UE

A inteligência artificial está inaugurando um “novo mundo” tão rápida e disruptivamente como as armas atómicas o fizeram há 80 anos, disse ontem Margrethe Vestager, a principal reguladora tecnológica da UE, em palestra no Instituto de Estudos Avançados em Princeton, Nova Jersey.

Nível de ameaça

Posteriormente, numa entrevista exclusiva à Axios, Vestager disse que embora tanto a bomba atómica como a IA tenham representado grandes perigos para a humanidade, a IA traz consigo “riscos existenciais individuais” adicionais à medida que a capacitamos para tomar decisões sobre o nosso trabalho, aplicações para a universidade, empréstimos, hipotecas e tratamentos médicos, por exemplo.

• “Se lidarmos primeiro com ameaças existenciais individuais, teremos uma chance muito melhor de lidar com ameaças existenciais contra a humanidade”, disse Vestager.
• Os humanos nunca antes foram “confrontados com uma tecnologia com tanto poder e sem propósito definido”, disse ela.
• O Instituto de Estudos Avançados foi liderado por J. Robert Oppenheimer de 1947 a 1966, depois que seu Projeto Manhattan desenvolveu as primeiras armas nucleares do mundo.

Panorama geral

Na sua palestra, Vestager – cujo título completo na Comissão Europeia é “vice-presidente executiva para uma Europa preparada para a era digital e a concorrência” – argumentou veementemente que “a tecnologia deve servir os humanos”.

Ponto de atrito

A passagem de Vestager pela UE coincidiu com a aprovação de algumas das regulamentações tecnológicas mais abrangentes do mundo e com a prossecução de uma série de ações de fiscalização contra gigantes da tecnologia. Mas ela rejeita a crença, sustentada por muitos na indústria, de que esta abordagem prejudicou os inovadores e as economias europeias.

• “Regulamos a tecnologia porque queremos que as pessoas e as empresas a adotem”, disse ela, incluindo os “enormes setores públicos” da Europa.
• O maior problema tecnológico da Europa é a falta de crescimento das empresas, disse ela, culpando “um mercado de capitais incompleto” e, no caso das startups de IA, a dificuldade de acesso aos chips e ao poder computacional necessários.

Ela também garante que não intimidou as empresas a aplicarem os regulamentos da UE a nível mundial, como alguns sugeriram.

• “Não estamos tentando legislar de fato para o mundo inteiro. Isso não seria adequado”, disse ela. Mas ela instou os legisladores dos EUA, os fundadores e engenheiros da IA ​​a “interagirem com o mundo exterior” para defender a sua responsabilidade para com a humanidade.

Confiança

Esse é um grande problema para as empresas de IA, de acordo com Vestager – o que é confirmado por uma longa lista de pesquisas de opinião e pesquisas.

• “Confiança é algo que você constrói quando também tem algo para mantê-lo no caminho certo”, disse ela, “como o escritório de IA da UE e os Institutos de Segurança dos EUA e do Reino Unido”.
• “Os governos podem estabelecer padrões de referência”, mas “é realmente importante que se desenvolva um sector de equipas vermelhas”, acrescentou.
• Vestager disse que os direitos à justiça e à transparência em torno das decisões tomadas com IA não têm sentido se não puderem ser aplicados através de regras.

No seu discurso, Vestager disse que as grandes plataformas digitais estão “desafiando a democracia”, mas que a “inteligência artificial de uso geral” está “desafiando a humanidade”.

• “Com a IA, você pode até desistir dos relacionamentos” com as pessoas, disse ela, citando a ascensão de robôs e chatbots companheiros. “E se perdermos relacionamentos, perderemos a sociedade. Portanto, nunca devemos desistir do mundo físico.”
• “Comparo este momento com 1955”, disse ela, referindo-se à época em que o custo da inação em matéria de segurança nuclear se tornou demasiado elevado para qualquer país ignorar, e forçou as potências nucleares a unirem-se para proteger a humanidade.
• A Agência Internacional de Energia Atómica foi criada em 1957, “que criou então as condições para o Tratado de Não Proliferação Nuclear”, disse ela.

O que vem a seguir

Vestager quer governança universal em segurança de IA, mesmo que isso signifique comprometer-se com governos dos quais “discordamos fundamentalmente”.

[AxiosAI+]