De quem é a culpa? 🫵

Olá! 👋

No atual cenário, é como se estivéssemos vivendo um infinito jogo de “batata quente”: quando uma tecnologia surge e gera impactos negativos, empresas e governos lançam a responsabilidade de um para o outro. 

O fato é que toda criação é baseada nos interesses de seu criador, sejam eles bons ou ruins. E cabe aos usuários compreender isso para aceitar ou não as condições, pensando muito bem na hora do “estou ciente e quero continuar”.

Então, de quem é a culpa quando as coisas saem do controle? Refletimos sobre a responsabilidade tecnológica nesta edição da Newsletter da Caiena.

Consciência limpa, pero no mucho… 🫣

O cientista Geoffrey Hinton, reconhecido mundialmente por ser o "padrinho da inteligência artificial",  tem um grande motivo para comemorar em 2024: a vitória Nobel de Física por seus estudos sobre machine learning. Mas, apesar da popularização da sua tecnologia pelo mundo, recentemente ele confessou que se sente arrependido de ter introduzido a tecnologia na sociedade.

Todavia, apesar do arrependimento, ele também afirmou que, nas mesmas circunstâncias, faria isso novamente, porém com o receio que a consequência geral seja de que sistemas mais inteligentes do que nós assumam o controle da humanidade.

E caso isso venha a acontecer, se as previsões de Hinton estiverem corretas, o premiado pelo Nobel pode ser culpado pelas consequências da IA? Em que momento o criador pode ser responsabilizado pela obra?

Outro exemplo de um caso que se encaixa na tríade "criador, criação e consequências" é o da prisão de Pavel Durov, fundador do app de mensagens Telegram. Em agosto, o jovem russo foi detido na França devido a uma investigação sobre ele não tomar medidas necessárias para impedir que criminosos usassem o Telegram em fraudes, tráfico de drogas, lavagem de dinheiro, promoção de terrorismo e de abuso sexual infantil. Durov foi considerado pelas autoridades francesas como cúmplice, pois não remodelou a plataforma para evitar esse uso indevido. 

Em nota, o Telegram ressaltou que Durov não teria nada a esconder e definiu como absurda a afirmação de que uma plataforma ou seu proprietário são responsáveis pelo o que ocorre nela. Mas, dias depois, o empreendedor anunciou que iria realizar mudanças no Telegram para atender essas necessidades.

Esse é um dos casos emblemáticos que mostram como governos e gigantes da tecnologia seguem se movimentando para criar e ajustar regulamentações com foco na responsabilidade sobre o uso de informações e impacto na vida dos usuários.

Responsabilidade tecnológica ✅

Muito além dos termos de uso e políticas de privacidade: o conceito de "responsible tech" (em tradução livre "tecnologia responsável"), se refere às discussões sobre a ética e as consequências do uso de tecnologias em relação à privacidade, segurança de dados e impactos sociais e econômicos. Também abordamos outros aspectos sobre esse assunto na edição sobre filosofia e tecnologia da Newsletter da Caiena.

Grazi Mendes, especialista em liderança e tecnologia, observou em artigo da MIT Sloan Review Brasil a importância de consolidar as iniciativas relacionadas à responsabilidade tecnológica para mitigar os riscos e impactos sociais dessas novas soluções neste cenário tão veloz que vivemos.

"A sensação é de estarmos num carro em alta velocidade, numa estrada que não conhecemos as curvas e nem temos ideia exata de onde vai dar. Por isso, não é despropositado o pedido de frear para recalcular a rota. [...] É como se reconhecêssemos que nos faltam instrumentos de bordo essenciais para que a viagem não termine em tragédia anunciada. A ausência de senso de propósito e orientação, com uma evolução tecnológica acelerada, tende a alimentar sistemas de concentração de dinheiro, ego e poder. E eu acredito que podemos guiar bem melhor do que isso".

Falando em responsabilidade tecnológica com foco no público infantil, trouxemos um insight do report "Responsible Innovation in Technology for Children", da Unesco. O estudo conclui que as tecnologias, principalmente jogos digitais, quando concebidas a partir do framework RITEC-8, permitem benefícios positivos ao desenvolvimento infantil. Esse framework considera oito pontos de atenção: autonomia, competência, emoção, relacionamentos, criatividade, identidades, diversidade, equidade e inclusão, e proteção e segurança. 

Sendo assim, a Unesco aconselha as empresas de tecnologia e designers com foco no público infantil a se concentrarem em proporcionar oportunidades de bem-estar em seus produtos digitais. Na Caiena, acreditamos que essa orientação seja expandida para públicos de todas as idades. Colocar as pessoas no centro dos processos é um dos nossos valores, considerado desde nossa cultura organizacional até nossos projetos.

Para encerrarmos com mais leveza essa conversa essencial, mas complexa, aqui vão algumas dicas de conteúdos que refletem sobre “criador e criações” para além da tecnologia. Nossas sugestões são os episódios "Como lidar com trechos problemáticos" e "Boicotando autores", do podcast Suposta Leitura; o clássico “Frankenstein”, tanto em livro, quanto o primeiro filme; e o longa-metragem de ficção “Pobres criaturas”.

Até a próxima! 🙂

📨 Assine aqui a Newsletter da Caiena e receba o conteúdo completo direto no e-mail!

#inovação #tecnologia #newsletter #projetos #futuro