Inteligência artificial ou imbecilidade automatizada - podem máquinas pensar e sentir?

Inteligência artificial ou imbecilidade automatizada - podem máquinas pensar e sentir?

Setzer publicou texto muito assertivo sobre limites da Inteligência Artificial (IA) que vou reconstruir aqui, também como contraponto ao delírio atual em torno da aprendizagem e autoria maquinal. O texto, pelo título, soa muito provocativo, uma tática do A para mostrar o outo lado da questão. Em geral, seguindo Kurzweil, os avanços tecnológicos ganham feições apocalípticas em favor da máquina, contra os humanos, e é muito relevante considerar vozes contrárias. Dá-se de barato que máquinas pensam, raciocinam, entendem, aprendem, esquecendo-se que estas habilidade são de tecnologias biológicas, não digitais. Estas superam a tecnologia biológica em muitas frentes, mas não superam “a” tecnologia biológica, pelo fato de serem outra tecnologia, não necessariamente rivais. Como as tecnologias digitais penetram tudo em nossas vidas, também em seu sentido, é decisivo discutir o alcance delas, o lugar delas (vieram para ficar; é melhor ter relação autocrítica com elas), o que podem agregar, destruir, revolver etc. 



I. INTRODUÇÃO



“O crescente poder de computação dos computadores modernos tem permitido a implementação de tarefas que pareceriam quase impossíveis há 50 anos. Alguns exemplo foram a derrota do campeão mundial de xadrez por Deep Blue da IBM, voz, escrita à mão e reconhecimento de padrão, ‘aprendizagem’ maquinal efetiva etc. Isto ocasionou a questão sobre os limites dos computadores: estão substituindo toda atividade humana intelectual ou humana? Vão revelar comportamento inteligente e substituir humanos em tarefas criativas? Vão os computadores realizar o mesmo tipo inteligente de pensamento e sentimento dos humanos? vão robôs performar toda tarefa dos humanos? Irão eles se tornar indistinguíveis dos humanos? tais questões deixaram o domínio da academia com as apresentações dos filmes The Bicentennial Man e A.I. Artificial Intelligence” (S:5). Muito se escreveu a respeito. O que S pretende é introduzir modo diferente de análise, ainda que possa ser vista como estranha. Deixa bem claro que seus argumentos não se baseiam em pensamento místico ou religioso. O leitor vai reconhecer que os argumentos são conceituais e não emocionais, e se direcionam ao entendimento comum. E faz alguma recomendações: quando se encaram novas ideias, há que tomar uma atitude e três ações: i) não dar chance a preconceito, independente da estranheza das ideias ou informação; exemplifica com a queda das torres do World Trade Center em 11 de setembro de 2011 – se alguém dissesse, antes, que teria ocorrido, responderia ser algo bem estranho, pois nunca se viu; cabe investigar. É fundamental a abertura à informação, deixando críticas para um passo ulterior, depois de estudar; ii) verificar se as ideias são consistentes, destituídas de contradições lógicas; iii) verificar que as novas ideias não contradizem o que se observa no mundo, fora e dentro do observador; iv) verificar que novas ideias parecem atraentes, ou seja, dão um sinal; não há teoria completa; todas são tentativas; é preciso ler até ao fim para retirar conclusões mais bem argumentadas. Preenchendo as 4 condições, novas ideias se tornam hipóteses operacionais, não dogma. 

IA se funda em computadores modernos, sendo importante saber o que um computador é, do ponto lógico de vista, entendendo os traços de seu processamento de dados e o fato de representa processamento sintático, não semântico. Pensamento é ponto central quando se trata de inteligência. Junto com pensamento, levam-se em conta intuição, percepção sensorial e papel do cérebro no processo pensante, entendimento e aprendizagem, e o problema se cérebro é ou não computador. Define-se o que é inteligência, a discussão em voga e a posição do A. Descreve o Teste de Turing e suas extensões. Depois veremos se máquinas podem sentir, comparando pensar e sentir, a individualidade subjetiva e a possibilidade universal lógica. A questão da consciência é abordada, bem como a questão humana – somos ou não máquinas? Redes ‘neuronais’ são discutidas, também a pretensa simbiose humanos-máquina (singularidade). Considera “Inteligência Artificial” como questão equivocada. Não sabemos o que inteligência humana é e como funciona, mas podemos saber como o computador funciona. Afasta antropomorfizações comuns, como “memória”. 



II. O QUE É UM COMPUTADOR?



Computadores digitais modernos são máquinas matemáticas, lógico-simbólicas, algorítmicas. Significa que o processamento e o efeito de toda instrução linguagem-máquina interpretada pelo computador (rigorosamente, um computador nunca executa instrução, mas interpreta) pode ser matematicamente descrita, i.e., representa uma função matemática. Ademais, as matemática implicada é restrita: só lida com símbolos tomados de conjunto finito discreto, ao qual sempre se pode atribuir um sistema numérico. O espaço operacional é sempre quantificado. 

1. Dados

Programa de computador é um conjunto de instruções e pode sempre estar associado com uma função matemática que mapeia elementos de um conjunto de dados de input dentro de elementos de um conjunto de dados de output. S define dados como uma representação de símbolos quantificados ou quantificáveis (2006). Por quantificável S quer dizer que, quando algum objeto é quantificado e uma representação física é feita a partir desta quantificação, não é possível distinguir esta representação do objeto original. Por exemplo, se uma imagem impressa é escaneada (digitizada) e introduzida num computador, que então a imprime, e a impressão resultante se parece com o origina., este é quantificável, pois dentro de um computador todo objeto é representado via sistema numérico, i.e., via quantidade. Outro exemplo de dados são textos, sons registrados e animação, e mesmo objetos reproduzida por uma impressor de 3D (S:7). Sendo computadores máquinas algorítmicas, funcionam por algoritmo, sendo este uma sequência finita de ações matematicamente definidas que são executadas sequencialmente, uma a uma, exceto para uma ação eu salte a execução para uma ação que não é a próxima na sequência. Ainda, a execução precisa terminar para qualquer conjunto de valores dos dados de input, i.e., sem entrar em laço infinito de instruções. Programa de computador pode ser sequência de instruções bem definidas, i.e., válidas, escritas em alguma linguagem programável que é interpretada pela máquina, ou traduzida por ela em sua ‘linguagem maquinal’ própria interna. Se este programa inserir durante sua execução um laço infinito de ações, certamente com repetição de algumas ações (pois a sequência de ações é finita) na qual nenhum valor é mudado, e não há input de novos dados, então não é algoritmo. Segue que um programa é um conjunto de regras matemáticas de como transformar, transportar e estocar dados. dentro do computador, dados são representados como tiras de símbolos quantificados. As tiras em si sempre seguem certa estrutura sintática. Por exemplo, uma tira de endereço é composta de três parte: rua e número, cidade e CEP. O CEP precisa seguir certo padrão – um atira de um certo número de dígitos decimais. Como programas e dados seguem regra de sintaxe, pode-se dizer que um computador é uma máquina sintática. 

É interessante que S considera que dados são “interpretados” pela máquina, pois esta precisa captá-los: sensores digitais traduzem o que apanham na realidade conforme sua tessitura própria; não traduzem “a” realidade, mas, primeiro, a parte digitizável, também quantificável, dos dados, segundo, de acordo com a condição do sensor (há mais e menos sensíveis, nunca captam tudo etc.). Trata-se, porém, de uma interpretação sintática, linear, não semântica: esta entende e produz sentido, aquela reproduz. Há aí um paralelo com os sentidos vivos: sã autorreferentes, no sentido de que a captação tem como parâmetro a capacidade de captar, além de a captação digital ser tipicamente linear o reprodutiva. A captação viva, na condição de sujeito, não só reproduz, mas também produz sentidos, entendendo-os via reconstrução intersubjetiva.

2. Informação

Informação é uma abstração que existe apenas numa mente humana e tem sentido para a pessoa (Setzer, 2006). Diz não ser uma definição: “não é possível definir o que ‘abstração’, ‘mente’ e ‘significado’ são” (S:7). Então, S toma informação como algo já elaborado, com significado. Uma ressonância magnética é apenas dado para o leigo; pode ser informação crucial para o médico. A taxa de crescimento do PIB é apenas número para o leigo; é informação relevante para o entendedor: no primeiro caso, é um dado; no segundo, informação. É comum tomarmos informação como mero dado, para alegar que importa reconstruir a informação de maneira autoral. Informação, para S, já é semântica, além da sintaxe. Computadores processam dados, não informação. Não são processadores de informação, pois não entendem o que processam. 

3. Quarto chinês de Searle

Searle (1991:32) descreve um quarto com uma pessoa nele, o operador. Muitas cestas com ideogramas chineses estão no quarto, bem como um livro de regras escritas em inglês, sobre como combinar ideogramas chineses de várias cestas. A pessoa recebe via janela de entrada uma sequência de ideogramas, e, usando o livro de regras, combina os ideogramas entrantes e alguns das cestas, compondo nova sequência, que é então passada para fora do quarto via outra janela de saída. O operador não sabe o que faz, mas, na prática, está respondendo a questões em chinês. Searle argumenta que há distinção aguda entre tal operador e outra pessoa que lê, entende e escreve chinês, e responde a questões sem usar o livro de regras. Argumenta que a segunda pessoa faz mais que a primeira, pois entende o que significam cada questão e sua resposta. Corretamente diz que computadores são máquinas puramente sintáticas, combinando símbolos através de regras predeterminadas; então um computador pode substituir o operador da quarto. Humanos fazem mais: associam significado, semântica, ao que observam e pensam. Para Searle, ter uma mente é bem mais que ter processos sintáticos formais. 

Para S, computadores não são capazes de pensar, pois pensar requer semântica. Programas não criam uma mente para o computador. Reclama S que Searle toma significado e semântica de modo ingênuo e não elabora. Discorda de uma premissa: diz que “cérebros causam mentes” (Searle, 1991:39), i.e., mentes são meros resultados, consequências de nossos cérebros físicos. Vai mostrar mais à frente que, partindo desse ponto de vista, é possível elaborar mais sobre o que entendimento, significado e semântica poderiam ser. Agora vale ressaltar que a premissa não invalida o argumento da Quarto Chinês. No contexto, computadores não são aptos a pensar, a serem inteligentes, autores, porque lhes falta a tecnologia biológica, que, porém, não se reduz a “cérebro causando mente”: esta expectativa linear desfigura a intersubjetividade semântica. A semântica precisa de sintaxe, como toda língua tem uma gramática; mas esta é instrumental, linear, sequencial, enquanto a sintaxe é complexa, intersubjetiva, entende e produz significados, como em nossa comunicação comum. Processar dados é atividade algorítmica, sequencial, linear, no fundo reprodutiva, agregativa; não é inteligente propriamente, porque reproduzir não é inteligente. Ainda, o mundo semântico é ambíguo, contraditório, entrelaçado, incompleto, enquanto o mundo algorítmico não admite contradição e ambiguidade, porque não tem interação intersubjetiva, necessária para entender e fazer sentido. 



CONCLUSÃO



Setzer é conhecido por ser direto. Vivendo no mundo formalista matemático, sempre mostrou capacidade epistemológica brilhante, sabendo questionar o método, sobretudo se autoquestionar. Nunca se fascinou por promessas digitais que fantasiam habilidades autorais no computador, nem mesmo quando a analítica digital disse que computador “aprende”. Precisamos redefinir aprender, se é para incluir o computador, já que aprender pede uma tecnologia biológica capaz de semântica. Tecnologia digital, ao que se sabe, não entende semântica. Literalmente, o computador processa dados de modo muito mais hábil e efetivo que os humanos, mas não sabe o que está fazendo. Não é autor, não questiona, muito menos se autoquestiona. S é, ao fim, uma voz dissonante no mundo embasbacado do digital. Muito importante esta posição, porque aponta para antropomorfizações infantis que acabam sendo úteis apenas para a mercantilização das máquinas e suas plataformas. Um robô, para ser uma companhia à la humana, que entende o que o dono quer e resolve seus problemas é uma fantasia torpe, pois o robô teria de transmutar-se biologicamente. Mesmo não excluindo esta hipótese, ainda não aconteceu, nem parece prenunciar-se, por enquanto. 



REFERÊNCIAS



SEARLE, J.R. 1991 Minds, brains and science – the 1984 Reith Lectures. Penguin. 

SETZER, V.W. 2006. Data, information, knowledge and competence. 3rd Contecsi (International Conference of Information Systems). Febr. https://www.ime.usp.br/~vwsetzer/data-info.html 

SETZER, V.W. 2021. AI – Artificial Intelligence or automated imbecility? Can machines think and feel? Biblioteca 24 Horas. 


Entre para ver ou adicionar um comentário

Outros artigos de Renan Antônio da Silva

  • Professor Profeta Falido

    Professor Profeta Falido

    Discuto aqui, de maneira muito preliminar e solta, a função docente na universidade (também da escola), que…

    3 comentários
  • O que acadêmicos realmente querem

    O que acadêmicos realmente querem

    Na obra de Brennan & Magness (2019) (BM) sobre rachaduras na Torre de Marfim, analisamos o que acadêmicos querem…

  • Problemas com cronologia

    Problemas com cronologia

    Na obra de Graeber (2023) (G) sobre Iluminismo pirata (Libertalia), vamos entender problemas com cronologia. O mais…

  • Mulheres como símbolos políticos

    Mulheres como símbolos políticos

    Na obra de Graeber (2023) (G) sobre Iluminismo pirata (Libertalia), vamos estudar mulheres como símbolos políticos…

  • Brinquedos são nós (Toys are us) - Como meninos, meninas e outros primatas brincam

    Brinquedos são nós (Toys are us) - Como meninos, meninas e outros primatas brincam

    Na obra de Waal (2022) (W) sobre Diferente (gênero aos olhos de primatólogo), vamos estudar como meninos e meninas…

    1 comentário
  • Neuroplasticidade

    Neuroplasticidade

    Na obra de Rutherford (2022) (R) sobre neurociência e decisão, passamos a entender a neuroplasticidade, vista como uma…

  • Mulheres como símbolos políticos

    Mulheres como símbolos políticos

    Na obra de Graeber (2023) (G) sobre Iluminismo pirata (Libertalia), vamos estudar mulheres como símbolos políticos…

  • Estão os estudantes prontos para assumir os desafios ambientais?

    Estão os estudantes prontos para assumir os desafios ambientais?

    Em muitos países cresce o cuidado com desafios ambientais, porque a degradação ambiental está flagrante demais e…

  • Humanos complexos - Algumas implicações epistemológicas da condição evolucionária e sociocultural

    Humanos complexos - Algumas implicações epistemológicas da condição evolucionária e sociocultural

    Estudando o livro instigante de Suzman sobre Trabalho (uma história de como utilizamos o nosso tempo, da idade da pedra…

    2 comentários
  • Como entender mais profundamente

    Como entender mais profundamente

    Na obra de Rutherford (2021) (R), sobre a teoria do pensamento crítico, o desafio é como entender mais profundamente…

Outras pessoas também visualizaram

Conferir tópicos