Minha constante busca pela eternidade

“... é absurdo acreditar na ideia de que uma pessoa, quanto mais vive, mais velha fica; para que alguém quanto mais vivesse, mais velho ficasse, teria de ter nascido pronto e ir se gastando... Isso não ocorre com gente, mas com fogão, sapato, geladeira. Gente não nasce pronta e vai se gastando; gente nasce não-pronta e vai se fazendo…”. Esse trecho do livro Não nascemos prontos! de Mario Sergio Cortella me inspira em acreditar que o futuro da inteligência artificial seja a eternidade dos algoritmos. Algoritmos esses que vão acumulando experiências e aprendendo com o tempo com a vantagem de serem inorgânicos e assim conseguirem a imortalidade desejada por muitos ou então invejada pelo sr.Yashida em Wolverine Imortal.

Quando ainda jovem vi alguns dos meus modelos que havia feito padecerem. Através de elaborados mecanismos de monitoria e acompanhamento, eu observava uma tendência de queda e o sentimento era de frustração, de impotência, de tentar entender o que eu havia feito de errado. Como isso pode ter acontecido! Foram meses, ou até mesmo anos, de excelente discriminação e, de repente, o desempenho passa a cair. Confesso que algumas vezes o sentimento foi semelhante ao de retornar para casa após uma longa viagem de férias e ver a plantinha que você tanto cuidou durante meses estar ali, pálida, seca, já em estado terminal. Mas acho que o sentimento era pior, pois no caso da plantinha eu simplesmente a abandonara, mas no meu modelo não, “cuidei” dele por tanto tempo e agora não discrimina mais tão bem assim. Ele ficou velho? Seria um algoritmo como a geladeira de Cortella que teria nascido pronto e foi se desgastando?

Essa sensação de frustração e incompetência deve acometer muitos aqueles que trabalham com algoritmos preditivos e veem, na sua frente, seu modelo errar, errar cada vez mais, como um jogador experiente que deixou de praticar e assim passou a sentir-se enferrujado e quando quer retomar à ativa precisa voltar a treinar.

Em 2013 foi quando li o livro de Cortella e então pensei: “Não poderia meu modelo ser como gente? Que nasce não-pronto e vai se fazendo?” Mas não somente isso. “Não poderia meu modelo ser como o Wolverine?”

Essa ideia da imortalidade do algoritmo me motiva até hoje e, depois de alguns cabelos brancos, talvez eu compreenda que eu nunca desenvolva um algoritmo que seja eterno, mas estou certo de que a busca constante por ela me faz construir algoritmos cada vez mais robustos e longevos.

Mas a busca pela eternidade faz sentido? Seria possível a construção de um algoritmo que nunca se deteriora? Se algoritmos são feitos baseados em informações históricas e ao longo do tempo o cenário muda é possível ter um modelo que mantenha seu alto desempenho? Quais seriam essas situações? Afinal, os algoritmos aplicados ao negócio estão suscetíveis a constante mudança de cenários, são mudanças macro e microeconômicas como desemprego, taxa de juros e os produtos da moda, são campanhas agressivas de marketing, são alterações de políticas com seus respectivos apetites de risco ora mais agressivo ora mais conservador. Então se o padrão de algumas variáveis mudar completamente elas sempre passarão a destruir valor no meu modelo?

A resposta para essas perguntas era sempre muito óbvia para mim. Era meu porto seguro para justificar uma queda de desempenho no meu modelo. Da mesma forma quando voltava para casa após as longas férias e via minha plantinha ter morrido por falta de rega.

Minha percepção sobre o tema começou a mudar nos últimos anos quando passei a me dedicar também na construção de algoritmos voltados à detecção de fraudes e, desde então, vivo diariamente o dinamismo que é esse mundo.

A complexidade na detecção da fraude está justamente no seu dinamismo. Então como resolver a questão de manter o elevado poder de discriminação de modelos de maneira perene em um cenário em que, por definição, está em constante mudança? 

Atuar nessa área exige uma responsabilidade muito grande, pois um algoritmo de AI *descalibrado* pode trazer enormes prejuízos, uma brecha no “sistema” faz com que a exposição à fraude cresça exponencialmente. Tal efeito já é conhecido. É possível observar e simular o funcionamento dessa rede - os fraudadores são solidários e se comunicam.

Então como fazer para garantir a perenidade de algoritmos em um mercado altamente dinâmico que é a fraude? 

Diferente do contexto da gestão do risco de crédito em que uma transação pode vir a ser inadimplente costumo dizer que a fraude é um fenômeno determinístico e não probabilístico. Pois assim que a transação é realizada ela é ou não uma fraude. Essa pequena mudança na conjugação verbal de “é” ao invés do “pode vir a ser” traz uma mudança na forma de pensar em como combater a fraude através dos algoritmos (uma exceção a isso está na auto fraude, em que a fraude pode vir acontecer após um “arrependimento” depois de realizada a transação ou “encontro de oportunidade de ganho fácil”, o nosso jeitinho brasileiro).

Então desenvolver algoritmos baseados apenas nos dados passados é estar sempre atrás dos fraudadores. E para estar à frente deles é necessário pensar em novas abordagens.

A chave para isso está no momento do desenvolvimento de algoritmos em que se tenta de maneira exaustiva mapear cada situação possível de se cometer uma fraude, tendo ela sido realizada no passado (ou seja, estar no seu banco de dados e assim o algoritmo ajustado) ou não. E justamente nesse conceito em deixar que (apenas) os dados históricos sempre falam por si é um erro, pois fraudes não são meros números do banco de dados. As fraudes são realizadas por pessoas inteligentes que através do crime estão constantemente atrás de fragilidades. A fraude é um fenômeno real e apesar de toda tecnologia envolvida quem pratica o crime são seres humanos, e para compreender comportamentos humanos a inteligência humana é a melhor estratégia.

Além disso, a constante busca dos varejistas em si diferenciarem através da melhor experiência do usuário muitas vezes significa criar mais brechas para o fraudador atuar. Então, além da vivacidade do fraudador, a agressividade do mercado pela conquista do consumidor faz com que os algoritmos sejam cada vez mais desafiados. E acho que é isso o que mais me fascina e motiva - a criatividade humana! A criatividade em melhorar a experiência do usuário com tecnologia e a facilidade com que os fraudadores conseguem burlá-la. A criatividade do mal versus a criatividade do bem.

E é aí que entra em cena a HI. O cognitivo humano na capacidade de reconhecer padrões de forma dinâmica e criativa onde nesse jogo de gato e rato a velocidade é a palavra de sucesso. Como sabemos que fraude zero definitivamente não é o ponto ótimo a velocidade na detecção é fator determinante. E velocidade significa construir algoritmos altamente dinâmicos e capazes de serem constantemente retroalimentados por especialistas sem a necessidade de uma reconfiguração manual.

A combinação de algoritmos supervisionados e não-supervisionados, em que cria-se gatilhos de acionamentos automáticos a medida que a situação muda é perfeitamente possível se a inteligência humana por trás dela for altamente especializada. Através da experiência acumulativa humana é possível construir algoritmos baseados em situações que ainda não aconteceram, mas que através do olhar atento do especialista, o resultado daquela ação é possível de ser previsto e assim configurado.

Nesses seis anos desenvolvendo modelos de prevenção a fraudes um desses algoritmos está a mais de cinco anos reconhecendo padrões através de sua configuração original, sendo retroalimentado e aprendido com as novas situações. 

Se ele já se tornou imortal não sei, isso só o tempo dirá.