Os riscos e as tendências do mundo dos dados

A inteligência artificial tem se tornado fator estratégico para empresas de diferentes segmentos se diferenciarem nos mercados em que atuam. Se por um lado os algoritmos trazem benefícios importantes em áreas como indústria, saúde e educação, por outro é preciso ter olhar atento à estruturação do modelo de IA. Um levantamento feito pelo Gartner este ano revelou que 85% dos projetos de inteligência artificial fornecerão resultados errôneos devido ao viés de dados, algoritmos ou das equipes responsáveis por gerenciá-los.

Nesta entrevista concedida à MIT Sloan Review Management, Iain Brown, head de ciência de dados de SAS para Reino Unido e Irlanda, professor adjunto de marketing de dados na Universidade de Southampton, e considerado uma das 100 pessoas mais influentes na área de dados de 2020 pelo DataIQ, fala sobre riscos, questões éticas e os problemas de plataforma que as organizações devem levar em consideração antes de adotar a inteligência artificial.

MITSMR: Em sua opinião, quais são os maiores riscos associados ao desenvolvimento de soluções de inteligência artificial (IA)?

Iain Brown: Atualmente, o maior risco que se percebe é o nível de transparência do processo que leva à tomada de decisão baseada em IA. Os clientes podem, muitas vezes, não concordar com essas escolhas. Nestas situações, o ideal é adotar uma abordagem estruturada na implantação de IA. Para exemplificar, vi diversas organizações basearem sua estratégia nas áreas de justiça, responsabilidade, transparência e ética (conhecida como FATE - fairness, accountability, transparency and ethics) com bons resultados. Quando as empresas não têm um formato estruturado, é possível que não entendam os modelos usados em IA e, consequentemente, não saberão utilizá-los eficientemente. Eu diria que, se não há transparência, a empresa deixa de estar no controle, uma vez que a decisão está sendo tomada automaticamente, aumentando o risco de um processo enviesado.

Dessa maneira, é fundamental que as organizações que consideram o uso de IA pensem não apenas na operacionalização para gerar retorno, mas também em como isso vai funcionar no longo prazo, quando os sistemas começarem a tomar decisões baseadas no aprendizado. Temos de estar atentos a essas decisões e, para isso, tem de haver a supervisão humana.

Isto leva direto para uma discussão mais ampla sobre a ética na inteligência artificial.

Este é um tópico bastante complexo e espinhoso. Se vincularmos o uso da inteligência artificial a determinados padrões de qualidade, como iremos medi-los? O que usar como parâmetro do que deve ou não ser feito? É preciso que as empresas entendam o que estão desenvolvendo e saibam por que e como as decisões geradas irão impactar seus clientes. Voltando à analogia com o FATE, é essencial ter processos e protocolos bem estabelecidos. As decisões éticas vão muito além de um simples modelo que é desenhado. Sem contar que é muito fácil colocar a culpa nos dados quando são feitas escolhas ruins. Por isso é preciso considerar a maneira como os algoritmos são escolhidos e refinados. Embora um algoritmo não seja enviesado em si, tem de se levar em conta a maneira como são formulados, refinados, como as pessoas são treinadas neles e a forma como os parâmetros são relacionados. Em última análise os vieses se infiltram no modelo junto com os dados que o alimentam.

Ao usar IA, as organizações precisam ser muito cuidadosas com a maneira de lidar com uma ferramenta poderosa para o negócio. Devem conhecer bem o que estão tentando desenvolver e validar, em cada etapa, se estão adotando as opções corretas, tanto para a empresa como para os seus clientes e consumidores.

As organizações estariam voltando-se para um ambiente heterogêneo em vez de apostar em uma plataforma padrão para todos?

Acredito que sim. Ter uma plataforma única é ótimo, mas isso não significa que não seja possível ter múltiplas delas trabalhando juntas. Da perspectiva de SAS, temos capacidades e tecnologias de ponta, mas trabalhamos dentro de ecossistemas com uma grande variedade de tecnologias. E elas precisam trabalhar de forma integrada.

Os ecossistemas continuarão a crescer em termos das capacidades disponíveis e isso nos leva de volta a um ponto fundamental: se você só coloca funcionalidades, sem olhar de um ponto de vista estratégico, há o risco de complicar demais os resultados e gerar ineficiências. Acho que as organizações continuarão a ampliar e a fazer adições às suas plataformas internamente, mas ainda existe a demanda de ter uma visão que contemple toda elas, que permita enxergar as origens dos caminhos traçados, assim como deveria haver tanta transparência quanto possível ao se colocar funcionalidades para operarem em conjunto.

Sobre tendências, quais seriam algumas das atuais e quais estão por vir quando falamos de inteligência artificial?

Existe a tendência de adotar a IA composta, ou seja, uma combinação de diferentes técnicas de IA para resolver os problemas das empresas. Há um aumento na absorção de técnicas de inteligência artificial relacionadas a dados não estruturados, como a geração e o processamento da linguagem natural como forma de trazer plataformas com interfaces mais coloquiais em termos do que se oferece ao consumidor. Percebe-se um crescimento dessa tendência ao se introduzir IA nos sistemas. Os chatbots são um exemplo. Eu ainda acho que existe um longo caminho a percorrer até serem capazes de imitar uma interação humana e, provavelmente, entre 90% e 95% dos que experimentamos atualmente ainda são baseados em regras preestabelecidas – eles têm uma lista de respostas para as questões mais comuns, mas não existe um elemento adaptativo.

No mundo do varejo, temos visto casos em que se usa realidade aumentada para comprar roupas ou outros produtos e a inteligência artificial para dar melhores sugestões e oferecer personalização. Os consumidores estão sendo enxergados como indivíduos e sendo tratados com base nos dados que eles mesmos fornecem. Porém, isso tem dois lados. Somos todos consumidores e nossas expectativas estão aumentando em relação ao que é feito com as nossas informações. E isso só tende a crescer nas próximas gerações. Por outro lado, as organizações precisam ter consciência de que, se estiverem apenas coletando informações sem devolver qualquer benefício, as pessoas acabarão por se desligar delas. Em última instância, as que terão sucesso são aquelas que oferecem algo com valor, alguma recompensa em troca dos dados que os indivíduos lhes entregam.

Esta entrevista foi traduzida de um material produzido pela MIT Sloan Review para o SAS.