Transparência em IA: como evitar o churn e fortalecer a lealdade à marca

A inteligência artificial (IA) já faz parte da nossa rotina, muitas vezes de forma quase imperceptível. Para muita gente, interagir diariamente com assistentes virtuais como Siri e Alexa é algo natural. À medida que cresce a compreensão sobre o impacto da IA, também aumenta a necessidade de as empresas tratarem a transparência em IA como uma prioridade—especialmente na experiência do cliente (CX), na qual confiança e clareza fazem toda a diferença.

Com base em dados e insights do Relatório de Tendências da Experiência do Cliente da Zendesk, este guia introdutório explora por que a transparência em IA é tão importante para os negócios. Ao longo do conteúdo, você vai entender os principais requisitos, regulamentações, benefícios, desafios e boas práticas para adotar a IA de forma mais transparente e responsável.

Mais neste guia:

• Por que a transparência em IA é importante?
• Requisitos da transparência em IA
• Níveis da transparência em IA
• Regulamentações e padrões da transparência em IA
• Os benefícios da transparência em IA
• Desafios da transparência em IA e como superá-los
• Melhores práticas de transparência em IA
• Exemplos de empresas que adotam práticas de IA transparente
• Perguntas frequentes
• O futuro da transparência em IA: o que esperar
  
  De forma simples, a transparência em IA é importante porque ajuda a explicar com clareza por que determinadas decisões e ações acontecem. Ela nos permite compreender a lógica por trás do funcionamento da IA, para que possamos avaliar se essas decisões são justas, consistentes e confiáveis. Segundo o nosso Relatório de Tendências de CX, 65% dos líderes de experiência do cliente veem a IA como uma necessidade estratégica, o que torna a transparência em IA um elemento essencial nessa discussão.

Ser transparente sobre os dados que impulsionam os modelos de IA e suas decisões será determinante para construir e manter a confiança dos clientes.Relatório de Tendências de CX da Zendesk

A transparência em IA envolve a compreensão de suas implicações éticas, legais e sociais, e como a transparência promove a confiança com usuários e stakeholders. De acordo com o nosso Relatório de Tendências de CX, 75% das empresas acreditam que a falta de transparência pode levar ao aumento do churn de clientes no futuro.

Como os provedores de IA como serviço (AIaaS) tornam a tecnologia de IA mais acessível para as empresas, garantir a transparência em IA é mais importante do que nunca. As implicações éticas da IA visam garantir que a IA se comporte de maneira justa e responsável. Vieses em modelos de IA podem, ainda que sem intenção, discriminar certas demografias.

Por exemplo, usar a IA no ambiente de trabalho pode ajudar no processo de contratação, mas pode inadvertidamente favorecer certos grupos em detrimento de outros com base em fatores irrelevantes, como gênero ou raça.

A IA transparente ajuda a reduzir vieses para fomentar resultados justos em casos de uso comercial. As implicações legais da IA envolvem garantir que os sistemas de IA sigam as regras e leis estabelecidas pelos governos. Por exemplo, se um software baseado em IA coleta informações pessoais sem o consentimento adequado, ele pode violar leis de privacidade.

Criar leis que enfatizem a transparência em IA pode garantir a conformidade com os requisitos legais. As implicações sociais da IA consistem em entender como a IA afeta a vida cotidiana dos indivíduos e da sociedade como um todo. Por exemplo, o uso de IA na saúde pode ajudar médicos a elaborarem diagnósticos precisos mais rapidamente ou sugerir tratamentos personalizados. No entanto, isso pode levantar questões sobre o acesso equitativo com base no custo da tecnologia.
 

Requisitos da transparência em IA

Existem três requisitos fundamentais para a transparência em IA: explicabilidade, interpretabilidade e responsabilização. A seguir, veja o que cada um significa e como se aplica aos dados de treinamento, aos algoritmos e à tomada de decisões da IA.

Explicabilidade

IA explicável (XAI) é a capacidade de um sistema de IA de explicar suas decisões e ações de forma clara e compreensível. Por exemplo, se um cliente pedir recomendações de produtos a um chatbot, um sistema de IA explicável pode apresentar justificativas como:

• "Achamos que você pode gostar deste produto com base no seu histórico de compras e nas suas preferências."
• "Estamos recomendando este produto porque você avaliou positivamente itens semelhantes."

Ao oferecer explicações claras, a IA ajuda o cliente a entender como a recomendação foi feita. Isso fortalece a confiança do cliente, já que o consumidor consegue compreender o que está por trás das respostas geradas pela IA. Esse conceito também pode aparecer como IA responsável, IA confiável ou sistemas de caixa de vidro. No outro extremo estão os sistemas de caixa-preta.

Esses modelos de IA são mais complexos e geram resultados sem mostrar de forma clara como chegaram até eles. Essa falta de transparência dificulta e, em alguns casos, até impede a compreensão do processo de tomada de decisão da IA, o que pode comprometer a confiança nas informações fornecidas.
 

Interpretabilidade

A interpretabilidade na IA foca na compreensão humana de como um modelo de IA opera e se comporta. Enquanto a XAI foca em fornecer explicações claras sobre os resultados, a interpretabilidade foca nos processos internos (como as relações entre entradas e saídas) para entender as previsões ou decisões do sistema.

Vamos usar o mesmo cenário acima, no qual um cliente pede sugestões de produtos a um chatbot. Um sistema de IA interpretável poderia explicar que utiliza um modelo de árvore de decisão para chegar a uma recomendação.

Responsabilização

Responsabilização em IA significa garantir que os sistemas de IA sejam responsabilizados por suas ações e decisões. Através de machine learning (ML), a IA deve aprender com seus erros e melhorar ao longo do tempo, enquanto as empresas devem tomar as ações corretivas adequadas para evitar erros semelhantes no futuro. Vamos supor que um chatbot de IA recomende erroneamente um item que está fora de estoque.

O cliente tenta comprar o produto acreditando que está disponível, mas é informado posteriormente que o item está temporariamente esgotado, gerando frustração. A empresa se desculpa e aciona a supervisão humana para revisar e validar informações críticas sobre produtos antes que os bots possam comunicá-las aos clientes.

Este exemplo de responsabilização em IA para atendimento ao cliente mostra como a empresa assumiu a responsabilidade pelo erro, delineou etapas para corrigi-lo e implementou medidas preventivas. As empresas também devem realizar auditorias regulares nos sistemas de IA para identificar e eliminar vieses, garantir resultados justos e não discriminatórios e promover a transparência em IA.

Níveis da transparência em IA

Existem três níveis de transparência em IA, que vão do funcionamento interno do sistema à experiência do usuário e, por fim, ao impacto mais amplo da tecnologia. São eles:

• Transparência algorítmica
• Transparência de interação
• Transparência social

A transparência algorítmica foca em explicar a lógica, os processos e os algoritmos usados pelos sistemas de IA. Ela fornece insights sobre os tipos de algoritmos de IA, como modelos de machine learning, árvores de decisão (modelos tipo fluxograma), redes neurais (modelos computacionais) e muito mais.

Também detalha como os sistemas processam dados, como chegam a decisões e quaisquer fatores que influenciem essas decisões. Este nível de transparência torna o funcionamento interno dos modelos de IA mais compreensível para usuários e stakeholders. A transparência de interação lida com a comunicação e as interações entre usuários e sistemas de IA. Envolve tornar as trocas mais transparentes e compreensíveis.

As empresas podem alcançar isso criando interfaces que comuniquem como o sistema de IA opera e o que os usuários podem esperar de suas interações. A transparência social vai além dos aspectos técnicos e foca no impacto mais amplo dos sistemas de IA na sociedade como um todo. Esta transparência na implementação de IA aborda implicações éticas e sociais, incluindo potenciais vieses, justiça e preocupações com a privacidade.

Regulamentações e padrões de transparência em IA

Como a inteligência artificial é uma tecnologia recente, as regulamentações e padrões de transparência em IA têm evoluído rapidamente para abordar preocupações éticas, legais e sociais. Aqui estão algumas regulamentações e padrões importantes para ajudar a governar a inteligência artificial:

• Regulamento Geral sobre a Proteção de Dados (GDPR): estabelecido pela União Europeia (UE) e inclui disposições sobre proteção de dados, privacidade, consentimento e transparência.
• Princípios de IA da Organização para a Cooperação e Desenvolvimento Econômico (OCDE): um conjunto de princípios baseados em valores que promove o uso confiável, transparente, explicável, responsável e seguro da IA.
• Estrutura de responsabilização de IA do Government Accountability Office (GAO) dos EUA: uma estrutura que delineia responsabilidades e obrigações em sistemas de IA, garantindo responsabilização e transparência para resultados gerados por IA.
• Lei de Inteligência Artificial da UE: uma lei proposta pela Comissão Europeia que visa regulamentar o desenvolvimento de sistemas de IA na UE.

Essas regulamentações podem padronizar o uso e o desenvolvimento da IA, local e globalmente. Os sistemas de IA podem ser consistentemente mais claros e confiáveis ao enfatizar a transparência, considerações éticas e responsabilização.

Os benefícios da transparência em IA

A IA transparente oferece muitos benefícios para as empresas nos âmbitos ético, operacional e social. Aqui estão algumas vantagens da transparência em IA:

• Constrói confiança com usuários, clientes e stakeholders: Usuários, clientes e stakeholders estão mais propensos a se engajar com tecnologias de IA ou empresas que utilizam um help desk de IA quando entendem como esses sistemas funcionam e confiam que operam de forma justa e ética.
• Promove a responsabilização e o uso consciente da IA: Documentação e explicações claras dos processos de IA facilitam o uso responsável da tecnologia e responsabilizam as empresas em caso de erros ou vieses.
• Detecta e mitiga vieses de dados e discriminação: A visibilidade das fontes de dados e dos algoritmos permite que desenvolvedores e cientistas de dados identifiquem vieses e padrões discriminatórios. Isso permite que as empresas tomem medidas proativas para eliminar preconceitos e garantir resultados justos e equitativos.
• Melhora o desempenho da IA: Desenvolvedores que entendem claramente como os modelos operam podem fazer ajustes finos em algoritmos e processos de forma mais eficaz. O feedback coletado dos usuários e os insights dos dados de desempenho permitem melhorias contínuas para aumentar a precisão e a eficiência dos sistemas de IA ao longo do tempo, especialmente com a IA para a experiência do funcionário.
• Ajuda a enfrentar questões éticas: A transparência em IA permite que stakeholders avaliem os impactos éticos das decisões e ações baseadas em IA e confirmem se esses sistemas estão alinhados a diretrizes éticas.

Adotar a transparência em IA não apenas aumenta a confiabilidade dos sistemas, mas também contribui para um uso responsável e ético.

Desafios da transparência em IA e como superá-los

Além dos muitos benefícios da transparência em IA, também existem desafios. A boa notícia é que eles podem ser gerenciados e minimizados com eficácia. Confira abaixo alguns desafios e como superá-los.

Manter a segurança dos dados

Garantir a privacidade dos dados do cliente e, ao mesmo tempo, manter a transparência pode ser um exercício de equilíbrio. A transparência pode exigir o compartilhamento de detalhes sobre os dados usados no software de IA, levantando preocupações sobre a privacidade. De acordo com o nosso Relatório de Tendências de CX, 83% dos líderes de CX afirmam que a proteção de dados e a segurança cibernética são prioridades máximas em suas estratégias de atendimento ao cliente.
 

Explicar modelos de IA complexos

Alguns modelos de IA, especialmente aqueles que utilizam deep learning ou redes neurais, podem ser difíceis de explicar em termos simples. Isso complica a compreensão dos usuários acerca dos processos de tomada de decisão e a automação inteligente de modelos de IA complexos.
 

Manter a transparência com modelos de IA em evolução

À medida que os modelos de IA mudam e se adaptam com o tempo, manter a transparência torna-se cada vez mais difícil. Fazer atualizações ou modificações nos sistemas de IA ou treiná-los novamente com novos conjuntos de dados pode alterar seus processos de tomada de decisão, o que dificulta a manutenção da transparência de forma consistente.

Melhores práticas de transparência em IA

A incorporação de melhores práticas de transparência em IA ajuda a promover a responsabilização e a confiança entre desenvolvedores de IA, empresas e usuários. Uma comunicação clara e aberta sobre práticas de dados, medidas de prevenção de vieses e os dados utilizados (e não utilizados) nos modelos de IA pode ajudar os usuários a se sentirem mais confiantes ao usar a tecnologia.

Aqui estão algumas melhores práticas para garantir uma IA transparente.

Seja claro com os clientes sobre como seus dados são coletados, armazenados e usados

Forneça explicações transparentes e claras aos clientes sobre a coleta, armazenamento e utilização de seus dados por sistemas de IA. Delineie claramente as políticas de privacidade, detalhando os tipos de dados coletados, a finalidade da coleta, os métodos de armazenamento e o uso dos dados nos sistemas de IA. Proteger a privacidade do cliente começa com a obtenção de consentimento explícito dos usuários antes de coletar ou usar seus dados para fins de IA.

Explique como sua empresa previne vieses na IA

Faça avaliações regulares para identificar e reduzir vieses no seu software de IA. Também é importante comunicar com clareza quais métodos são usados para prevenir e mitigar esses vieses, para que os usuários entendam as medidas adotadas para promover mais equidade e evitar discriminação. Manter registros dos processos de detecção, avaliação e mitigação de vieses também ajuda a demonstrar um compromisso com a transparência para o cliente e com o uso mais justo da tecnologia.

Explique quais dados estão incluídos e excluídos nos modelos de IA

Defina e comunique claramente os tipos de dados incluídos e excluídos dos modelos de IA. Forneça o raciocínio por trás da seleção dos dados usados no treinamento da IA para ajudar os usuários a entenderem as limitações e capacidades do modelo. Evite incluir dados sensíveis ou discriminatórios que possam resultar em vieses ou infringir direitos de privacidade.

Exemplos de empresas que praticam a IA transparente

Aqui estão alguns exemplos de como empresas colocam em prática iniciativas de IA transparente. Seus esforços para manter a transparência em IA e promover práticas responsáveis continuam a ajudá-las a construir uma relação de confiança com seus clientes.

Zendesk

Na Zendesk, desenvolvemos softwares de experiência do cliente que ajudam empresas a elevar a qualidade do atendimento com recursos de IA e machine learning, como IA generativa e chatbots com inteligência artificial. A Zendesk AI prioriza a explicabilidade ao oferecer mais clareza sobre o funcionamento de suas ferramentas baseadas em IA e sobre como essas decisões são tomadas.

A Zendesk também disponibiliza recursos educacionais e documentação para ajudar os usuários a entender como a IA é integrada ao software de atendimento ao cliente, qual é o papel da ética em IA na CX e de que forma essa tecnologia impacta as interações com os clientes.

Lush

A varejista de cosméticos Lush é enfática sobre o uso ético da IA em suas operações comerciais. A empresa é transparente ao não utilizar sistemas de pontuação social ou tecnologias que possam infringir a privacidade ou a autonomia do cliente. A Lush participa de discussões públicas e compartilha sua postura sobre práticas éticas de IA por meio de suas comunicações e canais de mídia social.

OpenAI

A OpenAI, um laboratório de pesquisa em IA popular por suas aplicações de IA generativa ChatGPT e Dall-E, publica regularmente artigos de pesquisa e descobertas que fornecem insights sobre seus desenvolvimentos e avanços em IA. A OpenAI é transparente sobre seus objetivos, diretrizes éticas e o potencial impacto social da IA por meio de uma documentação abrangente.

A empresa incentiva a colaboração e o engajamento com a comunidade de IA em geral, promovendo a transparência e compartilhando conhecimento sobre o desenvolvimento da IA.

65% dos líderes de CX veem a IA não como um modismo, mas como uma necessidade e realidade estratégica.Relatório de Tendências de CX da Zendesk

Perguntas frequentes

O que esperar do futuro da transparência em IA?

À medida que a inteligência artificial continua a evoluir e avançar, o mesmo acontecerá com a transparência em IA. Embora possa ser difícil prever exatamente como será o futuro da transparência em IA, várias tendências e expectativas podem moldar esse cenário.

Essas expectativas incluem o desenvolvimento de ferramentas melhores para ajudar a explicar modelos de IA complexos, permitindo que os usuários entendam o processo de tomada de decisão da IA, o que ajudará a aumentar a confiança e a usabilidade.

Haverá também uma ênfase maior nas regulamentações de IA e considerações éticas. Isso tornará mais fácil para as empresas implementarem práticas padrão de transparência em IA, abordando vieses, justiça e preocupações com a privacidade para sistemas de IA mais responsáveis.