Opção de Rejeição: O seu modelo de IA tem o direito ao silêncio

Quando se trata de modelos de IA, esperamos frequentemente que forneçam sempre uma resposta. Mas e se pudéssemos confiar mais neles quando escolhem manter-se em silêncio? Este conceito, designado 'opção de rejeição', permite que os modelos de IA se abstenham de responder quando não têm confiança, abrindo múltiplas aplicações na sua empresa e reduzindo o risco.

Porque deveriam os modelos de IA abster-se?

Tal como especialistas humanos, os modelos de IA ganham a nossa confiança quando sabem quando dizer "não sei". Esta capacidade de abster-se de responder, designada 'opção de rejeição', pode ser um fator decisivo para muitas aplicações.

Considere um modelo que diagnostica se um paciente tem cancro. Confiaria mais num modelo que dá sempre uma resposta definitiva de "sim" ou "não", ou num que às vezes diz "não sei, vamos obter uma segunda opinião"? O mesmo aplica-se a um modelo que monitoriza uma linha de produção para controlo de qualidade. Um modelo que consegue dizer "não tenho certeza, vamos chamar um técnico para verificar" é mais fiável do que um que está sempre a adivinhar.

Como pode utilizar a opção de rejeição no negócio?

Existem duas estratégias principais para utilizar a opção de rejeição no negócio: filtragem e implementação incremental.

Filtragem

Na estratégia de filtragem, o modelo de IA automatiza a maioria dos casos e solicita ajuda para os restantes. Essa ajuda pode vir de um segundo modelo de IA ou de um especialista humano. Esta estratégia acrescenta essencialmente uma etapa adicional ao seu fluxo de trabalho, uma opção de recurso para quando o modelo de IA não consegue fornecer uma resposta.

Implementação Incremental

Na estratégia de implementação incremental, começa por cobrir apenas os casos em que o modelo tem mais confiança. À medida que ganha confiança no modelo, começa a atribuir-lhe cada vez mais casos, mesmo que a IA não tenha total segurança sobre eles. Esta estratégia permite uma implementação mais segura e é particularmente útil para pilotos iniciais.

Como calcular o impacto esperado?

Para calcular o impacto esperado da utilização da opção de rejeição, precisa de compreender a compensação entre a percentagem de vezes que o modelo se abstém e o seu desempenho preditivo.

Começa por calcular qual seria o benefício se o modelo fizesse previsões em 100% dos casos e quanto perderia com os erros. Depois, para qualquer percentagem de abstenções, calcula quanto ganharia com os casos que a IA automatiza e quanto gastaria com os casos em que não o faz.

Lembre-se que sempre existe um custo fixo tanto para a IA (infraestrutura) como para a componente humana (salários), e um custo variável para cada caso, dependendo de quanto a IA se abstém ou faz previsões.

Como obter modelos que conseguem abster-se?

A forma mais simples de ter modelos que se conseguem abster passa por analisar as extremidades das suas previsões e fazer previsões apenas para esses casos. Esta abordagem envolve estabelecer dois limiares, um para o limite inferior e outro para o limite superior, e escolhê-los de forma a maximizar o seu retorno.

Contudo, esta abordagem pode não ser suficiente. Uma abordagem mais avançada permite que o modelo preveja para que casos quer responder e qual será a resposta para esses casos. Isto pode ser alcançado tendo duas saídas do modelo: uma indicando se o modelo se vai abster ou não, e a outra fornecendo a resposta se não estiver a abster-se.

Conclusão

Permitir que os seus modelos de IA se abstenham quando não têm confiança pode abrir múltiplas aplicações na sua empresa e reduzir o risco. É uma estratégia que vale a pena considerar enquanto planifica a sua implementação de IA. Se pretende abraçar decisões de IA mais inteligentes, agende uma reunião estratégica com os nossos especialistas e transforme o risco em fiabilidade hoje.