Classificação de texto com LLMs

A classificação de texto é um dos casos de uso mais comuns em processamento de linguagem natural, com inúmeras aplicações práticas que agora se tornaram mais acessíveis com Large Language Models. As empresas utilizam classificação de texto em múltiplos cenários para se tornarem mais eficientes:

• Marcação de grandes volumes de dados: reduzindo trabalho manual com filtragem mais eficaz, organizando automaticamente volumes elevados de texto.
• Melhoria de sistemas de pesquisa e recomendação: A pesquisa e a recomendação podem ser potenciadas através de uma melhor compreensão das consultas pesquisadas.
• Análise de sentimento: Compreender a opinião pública ou feedback de clientes através da determinação da emoção expressa no texto é valioso para as organizações.
• Apoio ao cliente: Facilitar a priorização de tickets de suporte e encaminhamento para a equipa adequada através da categorização dos tickets de apoio.

Todos estes casos de uso eram resolvíveis no passado sem utilizar LLMs. Porém, a emergência destes modelos reduziu significativamente a quantidade de dados necessários para obter bons resultados e aumentou o desempenho médio destes casos de uso, reduzindo o tempo necessário para os implementar.

Neste artigo, abordaremos várias técnicas de classificação de texto anteriores ao surgimento dos LLMs mais recentes (OpenAI, LLaMA, Bing, …) e posteriores.

eBook GRATUITO: Como transformar o seu negócio com IA

Descarregue o nosso eBook e conheça os erros mais comuns na implementação de projetos de IA e como evitá-los.

Envie-me o eBook

Obtenha conteúdo adicional

Nome (Obrigatório)

Email (Obrigatório)

Ao submeter aceito política (Obrigatório)

Ao submeter este formulário, concordo com os Termos e Política de Privacidade.

Email

Este campo é para fins de validação e não deve ser alterado.

Enviar agora!

Técnicas mais comuns para classificação de texto com Large Language Models

As técnicas mais comuns para classificação de texto são:

• Classificação Zero-Shot: pedir a um modelo um rótulo de forma direta, sem fornecer exemplos. Embora seja a opção mais simples e não requeira dados, o desempenho é bastante limitado, podendo resultar em um resultado que não faz parte da sua lista de classes fixa (alucinação).

  • Pré-LLMs: Utilizar modelos open-source como o TARS
  • Pós-LLMs: Solicitar diretamente aos LLMs para gerar um rótulo, passando uma estrutura final. Esta abordagem é mais lenta do que os pré-LLMs, mas significativamente mais precisa.

• Classificação Few-Shot: passa alguns exemplos por classe e requer uma quantidade reduzida de dados anotados.

  • Pré-LLMs: Utilizar modelos open-source como o TARS
  • Pós-LLMs: Utilizar LLMs passando no contexto do prompt as amostras de cada classe. Será mais preciso do que a abordagem anterior.

• Extração de características de embeddings brutos: convertemos o texto numa representação numérica (embedding) e treinamos um modelo sobre essa base, que obtém um score de probabilidade utilizável para tomar decisões. Porém, requer uma quantidade maior de dados anotados.

• • Pré-LLMs: Utilizar embeddings open-source como o GloVE.
  • Pós-LLMs: Utilizar embeddings OpenAI, que são treinados em maiores quantidades de dados e normalmente superam outros métodos de embedding. Esta é uma opção paga, cujos trade-offs precisam ser considerados face à utilização de uma solução open-source.

• Embeddings de texto enriquecido: Antes de extrair os embeddings, tentamos descobrir mais informações sobre o texto, "enriquecendo-o".

• • Pré-LLMs: Não é frequentemente utilizado.
• • Pós-LLMs: solicitar ao LLM informações adicionais sobre o texto; por exemplo, se for uma pesquisa no Google, os LLMs podem fornecer mais informações sobre o que essa pesquisa abrange. É uma abordagem mais lenta do que os pré-LLMs, mas é a técnica com os resultados mais altos que já observámos.

"Imaginemos que é uma Enciclopédia e tem de definir os conceitos que estou a fornecer. A sua explicação deve ser concisa (um ou dois parágrafos), como a secção de resumo de um artigo da Wikipédia sobre o conceito. (…)"

Abaixo está um gráfico comparativo que resume os trade-offs dos métodos em termos de dados necessários, velocidade e precisão.

Conclusão

Mostrámos várias formas de fazer classificação de texto com Large Language Models. Os LLMs permitem alcançar um desempenho aceitável em poucas horas de trabalho e são adequados para um benchmark inicial. Contudo, não se esqueça dos métodos mais antigos, que podem ser uma alternativa quando procura resultados mais rápidos ou quando o custo de requisições aos LLMs não é viável à escala do seu caso de uso.

Quer revolucionar a forma como faz classificação de texto? Saiba mais contactando-nos.

Pretende aprofundar esta ideia?

Marque uma reunião com Rafael Cavalheiro

Conhecer Rafael Saber mais