Durante os últimos dois anos, desenvolvedores de sistemas de geração de texto com recuperação aumentada (RAG) têm enfrentado um mesmo dilema: dividir documentos em trechos, gerar embeddings, recuperar os k trechos mais parecidos com a consulta e entregar ao modelo. Essa abordagem funciona bem para perguntas diretas, como Qual era nossa política de reembolso no terceiro trimestre?, mas falha quando a resposta exige combinar informações espalhadas por vários trechos, como Quais são os temas recorrentes em duas anos de reclamações de clientes?.

Limitações do RAG vetorial

O RAG vetorial apresenta três falhas estruturais que limitam sua eficácia:

  • Não consegue conectar fatos que residem em trechos diferentes, pois cada embedding é calculado em isolamento.
  • É incapaz de responder a perguntas globais que exigem visão de todo o corpus, pois a busca por similaridade retorna apenas trechos que superficemente se assemelham à consulta.
  • Quebra o contexto ao cortar trechos, perdendo relações e hierarquias essenciais para raciocínio complexo.

O que é GraphRAG?

GraphRAG propõe substituir trechos isolados por um grafo de conhecimento que representa entidades e relações presentes no corpus. O modelo recebe esse grafo como contexto, permitindo que ele navegue entre nós e descubra conexões que seriam invisíveis em embeddings isolados.

Estudos de benchmark

O artigo original da Microsoft Research, acompanhado por quatro estudos independentes, avaliou GraphRAG em comparação com o RAG vetorial. Os testes incluíram tarefas de resposta a perguntas, extração de fatos e análise de temas.

Resultados

Os resultados mostraram que GraphRAG oferece melhorias significativas em perguntas que exigem junção de fatos ou visão global. Em tarefas de identificação de temas recorrentes, a precisão aumentou em até 30% em relação ao RAG vetorial. Entretanto, para perguntas diretas que podem ser resolvidas com um único trecho, a diferença foi mínima.

Custos e considerações

Construir e manter o grafo de conhecimento requer esforço adicional: extração de entidades, normalização, deduplicação e atualização contínua. Esse custo não é gratuito e pode limitar a adoção em cenários com recursos restritos.

Exemplo prático

Para a pergunta Qual era nossa política de reembolso no terceiro trimestre?, tanto o RAG vetorial quanto o GraphRAG entregam respostas precisas, pois a informação está concentrada em um trecho. Já na pergunta Quais são os temas recorrentes em duas anos de reclamações de clientes?, GraphRAG consegue combinar trechos que mencionam “entrega atrasada”, “suporte ineficiente” e “falta de transparência”, gerando uma resposta mais completa.

Conclusão

GraphRAG representa um avanço notável para perguntas que exigem integração de múltiplas fontes de informação, mas não substitui o RAG vetorial em todas as situações. A escolha entre os dois métodos deve considerar a natureza das consultas e os recursos disponíveis para construção do grafo.

Com informações de: VentureBeat AI