Jedify defende aumentar a IA com tecnologia de gráfico de contexto, alegando que sua solução pode reduzir os custos de tokens de IA em até três quartos.
Os gráficos de contexto armazenam relações de entidade (pessoas, produtos, locais, etc.) dentro de estruturas de estilo de banco de dados.priorizar as ligações para a rápida travessia de dados complexos interconectadosEnquanto os gráficos de conhecimento servem cargas de trabalho de IA, os gráficos de contexto também validam quais relações são verdadeiras.
Adi Elimelech, co-fundador e CTO da Jedify, comentou: "Grande parte da indústria mistura eficiência de token e eficiência de custo, mas eles diferem.A pré-codificação da lógica de negócios dentro de um gráfico de contexto poupa o modelo de raciocínio do zero para cada consulta■ este é o mecanismo central, independente da implementação do fornecedor.
Em vez de alimentar o esquema completo do banco de dados para a IA em cada consulta, o gráfico de contexto Jedify pre-codifica definições de lógica de negócios, cálculos, relações e regras em uma base de conhecimento estruturada.Atualiza e expande-se de forma autónoma em conjunto com as mudanças de negócios, ingerindo novos dados, relações e regras. Nas consultas dos utilizadores, só são recuperadas as entidades relevantes, proporcionando um contexto compacto e preciso ao LLM.
O Jedify realizou um benchmarking de produção e armazém em 100 perguntas de negócios que abrangem três níveis de complexidade (200 pontos de teste classificados no total).036 tokens brutos por chamada de geração de SQL com 87% de taxa de resposta corretaEm contrapartida, os métodos convencionais de injecção de esquemas consomem 50 000 a 150 000 tokens por chamada com uma precisão de 60 a 70%; os sistemas multi-agentes baseados em injecção de esquemas, como o CHESS, atingem quase 339,000.965 fichas por pedidoNota: estas linhas de referência baseiam-se em estudos externos com esquemas e conjuntos de perguntas distintos, e não em testes de armazém lado a lado.
Medido por um quadro de equilíbrio de custo e precisão do token-ROI, a abordagem Jedify® produziu retornos 4,6 vezes mais altos do que os fluxos de trabalho de injeção de esquema e 20 vezes em comparação com pipelines multi-agentes básicos.A injecção de esquema alcançou saídas corretas de 60 a 70%, enquanto Jedify alcançou uma precisão forte para entidades dentro da cobertura do gráfico.
Na escala empresarial de 100 tabelas, o gráfico de contexto reduziu a injeção de tokens em aproximadamente 50% por chamada SQL em comparação com as linhas de base do esquema bruto; em 200 tabelas, a economia de tokens excedeu 75%.
Elimelech também destacou os benefícios da propriedade dos dados: A lógica empresarial reside no seu gráfico controlado,para que você não expor o seu esquema completo e juntar-filtro regras para fornecedores modelo fronteira em cada solicitação.
Ao filtrar apenas para as entidades necessárias antes da geração do SQL, os gráficos de contexto reduzem a carga de raciocínio do modelo.A análise do roteamento de produção indica que cerca de 85% das consultas de análise empresarial podem ser executadas em modelos de código aberto mais baratos em vez de LLMs de fronteira premium com perda de precisão insignificante, reduzindo os gastos com infra-estruturas.
Faça o download do livro branco relacionado aqui.
Beijing Qianxing Jietong Technology Co., Ltd.
Sandy Yang, Diretora Global de Estratégia
WhatsApp / WeChat: +86 13426366826
E-mail: yangyd@qianxingdata.com
Site: www.qianxingdata.com/www.storagesserver.com
Foco em Negócios:
Distribuição de produtos TIC/Integração de sistemas e serviços/Soluções de infraestrutura
Com mais de 20 anos de experiência em distribuição de TI, fazemos parcerias com as principais marcas globais para fornecer produtos confiáveis e serviços profissionais.
¢Utilizando a tecnologia para construir um mundo inteligente ¢O seu prestador de serviços de produtos TIC de confiança!
Por favor verifique seu email!
Portuguese
