A Ant Digital Technologies, uma subsidiária da Ant Group especializada em tecnologias corporativas, apresentou o modelo LingDT-Decision-1.0. Este modelo foi desenvolvido especificamente para a tomada estruturada de decisões de negócios, e não para geração de texto livre. O modelo está disponível em duas versões — 4B e 27B parâmetros — e hospedado na plataforma DTMaaS da empresa, onde os desenvolvedores podem testá-lo gratuitamente por um tempo limitado.
A ideia principal era isolar um tipo específico de tarefas do conjunto geral de grandes modelos de linguagem. Muitas operações corporativas se resumem à escolha entre opções predefinidas. Como exemplo, a Ant Digital Technologies citou um cenário de atendimento ao cliente: uma notificação de que um pedido não foi enviado em três dias exige que o sistema determine se é uma solicitação de reembolso, um lembrete ou uma reclamação, qual é a sua urgência, qual departamento deve processá-la e se é necessária intervenção humana.
Os grandes modelos de linguagem convencionais geralmente funcionam raciocinando token por token, gerando texto que é posteriormente analisado para obter uma decisão. A empresa observa que esse processo é demorado, custoso e mais propenso a erros. O modelo de tomada de decisão foi projetado para avaliar diretamente as opções dentro de um conjunto definido de escolhas. Isso o torna adequado para etapas de alta frequência nos fluxos de trabalho de agentes, como determinação de intenção, seleção de ferramentas, classificação de regras e avaliação.
De acordo com testes realizados pela Ant Digital Technologies nas áreas de atendimento ao cliente, controle de risco e cenários financeiros, o LingDT-Decision-1.0 reduziu o consumo de tokens em mais de 90% em comparação com grandes modelos de linguagem ao executar tarefas semelhantes. Além disso, respondeu até 10 vezes mais rápido e demonstrou melhores resultados. Além de julgamentos simples de 'sim' ou 'não', seleção de uma opção, classificação e classificação, a empresa afirma que este modelo é o primeiro a suportar múltipla escolha nativa e decisões sequenciais organizadas em um grafo acíclico dirigido (DAG), o que corresponde a processos de negócios multifásicos.
Em 23 benchmarks de código aberto, a empresa declarou que o LingDT-Decision-1.0 superou outros modelos de decisão, incluindo Microsoft-Decision-1 e Jev 1.13, sendo que a versão 27B alcançou a maior precisão entre os modelos do seu tamanho. Deve-se notar que esses resultados são proprietários da empresa e não foram submetidos a verificação independente.
O lançamento deste modelo não significa o abandono do uso de grandes modelos de linguagem gerais. Em vez disso, o modelo destina-se a operar em paralelo com eles, assumindo muitas decisões pequenas e repetitivas em um agente corporativo, para que os modelos maiores possam se concentrar na geração e no raciocínio que exigem formato livre. Para equipes que criam agentes em grande escala, essa divisão pode impactar significativamente o custo e a latência.