IA que decide sem escrever: o que são os modelos de decisão
IA que decide sem escrever: o que são os modelos de decisão
Em três semanas, três lançamentos apontaram na mesma direção.
Em 15 de setembro, a TypeSafe AI lançou o Jev. Três dias depois, a Convai Innovations publicou a Laya, de código aberto. Em 29 de setembro, a OpenAI apresentou a Decisions API no DevDay e, em 6 de outubro, abriu o acesso em beta para todos os desenvolvedores.
São três empresas diferentes, com modelos de negócio diferentes, e os três produtos fazem a mesma coisa: decidem, sem escrever.
Redação e múltipla escolha
A forma mais simples de entender a diferença é pensar numa prova.
Um LLM responde a uma prova dissertativa. É o tipo de modelo por trás dos assistentes de IA mais conhecidos. Ele escreve a resposta palavra por palavra e pode escrever qualquer coisa: um e-mail, o resumo de um contrato, uma análise. Essa liberdade é o que o torna tão útil. Também é o que o torna mais lento e mais caro, porque cada palavra escrita leva tempo e é cobrada. Mesmo quando a resposta é uma palavra só, o caminho até ela é o de quem escreve um texto.
Um modelo de decisão responde a uma prova de múltipla escolha. Ele lê o texto, lê as alternativas e marca uma. Não escreve nada. Em vez disso, entrega algo que um LLM não entrega de forma confiável: o quanto acredita em cada alternativa. Algo como "88% de chance de ser A, 10% de ser B, 2% de não ser nenhuma delas".
Os três trabalham com os mesmos tipos de pergunta: escolher uma opção numa lista, dar uma nota numa escala ou dizer se uma afirmação é verdadeira. E os três cobram, quando cobram, apenas pelo texto que leem.
Por que a porcentagem importa
Um LLM bem instruído também acerta a alternativa na maior parte das vezes. O que ele não diz, de um jeito em que se possa confiar, é quando está em dúvida. Se você pergunta qual é a certeza dele, ele escreve um número, e esse número é mais um texto gerado, não uma medida.
Com um modelo de decisão, a certeza vem junto com cada resposta. Isso muda o que dá para automatizar: acima de um certo nível de certeza, a IA segue sozinha; abaixo, a decisão vai para uma pessoa. E esse nível pode ser mais exigente onde errar custa mais.
Boa parte das decisões do dia a dia de uma empresa é de múltipla escolha. Que tipo de pedido é este? Para qual equipe ele vai? É urgente ou pode esperar? Para esse tipo de pergunta, um modelo de decisão responde mais rápido, custa menos e avisa quando não tem certeza.
Três modelos, três perfis
Jev (TypeSafe AI). Foi o primeiro dos três a chegar. É oferecido como serviço, acessado pela internet, e cobra US$ 0,042 por milhão de tokens lidos, menos da metade do preço da Decisions API. Lê apenas texto.
Decisions API (OpenAI). É a entrada da OpenAI na categoria. Funciona com um único modelo, o GPT-6 Luna, cobra US$ 0,10 por milhão de tokens lidos e é a única das três que também lê imagens. Ainda está em beta.
Laya (Convai Innovations). É aberta, sob licença Apache 2.0: roda na infraestrutura da própria empresa e não tem custo por uso. Há uma versão que cobre mais de cem idiomas, incluindo o português. Em troca, ela foi pensada como base para ser ajustada a cada tarefa: segundo os próprios autores, sem esse ajuste ela acerta pouco mais do que um chute. Ela também lê textos bem mais curtos do que as outras duas. É a alternativa que estamos avaliando para os casos em que rodar tudo em casa faz diferença.
Nada disso aposenta o LLM
Os modelos de decisão não substituem o LLM. Eles substituem o LLM nos pontos em que ele estava sendo usado para escolher. Quando a resposta precisa ser escrita, como uma resposta a um cliente, um resumo ou um parecer, o LLM continua sendo a ferramenta certa.
Uma imagem ajuda. Numa recepção, alguém olha cada envelope e diz para qual mesa ele vai; na mesa, outra pessoa lê o conteúdo e prepara a resposta. O modelo de decisão é quem olha o envelope. O LLM é quem trabalha na mesa.
Inovação nem sempre é construir o melhor modelo. Muitas vezes é usar o melhor de cada um no lugar certo.
O que vem a seguir
No projeto com a administradora, colocamos o Jev e a Decisions API lado a lado com o LLM que já usávamos, nas mesmas decisões, no mesmo dia. No próximo texto, os números: velocidade, custo e acerto.
Se você está avaliando onde a IA cabe nos processos da sua empresa, e onde ela não cabe, gostaríamos de conversar.
Tags: #InteligênciaArtificial #ModelosDeDecisão #LLM #OpenAI #DecisionsAPI #AutomaçãoDeProcessos #IAEmpresarial #MachineLearning #IAGenerativa #Classificação #NLP #ProcessamentoDeTexto #IAParaNegócios #Automação #InovacaoTecnologica