O processo completo de integração segue estas etapas:
Faixa de custo típica: $15.000 a $40.000 (aproximadamente R$76.500 a R$204.000) para features de IA via API — chatbot, geração de conteúdo, classificação; $80.000 a $250.000+ (R$408.000 a R$1.275.000+) para desenvolvimento de modelo customizado com pipeline de treinamento proprietário. Prazo: 6 a 16 semanas, dependendo do escopo e da maturidade dos dados.
A maioria das integrações de IA que fracassam não fracassa porque o modelo estava errado. Fracassa porque a arquitetura estava errada — o componente de IA foi embutido direto na lógica de negócio, o pipeline de dados não foi construído para a latência de inferência que o modelo exige, ou o time tratou um LLM como uma API determinística e descobriu, tarde demais, que não é.
Antes de escolher modelo ou fornecedor, você precisa responder três perguntas: qual problema específico do usuário ou do sistema a IA vai resolver? O que significa um "resultado bom" e você consegue medir isso? O que acontece quando o modelo produz um resultado errado ou inesperado? Se você não consegue responder às três, ainda não está pronto para integrar — está pronto para experimentar, o que é uma frente de trabalho diferente, com custo e prazo diferentes.
Casos de uso vagos produzem arquiteturas vagas. "Adicionar IA ao nosso app" é uma diretriz de produto, não uma especificação de engenharia. Antes de qualquer trabalho técnico, o caso de uso precisa virar: dado o input X, o sistema deve produzir o output Y, dentro do limite de latência Z, com taxa de erro aceitável W.
As principais categorias de caso de uso, cada uma com implicações de integração diferentes:
| Caso de Uso | Tipo de Modelo Típico | Restrição Chave de Integração | Opções de API Comuns |
| IA conversacional / Chatbot | LLM (GPT-4o, Claude, Gemini) | Gestão de janela de contexto, latência | OpenAI, Anthropic, Google AI |
| Geração de conteúdo | LLM ou modelo fine-tuned | Controle de qualidade do output, moderação | OpenAI, Cohere, LLMs open-source |
| Classificação de imagem/documento | CNN, Vision Transformer | Volume de dados de treino, velocidade de inferência | Google Vision AI, AWS Rekognition |
| Motor de recomendação | Collaborative filtering, embeddings | Recuperação de features em tempo real, cold-start | Solução própria ou AWS Personalize |
| Detecção de anomalias | Isolation Forest, LSTM, Autoencoder | Dados rotulados de anomalia, calibração de threshold | Solução própria; Azure Anomaly Detector |
| NLP: extração de intenção/entidade | BERT fine-tuned, LLM com output estruturado | Vocabulário de domínio, parsing de output estruturado | OpenAI function calling, spaCy, Hugging Face |
| Reconhecimento de voz | Whisper, Wav2Vec | Infraestrutura de streaming de áudio, tratamento de ruído | OpenAI Whisper, Google Speech-to-Text |
| Ações agênticas/autônomas | LLM + tool use (function calling) | Validação de ação, lógica de rollback, gestão de estado | OpenAI Assistants, LangChain, orquestração própria |
A decisão arquitetural mais comum em integração de IA é chamar uma API de modelo externo ou treinar e hospedar um modelo próprio. Não é, em primeiro lugar, uma decisão de custo — é uma decisão de dados, latência e controle.
APIs de terceiros (OpenAI, Anthropic, Google Vertex AI, AWS Bedrock, Cohere) entregam capacidade de modelo pronta para produção através de uma interface HTTP. O tempo de integração se mede em dias, não em meses. A contrapartida: seus dados saem da sua infraestrutura, você não controla as atualizações do modelo, e a latência fica limitada ao SLA do fornecedor — não ao seu.
Essa abordagem é correta quando a tarefa é genérica o suficiente para um modelo pré-treinado resolver bem (resumo de texto, tradução, classificação de conteúdo padrão), quando o prazo de entrega é curto, ou quando você ainda não tem dados proprietários suficientes para treinar um modelo competitivo.
Vale a pena treinar um modelo próprio quando você tem dados proprietários que representam vantagem competitiva, quando a tarefa é específica o bastante para um modelo genérico performar mal nela, quando a latência exigida elimina a chamada a uma API externa, ou quando exigências de residência de dados e compliance impedem enviar dados para infraestrutura de terceiros.
A exigência de infraestrutura é significativa: você precisa de um pipeline de treinamento (ingestão de dados → pré-processamento → treino → avaliação → versionamento), um model registry, um servidor de inferência (TorchServe, TensorFlow Serving, Triton Inference Server, ou um endpoint próprio containerizado) e uma stack de monitoramento para detectar model drift em produção. Se sua empresa está avaliando essa rota do zero, vale entender antes como criar uma inteligência artificial sob medida, com as decisões de stack que isso implica.
Modelos fine-tuned podem ser hospedados internamente, o que elimina questões de residência de dados. Para a maioria dos casos de produção em 2026, fazer fine-tuning de um modelo open-source forte é a opção de maior valor entre "chamar a OpenAI" e "treinar do zero".
A decisão arquitetural mais consequente é onde o componente de IA fica na sua stack e o que ele tem permissão para fazer. Essa decisão é praticamente irreversível em escala — corrigir depois uma integração de IA mal desenhada dentro de um sistema em produção sai caro.
O componente de IA deve ficar isolado atrás de uma interface de serviço — um microsserviço ou módulo dedicado, com contratos de input/output bem definidos. Nunca deve ser embutido direto na lógica de negócio, na camada de acesso a banco de dados ou nos handlers de requisição voltados ao usuário. Esse isolamento cumpre três funções: a camada de IA pode ser atualizada, trocada ou revertida sem tocar no resto do sistema; falhas na camada de IA ficam contidas e não se propagam; e o componente de IA pode escalar de forma independente, conforme a carga de inferência.
Se a integração envolve um agente de IA — um componente que classifica a intenção do usuário e executa ações contra sistemas ao vivo (criar ordens, enviar mensagens, alterar registros) — a arquitetura exige uma camada adicional de validação que a maioria dos times subestima.
Aprendemos isso na prática construindo um agente conversacional de IA para uma plataforma financeira. O agente lidava com cinco categorias de ação: conversão de ativos (compra/venda contra a carteira spot), gestão de ordens limit e market, consulta ao histórico completo de transações, exibição de endereço de depósito e execução de saques para endereços na whitelist. A pergunta arquitetural que decidiu tudo o resto foi se a camada de IA funcionaria como uma ponte simples de prompt-para-API ou como uma camada de orquestração com estado.
Optamos pela orquestração. O agente mantém o contexto da sessão entre turnos de conversa, valida saldos disponíveis antes de confirmar qualquer operação, e roteia para microsserviços de backend específicos com base na classificação de intenção. Uma ponte simples teria saído mais rápido — e teria falhado em qualquer pedido multi-etapa. "Venda metade do meu BTC e mande o resto para minha carteira fria" exige três chamadas de API sequenciais com rastreamento de estado intermediário. Uma ponte sem estado não dá conta disso de forma confiável.
As regras estruturais chave para sistemas agênticos em produção:
Para domínios complexos — geração de sinais de trading, processamento de documentos multi-etapa, fluxos de pesquisa autônomos — um único LLM cuidando de tudo é ao mesmo tempo um risco de confiabilidade e um teto de capacidade. A alternativa é uma arquitetura multiagente, em que cada agente tem um papel definido, seu próprio system prompt e um conjunto delimitado de ações permitidas.
Nossa experiência: Um cliente do setor de trading precisava de um sistema de IA que não apenas gerasse "previsões", mas explicasse a lógica por trás de cada sinal — requisito não-negociável para ganhar a confiança de quem opera com dinheiro real.
Solução: Desenhamos uma arquitetura multiagente inspirada no CrewAI, rodando sobre múltiplos LLMs (Claude, OpenAI, Gemini), com cada agente responsável por uma fatia isolada da lógica — análise de dados de mercado, processamento de sinal, tomada de decisão. Cada agente opera sobre um vector database (PgVector/Supabase) populado com dados históricos de mercado e resultados de sinais passados, o que resolve o problema de alucinação dando a cada agente uma base de conhecimento estruturada para consultar, em vez de depender de memória paramétrica. A stack ficou dividida entre Node.js (core/API) e Python (orquestração de agentes via LangGraph), com rollout faseado — Proof of Concept, depois MVP, depois produto — orçamento inicial de aproximadamente $40.000 (R$204.000).
Resultado: Explainability nativa desde o primeiro dia, capacidade de adicionar novos agentes sem reescrever o núcleo, e validação da hipótese de negócio ainda na fase de POC — seis semanas — antes de comprometer orçamento com infraestrutura de produção completa.
As implicações práticas para arquitetura: os agentes compartilham um message bus ou camada de orquestração, mas mantêm estado isolado; os outputs dos agentes são estruturados (JSON tipado, não texto livre) para tornar a comunicação entre agentes confiável; e a camada de orquestração — não um agente individual — guarda o contexto da sessão e decide qual agente cuida de cada etapa.
Orquestração própria (uma máquina de estados finita conduzindo chamadas de API do LLM) é a opção de maior esforço, mas dá controle total sobre cada transição de estado — se justifica em aplicações financeiras ou médicas de produção, onde a lógica de orquestração precisa ser comprovadamente correta. Para validar um MVP, use CrewAI ou LangGraph. Para produção em escala, planeje orquestração própria.
A escolha do modelo é discutida à exaustão. A preparação de dados é discutida raramente, apesar de ser a variável isolada que mais consistentemente determina se uma integração de IA performa bem em produção.
Para integrações via API (chamadas a LLM), preparar dados significa: estruturar o contexto enviado ao modelo (o que vai no system prompt vs. na mensagem do usuário vs. no contexto recuperado), implementar retrieval-augmented generation (RAG) quando o modelo precisa acessar conhecimento proprietário, e desenhar a lógica de parsing que converte a resposta livre do modelo em uma ação estruturada do sistema.
Para desenvolvimento de modelo customizado, significa: coletar exemplos de treino rotulados, limpar e normalizar o dataset, dividir em treino/validação/teste com estratificação correta e — de forma crítica — garantir que a distribuição dos dados de treino corresponda à distribuição dos dados de produção. Modelos treinados em dados idealizados falham nos inputs bagunçados que seus usuários reais realmente produzem.
Um dos aprendizados de maior valor ao construir uma plataforma de marketplace de serviços com matching assistido por IA: a sequência correta é coletar dados primeiro, treinar depois. A plataforma foi ao ar com matching de pedidos totalmente manual, via despachante — sem IA. A arquitetura foi desenhada desde o dia um para capturar cada sinal relevante: atributos do prestador, parâmetros do pedido, localização e timing, resultados de conclusão e avaliações.
Depois de três meses de dados operacionais reais, o modelo de matching treinado nesses dados superou significativamente qualquer modelo que poderíamos ter construído em cima de suposições pré-lançamento. Esse é o mesmo raciocínio por trás de como estruturar uma plataforma de marketplace pronta para IA desde a arquitetura inicial.
Essa abordagem vale para qualquer feature de IA que dependa de dados comportamentais de treino: motores de recomendação, roteamento preditivo, modelos de churn, detecção de fraude. Antes de ter dados reais de comportamento do usuário, você não tem um dataset de treino — tem hipóteses.
Um componente de IA que não consegue ler e escrever nos sistemas da sua aplicação é uma demo, não um produto. A camada de integração entre o componente de IA e seus serviços de backend é onde acontece a maior parte do trabalho de engenharia que não envolve o modelo em si.
A inferência síncrona (usuário envia requisição → IA processa → usuário recebe resposta) funciona para casos tolerantes a latência com modelos rápidos: classificação, geração curta, detecção de intenção. Para features baseadas em LLM, respostas em streaming (server-sent events ou WebSocket) melhoram muito a performance percebida — o usuário vê o output parcial sendo gerado, em vez de esperar a resposta completa.
A inferência assíncrona (usuário dispara uma ação → IA processa em background → usuário é notificado ao final) é adequada para tarefas de alto custo computacional: resumo de documentos, classificação em lote, jobs de treinamento de modelo, fluxos agênticos complexos de múltiplas etapas.
Uma decisão estrutural que consistentemente compensa em produção é a separação rígida entre a camada de lógica de negócio e a camada de IA no nível da stack — não só conceitualmente, mas como serviços distintos, em linguagens ou runtimes diferentes.
No nosso projeto de sistema de IA para trading, isso tomou a forma de um core em Node.js cuidando da lógica de negócio, das operações de banco de dados e da camada de API principal, com um serviço em Python responsável exclusivamente pela integração com LLMs, orquestração de agentes (LangGraph/CrewAI) e interações com o vector database. Os dois serviços conversam por chamadas internas — a camada Node.js nunca importa uma biblioteca de LLM, e o serviço Python nunca escreve direto no banco principal.
O benefício prático além da limpeza arquitetural: dependências de IA (PyTorch, LangChain, bibliotecas pesadas de ML) não inflam o container da aplicação principal, o scaling do serviço de IA fica independente do scaling do servidor de aplicação, e o time de IA em Python itera sobre o comportamento do modelo sem colocar em risco a camada de lógica de negócio em produção.
LLMs não têm memória persistente entre chamadas de API — todo o contexto (histórico de conversa, instruções de sistema, conhecimento recuperado) precisa ser enviado a cada requisição. Gerenciar essa janela de contexto é um problema central de engenharia de backend:
Componentes de IA falham de forma diferente do software tradicional. Uma função padrão retorna o valor certo ou lança um erro. Um componente de IA pode retornar um resultado que parece plausível, mas está incorreto — sem nenhum sinal de erro. Isso exige uma estratégia de teste que vai além de testes unitários e de integração.
Testes de latência e carga — o que acontece com a latência de inferência a 10x o número esperado de usuários concorrentes? Testes de regressão — ao atualizar um prompt ou trocar a versão do modelo, a qualidade do output no seu conjunto de benchmark se mantém ou melhora? Testes de segurança e conteúdo — para IA generativa voltada ao usuário, revisão automatizada e humana dos outputs do modelo, para pegar conteúdo nocivo ou enganoso antes que chegue ao usuário.
Uma prática não-negociável: teste com dados representativos de produção, não com exemplos sintéticos. Casos sintéticos não capturam inputs malformados, frases fora do padrão e distribuições de edge case que só aparecem quando usuários reais interagem com o sistema. Para desenvolver esse rigor de teste e deploy em escala vale entender melhor como funciona o desenvolvimento da inteligência artificial como um todo, no nível de sistema.
Componentes de IA exigem uma stack de monitoramento que o monitoramento de aplicação tradicional não cobre. Métricas de latência e taxa de erro dizem quando a integração quebrou — não dizem quando os outputs do modelo estão silenciosamente perdendo qualidade, que é o modo de falha mais comum.
A stack mínima viável de monitoramento de IA:
Um dos erros mais caros no desenvolvimento de produto com IA é pular a fase de Proof of Concept e ir direto para o MVP. Na nossa experiência com um sistema multiagente de sinais de trading, a fase de POC teve um propósito específico e não-negociável: validar que a lógica de geração de sinal produzia resultado relevante sobre dados históricos reais, antes de investir qualquer coisa em infraestrutura de produção.
O escopo do POC foi propositalmente mínimo — integrações de API com provedores de dados de mercado (cotações ao vivo e dados históricos), orquestração básica de agentes com um único tipo de sinal, e medição de acurácia contra um dataset histórico reservado para teste. Investimento total: aproximadamente $40.000 (R$204.000) e seis semanas. O POC produzia sinais viáveis ou não produzia — e essa resposta binária determinava se valia a pena financiar a construção do produto completo.
Essa sequência vale além de sistemas de trading com IA. Qualquer feature de IA cuja qualidade de output dependa da qualidade dos dados ou de desempenho de modelo específico de domínio deve passar por uma fase de POC: motores de recomendação, sistemas de classificação de documentos, pipelines de NLP para terminologia de domínio específico, modelos de detecção de anomalia treinados sobre logs de evento proprietários.
Nenhuma integração de IA que processa dados pessoais de usuários brasileiros escapa da LGPD (Lei 13.709/2018) — isso vale independentemente de o marco legal específico de IA já estar sancionado ou não. Sempre que um sistema de IA processa dados pessoais, para treino, operação ou tomada de decisão, a LGPD incide diretamente sobre esse tratamento.
Três pontos exigem atenção arquitetural desde o desenho da solução:
A faixa de custo varia bastante conforme o tipo de integração. Antes de fechar orçamento, vale entender melhor quanto custa criar uma IA para o seu caso específico — as três categorias principais:
| Tipo de Integração | Escopo | Faixa de Custo Típica | Prazo |
| Feature de IA via API | Uma feature usando uma API de LLM/ML de terceiros (chatbot, classificação, geração) | $15.000 – $40.000 (R$76.500 – R$204.000) | 4–8 semanas |
| Camada de IA em app existente | Design e integração de uma camada de orquestração de IA com múltiplas features e conexões de backend | $40.000 – $100.000 (R$204.000 – R$510.000) | 8–16 semanas |
| Desenvolvimento de modelo customizado | Preparação de dataset proprietário, treinamento, pipeline de avaliação, infraestrutura de inferência, monitoramento | $80.000 – $250.000+ (R$408.000 – R$1.275.000+) | 3–8 meses |
Os principais direcionadores de custo: preparação e rotulagem de dados (frequentemente subestimada em 30-40% do custo total do projeto), infraestrutura de inferência (modelos self-hosted exigem instâncias GPU; custo de API escala com uso) e monitoramento/retreinamento contínuo (um custo recorrente que raramente aparece na estimativa inicial).
Isso cobre uma única pessoa. Uma feature de IA via API — $15.000 a $40.000, 4 a 8 semanas — entrega arquiteto, backend, front-end e QA como time completo, no mesmo período em que você ainda estaria fechando a contratação de um único engenheiro sênior.
Por isso, no mercado de outsourcing de desenvolvimento, o padrão é cotar em dólar, não em reais — o real variou entre R$4,89 e R$5,61 por dólar só nos últimos 12 meses, e blindar o orçamento do projeto contra essa volatilidade evita surpresa no meio do caminho.
Os bloqueios que mais aparecem em projetos reais de integração de IA em produção não são problemas de escolha de modelo. São problemas de infraestrutura, dados e gestão de expectativa:
A maturidade de dados é sempre subestimada. Clientes consistentemente subestimam quanto trabalho de preparação de dados precede qualquer treinamento de modelo. Limpeza, rotulagem, deduplicação e normalização de schema costumam levar mais tempo do que o próprio treinamento do modelo.
A expectativa de latência é definida pela demo, não pela produção. Um modelo que responde em 800ms no notebook do desenvolvedor, com conexão de API "quente", pode responder em 3-4 segundos em produção sob carga real. Desenhe a UX para a latência de produção, não para a latência da demo.
LLMs não são determinísticos. Times acostumados com software tradicional se surpreendem quando o mesmo input produz outputs diferentes em chamadas diferentes. Seu sistema precisa lidar com essa variação de forma explícita — a lógica de parsing de output precisa ser robusta a variações de formatação, e você precisa de caminhos de fallback para outputs que não batem com a estrutura esperada.
Prompt engineering é manutenção contínua, não uma tarefa de "configurar e esquecer". Conforme a base de usuários cresce e os edge cases se multiplicam, os prompts exigem ajuste. Reserve orçamento para iteração de prompt como custo contínuo de engenharia, e versione cada mudança de prompt.
Código gerado por IA sem controle de contexto cria dívida técnica silenciosa. Esse ponto costuma ficar de fora da conversa sobre integração de IA, mas é real:
Nossa experiência: Em um produto fintech, identificamos degradação sistêmica na qualidade do frontend — textos inconsistentes, labels incorretas, elementos de UI ausentes — causada pelo uso de geração de código por IA sem controle total do contexto da tarefa.
Solução: Implementamos validação de QA a nível de string — cada elemento textual da interface verificado individualmente — e formalizamos um contrato de conteúdo entre design e frontend, eliminando a ambiguidade que a IA preenchia com suposições incorretas.
Resultado: Débito técnico identificado e corrigido antes da produção, com um processo de governança reutilizável para todos os componentes futuros gerados por IA. Velocidade com IA só é sustentável com controle de qualidade estruturado por trás dela.
A integração com sistemas existentes é a cauda mais longa do projeto. Conectar um componente de IA a um sistema em produção envolve autenticação, serialização de dados, tratamento de rate limit, lógica de retry, circuit breakers e, para agentes de IA com estado, gestão de transação. A integração do modelo em si costuma ser a parte mais rápida; a engenharia de infraestrutura ao redor dela consome a maior parte do tempo.
Aplicações financeiras têm os requisitos de rigor de integração mais altos: toda ação disparada por IA precisa ser auditável, reversível quando possível, e barrada por lógica de validação explícita. Ao planejar como criar um robô trader, a arquitetura separa a camada de geração de sinal (o modelo) da camada de execução (o sistema de gestão de ordens) — o modelo nunca toca a API da corretora diretamente. Um módulo de gestão de risco avalia cada sinal gerado pelo modelo contra limites de posição, saldo de conta e parâmetros de risco configurados, antes de qualquer ordem ser enviada.
IA de matching e recomendação em aplicações de marketplace (serviços sob demanda, mobilidade, logística) se beneficia da abordagem de rollout em fases: operação manual primeiro, para gerar dados de treino, integração de modelo depois. O problema de cold-start — um modelo sem dados produzindo matches ruins, que reduzem a retenção de usuário, que reduz a qualidade dos dados futuros — é um modo de falha real. Começar com matching baseado em regra e treinar um modelo sobre dados operacionais reais evita essa espiral.
Integração de IA em aplicações cripto tem um perfil de risco único: a combinação de transações blockchain irreversíveis com sistemas de IA que podem interpretar mal uma instrução cria uma categoria de erro que não dá para desfazer. Princípio arquitetural: para qualquer ação disparada por IA que movimenta fundos, o modelo produz uma ação proposta, que uma camada de validação avalia antes da execução. Whitelisting de destinos, limites de valor e confirmação humana para transações acima de um threshold configurável não são features opcionais — são requisitos básicos de segurança.
Em auditorias de segurança sob orçamento apertado, vale considerar IA (LLM) como primeira camada de varredura de vulnerabilidades, combinada com revisão interna e de desenvolvedor externo, antes de investir em uma auditoria externa completa — uma abordagem que já usamos em projetos reais de recuperação de plataforma Web3. Entender como criar uma exchange de criptomoedas é contexto essencial antes de desenhar componentes de IA que interagem com sistemas de trading ou carteira.
Integração via API (OpenAI, Google Vertex AI, AWS Bedrock) significa chamar um modelo pré-treinado por um endpoint HTTP. Você não é dono do modelo, seus dados são processados externamente, e você não controla as atualizações. Desenvolvimento de modelo customizado significa treinar seu próprio modelo sobre seus dados, hospedado na sua infraestrutura. A escolha certa depende de: sensibilidade dos dados (exigências de compliance, como LGPD, podem proibir APIs externas), especificidade da tarefa (APIs genéricas performam pior em tarefas muito específicas de domínio), requisito de latência (modelos self-hosted alcançam latência de inferência menor) e orçamento (desenvolvimento customizado custa de 3 a 10 vezes mais no início, mas elimina custo de API por token em escala).
Features de IA via API (chatbot, classificação, geração usando modelo de terceiros) levam de 4 a 8 semanas, incluindo integração de backend, testes e configuração de monitoramento. Uma camada completa de IA com múltiplas features e orquestração customizada leva de 8 a 16 semanas. Desenvolvimento de modelo customizado — incluindo preparação de dataset, treino, avaliação e infraestrutura de inferência — leva de 3 a 8 meses. Preparação de dados é consistentemente a fase mais longa, e a mais subestimada.
Sim — se a arquitetura do app existente permite adicionar um novo serviço que o app chama. A abordagem padrão é fazer deploy do componente de IA como um serviço independente, com um contrato de API definido, e depois modificar a aplicação existente para chamar esse serviço nos pontos certos. Quanto mais o app já for estruturado em torno de serviços ou microsserviços, mais fácil essa integração fica. Arquiteturas monolíticas, com lógica de negócio e acesso a dados misturados, são mais difíceis de estender com componentes de IA de forma limpa.
Permite, desde que exista base legal para o tratamento e as obrigações da LGPD sejam cumpridas — transparência sobre o uso de IA, direito do titular a revisão de decisões automatizadas (Art. 20), e Relatório de Impacto à Proteção de Dados Pessoais quando o tratamento representar risco elevado. A ANPD colocou fiscalização de IA como eixo prioritário para 2026-2027, com atenção redobrada a scoring de crédito, reconhecimento facial e sistemas de recomendação que envolvem dados de crianças. Empresas que já estão em conformidade com a LGPD partem na frente quando o Marco Legal da IA (PL 2.338/2023) for sancionado.
Depende da abordagem. Para integração via API de LLM, você precisa de prompts e contexto bem estruturados — não precisa de dados de treino. Para fazer fine-tuning de um modelo existente, geralmente são necessários entre 1.000 e 10.000 exemplos rotulados da sua tarefa específica. Para treinar um modelo customizado do zero, o volume é bem maior — 100 mil ou mais exemplos rotulados é um ponto de partida comum para modelos de nível produção. Para recomendação e IA comportamental, você precisa de dados históricos de interação do usuário — normalmente pelo menos 3 a 6 meses de uso real antes de o modelo ser treinado de forma significativa.
Tratar o LLM como camada de execução, em vez de camada de classificação de intenção. Quando um componente de IA pode disparar ações reais (enviar mensagens, criar ordens, alterar registros), o output do modelo precisa ser validado por uma camada separada antes da execução — o modelo deve produzir uma ação proposta e estruturada, não chamar suas APIs de backend diretamente. O segundo erro mais comum: pular o desenho do modo de falha. Toda feature de IA precisa de uma resposta explícita para "o que acontece quando o output do modelo está errado?" antes de ir para produção.