Grandes modelos de linguagem, conhecidos pela sigla LLM, aprendem padrões estatísticos a partir de grandes coleções de texto. Durante o uso, eles calculam quais tokens têm maior probabilidade de aparecer em seguida.
O que é um token#
Token é uma unidade usada pelo modelo para representar texto. Uma palavra pode corresponder a um token, vários tokens ou apenas parte de um token.
Entrada: "dados transformam decisões"
Possíveis tokens: ["dados", " transform", "am", " decisões"]A forma exata depende do tokenizador adotado.
Treinamento e ajuste#
O treinamento básico ensina padrões gerais. Etapas posteriores podem adaptar o comportamento para seguir instruções, trabalhar em um domínio específico ou reduzir respostas indesejadas.
A janela de contexto#
A janela de contexto define quanto conteúdo o modelo consegue considerar em uma interação. Contextos maiores ajudam em documentos longos, mas não eliminam problemas de atenção, custo ou qualidade da informação fornecida.
Por que o modelo pode errar#
O LLM não consulta automaticamente uma base confiável a cada frase. Ele gera uma continuação plausível com base nos sinais disponíveis. Quando precisão factual é essencial, deve ser combinado com fontes verificáveis, recuperação de documentos e validação humana.
