Este pacote de aprendizado separa duas ideias de sistema de IA. Um agente trabalha em direção a um objetivo através de etapas. A chamada de ferramenta permite que um modelo solicite uma ação externa limitada. O pacote não é um protocolo padrão de agente.
O ajuste fino mantém o treinamento de um modelo pronto com exemplos cuidadosamente escolhidos de uma tarefa ou área. Isso altera os pesos e o comportamento aprendidos do modelo.
Este pacote de aprendizado compara uma falha com uma forma de reduzi-la. Alucinação é a saída do modelo sem suporte. Fundamentação liga afirmações a evidências que são dadas, encontradas ou verificadas. O pacote não é um único padrão de métrica de qualidade.
Amostragem significa escolher a próxima peça de texto (token) de uma lista de escolhas possíveis e suas probabilidades. O modelo nem sempre escolhe a mais provável.
A amostragem Top-p ordena os tokens possíveis por probabilidade, em seguida mantém o menor grupo cuja probabilidade total atinge p. Ele escolhe o próximo token desse grupo.
A avaliação de IA é uma maneira repetível de testar um sistema de IA. Ela usa tarefas claras, dados de teste, regras de pontuação e limites de segurança.
Um avaliador de modelo usa um modelo de IA para pontuar ou rotular uma saída com uma regra escrita. Ele pode estar errado, então as pessoas devem verificá-lo com exemplos conhecidos.
Um banco de dados vetorial é um nome da indústria para um armazenamento de dados que salva vetores e busca por similares. Ele frequentemente filtra outros detalhes e usa índices aproximados rápidos, mas não existe um padrão universal único.
Barreira de IA é um nome genérico da indústria para controles de segurança. Esses controles podem encontrar, limitar, bloquear, alterar ou sinalizar entradas, saídas ou ações de IA inseguras. Não é uma ferramenta padrão única.
Um benchmark de IA é um conjunto fixo e registrado de tarefas, dados, medidas e condições de teste. Ele permite que as pessoas comparem sistemas usando as mesmas regras.
O cache de prompt permite que um serviço de modelo reutilize o trabalho para o mesmo início de uma entrada. Pode reduzir o processamento repetido, mas não reutiliza a resposta antiga.
A chamada de ferramenta permite que um modelo solicite uma ferramenta externa nomeada em um formato definido. A solicitação inclui argumentos. O aplicativo host decide se e como executá-la.
A compactação de contexto substitui um estado de conversa mais antigo por um item menor para que uma tarefa longa possa continuar. O item pode não ser um resumo legível, e detalhes podem ser perdidos.
A destilação de conhecimento treina um pequeno modelo estudante para copiar sinais úteis de um modelo professor maior. O treinamento frequentemente usa tanto as pontuações do professor quanto rótulos corretos conhecidos.
A Engenharia de Suporte constrói o ambiente em torno de agentes de codificação. Inclui o repositório, instruções, ferramentas, segurança, ambiente e feedback.
raciocínio.esforço é uma configuração da API OpenAI para definir quanto trabalho do modelo uma solicitação deve usar antes de responder. Níveis suportados e padrões variam por modelo, e maior esforço não garante uma resposta correta.
A fragmentação de documentos divide o conteúdo em pequenas partes que um sistema de busca pode encontrar. Regras claras definem o tamanho de cada parte, sobreposição e ponto de parada antes da indexação.
O aterramento de IA vincula reivindicações ou ações a evidências, fontes encontradas ou dados confiáveis do sistema. Métodos e pontuações diferem. Não existe um único protocolo de aterramento.
A fundamentação pergunta quão bem as afirmações em uma resposta são apoiadas pelas fontes fornecidas ao modelo. É uma área de teste, não uma pontuação padrão global.
Geração Aumentada por Recuperação, ou RAG, encontra evidências externas em tempo de execução. Ela fornece essas evidências a um modelo antes de escrever.
Este pacote de aprendizado une três métodos de controle diferentes. Guardrails limitam o comportamento ou o enviam para mais revisão. Humanos verificam casos de alto impacto. Avaliações medem a qualidade em tarefas realistas. O pacote não é um método de segurança padrão.
Humano no loop é uma etapa de revisão planejada. Uma pessoa nomeada recebe os fatos, poder e dever para agir. Ela pode alterar, aprovar, rejeitar ou interromper trabalho assistido por IA.
Um embedding é uma lista de números que um modelo aprende para um item. Uma regra de distância ou similaridade pode então comparar padrões entre itens nesse espaço numérico.
Este pacote de aprendizado combina duas ideias de recuperação. Um embedding transforma conteúdo em vetores numéricos. Um banco de dados vetorial armazena, indexa, filtra e pesquisa esses vetores. O pacote não é um tipo padrão de armazenamento de dados.
Inferência é quando um modelo treinado usa uma nova entrada para fazer uma previsão, dar uma pontuação ou criar uma resposta. Seus pesos aprendidos não mudam.
Uma janela de contexto é o número de tokens que uma solicitação de modelo pode conter tanto para entrada quanto para saída gerada. As regras exatas de contagem dependem do modelo e da API.
A memória do agente é informação armazenada que um agente de IA pode usar após a mensagem atual. Regras claras dizem o que é salvo, por quanto tempo e como pode mudar.
Um modelo de linguagem é um modelo estatístico que prevê e cria sequências. Ele geralmente consegue seguir instruções para texto e outros tipos de dados, chamados modalidades.
Este pacote de aprendizado cobre partes de aplicativos de IA: contexto, modelos, ferramentas, dados, verificações, regras, testes e plano de contingência. Não é um termo padrão.
A orquestração de agente é o plano que coordena agentes de IA, ferramentas, transferências, informações compartilhadas e regras de parada. Mantém um trabalho de vários passos sob controle.
Pesquisa híbrida usa tanto busca por palavra exata quanto busca vetorial baseada em significado para uma pergunta. Em seguida, combina ou reclassifica ambos os conjuntos de resultados.
Agent2Agent (A2A) é um protocolo aberto e versionado para agentes de IA descobrirem habilidades, trocarem mensagens e gerenciarem tarefas. Cada implementação deve nomear uma versão de protocolo suportada.
O Protocolo de Contexto do Modelo conecta aplicações de IA a ferramentas e dados externos. Hosts usam clientes para se comunicar com servidores que oferecem ferramentas, recursos e prompts. É aberto, e ambos os lados primeiro concordam sobre as capacidades disponíveis.
A quantização do modelo armazena pesos ou ativações com formatos de número menos precisos. Isso pode reduzir o uso de memória, movimentação de dados e custo computacional.
O rastreamento de IA registra os passos vinculados em uma execução de IA, como chamadas de modelo, busca, uso de ferramenta e trabalho de agente. O registro ajuda as pessoas a acompanhar a execução do início ao fim.
A reordenação usa um segundo modelo para pontuar os resultados da busca novamente. Compara a pergunta com cada documento encontrado de forma mais detalhada e, em seguida, altera sua ordem.
A relevância da recuperação indica quão bem um resultado de pesquisa ou resposta atende à necessidade declarada pelo usuário sob regras claras de pontuação.
O roteamento de modelo escolhe qual modelo ou caminho do modelo lida com cada solicitação. A escolha segue regras claras para qualidade, habilidade, custo, atraso ou política de segurança.
Um sandbox de agente é um lugar limitado onde um agente de IA pode executar código ou ferramentas. Ele separa a tarefa do resto do computador, mas a proteção depende de seu design.
Temperatura é uma configuração usada antes da amostragem. Ela altera se as chances do token estão concentradas em poucas opções ou distribuídas por mais opções.
Tempo até o primeiro token (TTFT) mede uma espera inicial. Ele começa em um ponto de solicitação claramente nomeado. Termina quando o cliente ou servidor vê o primeiro token gerado. Sempre indique ambos os pontos.
Este pacote compara duas medidas de velocidade de IA. TTFT é o tempo até o primeiro token. TPS é a quantidade de tokens gerados a cada segundo depois disso. Não é uma métrica padrão.
Este pacote de aprendizado combina duas ideias diferentes de tempo de execução de modelo. Um token é uma parte específica de entrada ou saída de um modelo. Uma janela de contexto limita a sequência disponível para uma geração. O pacote não é uma métrica padrão.
Um token de modelo é uma unidade de um tokenizador específico. O tokenizador transforma texto ou bytes em IDs numéricos para um modelo. Um token nem sempre é uma palavra ou caractere. Sua divisão e contagem dependem da versão do tokenizador.
Tokens de saída por segundo medem a rapidez com que um modelo cria tokens de saída após o início da decodificação. O relatório deve nomear o tokenizador, intervalo de tempo, método de agrupamento e número de requisições rodando em conjunto.
Um Transformer é um tipo de rede neural. Ele usa atenção para aprender como partes de uma sequência se relacionam e pode trabalhar em muitas posições ao mesmo tempo.
O uso do computador permite que um modelo visualize uma tela e retorne ações como clicar, digitar ou rolar. Um mecanismo de aplicação verifica e executa cada ação permitida.
O versionamento de prompt mantém revisões nomeadas e fixas de um prompt de produção. As equipes podem revisar, testar, liberar e restaurar uma revisão exata.