Ce paquet d'apprentissage sépare deux idées de système IA. Un agent travaille vers un objectif à travers plusieurs étapes. L'appel d'outil permet à un modèle de demander une action externe limitée. Le paquet n'est pas un protocole unique d'agent standard.
L'ajustement fin continue d'entraîner un modèle prêt à l'emploi avec des exemples soigneusement choisis provenant d'une tâche ou d'un domaine. Cela modifie les poids appris et le comportement du modèle.
La fondation demande à quel point les affirmations dans une réponse sont étayées par les sources fournies au modèle. C'est un domaine de test, pas un score standard mondial.
L'appel d'outil permet à un modèle de demander un outil externe nommé selon un format défini. La demande inclut des arguments. L'application hôte décide si et comment l'exécuter.
Un bac à sable d'agent est un endroit limité où un agent IA peut exécuter du code ou des outils. Il sépare la tâche du reste de l'ordinateur, mais la protection dépend de sa conception.
Une base de données vectorielle est un nom industriel pour un stockage de données qui enregistre des vecteurs et cherche des vecteurs similaires. Elle filtre souvent d'autres détails et utilise des index rapides approximatifs, mais il n'existe pas de norme universelle unique.
Ce paquet d'apprentissage couvre les parties d'une application IA : contexte, modèles, outils, données, vérifications, règles, tests et repli. Ce n'est pas un terme standard unique.
Le compactage du contexte remplace l'état de conversation ancien par un élément plus petit afin qu'une longue tâche puisse continuer. L'élément peut ne pas être un résumé lisible et certains détails peuvent être perdus.
Le découpage de document divise le contenu en petites parties qu'un système de recherche peut trouver. Des règles claires déterminent la taille de chaque partie, le chevauchement et le point d'arrêt avant l'indexation.
La distillation des connaissances entraîne un petit modèle étudiant à copier les signaux utiles d'un modèle enseignant plus grand. L'entraînement utilise souvent à la fois les scores de l'enseignant et les étiquettes correctes connues.
L'échantillonnage signifie choisir le prochain morceau de texte (jeton) dans une liste de choix possibles et de leurs probabilités. Le modèle ne choisit pas toujours le plus probable.
L'échantillonnage Top-p trie les jetons possibles par probabilité, puis conserve le plus petit groupe dont la probabilité totale atteint p. Il choisit le jeton suivant dans ce groupe.
reasoning.effort est un paramètre de l'API OpenAI définissant combien de travail du modèle une requête doit utiliser avant de répondre. Les niveaux pris en charge et les valeurs par défaut varient selon le modèle, et un effort plus élevé ne garantit pas une réponse correcte.
Un évaluateur de modèle utilise un modèle d'IA pour noter ou étiqueter une sortie selon une règle écrite. Il peut se tromper, donc les gens doivent le vérifier par rapport à des exemples connus.
L'évaluation de l'IA est un moyen répétable de tester un système IA. Elle utilise des tâches claires, des données de test, des règles de notation et des limites de sécurité.
Une fenêtre de contexte est le nombre de tokens qu'une requête de modèle peut contenir à la fois pour l'entrée et la sortie générée. Les règles exactes de comptage dépendent du modèle et de l'API.
La mise en relation IA relie les affirmations ou actions générées à des preuves, des sources trouvées ou des données système fiables. Les méthodes et scores varient. Il n'existe pas de protocole de mise en relation unique.
Ce paquet d'apprentissage réunit trois méthodes de contrôle différentes. Les garde-fous limitent le comportement ou l'envoient pour un examen supplémentaire. Les humains vérifient les cas à fort impact. Les évaluations mesurent la qualité sur des tâches réalistes. Le paquet n'est pas une méthode de sécurité standard unique.
Le garde-fou IA est un terme général de l'industrie pour les contrôles de sécurité. Ces contrôles peuvent trouver, limiter, bloquer, modifier ou signaler des entrées, sorties ou actions IA dangereuses. Il ne s'agit pas d'un outil standard unique.
La Génération Augmentée par Récupération, ou RAG, trouve des preuves externes au moment de l'exécution. Elle fournit ces preuves à un modèle avant la rédaction.
Ce module d'apprentissage compare un échec avec une manière de le réduire. L'hallucination est une sortie de modèle sans support. L'ancrage relie les affirmations à des preuves données, trouvées ou vérifiées. Le module n'est pas une norme unique de qualité.
L'hallucination IA est un nom courant pour une réponse contenant des affirmations non soutenues ou fausses. Le NIST utilise le terme de risque plus précis confabulation.
L’humain dans la boucle est une étape de révision planifiée. Une personne nommée obtient les faits, le pouvoir et le devoir d’agir. Ils peuvent changer, approuver, rejeter ou arrêter le travail assisté par l’IA.
L'IA multimodale peut utiliser ou créer plusieurs types de données. Cela peut inclure du texte, des images, de l'audio, de la vidéo ou des données de capteurs.
L'inférence est le processus par lequel un modèle entraîné utilise de nouvelles entrées pour faire une prédiction, attribuer un score ou créer une réponse. Ses poids appris ne changent pas.
L'ingénierie du contexte sélectionne et ordonne ce que reçoit un modèle. Cela peut inclure des faits, des instructions, des outils, l'état et des preuves.
L'ingénierie Harness construit la configuration autour des agents de codage. Elle comprend le dépôt, les instructions, les outils, la sécurité, l'environnement et les retours.
L'injection de prompt est un texte nuisible ou inattendu. Elle tente de faire en sorte qu'une IA ignore les règles fiables de l'application et suive d'autres instructions.
Un embedding est une liste de nombres qu'un modèle apprend pour un élément. Une règle de distance ou de similarité peut alors comparer les motifs entre les éléments dans cet espace de nombres.
Ce paquet d'apprentissage réunit deux idées de récupération. Un embedding transforme le contenu en vecteurs numériques. Une base de données vectorielle stocke, indexe, filtre et recherche ces vecteurs. Le paquet n'est pas un type de magasin de données standard.
Un prompt système est un ensemble d'instructions très importantes. Il définit le rôle, les limites, les outils et les règles de réponse d'un produit d'IA.
Ce paquet d'apprentissage réunit deux idées différentes sur le temps d'exécution des modèles. Un jeton est une pièce d'entrée ou de sortie spécifique au modèle. Une fenêtre de contexte limite la séquence disponible pour une génération. Le paquet n'est pas une métrique standard unique.
Un token de modèle est une unité provenant d'un tokenizer spécifique. Le tokenizer transforme le texte ou les octets en identifiants numériques pour un modèle. Un token n'est pas toujours un mot ou un caractère. Sa division et son comptage dépendent de la version du tokenizer.
Les jetons de sortie par seconde mesurent la vitesse à laquelle un modèle crée des jetons de sortie après le début du décodage. Le rapport doit nommer le tokenizer, la plage de temps, la méthode de regroupement et le nombre de requêtes en cours simultanément.
La mémoire de l'agent est l'information sauvegardée qu'un agent IA peut utiliser après le message actuel. Des règles claires définissent ce qui est sauvegardé, pour combien de temps, et comment cela peut changer.
La mise en cache de prompt permet à un service de modèle de réutiliser le travail pour le même début d'entrée. Cela peut réduire le traitement répété, mais ne réutilise pas l'ancienne réponse.
Un modèle de langage est un modèle statistique qui devine et crée des suites de mots. Il peut souvent suivre des instructions pour du texte et d'autres types de données, qu'on appelle des modalités.
Le reranking utilise un second modèle pour évaluer à nouveau les résultats de recherche. Il compare plus attentivement la question et chaque document trouvé, puis modifie leur ordre.
L'orchestration de l'agent est le plan qui coordonne les agents IA, les outils, les transferts, les informations partagées et les règles d'arrêt. Elle garde un travail à plusieurs étapes sous contrôle.
La pertinence de la récupération indique dans quelle mesure un résultat de recherche ou une réponse satisfait le besoin exprimé de l'utilisateur selon des règles de notation claires.
Agent2Agent (A2A) est un protocole ouvert et versionné pour que les agents IA découvrent des compétences, échangent des messages et gèrent des tâches. Chaque implémentation doit indiquer une version de protocole supportée.
Le protocole de contexte du modèle connecte les applications IA à des outils et données externes. Les hôtes utilisent des clients pour communiquer avec des serveurs offrant des outils, des ressources et des prompts. Il est ouvert, et les deux parties s'accordent d'abord sur les capacités disponibles.
La quantification de modèle stocke les poids ou les activations avec des formats numériques moins précis. Cela peut réduire l'utilisation de la mémoire, le transfert de données et le coût de calcul.
La recherche hybride utilise à la fois la recherche exacte et la recherche vectorielle basée sur le sens pour une seule question. Il rejoint ou reclasse ensuite les deux ensembles de résultats.
Un benchmark IA est un ensemble fixe et écrit de tâches, de données, de mesures et de conditions de test. Il permet aux gens de comparer les systèmes en utilisant les mêmes règles.
Le routage de modèle choisit quel modèle ou quelle trajectoire de modèle traite chaque requête. Le choix suit des règles claires concernant la qualité, la compétence, le coût, le délai ou la politique de sécurité.
La température est un paramètre utilisé avant l'échantillonnage. Elle modifie la façon dont les chances des tokens sont concentrées autour de quelques choix ou réparties sur plus de choix.
Le temps jusqu'au premier jeton (TTFT) mesure une attente précoce. Il commence à un point de requête clairement nommé. Il se termine lorsque le client ou le serveur voit le premier jeton généré. Indiquez toujours les deux points.
Ce bundle compare deux mesures de vitesse de l'IA. TTFT est le temps jusqu'au premier token. TPS est le nombre de tokens générés chaque seconde ensuite. Ce n'est pas une métrique standard unique.
Le traçage IA enregistre les étapes liées dans une exécution IA, telles que les appels de modèle, la recherche, l'utilisation d'outils et le travail d'agent. L'enregistrement aide les personnes à suivre l'exécution de bout en bout.
Un Transformer est un type de réseau de neurones. Il utilise l'attention pour apprendre comment les parties d'une séquence sont liées et peut fonctionner sur plusieurs positions à la fois.
L'utilisation de l'ordinateur permet à un modèle de voir un écran et de retourner des actions telles que cliquer, taper ou faire défiler. Un moteur d'application vérifie et exécute chaque action autorisée.
La gestion des versions de prompt conserve des révisions nommées et fixes d'un prompt de production. Les équipes peuvent examiner, tester, publier et restaurer une révision exacte.