Este paquete de aprendizaje separa dos ideas del sistema de IA. Un agente trabaja hacia un objetivo a lo largo de varios pasos. Llamar a herramientas permite que un modelo solicite una acción externa limitada. El paquete no es un protocolo de agente estándar.
Este paquete de aprendizaje cubre partes de aplicaciones de IA: contexto, modelos, herramientas, datos, comprobaciones, reglas, pruebas y plan de respaldo. No es un término estándar único.
El ajuste fino consiste en seguir entrenando un modelo ya hecho con ejemplos cuidadosamente seleccionados de una tarea o campo. Esto cambia los pesos aprendidos y el comportamiento del modelo.
La alucinación de IA es un nombre común para una respuesta con afirmaciones no respaldadas o falsas. NIST utiliza el término de riesgo más exacto confabulación.
Este paquete de aprendizaje compara un fallo con una forma de reducirlo. La alucinación es una salida del modelo sin respaldo. El fundamento vincula las afirmaciones con evidencia que se da, encuentra o verifica. El paquete no es un estándar único de calidad.
Un sandbox de agente es un lugar limitado donde un agente de IA puede ejecutar código o herramientas. Separa la tarea del resto de la computadora, pero la protección depende de su diseño.
La barrera de seguridad de IA es un nombre amplio en la industria para los controles de seguridad. Estos controles pueden encontrar, limitar, bloquear, cambiar o señalar entradas, salidas o acciones de IA peligrosas. No es una herramienta estándar única.
Este paquete de aprendizaje une tres métodos de control diferentes. Las barreras limitan el comportamiento o lo envían para una revisión adicional. Los humanos revisan casos de alto impacto. Las evaluaciones miden la calidad en tareas realistas. El paquete no es un método de seguridad estándar único.
Una base de datos vectorial es un nombre de la industria para un almacén de datos que guarda vectores y busca otros similares. A menudo filtra otros detalles y utiliza índices aproximados rápidos, pero no existe un estándar universal único.
La búsqueda híbrida utiliza tanto la búsqueda por palabra exacta como la búsqueda basada en vectores por significado para una pregunta. Luego combina o reordena ambos conjuntos de resultados.
La caché de prompt permite que un servicio de modelo reutilice trabajo para el mismo inicio de una entrada. Puede reducir el procesamiento repetido, pero no reutiliza la respuesta anterior.
Un evaluador de modelos utiliza un modelo de IA para puntuar o etiquetar una salida con una regla escrita. Puede estar equivocado, por lo que las personas deben verificarlo con ejemplos conocidos.
La codificación Vibe construye software a través de la conversación. Una persona establece y verifica el objetivo mientras un agente de IA escribe gran parte del código.
La compactación de contexto reemplaza un estado de conversación antiguo con un elemento más pequeño para que una tarea larga pueda continuar. El elemento puede no ser un resumen legible y se pueden perder detalles.
La cuantización del modelo almacena pesos o activaciones con formatos numéricos menos precisos. Esto puede reducir el uso de memoria, el movimiento de datos y el costo de cómputo.
La destilación de conocimiento entrena un pequeño modelo estudiante para copiar señales útiles de un modelo maestro más grande. El entrenamiento a menudo utiliza tanto las puntuaciones del maestro como las etiquetas correctas conocidas.
Este paquete de aprendizaje une dos ideas de recuperación. Una incrustación convierte el contenido en vectores numéricos. Una base de datos vectorial almacena, indexa, filtra y busca esos vectores. El paquete no es un único tipo de almacén de datos estándar.
El enrutamiento de modelo elige qué modelo o ruta de modelo maneja cada solicitud. La elección sigue reglas claras de calidad, habilidad, costo, demora o política de seguridad.
reasoning.effort es una configuración de la API de OpenAI sobre cuánto trabajo del modelo debe usar una solicitud antes de responder. Los niveles compatibles y los valores predeterminados varían según el modelo, y un mayor esfuerzo no garantiza una respuesta correcta.
La evaluación de IA es una forma repetible de probar un sistema de IA. Usa tareas claras, datos de prueba, reglas de puntuación y límites de seguridad.
La fragmentación de documentos divide el contenido en partes pequeñas que un sistema de búsqueda puede encontrar. Las reglas claras determinan el tamaño de cada parte, la superposición y el punto de parada antes de la indexación.
La fundamentación pregunta qué tan bien están respaldadas las afirmaciones en una respuesta por las fuentes dadas al modelo. Es un área de prueba, no un puntaje estándar mundial.
La vinculación de IA conecta las afirmaciones o acciones generadas con evidencia, fuentes encontradas o datos del sistema confiables. Los métodos y puntajes difieren. No existe un único protocolo de vinculación.
Humano en el bucle es un paso de revisión planificado. Una persona nombrada recibe los hechos, el poder y el deber de actuar. Pueden cambiar, aprobar, rechazar o detener el trabajo asistido por IA.
Un system prompt es un conjunto de instrucciones muy importantes. Define el rol, los límites, las herramientas y las reglas de respuesta de un producto de IA.
La inferencia es cuando un modelo entrenado utiliza nueva entrada para hacer una predicción, dar una puntuación o crear una respuesta. Sus pesos aprendidos no cambian.
La Ingeniería de arneses construye la configuración alrededor de agentes de codificación. Incluye el repositorio, instrucciones, herramientas, seguridad, ambiente y retroalimentación.
Un embedding es una lista de números que un modelo aprende para un artículo. Luego, una regla de distancia o similitud puede comparar patrones entre artículos en ese espacio numérico.
La inyección de prompt es un texto dañino o inesperado. Intenta hacer que una IA ignore las reglas confiables de la aplicación y siga otras instrucciones.
La llamada a herramienta permite que un modelo solicite una herramienta externa nombrada en un formato establecido. La solicitud incluye argumentos. La aplicación anfitriona decide si ejecutarla y cómo hacerlo.
La memoria del agente es información guardada que un agente de IA puede usar después del mensaje actual. Reglas claras indican qué se guarda, por cuánto tiempo y cómo puede cambiar.
Un modelo de lenguaje es un modelo estadístico que predice y crea secuencias. A menudo puede seguir instrucciones para texto y otros tipos de datos, llamados modalidades.
Muestreo significa elegir la siguiente pieza de texto (token) de una lista de posibles opciones y sus probabilidades. El modelo no siempre selecciona la más probable.
El muestreo Top-p ordena los tokens posibles por probabilidad, luego conserva el grupo más pequeño cuya probabilidad total alcanza p. Selecciona el siguiente token de ese grupo.
La orquestación del agente es el plan que coordina agentes de IA, herramientas, traspasos, información compartida y reglas de detención. Mantiene bajo control un trabajo de muchos pasos.
Agent2Agent (A2A) es un protocolo abierto y versionado para que los agentes de IA descubran habilidades, intercambien mensajes y gestionen tareas. Cada implementación debe nombrar una versión del protocolo soportada.
El Protocolo de Contexto de Modelo conecta aplicaciones de IA con herramientas y datos externos. Los hosts usan clientes para comunicarse con servidores que ofrecen herramientas, recursos y solicitudes. Es abierto, y ambos lados primero acuerdan las capacidades disponibles.
El rastreo de IA registra los pasos vinculados en una ejecución de IA, como llamadas al modelo, búsqueda, uso de herramientas y trabajo del agente. El registro ayuda a las personas a seguir la ejecución de principio a fin.
La reordenación utiliza un segundo modelo para puntuar los resultados de búsqueda nuevamente. Compara la pregunta y cada documento encontrado más de cerca, luego cambia su orden.
Un benchmark de IA es un conjunto fijo y escrito de tareas, datos, medidas y condiciones de prueba. Permite a las personas comparar sistemas usando las mismas reglas.
La relevancia de recuperación indica qué tan bien un resultado de búsqueda o respuesta satisface la necesidad declarada del usuario bajo reglas claras de puntuación.
La temperatura es una configuración utilizada antes del muestreo. Cambia si las probabilidades de los tokens se concentran en pocas opciones o se distribuyen en más opciones.
El tiempo hasta el primer token (TTFT) mide una espera inicial. Comienza en un punto de solicitud claramente nombrado. Termina cuando el cliente o el servidor ve el primer token generado. Siempre indique ambos puntos.
Este paquete compara dos medidas de velocidad de IA. TTFT es el tiempo hasta el primer token. TPS es el número de tokens producidos cada segundo después de eso. No es una métrica estándar única.
Un token de modelo es una unidad de un tokenizador específico. El tokenizador convierte texto o bytes en IDs numéricos para un modelo. Un token no siempre es una palabra o un carácter. Su división y conteo dependen de la versión del tokenizador.
Este paquete de aprendizaje une dos ideas diferentes de tiempo de ejecución de modelos. Un token es una pieza de entrada o salida específica del modelo. Una ventana de contexto limita la secuencia disponible para una generación. El paquete no es un único estándar de métrica.
Los tokens de salida por segundo miden qué tan rápido un modelo crea tokens de salida después de que comienza la decodificación. El informe debe nombrar el tokenizador, el rango de tiempo, el método de agrupamiento y el número de solicitudes ejecutándose simultáneamente.
Un Transformer es un tipo de red neuronal. Usa atención para aprender cómo se relacionan las partes de una secuencia y puede trabajar en muchas posiciones a la vez.
El uso de la computadora permite que un modelo vea una pantalla y realice acciones como hacer clic, escribir o desplazarse. Un marco de aplicación verifica y realiza cada acción permitida.
Una ventana de contexto es la cantidad de tokens que una solicitud de modelo puede contener tanto para la entrada como para la salida generada. Las reglas exactas de conteo dependen del modelo y la API.
La versionado de prompts mantiene revisiones fijas y nombradas de un prompt de producción. Los equipos pueden revisar, probar, lanzar y restaurar una revisión exacta.