주제별 용어 · 63 안내서

AI

AI가 지시를 받고, 사실을 찾고, 도구를 사용하고, 답을 제공하며, 검증받는 방법을 배우십시오.

01 / Atlas

모든 AI 용어

간단한 의미, 예시, 사용 시점, 공식성, 코드명을 포함한 용어 열기

  1. 02 · 핵심

    검색 관련성 Retrieval Relevance

    검색 관련성은 명확한 점수 규칙 하에서 검색 결과나 답변이 사용자가 명시한 필요를 얼마나 잘 충족하는지를 알려줍니다.

  2. 05 · 더 많은 세부 정보

    근거성 Groundedness

    근거성(Groundedness)은 답변의 주장이 모델에 제공된 출처에 얼마나 잘 뒷받침되는지를 묻습니다. 이는 한 가지 테스트 영역일 뿐, 전 세계적으로 통용되는 표준 점수가 아닙니다.

  3. 06 · 더 많은 세부 정보

    다중 모달 AI Multimodal AI

    멀티모달 AI는 여러 데이터 유형을 사용하거나 생성할 수 있습니다. 여기에는 텍스트, 이미지, 오디오, 비디오 또는 센서 데이터가 포함될 수 있습니다.

  4. 07 · 핵심

    대화 기록 Conversation History

    대화 기록은 이전 채팅과 이후 턴으로 전달된 유용한 상태입니다. 흔히 필터링되거나 요약됩니다.

  5. 08 · 더 많은 세부 정보

    도구 호출 Tool Calling

    도구 호출은 모델이 지정된 형식으로 외부 도구를 요청할 수 있게 합니다. 요청에는 인수가 포함됩니다. 호스트 앱은 실행 여부와 방법을 결정합니다.

  6. 09 · 더 많은 세부 정보

    모델 라우팅 Model Routing

    모델 라우팅은 각 요청을 처리할 모델 또는 모델 경로를 선택합니다. 선택은 품질, 기술, 비용, 지연 또는 안전 정책에 대한 명확한 규칙을 따릅니다.

  7. 10 · 더 많은 세부 정보

    모델 양자화 Model Quantization

    모델 양자화는 가중치 또는 활성화를 보다 정확하지 않은 숫자 형식으로 저장합니다. 이는 메모리 사용, 데이터 이동, 계산 비용을 줄일 수 있습니다.

  8. 11 · 더 많은 세부 정보

    모델 채점기 Model Grader

    모델 채점기는 AI 모델을 사용하여 출력물을 점수 매기거나 작성된 규칙으로 라벨링합니다. 잘못될 수 있으므로, 사람들은 알려진 예제와 비교하여 확인해야 합니다.

  9. 12 · 핵심

    모델 추론 Model Inference

    추론은 학습된 모델이 새로운 입력을 사용하여 예측을 하거나 점수를 부여하거나 답을 생성할 때를 말합니다. 학습된 가중치는 변경되지 않습니다.

  10. 13 · 더 많은 세부 정보

    모델 컨텍스트 프로토콜 Model Context Protocol

    모델 컨텍스트 프로토콜은 AI 애플리케이션을 외부 도구 및 데이터와 연결합니다. 호스트는 클라이언트를 사용하여 도구, 자원, 및 프롬프트를 제공하는 서버와 통신합니다. 이는 개방적이며, 양측은 먼저 사용 가능한 기능에 합의합니다.

  11. 14 · 핵심

    모델 토큰 Model Token

    모델 토큰은 특정 토크나이저에서 나온 단위입니다. 토크나이저는 텍스트나 바이트를 모델용 숫자 ID로 변환합니다. 토큰이 항상 한 단어나 문자와 같지는 않습니다. 토큰의 분할과 수는 토크나이저 버전에 따라 달라집니다.

  12. 15 · 더 많은 세부 정보

    문맥 압축 Context Compaction

    문맥 압축은 긴 작업을 계속할 수 있도록 이전 대화 상태를 더 작은 항목으로 교체합니다. 이 항목은 읽을 수 있는 요약이 아닐 수 있으며, 세부 정보가 손실될 수 있습니다.

  13. 16 · 핵심

    문서 청킹 Document Chunking

    문서 청킹은 검색 시스템이 찾을 수 있도록 콘텐츠를 작은 부분으로 나누는 것을 말합니다. 명확한 규칙은 인덱싱 전에 각 부분의 크기, 겹침 및 중지점을 설정합니다.

  14. 17 · 더 많은 세부 정보

    미세 조정 Fine-tuning

    미세 조정은 특정 작업이나 분야에서 신중하게 선택한 예시로 기존 모델을 계속 훈련시키는 것입니다. 이는 모델의 학습된 가중치와 동작을 변경합니다.

  15. 18 · 핵심

    바이브 코딩 Vibe Coding

    바이브 코딩은 대화를 통해 소프트웨어를 개발합니다. 사람이 목표를 설정하고 확인하는 동안 AI 에이전트가 대부분의 코드를 작성합니다.

  16. 19 · 더 많은 세부 정보

    벡터 데이터베이스 Vector Database

    벡터 데이터베이스는 벡터를 저장하고 유사한 벡터를 검색하는 데이터 저장소의 산업용 명칭입니다. 종종 다른 세부 정보를 필터링하고 빠른 근사 인덱스를 사용하지만, 단일한 보편적 표준은 없습니다.

  17. 20 · 핵심

    변환기 Transformer

    트랜스포머는 신경망의 한 종류입니다. 시퀀스의 부분들이 어떻게 연관되는지 학습하기 위해 어텐션을 사용하며, 동시에 여러 위치에서 작업할 수 있습니다.

  18. 21 · 더 많은 세부 정보

    상태 없는 요청 Stateless Request

    Stateless Request는 그 요청에 담긴 데이터만 써. 모델이 이전 대화를 기억할 거라고 가정하지 않아.

  19. 22 · 더 많은 세부 정보

    샘플링 Sampling

    샘플링은 가능한 선택지와 그 확률 목록에서 다음 텍스트 조각(토큰)을 선택하는 것을 의미합니다. 모델은 항상 가장 가능성 높은 것을 선택하지는 않습니다.

  20. 23 · 더 많은 세부 정보

    스트리밍 응답 Streaming Response

    Streaming Response는 작은 이벤트나 덩어리로 나뉘어 도착해. 작업이 끝나기 전에도 결과가 바로 보일 수 있어.

  21. 24 · 더 많은 세부 정보

    시스템 프롬프트 System Prompt

    시스템 프롬프트는 최우선 지시 사항들이야. AI 제품의 역할, 한계, 도구, 답변 규칙을 정해.

  22. 25 · 핵심

    언어 모델 Language Model

    언어 모델은 무언가를 예측하고 만들어내는 통계 모델이에요. 텍스트나 다른 형태의 데이터(이를 '모달리티'라고 해요)에 대한 지시를 자주 따를 수 있어요.

  23. 26 · 더 많은 세부 정보

    에이전트 기술 Agent Skill

    에이전트 스킬은 반복할 수 있는 하나의 작업을 가르쳐 줘요. 명확한 규칙이 들어있고, 스크립트나 자료도 포함될 수 있어요.

  24. 27 · 더 많은 세부 정보

    에이전트 루프 Agent Loop

    에이전트 루프는 통제된 반복 과정이에요. 에이전트가 상태를 확인하고, 허용된 도구로 행동하고, 결과를 읽은 뒤 멈추거나 계속해요.

  25. 28 · 더 많은 세부 정보

    에이전트 메모리 Agent Memory

    에이전트 메모리는 AI 에이전트가 현재 메시지 이후에 사용할 수 있는 저장된 정보입니다. 어떤 정보가 언제까지 저장되는지, 그리고 어떻게 변경될 수 있는지는 명확한 규칙으로 정해져 있습니다.

  26. 30 · 더 많은 세부 정보

    에이전트 샌드박스 Agent Sandbox

    에이전트 샌드박스는 AI 에이전트가 코드나 도구를 실행할 수 있는 제한된 공간입니다. 그것은 작업을 나머지 컴퓨터와 분리하지만, 보호 기능은 설계에 따라 달라집니다.

  27. 31 · 더 많은 세부 정보

    에이전트 오케스트레이션 Agent Orchestration

    에이전트 오케스트레이션은 AI 에이전트, 도구, 업무 인계, 공유 정보 및 중지 규칙을 조율하는 계획입니다. 여러 단계의 작업을 관리 가능한 상태로 유지합니다.

  28. 32 · 핵심

    온도 Temperature

    온도는 샘플링 전에 사용되는 설정입니다. 이는 토큰 선택 확률이 몇 가지 선택에 집중될지 또는 더 많은 선택에 분산될지를 변경합니다.

  29. 33 · 더 많은 세부 정보

    인간 참여 루프 Human in the Loop

    인간 참여 루프는 계획된 검토 단계입니다. 지정된 사람이 사실, 권한 및 행동 의무를 부여받습니다. 그들은 AI 지원 작업을 변경, 승인, 거부 또는 중지할 수 있습니다.

  30. 34 · 핵심

    임베딩 Embedding

    임베딩은 모델이 항목에 대해 학습하는 숫자 목록입니다. 거리나 유사성 규칙을 사용하여 그 숫자 공간에서 항목 간 패턴을 비교할 수 있습니다.

  31. 36 · 더 많은 세부 정보

    재정렬 Reranking

    재순위화는 두 번째 모델을 사용하여 검색 결과를 다시 점수화합니다. 질문과 각 검색된 문서를 더 자세히 비교한 후 순서를 변경합니다.

  32. 37 · 더 많은 세부 정보

    지식 증류 Knowledge Distillation

    지식 증류는 작은 학생 모델이 더 큰 교사 모델의 유용한 신호를 복사하도록 훈련합니다. 훈련은 종종 교사 점수와 알려진 올바른 레이블을 모두 사용합니다.

  33. 38 · 더 많은 세부 정보

    첫 토큰까지 시간 Time to First Token

    첫 토큰까지 시간(TTFT)은 초기 대기 시간을 측정합니다. 명확하게 이름 붙여진 요청 지점에서 시작합니다. 클라이언트나 서버가 생성된 첫 번째 토큰을 볼 때 종료됩니다. 항상 두 지점을 모두 명시해야 합니다.

  34. 40 · 더 많은 세부 정보

    초당 출력 토큰 Output Tokens per Second

    초당 출력 토큰은 디코딩이 시작된 후 모델이 출력 토큰을 생성하는 속도를 측정합니다. 보고서에는 토크나이저 이름, 시간 범위, 그룹화 방법 및 동시에 실행되는 요청 수를 포함해야 합니다.

  35. 41 · 더 많은 세부 정보

    컨텍스트 엔지니어링 Context Engineering

    컨텍스트 엔지니어링은 모델이 받는 것을 선택하고 순서를 정합니다. 여기에는 사실, 지침, 도구, 상태 및 증거가 포함될 수 있습니다.

  36. 42 · 핵심

    컨텍스트 창 Context Window

    컨텍스트 창은 한 모델 요청이 입력과 생성된 출력 모두에 대해 보유할 수 있는 토큰 수입니다. 정확한 계산 규칙은 모델과 API에 따라 다릅니다.

  37. 43 · 더 많은 세부 정보

    컴퓨터 사용 Computer Use

    컴퓨터 사용은 모델이 화면을 보고 클릭, 입력, 스크롤과 같은 작업을 수행할 수 있게 합니다. 애플리케이션 하니스는 각 허용된 작업을 확인하고 수행합니다.

  38. 45 · 더 많은 세부 정보

    톱-p 샘플링 Top-p Sampling

    톱-p 샘플링은 가능한 토큰을 확률 순으로 정렬한 다음, 합계 확률이 p에 도달하는 가장 작은 그룹을 유지합니다. 다음 토큰은 그 그룹에서 선택됩니다.

  39. 46 · 핵심

    프롬프트 Prompt

    프롬프트는 하나의 작업을 위해 인공지능 모델에게 주는 모든 것이에요. 지시, 배경, 예시, 자료가 포함될 수 있어요.

  40. 47 · 더 많은 세부 정보

    프롬프트 버전 관리 Prompt Versioning

    프롬프트 버전 관리는 생산용 프롬프트의 이름이 지정된 고정된 수정본을 보관합니다. 팀은 특정 수정본을 검토, 테스트, 배포 및 복원할 수 있습니다.

  41. 48 · 더 많은 세부 정보

    프롬프트 주입 Prompt Injection

    프롬프트 주입은 유해하거나 예상치 못한 텍스트입니다. 이는 AI가 앱의 신뢰된 규칙을 무시하고 다른 지침을 따르게 만들려고 합니다.

  42. 49 · 더 많은 세부 정보

    프롬프트 캐싱 Prompt Caching

    프롬프트 캐싱은 모델 서비스가 입력의 동일한 시작 부분에 대해 작업을 재사용할 수 있게 합니다. 반복 처리를 줄일 수 있지만, 이전 답변을 재사용하지는 않습니다.

  43. 50 · 더 많은 세부 정보

    하니스 엔지니어링 Harness Engineering

    Harness Engineering은 코딩 에이전트 주변의 설정을 구축합니다. 여기에는 저장소, 지침, 도구, 안전, 환경 및 피드백이 포함됩니다.

  44. 51 · 더 많은 세부 정보

    하위 에이전트 Sub-agent

    Sub-agent는 명확하고 제한된 하나의 임무를 가진 별도의 에이전트야. 자기만의 맥락과 반환할 결과가 있어.

  45. 52 · 더 많은 세부 정보

    하이브리드 검색 Hybrid Search

    하이브리드 검색은 한 질문에 대해 정확한 단어 검색과 의미 기반 벡터 검색을 모두 사용합니다. 그런 다음 두 결과 집합을 결합하거나 순위를 다시 매깁니다.

  46. 54 · 더 많은 세부 정보

    Agent2Agent (A2A) 프로토콜 Agent2Agent (A2A) Protocol

    Agent2Agent (A2A)는 AI 에이전트가 기술을 발견하고 메시지를 교환하며 작업을 관리할 수 있는 공개 버전 관리 프로토콜입니다. 각 구현체는 지원되는 프로토콜 버전을 명시해야 합니다.

  47. 55 · 더 많은 세부 정보

    AI 가드레일 AI Guardrail

    AI 가드레일은 안전 통제를 위한 폭넓은 산업용 명칭입니다. 이러한 통제는 안전하지 않은 AI 입력, 출력 또는 행동을 찾거나, 제한하거나, 차단하거나, 변경하거나, 플래그를 세울 수 있습니다. 하나의 표준 도구는 아닙니다.

  48. 56 · 더 많은 세부 정보

    AI 그라운딩 AI Grounding

    AI 근거링크는 생성된 주장이나 행동을 증거, 발견된 출처, 또는 신뢰할 수 있는 시스템 데이터와 연결합니다. 방법과 점수는 다릅니다. 단일한 근거 프로토콜은 없습니다.

  49. 57 · 더 많은 세부 정보

    AI 벤치마크 AI Benchmark

    AI 벤치마크는 고정되고 문서화된 작업, 데이터, 측정 및 테스트 조건의 집합입니다. 이는 사람들이 동일한 규칙을 사용하여 시스템을 비교할 수 있게 합니다.

  50. 59 · 더 많은 세부 정보

    AI 추적 AI Tracing

    AI 추적은 모델 호출, 검색, 도구 사용, 에이전트 작업 등 한 번의 AI 실행에서 연결된 단계를 기록합니다. 이 기록은 사람들이 실행을 시작부터 끝까지 따라가는 데 도움을 줍니다.

  51. 60 · 핵심

    AI 평가 AI Evaluation

    AI 평가는 AI 시스템을 테스트하는 반복 가능한 방법입니다. 명확한 작업, 테스트 데이터, 채점 규칙 및 안전 한계를 사용합니다.

  52. 61 · 핵심

    AI 환각 AI Hallucination

    AI 환각은 근거가 없거나 잘못된 주장을 가진 답변에 대한 일반적인 명칭입니다. NIST는 더 정확한 위험 용어인 혼성(confabulation)을 사용합니다.

  53. 62 · 더 많은 세부 정보

    OpenAI 추론 노력 OpenAI Reasoning Effort

    reasoning.effort는 요청이 답변하기 전에 모델이 얼마나 작업할지를 설정하는 OpenAI API 설정입니다. 지원되는 수준과 기본 값은 모델마다 다르며, 더 높은 노력이라고 해서 정답을 보장하지는 않습니다.

  54. 63 · 더 많은 세부 정보

    ReAct ReAct

    ReAct는 Reason과 Act를 의미합니다. 에이전트는 행동하고, 결과를 읽고, 그 사실을 다음 단계에 사용합니다. 이것은 React가 아닙니다.