CLOVA Studio 용어

Classic/VPC 환경에서 이용 가능합니다.

CLOVA Studio를 사용하기 위해 반드시 알아 두어야 할 몇 가지 용어가 있습니다. 용어와 용어에 대한 설명은 다음과 같습니다.

답변(결괏값) · Completion

대화(Conversation)에서 질문에 대한 답변으로, 모델이 답해야 할 것으로 기대되는 발화 내용(String)

데이터셋 · Datasets

튜닝에 사용할 학습 및 검증 데이터

도메인 · Domain

라우터에서 사용자의 요청을 분류할 때 기준이 되는 카테고리

라우터 · Router

사용자의 요청을 분류하고 필터링하는 기능

랭체인 · LangChain

여러 언어 모델과 도구를 연결하여 애플리케이션을 쉽게 개발할 수 있도록 돕는 오픈소스 프레임워크

모델 · Model

결괏값 생성 시 사용하는 언어 모델 또는 비전 언어 모델

서비스 앱 · Service app

CLOVA Studio API를 실서비스에 반영하려면 서비스 앱을 신청해야 하며, 별도의 최대 이용량이 존재

세이프티 필터 · Safety filter

라우터의 특정 도메인 내에서 비윤리적이거나 민감한 내용을 감지하는 필터

스킬 · Skill

사용자의 대화 입력에 대해 답변할 API를 선택하고 필요한 요청 파라미터를 생성하여 API를 호출함으로써 관찰 결과 기반의 자연어 답변을 생성하는 도구

스킬셋 · Skillset

스킬의 모음으로, 동일한 그룹 내 스킬은 동일한 스킬셋으로 구성

시스템 프롬프트 · System prompt

모델에게 전반적인 지침이나 역할을 부여하는 초기 설정값

추론 · Thinking

최종 답변을 바로 생성하지 않고, 사용자 질의를 분석하고 필요한 논리적 사고 과정을 거쳐 추론 내용(토큰)을 생성한 뒤 이를 바탕으로 최종 답변 생성하는 기능

이미지 이해 모델

자연어 뿐만 아니라 이미지도 이해하는 모델

이용량 제어 정책

서비스의 가용성과 안정성 확보를 위해, API 요청 횟수와 토큰 수에 상한선을 두어 제한을 거는 정책

익스플로러 · Explorer

문단 나누기, 슬라이드 윈도우, 임베딩, 요약 등 AI 기반의 서비스 구현에 필요한 여러 API를 활용할 수 있는 공간

임베딩 · Embedding

텍스트를 숫자로 표현하는 벡터화 작업을 수행하여 RAG 구현 및 문서 색인 작업에 활용할 수 있는 API

콘텐츠 필터 · Content filter

라우터의 특정 도메인 내에서 예외적으로 차단해야 할 주제를 감지하는 필터

쿼리 · Query

사용자가 AI에게 입력하는 질문이나 요청

토큰 · Token

자연어 처리를 위해 하나의 단어를 세분화한 단어 조각

튜닝 · Tuning

사용자 데이터셋을 학습시켜 사용자에게 최적화된 모델을 생성하는 방식

파라미터 · Parameter

모델이 생성하는 결괏값에 영향을 주는 여러 설정값

플레이그라운드 · Playground

사용자가 프롬프트를 입력하여 AI를 직접 테스트하고 실험할 수 있는 공간

학습 · Task(s)

튜닝을 수행하는 기준 단위

확률 기반 언어 모델

확률을 기반으로 다음에 나올 단어를 예측할 수 있는 언어 모델로, CLOVA Studio에서는 HyperCLOVA X 모델 사용

API 키

CLOVA Studio API 사용 시 이용 권한을 검증하는 인증 키

Chat Completions

HyperCLOVA X 모델을 사용하여 대화형 출력을 제공하는 API

Context length

모델이 한번의 요청에 처리할 수 있는 입력과 출력의 토큰 합계

Function calling

모델이 외부 함수나 API를 호출해 동적으로 정보를 가져오거나 작업을 수행할 수 있도록 하는 기능

RAG (Retrieval Augmented Generation)

모델이 응답을 생성하기 전에 신뢰 가능한 외부 지식 베이스를 검색하여, 답변에 환각을 줄이고 정확한 정보를 반영하는 방법

Instruction 데이터셋

HyperCLOVA X 모델을 튜닝하는데 사용하는 대화형 데이터셋 구조

Max tokens

모델에 요청할 출력 토큰의 설정 파라미터

QPM (Queries per Minute)

1분 동안 API를 통해 요청할 수 있는 쿼리 수를 의미하며, QPM을 초과할 경우 호출 제한

Structured Outputs

사용자가 정의한 JSON Schema 규격에 맞춰 구조화된 데이터를 생성하는 기능

Temperature

확률 분포에 가중치 변화를 주어 문장의 다양성을 조절하는 값

Top K

자연어 처리 모델이 예측한 토큰의 선택 확률 분포에서 확률값이 가장 높은 K개 중에서 하나를 선택할 때 사용하는 기준값

Top P

선택 확률값이 높은 토큰을 순서대로 나열한 후 설정한 누적 확률값에 포함되지 않는 토큰을 제거할 때 사용하는 기준값

TPM (Tokens per Minute)

1분 동안 API를 통해 요청할 수 있는 토큰 수를 의미하며, TPM을 초과할 경우 호출 제한