토큰

정의

AI 가 글을 읽고 쓰는 단위. 사용량과 요금을 세는 기준.

자세한 설명

AI 가 글을 읽고 쓸 때 처리하는 가장 작은 단위로, 글자나 낱말 조각 하나하나를 말합니다. 넣는 글과 AI 가 만들어 내는 글이 길어질수록 토큰 수가 늘어나고, 이는 그대로 걸리는 시간과 요금에 영향을 줍니다. 컨텍스트 창의 크기도 결국 몇 토큰까지 담을 수 있느냐로 정해지는 기준입니다. 필요 없는 설명을 줄이고 핵심만 넣어 시키면 같은 일도 더 적은 토큰으로 끝낼 수 있습니다.

예를 들면

같은 일도 필요 없는 자료를 빼고 시키면 토큰이 줄어듭니다.

관련 용어