LLM 관련 기사 6건을 모았습니다. 임계(12건)까지 절반을 넘겼습니다.
육성 중 · 6건 · 기준 문서 3
원리 — 앞부분이 같으면 중간 계산이 같다. 그 계산 결과를 저장해 재사용한다
단위 — 토큰은 단어가 아니라 단어 조각이다. 언어에 따라 개수가 크게 달라진다
정의 — 목표를 받아 도구를 골라 쓰고 결과를 보고 다음 행동을 스스로 정하는 소프트웨어다
정의 — 훈련된 모델을 목적별 데이터로 다시 학습시켜 가중치를 바꾸는 작업이다
과금 단위는 토큰이고, 입력과 출력의 단가가 따로 있다 — 출력이 대체로 4~5배 비싸다
컨텍스트 윈도우 = 한 번의 요청에서 모델이 볼 수 있는 토큰의 총량 (입력 + 출력)
