LLM 학습은 일반적으로 두 가지 주요 단계로 이루어집니다. 먼저 모델은 다양한 출처에서 수집된 방대한 데이터셋을 기반으로 사전 학습을 거쳐 일반적인 언어 패턴을 습득합니다. 이후 후속 학습 단계에서는 고품질 도메인 특화 데이터를 적용하며, SFT(지도형 파인튜닝), RLHF(인간 피드백 강화 학습), 평가(Evaluation), 레드팀 테스트(Red-teaming) 등의 기법을 활용하여 모델이 정확성, 안전성, 그리고 비즈니스 요구사항을 충족하도록 합니다.

SFT는 도메인 특화된 라벨링 데이터셋을 활용하여 사전 학습된 LLM을 파인튜닝함으로써 특정 작업 수행 능력을 학습시키는 과정입니다. 반면 RLHF는 인간의 판단을 기반으로 모델의 응답을 평가·순위화하여 품질, 안전성, 유용성을 개선하고, 결과적으로 인간의 기대에 더 부합하도록 모델을 정제하는 방법입니다.

RAG(Retrieval-Augmented Generation)는 학습 데이터 외부의 지식 베이스를 연결·검색하여 사용자의 질문에 답변합니다. 이는 LLM에 새로운 지식을 추가하는 데 뛰어나지만, 모델의 핵심 동작을 바꾸지는 않습니다. 반면 LLM 학습은 모델의 근본적인 행동, 어조, 그리고 특정 지시를 따르는 능력을 변화시킵니다. 프로젝트 특성에 따라 최적의 결과를 위해 RAG 또는 LLM 학습을 적용합니다.

필요한 데이터 양은 사용 사례에 따라 다릅니다. 일반적인 기초 모델은 수십억 개의 토큰이 필요할 수 있지만, 도메인 특화 모델이나 파인튜닝된 모델은 훨씬 더 작지만 고품질의 데이터셋으로도 성공할 수 있습니다. LTS GDS는 사후 학습 과정(SFT, RLHF 등)을 위한 고품질 데이터셋을 전문적으로 제공합니다.

사전 학습 단계에서는 LLM이 다양한 출처에서 수집된 대규모 데이터셋으로 학습됩니다. 사후 학습 및 도메인 특화 LLM 구축 단계에서는 품질, 전문성, 프로젝트별 요구사항에 집중합니다. 우리는 고객이 제공한 자료, 라이선스가 있는 독점 데이터베이스, 그리고 경험 많은 전문가가 큐레이션한 데이터를 활용하여 정확성과 관련성을 보장합니다.

네, 자희는 50개 이상의 언어에 걸쳐 다국어 LLM을 학습 및 파인튜닝하며, 필요할 경우 멀티모달(비전-언어/오디오) 모델도 지원합니다. 이를 통해 문화적 뉘앙스와 지역적 맥락을 보존하여 더 나은 사용자 경험을 제공합니다.

자희는 프로젝트 요구사항을 명확히 정의하고, 편향을 방지하기 위한 안전장치를 내재화하며 엄격한 윤리 기준을 준수합니다. 글로벌 전문가 팀의 다양성을 통해 데이터 다양성을 강화하고, 편향·고정관념·유해 콘텐츠·차별을 식별 및 완화하기 위한 지침을 지속적으로 업데이트합니다. 이를 통해 LLM이 공정하고 안전하며 신뢰할 수 있도록 합니다.

자희는 업계의 모범 사례와 글로벌 표준을 따릅니다. 데이터 처리의 투명성, GDPR 및 ISO 준수, 안전한 파이프라인, 인간 참여형 모델을 통해 LLM을 강력할 뿐만 아니라 신뢰할 수 있고 책임감 있는 모델로 만듭니다.