이 공고, 이렇게 물어볼 겁니다

최근에 수행한 Post-training 프로젝트 중에서, 데이터 수집 및 생성 기술 개발에 어떤 접근 방식을 사용했나요?

🎯 Post-training 데이터 수집 및 생성 기술 개발 경험 확인

분산 컴퓨팅을 이용한 언어 모델 학습에서, Multi-node 혹은 device에서 slime, verl 등의 프레임워크를 이용한 학습을 어떻게 구현했나요? 구체적으로, '이런 문제가 있었는데 제가 이렇게 해결했다'는 식으로 사례를 하나 꼽아서 말씀해주실 수 있을까요?

🎯 분산 컴퓨팅을 이용한 언어 모델 학습 경험 확인

LLM Post-training을 위한 데이터의 품질 향상과 평가를 위한 연구 개발에서, 어떤 방법론을 사용했나요? 본인이 직접 생각해서 하신 건가요? 본인 아이디어가 맞아요?

🎯 LLM Post-training 데이터 품질 향상과 평가 방법론 확인

강화 학습에 대한 이론과 엔지니어링 측면에서의 높은 이해도를 보유하신 것으로 알고 있습니다. 강화 학습을 이용한 Post-training 프로젝트에서, 어떤 종류의 강화 학습을 사용했으며, 그 결과는 어떻게 확인하셨나요?

🎯 강화 학습에 대한 이해도와 적용 경험 확인

LLM을 목적에 맞게 Fine-tuning 해서 서비스에 기여한 경험을 보유하신 것으로 알고 있습니다. 그 경험에서, 어떤 지표를 사용하여 Fine-tuning의 효과를 평가했나요? 그 지표는 어떻게 확인하고 계시는 거예요?

🎯 LLM Fine-tuning 효과 평가 지표 확인

질문만 읽으면 컨닝이에요. 소리 내어 답해보세요 — 어디서 틀어지는지 짚어드립니다.

공고 내용

◆ 소개

Language Model Training팀은 카카오의 자체 Large Language Model인 Kanana를 A부터 Z까지 연구 및 개발하고, 이를 기반으로 카카오의 여러 서비스에 기여하고 있습니다. 자체 언어 모델인 Kanana를 최고 수준으로 개발하고 싶은 분들의 지원을 기다립니다.

참고) 연구결과

- Kanana-2 개발기 (1): Pre-training에서의 의사결정들을 중심으로 [(link)](https://tech.kakao.com/posts/807)

- Kanana-2 개발기 (2): 개선된 post-training recipe를 중심으로 [(link)](https://tech.kakao.com/posts/808)

- 데이터는 없지만 LLM은 학습하고 싶어 - Code, Math 데이터 개발기 [(link)](https://if.kakao.com/2025/session?tab=day2&sessionId=48)

◆ 업무

- Post-training을 위한 데이터 수집 및 생성 기술 개발 및 연구

- Post-training에서 필요한 환경 개발 및 이를 이용한 강화 학습

(e.g. environment scaling)

- Post-training 학습 파이프라인 고도화를 위한 개발 및 연구

(e.g. domain-parallel rl)

- Post-training 학습 효율화 연구 (e.g. asynchronous rl)

- 분산 컴퓨팅을 바탕으로 학습 코드 구현 및 최적화 (e.g. Multi-node 혹은 device에서 slime, verl 등의 프레임워크를 이용한 학습)