[AI Research Div.] ML Serving Engineer (5년 이상)

우리 팀(프로젝트)을 소개합니다.

[AI Research 본부 비전]

크래프톤 AI Research 본부는 사내외 여러 분야와 협업하여 다양한 문제에 대한 AI 솔루션을 제공하며, 자체 딥러닝 연구를 통해 우리만의 서비스를 개발합니다. 그 방향성은 크게 네 가지입니다.

• Production Cost Down : 게임 제작 공정에 딥러닝 기술을 적용하여 제작 효율을 높이고, 제작자들의 업무 경험을 혁신합니다.
• New Way to Create : 생성형 AI를 포함한 다양한 딥러닝 기술로 게임 창작의 방식을 확장합니다.
• Virtual Friends : 딥러닝 기반 Virtual Friend를 개발하여 게임 안팎의 새로운 사용자 경험을 만듭니다.
• Unique, Endless Gameplay : 딥러닝을 통해 유저에게 매번 새로운 경험을 제공하는 게임 콘텐츠를 구현합니다.

[Culture Fit]

AI Research 본부는 다양한 배경을 가진 구성원들이 함께 일하며, 수평적이고 활발한 커뮤니케이션 속에서 문제를 해결합니다.

직급과 연차를 넘어 자유롭게 의견을 제시할 수 있으며, 여러 직군과의 협업을 통해 기술과 서비스의 접점을 함께 만들어갑니다.

[팀 소개]

KRAFTON MLSys Ops 팀은 연구된 고성능 AI 모델이 실제 게임 제작 및 대고객 서비스 환경에서 최적의 성능으로 안정되게 동작할 수 있도록 고성능·고효율의 ML 서빙 플랫폼을 만들어가고 있습니다.

이번 포지션은 크래프톤이 확보한 최신 초고성능 GPU 인프라 위에서, 게임에 적용되는 LLM, 코딩 에이전트 및 리서치 팀의 다양한 최첨단 딥러닝 모델들을 안정적이고 비용 효율적으로 서빙할 수 있는 아키텍처를 설계하고 직접 구현하는 서빙 엔지니어 역할입니다. 최신 LLM 추론 가속화 및 최적화 기법을 직접 연구·설계하고 실제 프로덕션 서비스에 이식할 동료를 찾습니다.

우리 팀과 함께할 미션을 소개합니다.

• 프로덕션 수준의 대규모 모델 서빙 아키텍처 설계 및 운영
• 실제 인게임(In-game) 환경에 실시간으로 적용되는 LLM 서빙 인프라 구축 및 운영 안정화
• GLM(Coding Agent)과 같이 높은 성능과 즉각적인 반응성이 필요한 코딩 에이전트 서비스 서빙 및 가속화
• 리서치 본부 내에서 지속적으로 쏟아지는 다양한 도메인의 최신 모델들에 대한 공통 서빙 체계 수립
• 인프라 관측성(Observability) 및 CI/CD 파이프라인 구축
• 대규모 서빙 환경에서 안정적인 서비스 운영을 모니터링하고 이슈를 실시간 탐지하기 위한 통합 모니터링/로깅/알람 시스템 구축
• 무중단 모델 업데이트, 자동 롤백 및 테스트 자동화를 위한 견고한 CI/CD 및 GitOps 체계 설계
• 추론(Inference) 가속화 및 서빙 최적화 기술 연구 및 적용
• 대규모 트래픽 하에서도 고성능을 유지하고 서빙 비용을 획기적으로 낮출 수 있는 최적화 방법론 리서치 및 프로덕션 적용 (e.g., TurboQuant, CacheBlend, FP8/INT4 양자화 등)
• KV Cache 효율화(GPU-CPU-Disk 간 Offloading/Loading 및 공유 캐싱 체계), 동적 배치(Continuous Batching), PagedAttention 등 최신 LLM 서빙 최적화 기법 고도화
• 실제 대규모 트래픽이 발생하는 프로덕션 환경에서 AI/LLM 모델 서빙 시스템을 설계·구축·운영해본 경험이 있으신 분
• vLLM, TensorRT-LLM 등 고성능 LLM 추론 엔진을 실무에 적용하여 시스템 최적화 및 안정화 환경을 구현해본 경험이 있으신 분
• 메모리 및 연산 효율화 기법(KV Cache Offloading/Loading, PagedAttention, 양자화 등)을 도입하여 서빙 비용을 혁신적으로 절감하고 성능을 대폭 높여본 경험이 있으신 분
• 장애 및 지연 시간(Latency) 성능 이슈를 추론 엔진, 프레임워크, GPU 하드웨어 전반의 관점에서 심도 있게 분석하고 근본 원인을 개선해본 노하우가 많으신 분
• 서빙 안정성을 위한 모니터링 및 관측성(Observability) 체계와 배포 자동화(CI/CD) 환경을 직접 구축하고 고도화해 본 경험이 있으신 분
• 해외 출장에 결격 사유가 없는 분
• 구현 단계를 넘어 아키텍처 레벨까지 주도적인 기술 의사결정이 가능하며, 특정 솔루션 도입 시 아키텍처 선정 이유와 Trade-off(비용, 지연시간, 안정성 등)를 명확하게 정량적·정성적으로 이해하고 계신 분
• vLLM, LMCache 등 최신 오픈소스 서빙 프레임워크의 Contributor이거나 오픈소스 에코시스템에 기여해본 경험이 있으신 분
• vLLM, TensorRT-LLM, PyTorch Dynamo, FlashInfer, NVIDIA Triton 등 고성능 LLM 추론 스택에 깊은 이해가 있으며 Custom Kernel 개발 및 CUDA 하위 레벨 가속을 다뤄본 경험이 있으신 분

필요 서류를 확인해주세요!

• 입사지원서 (자유 양식), 자기소개서, 경력기술서, 성적증명서, 포트폴리오 (필수)

근무지

• 역삼 센터필드 West 타워

고용형태

• 정규직 (단, 후보자 처우 협의 결과에 따라 고용형태가 변경될 수 있음)

아래 안내 사항을 확인해주세요!

• 크래프톤 제작 스튜디오
• 크래프톤 게임
• 크래프톤 비전 핵심가치
• 크래프톤 라이프 복리후생
• 크래프톤 공식 유튜브 채널
• 배틀그라운드 공식 유튜브 채널
• 크래프톤 인스타그램
• 크래프톤 블로그
• KRAFTON Production Studios
• KRAFTON Games
• KRAFTON Youtube Channel