MOMENTUS
모의면접
토스 · 토스 · 검색품질 ・ 데이터품질 ・ LLM ・ 커머스

Search Quality Operations Manager

#토스 채용#토스 데이터·AI 면접#데이터·AI 면접

이 공고, 이렇게 물어볼 겁니다

Q1
검색 정답셋을 대규모로 생산하는 체계를 설계하셨다고 하셨는데, 처음 어떤 상태에서 시작했고 어떤 구체 문제들을 마주쳤으며, 그걸 풀면서 지금 규모까지 키웠는지 말씀해주세요. 특히 본인이 직접 내린 의사결정이 뭐였어요?
🎯 체계 설계의 전체 여정에서 본인의 주도성, 문제 해결 과정, 실제 의사결정 권한 검증
Q2
평가자 간 편차를 통제한다는 게 구체적으로 뭘 의미했고, 그 편차를 어떤 방식으로 측정했으며, 교육과 피드백을 통해 실제로 얼마나 줄었는지 사례 하나로 단일 숫자로 말씀해주실 수 있을까요?
🎯 추상 개념을 정의하고 측정 가능하게 구체화했는지, 성과를 단일 지표로 압축할 수 있는지
Q3
검색 품질을 개선하신 프로젝트가 있다면, 개선하신 검색 지표가 실제 사용자 행동과 비즈니스(주문, 매출)까지 어떻게 연결되었는지 봤나요? 개선 전후 구체 숫자로 그 인과 고리를 설명해주세요.
🎯 검색 relevance 같은 기술 지표를 사업 임팩트로 번역해서 이해하고 있는지, 지표 사이의 인과관계를 입증하는 능력
Q4
검수 인력을 채용하고 교육하면서 직면한 가장 큰 문제가 뭐였고, 그걸 어떻게 프로세스로 표준화했나요? 팀이 작을 때와 여러 배 커졌을 때 프로세스에서 바뀌어야 했던 부분은?
🎯 조직 확장 경험, 리더십, 프로세스 설계의 실재와 스케일링의 도전 과정
Q5
LLM을 데이터 생산과 평가에 활용하신다고 했는데, LLM이 맡는 일과 사람이 검증하는 일의 경계를 어떤 기준으로 정했나요? LLM이 틀릴 수 있는 케이스를 어떻게 예측하고 잡아내고 있어요?
🎯 자동화 도구의 한계를 정확히 파악하고, 구체적 기준 아래 검증 구조를 설계했는지, 품질 보증 방식의 실재
질문만 읽으면 컨닝이에요. 소리 내어 답해보세요 — 어디서 틀어지는지 짚어드립니다.

공고 내용

합류하게 될 팀에 대해 알려드려요

  • 토스 쇼핑은 금융 슈퍼앱 위에서 고객이 원하는 상품을 정확하게 발견할 수 있는 검색 경험을 만들어요.
  • 현재 쇼핑 검색은 쿼리 이해, 리트리벌, 랭킹의 각 레이어를 독립적으로 실험하고 측정할 수 있는 아키텍처로 진화하고 있어요.
  • 엔지니어와 함께 검색 시스템을 근본부터 설계해 검색 품질을 개선할 수 있는 기술을 만들어요.

합류하면 함께 할 업무예요

  • 검색 Relevance 정답셋을 대규모로 생산하는 체계를 설계하고 운영해요.
  • 토스 쇼핑의 검색 품질을 개선하여 비즈니스 임팩트를 만드는 것이 목표에요.

이런 분과 함께하고 싶어요

  • 검색 품질 관리, 정보검색(IR), 추천, 데이터 분야에서 경력을 쌓아오신 분
  • 검색 품질 평가 및 relevance 판정 기준을 수립하고, 평가자 간 편차를 통제하여 데이터의 품질을 관리해보신 분
  • 검수 인력을 채용, 교육, 관리하며 조직을 키우고, 프로세스를 표준화 및 확장해보신 분
  • 운영 프로세스를 지표 기반으로 평가하고, 지속적으로 개선한 경험이 있으신 분
  • LLM을 데이터 생산 및 평가에 활용하거나, LLM이 만든 결과를 사람이 검증하는 구조를 설계해본 경험이 있으신 분

이런 경험이 있다면 더 좋아요

  • 커머스 도메인에서 상품 속성, 패싯(Facet) 데이터를 구축, 검수하거나 검색에 활용해본 경험이 있으면 좋아요.
  • 커머스 검색 Knowledge Management - 사전, 온톨로지, 지식그래프 등 검색 지식 등을 관리, 구축해본 경험이 있으면 좋아요.

토스로의 합류여정

  • 서류접수 직무 인터뷰 문화적합성 인터뷰 처우 협의 레퍼런스 체크 최종 합격 및 입사
원문에서 전체 공고 보기 →

이 회사 다른 포지션 · 비슷한 공고