AI Engineer (Agent/ML)

About the role

카카오헬스케어 AX부문 AI팀은 두 종류의 제품에 AI를 심는 팀입니다. 하나는 상급종합병원을 위한 AI-native EHR '프로젝트 X', 다른 하나는 파스타, 케어챗 같은 카카오헬스케어 서비스이며, 여기에 들어가는 LLM, Vision 및 ML 기반의 기술을 만듭니다. 이미 운영 중인 서비스뿐 아니라 각 사업부가 준비하는 신규 서비스와 기능도 함께 만듭니다.

#. 프로젝트 X: EHR 위에서 임의의 과제를 푸는 agent
EHR은 단순한 애플리케이션이 아니라 병원 운영을 책임지는 운영체제(OS)에 가깝습니다. Agentic OS나 Agentic Browser가 OS와 브라우저를 제어하는 agent를 만들듯, 우리는 EHR을 이해하고 제어하는 agent를 만듭니다. 정해진 기능을 LLM workflow로 엮는 방식이 아니라, Claude Code가 코드베이스 위에서 arbitrary task를 해결하듯 EHR 위에서 의료진이 요청하는 과제를 스스로 계획하고 수행하는 general agent를 지향합니다. 그래서 orchestration, memory, 도구 연동, 평가·관측, 안전 게이트를 갖춘 agent harness를 직접 설계하고, 한 번 개선하면 모든 기능이 함께 좋아지는 구조를 만듭니다.

#. 사내 AI 플랫폼 + enabling: 기반을 제공하고, 각 사업부가 직접 AI 기능을 운영할 수 있게
카카오헬스케어 안에서 에이전트를 만드는 개발자들이 쓰는 공통 기반도 우리 팀이 제공합니다. 온프레미스 GPU와 클라우드를 넘나드는 LLM API, agent runtime과 tool/agent registry를 묶은 agent API, 그리고 그 위에서 오가는 호출을 기록하고 LLM-as-a-Judge로 평가하는 logging·evaluation platform입니다. 플랫폼을 만드는 데 그치지 않고, 그 위에 올라간 기능이 실제 제품에 실리고, 감이 아닌 지표로 측정되고, 개선되는 것까지 책임집니다.

What you'll do

• Agent와 harness
- EHR을 이해하고 그 위에서 안전하게 동작하는 general agent와 harness(orchestration, memory, tool 연동, 안전 게이트) 설계·구현
- 사내 개발자가 subagent·skill·workflow를 손쉽게 올릴 수 있는 agent API와 tool/agent registry 개발

• LLM·모델 서빙
- 온프레미스 GPU(DGX-H100, B200)와 GCP를 넘나드는 LLM 서빙·라우팅(vLLM) 설계·운영
- 최신 모델 벤치마킹과 PoC, 도입과 자체 개발에 대한 기술 의사결정

• 제품 AI 기능
- 파스타, 케어챗 등 카카오헬스케어 서비스에 들어가는 음식 사진 vision 인식, embedding 검색, RAG·agent 기반 건강 상담 챗봇, 처방전·검사결과지 OCR과 구조화 agent 등을 스키마 정의부터 서빙까지 end-to-end로 구현
- STT·OCR·Vision 등 제품에 필요한 AI 기술의 탐색·검증·도입

• 평가·관측
- LLM-as-a-Judge 기반 평가 플랫폼(rubric 자동 채점, 대량 평가 큐, A/B 비교)과 trace 관측(Langfuse) 구축
- 실패 구간 분석과 drift 모니터링으로 agent·LLM 기능의 품질 개선 사이클 운영

Requirements

• 컴퓨터공학·머신러닝 또는 관련 분야 전공(또는 이에 준하는 역량)과 3년 이상의 AI 실무 경험
• LLM/ML 제품을 설계 ＞ 구현 ＞ 배포 ＞ 운영까지 오너십을 갖고 끝내 본 분
• 평가 데이터셋 구축 ＞ 평가 ＞ 개선 사이클을 측정 가능한 지표로 돌려 본 분
• 서비스에 필요한 backend·인프라(API 설계, DB, Kubernetes 등)를 이해하고, 직접 다루거나 필요한 것을 정확히 요청할 수 있는 분
• 모호한 문제를 구조화하고, 빠른 literature survey와 PoC로 기획자·디자이너·의료진 같은 비개발 stakeholder를 AI 관점에서 설득할 수 있는 분
• Python에 능숙하고 Claude Code, Codex, Cursor 등 AI 개발 도구를 적극 활용하는 분
• 그리고 아래 중 한 가지 이상에서 깊은 강점을 보유하신 분 (모두 갖출 필요는 없습니다.)
- Agent: MCP·tool·skill을 묶어 agent 시스템을 운용해 본 경험, ReAct loop·subagent·workflow 설계
- ML/DL·Vision: 모델 학습·fine-tuning·embedding 검색 등 모델링과 평가 경험 (음식 사진 인식 같은 vision 과제 포함)
- Memory·Retrieval: RAG, GraphDB·VectorDB 기반 memory·context 시스템 구축 경험
- Serving·Infra: vLLM 등 LLM 서빙 최적화, 분산 시스템·runtime, GPU 인프라 운영

Preferred qualifications

아래의 강점을 보유하셨다면, 첫날부터 기여하실 수 있는 폭이 넓어지겠지만, 해당되지 않는다고 감점되지 않습니다.
• agent runtime·guardrail을 프레임워크 조립을 넘어 직접 설계·구현해 본 분
• 평가 체계와 관측 인프라(Langfuse, OpenTelemetry 등)를 처음부터 설계·운영해 본 분
• 의료 등 고신뢰·규제 도메인에서 AI 서비스를 production에 올려 본 분
• 연구 성과(논문, 오픈소스, 경진대회 등)가 있으신 분
(*참고: 특정 프레임워크 경험은 필수가 아닙니다. 도구를 다뤄본 경력보다, 한 영역을 본질부터 이해하고 측정 가능하게 개선해 본 깊이를 더 중요하게 봅니다.)

Benefits

가족들의 단체 상해보험 지원
(본인, 배우자, 양가 부모님, 자녀 숫자 제한 없이 모두)
현금처럼 활용할 수 있는 베네핏 카드(연 180만원) 지원
야근한 만큼 쉴 수 있는 보상휴가 제도 (비포괄임금)
30분 단위로 쪼개서 사용할 수 있는 연차휴가
8시 ~ 10시까지 출근할 수 있는 시차출퇴근제
최상의 업무환경 제공 (최신 노트북과 허먼밀러 의자까지)
매년 정밀 건강검진 수검 지원
매월 식비(20만원) 지원
건강하고 맛있는 메뉴로 가득한 사내식당 및 사내카페 운영
출출함을 해소할 수 있는 사내 간식바 운영
직무 관련 세미나 참석비, 교육비 및 도서 구매비 지원
각종 경조사 지원

Hiring process

• 서류검토 ＞ 스크리닝 인터뷰(비대면, 30분) ＞ 1차 직무면접(2시간, 시스템디자인 및 인터뷰) ＞ 온라인 인성검사 및 2차 컬처핏 면접 ＞ 처우 및 입사일 합의 ＞ 최종입사
* 스크리닝 인터뷰의 경우 비대면으로 30분간 진행되며, 1차 직무면접 및 컬쳐핏 인터뷰의 경우 대면으로 진행됩니다.
* 2차 컬처핏 면접은 최종 합격이 아니며, 연봉 및 근로조건 합의가 된 이후 최종 입사가 확정됩니다.
* 인성검사는 2차 컬처핏 면접의 참고자료로 1차 직무면접 합격 후 온라인으로 응시하시게 됩니다.(약 30분)
* 본 채용은 최종 합격 전 평판조회(Reference Check) 전형을 포함할 수 있습니다. 대상자에 한해 별도의 동의를 구한 뒤 진행되며, 평판조회 결과에 따라 합격이 취소될 수 있습니다.
* 입사 후라도 제출하신 자료에서 허위사실이 발견될 경우 채용이 취소됩니다.