온디바이스 AI 엔지니어

About the role

책상 위 Mac mini 한 대에서 LLM이 돌아갑니다. 통합 메모리 덕분에 웬만한 GPU 서버보다 큰 모델을 올릴 수 있고, 전기는 훨씬 덜 먹고, 데이터는 밖으로 나가지 않습니다.

앤서랩은 이 구조를 실제 제품 수준으로 만드는 일을 합니다. 모델을 변환하고, 양자화하고, Metal과 Neural Engine을 최대한 짜내서 "이 정도 하드웨어에서 이만큼 나온다"를 만드는 작업입니다. 토큰 속도 20%를 올리기 위해 하루 종일 벤치마크를 돌리는 날도 있습니다.

정답이 정해진 일이 아닙니다. 가설을 세우고, 숫자를 보고, 다시 조정하는 반복입니다. 경력보다 그 반복을 재미있어하는 사람을 찾습니다.

취미로 로컬 LLM 돌려보신 분이라면, 이미 절반은 하고 계신 겁니다.

What you'll do

온디바이스 AI 엔지니어 (메인)
• Apple Silicon 환경에서 LLM·비전 모델 로컬 구동 파이프라인 설계 및 구현
• MLX / Core ML 기반 모델 변환, GGUF 양자화 적용 및 정확도 손실 최소화
• llama.cpp Metal 백엔드, Ollama 등 추론 엔진 튜닝
• Neural Engine·GPU·CPU 연산 분배 및 통합 메모리 활용 최적화
• 토큰 처리 속도, 메모리, 발열·전력 벤치마킹 및 개선
• 로컬 추론 서버의 API 서빙 및 상시 운영 구조 구축

웹/대시보드 (서브)
• 실험 결과 및 모델 성능 모니터링 대시보드 개발
• 자사 서비스 사이트 및 랜딩페이지 개발·운영

Requirements

• AI/ML 또는 백엔드 개발 경력 1~3년, 또는 그에 준하는 결과물을 보여줄 수 있는 신입
• Python 능숙, PyTorch 또는 Hugging Face 생태계 사용 경험
• 로컬에서 LLM을 직접 띄워본 경험 (도구는 무엇이든 무관)
• macOS 또는 Linux 개발 환경, Git 기반 협업
• 벤치마크 숫자로 판단하고 과정을 남기는 습관

Preferred qualifications

MLX 또는 Core ML(coremltools)로 모델을 변환해보신 분
GGUF 양자화, LoRA 파인튜닝을 실제로 해보신 분
• llama.cpp, Ollama, vLLM을 설정만 하는 수준을 넘어 튜닝해보신 분
• Metal / MPS 커널을 만져보신 분
• Swift, macOS 네이티브 개발 경험이 있으신 분
• RAG·벡터DB 파이프라인을 구축해보신 분
• 홈랩에서 로컬 LLM을 꾸준히 굴려오신 분
• React / Next.js로 대시보드를 만들 수 있으신 분

Benefits

• 4대보험, 퇴직연금, 연차/반차 자유 사용
• 개발 장비는 Apple Silicon Mac으로 지급합니다. 여기에 실험 전용 테스트 머신을 따로 드립니다. 돌려보고 싶은 모델을 메모리 걱정 없이 올려볼 수 있는 환경을 만드는 게 이 포지션에서는 복지가 아니라 업무 조건이라고 봅니다.
• 컨퍼런스 참가비 및 발표 지원
• 도서 구입비, 교육비 지원
• 중식 지원

Hiring process

서류전형 -＞ 1차 실무면접(기술) -＞ 2차 대표면접 -＞ 처우협의 -＞ 최종합격