Forward Deployed Engineer - LLM Quantization

About the role

함께하게 될 ​FDE본부를 ​소개합니다!
• FDE본부는 ​산업에서 발생하는 ​다양한 문제 해결을 위해 ​AI ​기술을 개발하고 ​산업현장에 적용하여 실질적인 ​가치를 만들어 ​냅니다.
• 실제 ​현장의 데이터를 ​이용해 ​AI ​문제를 정의하고 이를 ​풀어가는 ​과정을 통해 End-to-end ​머신러닝 ​라이프사이클을 ​경험합니다.
• 마키나락스에 축적된 문제해결 ​경험을 자산화, ​솔루션화 ​하는 과정을 ​함께 합니다.

What you'll do

• 최신 LLM(Large Language Model)을 On-Device NPU 환경에 탑재하기 위한 모델 개발, 변환 및 검증 작업을 수행합니다.
• 다양한 구조의 LLM 모델에 대한 개발 업무 및 양자화(Quantization) 기술을 연구하고 실제 모델에 적용합니다.
• 새로운 모델 최적화 기법에 대한 선행 연구를 수행하고, 논문 작성 및 특허 출원을 적극 장려합니다.
• PyTorch, HuggingFace, TFLite, ONNX, AIMET 등 다양한 딥러닝 프레임워크 및 툴을 활용하여 모델 성능을 정량적으로 분석하고 개선합니다.
• 효율적인 협업을 위해 팀 내외부와의 기술 공유 및 코드 리뷰, 실험 결과에 대한 자유로운 토론을 적극적으로 진행합니다.

Requirements

• 년 이상의 ML/DS 경력 또는 그에 준하는 역량을 갖추신 분
• 딥러닝과 LLM 모델에 대한 기본적인 이해를 가지고 있으며, PyTorch, HuggingFace, TFLite, ONNX 등 딥러닝 개발 및 추론 프레임워크를 다뤄본 경험이 있는 분
• Post-Training Quantization 또는 Quantization-Aware Training과 같은 양자화 기술을 적용해 본 경험이 있는 분

Preferred qualifications

• LLM이나 LVM 등 생성형 AI 모델을 대상으로 최적화 및 양자화(Post-Training Quantization 또는Quantization-Aware Training 등) 기술을 적용해 본 경험이 있는 분
• On-device NPU 환경을 대상으로 Generative AI 모델 개발 및 양자화 관련 연구 경험이 있는 분
• Top-tier AI/ML 또는 LLM 양자화(Quantization) 관련 학회에 논문을 게재한 경험이 있는 분

Benefits

[Culture & Life]
• Core Time(10시~16시) 운영
• 야근시 저녁식사 지원
• 다양한 간식와 음료 구비된 스낵바 제공
• 연 1회 종합검진 지원 (30만원 상당)
• 업무 관련 도서/강의 수강 지원
• 사내 소모임 활동 지원

Hiring process

• 서류접수
• 온라인 코딩테스트 또는 사전 인터뷰
• 기술인터뷰
• Fit인터뷰
• 평판조회