| :: AI LLM 엔지니어 :: | |
| Company Introduction | 외국계 투자 소프트웨어 스타트업 |
|---|---|
| Job Description | [담당업무] 1. 오픈소스 대형 모델의 llama.cpp 기반 전 과정 어댑테이션(Adaptation) - llama.cpp의 하위 소스 코드 아키텍처, - 메모리 관리 메커니즘, KV 캐시 스케줄링, - 양화(Quantization) 추론 로직을 숙지 - 이식(Porting), 호환성 디버깅을 담당하여 온디바이스(엣지단)에서의 안정적인 모델 구동 2. RISC-V 아키텍처 기반 CPU/NPU의 하드웨어 특성에 집중하여, llama.cpp 추론 파이프라인의 심층 최적화 작업을 타겟팅하여 수행 - RISC-V 벡터 명령어 집합(RVV) 최적화, - 컴퓨팅 및 메모리 액세스 최적화, - 캐시 적중률(Cache Hit Rate) 튜닝, - 멀티 코어 병렬 스케줄링 최적화 등 3. llama.cpp 전 시리즈 양화(Quantization) 솔루션의 어댑테이션 및 튜닝을 담당 4.RISC-V + llama.cpp 표준화 성능 테스트 베이스라인을 구축, |
||
|---|---|---|---|
| Job Requirement | [자격요건] 1. 학사 학위 이상 소지자 (소프트웨어 공학, 컴퓨터 공학, AI 관련 전공), 2. 대형 모델 엔지니어링 및 모델 배포/최적화 경력자 3. Python 및 C++에 능숙하며, Transformer 모델의 핵심 원리를 정통하신 분 4.주요 대형 모델의 아키텍처 특성, 추론 메커니즘, 파라미터 특징을 잘 이해 5. Attention, FFN, LayerNorm 등 핵심 모듈의 메커니즘을 숙지하신 분 [우대사항] 1.주요 모델의 경량화 개조, 증류(Distillation) 미세조정(Fine-tuning), 정확도 정렬(Precision Alignment) 경험이 있으신 분 우대. 2. Linux 개발 환경 및 Docker 컨테이너화 배포에 익숙하며, 모델 서비스 클러스터 구축 경험이 있으신분 3. 양산형 AI 연산 칩 어댑테이션 및 크로스 플랫폼 마이그레이션 경험이 있거나, 주요 오픈소스 대형 모델의 추론 최적화 및 오퍼레이터 최적화/적용 경험이 있으신 분 우대. |
||
| Location | 서울|서울 | Degree Level | 대졸이상 |
| Career Level | [부장급][차장급] | ||
| No. of Recruitment | 1 | ||
| Salary | 협의 | ||
| Required Document | 국문이력서_경력기술서(이력서내기재)/ 워드파일형식 | ||
| Others | - 원서 마감후 1차(서류) 합격자에 한하여 개별연락 - 해외여행에 결격 사유가 없는 자 - 이력서에 연락처, 희망연봉 게재 |
||
| Contact/Inquiry | 우한식 / 이사 02-6281- 5017 whs@nterway.com |
|---|
