AICA·NIPA와 함께한 NPU 기반의 고성능 프로그래밍 문제 해결 AI 모델 개발

프로젝트 주요 내용

✅ AICA·NIPA와 함께한 NPU 기반 AI Helpy 모델 최적화 – Furiosa Renegade NPU에서 동작하는 고성능 프로그래밍 문제 해결 AI
✅ SLM 기반 코드 생성 및 디버깅 모델 개발 – GPT-3.5 대비 우수한 성능과 효율적인 연산 지원
✅ Furiosa, Naver Cloud와 협력하여 NPU 최적화 구현 – 높은 연산 성능과 낮은 전력 소비를 동시에 달성

고성능 AI 모델의 효율적인 운영을 위해 NPU(Near Processing Unit) 기반 최적화가 점점 더 중요한 요소로 자리 잡고 있습니다. 특히, 프로그래밍 문제 해결을 위한 AI 모델에서는 연산 성능을 극대화하면서도 전력 효율성을 유지하는 것이 핵심 과제입니다.

엘리스는 AICA·NIPA의 지원과 Furiosa, Naver Cloud의 협력을 바탕으로, AI Helpy 모델을 Furiosa Renegade NPU 환경에서 최적화하는 프로젝트를 주도적으로 진행하였습니다. AI Helpy는 SLM(Small Language Model) 기반의 생성 AI 모델로, 크기는 작지만 고성능을 유지하면서도 프로그래밍 문제를 효과적으로 해결하는 것이 특징입니다.

본 프로젝트는 AI Helpy를 Furiosa Renegade NPU에 포팅 및 최적화하여, 연산 성능과 에너지 효율성을 동시에 확보하는 것을 목표로 하였습니다. 이를 통해 코드 생성, 디버깅, 알고리즘 문제 풀이 등의 프로그래밍 작업을 더욱 빠르고 정확하게 수행할 수 있도록 설계되었습니다.

프로젝트 개요

AI Helpy는 프로그래밍 문제 해결을 위한 최적화된 AI 모델로, GPT-3.5 대비 25배 더 작은 크기이면서도 HumanEval 테스트에서 더 높은 성능을 기록하였습니다.

✅ AI Helpy의 주요 성과

• ELICE Korean Algorithm 문제해결 데이터셋에서 GPT-3.5 및 OpenChat 3.5-0106 모델보다 우수한 성능 달성
• Furiosa Renegade NPU 최적화 → 높은 연산 성능 유지 및 낮은 전력 소비 실현
• 코드 생성 및 디버깅, 알고리즘 문제 풀이 최적화

Furiosa 및 Naver Cloud와의 협력을 통해, NPU 환경에서 AI Helpy의 성능을 극대화하였으며, 이를 통해 고속 연산이 필요한 프로그래밍 문제 해결을 더욱 효과적으로 지원할 수 있도록 개발되었습니다.

핵심 기술 및 방법론

1. 지도 학습 기반 미세 조정(SFT, Supervised Fine-Tuning)

✅ 프로그래밍 문제 해결 특화 데이터셋 활용
✅ 코드 생성 및 알고리즘 문제 해결 성능 최적화

AI Helpy는 SFT 방식으로 미세 조정되어, 코드 작성 및 디버깅 능력을 효과적으로 학습하였습니다. 이를 통해 정확하고 효율적인 코드 생성을 지원합니다.

2. 조건부 강화 학습(C-RLFT, Conditional Reinforcement Learning from Human Feedback)

✅ 코드의 정확성과 실행 가능성을 동시에 향상
✅ 기존 RLHF 방식의 한계를 개선하여 코드 품질 최적화

AI헬피는 조건부 강화 학습(C-RLFT)을 적용하여 코드 품질을 균형 있게 조정하였습니다. 이를 통해 실행 가능한 코드 생성을 극대화하면서도 알고리즘 문제 해결 능력을 강화하였습니다.

3. 지속적 사전 학습(CPT, Continual Pre-Training)

✅ 최신 프로그래밍 트렌드 및 알고리즘 학습 지속적 반영
✅ Elice Problem Solving Dataset(2,200만 개) 및 Python Code Dataset(1억 1천만 개) 활용

AI Helpy는 지속적 사전 학습(CPT) 방식을 적용하여, 최신 프로그래밍 트렌드와 알고리즘 문제를 지속적으로 학습합니다. 이를 통해 더욱 정밀한 코드 출력을 생성할 수 있도록 설계되었습니다.

4. 방대한 코드 데이터셋 활용

✅ ShareGPT, GPT-4-LLM, Vicuna, Databricks Dolly, OpenOrca 등 다양한 코드 데이터셋 학습
✅ 엘리스가 구축한 Instruction Tuning 데이터셋(200만 개 메시지) 및 피드백 데이터(300만 개 메시지) 활용

AI헬피는 다양한 오픈소스 및 자체 구축 데이터셋을 활용하여 프로그래밍 문제 해결 능력을 극대화하였습니다. 이를 통해 실제 개발 환경에서의 코드 품질을 높이고, 다양한 문제 해결 방식을 학습할 수 있도록 하였습니다.

5. Furiosa Renegade NPU 기반 최적화

✅ NPU 기반 연산 최적화로 높은 성능 및 낮은 전력 소비 구현
✅ 대규모 연산이 필요한 코드 생성 및 알고리즘 문제 풀이 작업 가속화

AI Helpy는 Furiosa Renegade NPU에서 최적화된 연산을 수행할 수 있도록 설계되었습니다. 이를 통해 CPU 및 GPU 대비 높은 연산 효율성을 제공하며, 최소한의 전력으로 빠른 코드 생성 및 실행이 가능합니다.

프로젝트 결과 및 성과

본 프로젝트를 통해 개발된 AI Helpy는 NPU 환경에서 프로그래밍 문제 해결을 최적화한 대표적인 사례로 자리 잡았습니다.

✅ GPT-3.5 대비 25배 작은 크기로 HumanEval 테스트에서 더 높은 성능 기록
✅ ELICE Korean Algorithm 문제해결 데이터셋에서 기존 모델 대비 우수한 성과 달성
✅ Furiosa Renegade NPU 최적화를 통해 높은 연산 성능 및 에너지 효율성 확보

이를 통해 프로그래밍 문제 해결 AI 모델의 새로운 표준을 제시하며, 퓨리오사 및 네이버 클라우드와의 협업을 통해 고성능 AI 연산 환경을 구축할 수 있었습니다.

결론 및 향후 전망

AI Helpy는 NPU 기반으로 최적화된 프로그래밍 문제 해결 AI 모델로, 높은 성능과 효율성을 동시에 제공하는 혁신적인 솔루션입니다.

• 지도 학습(SFT), 조건부 강화 학습(C-RLFT), 지속적 사전 학습(CPT) 적용
• Furiosa Renegade NPU 기반 최적화로 고속 연산 및 낮은 전력 소비 실현
• AICA·NIPA, Furiosa, Naver Cloud와 협력하여 AI 연산 최적화의 새로운 가능성 제시

향후 엘리스는 AI헬피의 기능을 더욱 고도화하고, 다양한 프로그래밍 및 소프트웨어 개발 분야에서 활용될 수 있도록 지속적인 개선을 이어갈 계획입니다.

👉🏻 엘리스 AI헬피 도입 문의하기
👉🏻 더 많은 AI 프로젝트 수행 내용 살펴보기