
학부생도 대규모 LLM을 실험한다고요? - 서강대학교 정지혁님 인터뷰
박한솔
2025. 6. 16.

Industry, Regulation
Elice Product
Purpose
서강대 학부생의 LLM 실험에 온디맨드 GPU 클라우드가 활용되었습니다.
학부생이 실험을 계속할 수 있었던 이유, GPU를 ‘이렇게’ 쓸 수 있었기 때문입니다.
서강대학교 전자공학과에 재학중인 정지혁님은 최근 멀티모달 LLM의 방향 인식 능력을 주제로 한 논문(제목: “Is ‘Right’ Right? Enhancing Object Orientation Understanding in Multimodal Large Language Models through Egocentric Instruction Tuning”)에 1저자로 국제 학회 CVPR 2025에 채택되었습니다.
*CVPR이란? Computer Vision and Pattern Recognition Conference, 국제 컴퓨터 비전 및 패턴 인식 학술대회로 컴퓨터 비전 분야의 탑티어 학회로 유명합니다. 2025년도 행사는 6월 11일부터 15일까지 미국 테네시 내슈빌에서 개최되었습니다.
논문에서는 LLM이 ‘오른쪽’, ‘왼쪽’, ‘앞’, ‘뒤’ 같은 지시어를 인간과 동일한 기준으로 이해할 수 있는지, 그렇지 않다면 이를 어떻게 개선할 수 있을지를 다뤘습니다.
자율주행처럼 방향 인식이 중요한 분야에서 모델이 사람과 다른 방식으로 방향을 이해한다면 큰 사고로 이어질 수 있기 때문이죠.
*참고: 정지혁님의 논문 보러가기
▲ 정지혁님
실험 환경을 고민하던 중, 엘리스클라우드를 발견했습니다.
해당 연구를 수행하려면 다양한 모델을 벤치마크하고 반복 실험을 수행해야 했습니다.
하지만 학부생이 연구를 위한 고성능 GPU 환경을 갖추기는 현실적으로 어려운 일이었죠.
“GPU가 필요하다는 건 알았지만, 어디서 어떻게 써야 할지 몰랐어요. 그러다 SNS에서 엘리스클라우드를 처음 보고 관심을 갖게 됐습니다.”
복잡한 세팅 없이 실험을 바로 시작했습니다.
엘리스클라우드는 가입 후 바로 GPU 인스턴스를 생성해 실험을 시작할 수 있었고, 국내 인프라 기반으로 운영하다보니 커뮤니케이션도 수월했습니다.
설정도 복잡하지 않아 빠르게 환경을 구성하고 실험을 진행할 수 있었고, 연구 외적인 스트레스를 줄일 수 있었습니다.
“국내 서비스라 설명이나 문의 대응도 빠르고, 실험 환경도 안정적이었어요.”
학부생 입장에서 가장 만족스러웠던 건 ‘비용 구조’였습니다
무엇보다 가장 만족스러웠던 부분은 온디맨드 요금제 구조였습니다.
온디맨드 요금은 GPU 사용 시간에만 비용이 청구되는 구조라, 학부생 입장에서도 실험을 반복해보기 쉽다는 장점이 있죠.
“GPU 요금은 항상 부담스럽다고 느꼈는데, 엘리스클라우드는 내가 사용할 때만 요금이 발생해서 계속 실험할 수 있었어요.”
실험의 범위도, 반복의 자유도도 넓어졌습니다.
엘리스클라우드를 사용하면서 기존에는 시도하기 어려웠던 32B 규모의 LLM도 직접 실행하고 성능을 평가할 수 있었습니다.
아이디어가 떠오르면 곧바로 실험에 들어갈 수 있다는 점이 연구 몰입도를 높여주었습니다.
“아이디어가 생겼을 때 바로 시도해볼 수 있는 환경이 있다는 게 정말 컸어요. 혼자서도 대규모 실험을 반복할 수 있다는 점이 많이 달랐습니다.”
실험 흐름을 끊지 않는 환경, 확실히 달랐습니다.
코랩 같은 무료 환경에서 창이 꺼지지 않도록 조심하며 실험하던 과거와는 전혀 다른 경험이었습니다.
브라우저 창에 신경 쓰지 않고 GPU 환경에만 집중할 수 있다는 점이 실험을 진행하는데 있어 큰 차이를 만들었죠.
“창이 닫힐까 봐 화장실도 못 갔던 때가 있었어요. 지금은 GPU를 켜두고 실험만 신경 쓰면 됩니다.”
‘실험을 주도한다’는 감각을 갖게 해준 경험
정지혁 님은 이번 경험을 통해 학부생도 클라우드 기반으로 실험을 반복하고 결과를 정리할 수 있다는 가능성을 확인할 수 있었다고 말합니다.
“저도 학부생이다 보니, 연산 자원 확보에 어려움을 겪는 분들이 얼마나 많은지 잘 알고 있어요.
엘리스클라우드는 A100 80G 같은 고성능 GPU도 시간당 수천 원대로 사용할 수 있어서 부담은 적은데 훨씬 더 많은 도전을 할 수 있었습니다. 저같은 분들께 적극 추천드립니다.”
AI 실험을 계속 이어갈 수 있는 GPU 인프라, 지금 바로 엘리스클라우드에서 경험해보세요.