고성능 GPU를 가상화해 수십여개 GPU로 나눈 '백엔드닷에이아이'로 주목
대당 수천만원짜리 GPU를 여러개로 분할해 효율화를 이뤄냈다는 평가
엔비디아 인증 등 글로벌 경쟁력 갖춰, 삼성 비롯한 다양한 기업들도 사용

래블업 CI.[사진=래블업]
래블업 CI.[사진=래블업]

[K글로벌타임스] 래블업(대표 신정규)은 기업들이 인공지능(AI) 학습을 위해 필요한 고성능 그래픽처리장치(GPU)를 효율적으로 운영할 수 있게 해주는 플랫폼인 '백엔드닷에이아이(Backend.AI)' 서비스를 개발한 스타트업이다. GPU 사용을 효율적으로 해주는 것이 기술의 핵심이다. 최근 생성형 AI가 글로벌 시장을 달구는 가운데, 래블업 역시 관련 업계의 판을 뒤집을 만한 스타트업으로 주목받고 있다.

 

GPU 효율화로 AI활용 극대화

래블업의 백엔드닷에이아이 솔루션.[사진=래블업]
래블업의 백엔드닷에이아이 솔루션.[사진=래블업]

래블업은 지난 2015년 설립해 백엔드닷에이아이 서비스를 개발했다. 백엔드닷에이아이는 GPU를 효율적으로 사용할 수 있도록 도와주는 솔루션이다. 래블업은 비상업용을 전제로 오픈소스에 개발 플러그인을 공개하고 있다. 딥러닝 개발에 특화된 GPU 가속 플랫폼으로 유명하다. 백엔드닷에이아이는 저전력 프로세서인 ARM 서버 환경에서 AI모델을 만들 수 있는 세계 최초 플랫폼으로 이름을 알렸다.

백엔드닷에이아이는 △GPU 클러스터 활용도 극대화 △직관적인 사용자 경험 및 관리 △저비용·저지연 AI 모델 및 서비스기술 △AI 반도체 지원 등을 바탕으로 다양한 AI 개발·서비스 분야에 활용되고 있다.

AI를 위해서는 GPU를 사용해야 한다. GPU를 효율적으로 사용하는 것이 중요한 이유는 이 컴퓨팅 파워와 전력이 모두 기업 입장에서는 비용이기 때문이다. 이를 효율화 함으로써 비용을 절감할 수 있고, 결과적으로 기업에는 이익이 된다.

게다가 초거대 AI모델 크기는 매년 10배씩 성장하고 있는 반면 GPU 수명 주기는 2년 정도로 줄었고, AI모델의 고도화를 따라가지 못해 수명은 더욱 짧아질 것이란 전망이다.

백엔드닷에이아이의 기업용 서비스 화면.[사진=래블업]
백엔드닷에이아이의 기업용 서비스 화면.[사진=래블업]

백엔드닷에이아이의 핵심은 GPU를 분할·가상화하는 기술(Fractional GPU)이다. 이는 고성능 GPU 하나를 가상화해 수십여 개 GPU로 나눠 여러 개의 AI 훈련을 동시에 할 수 있다.

딥러닝 개발자가 GPU가 없는 노트북을 들고 딥러닝 AI를 개발하고 싶으면 자신의 GPU 워크스테이션이나 래블업의 클라우드 버전에 등록해 자신의 노트북에 백엔드닷에이아이 클라이언트를 설치하기만 하면 된다. 딥러닝 AI 개발에 무한정 GPU를 늘릴 수 없는 다양한 기업들이 래블업 솔루션을 선호한다.

신정규 대표는 "AI 개발 전용 GPU의 경우 대당 수천만원을 호가해 기업 입장에서 비용 부담이 크다"며 "분할·가상화 기술을 활용하면 하드웨어 도입 비용을 크게 낮출 수 있는 장점이 있다"고 말했다.

 

국내 유수기업이 선택한 솔루션, 글로벌 기술경쟁력 인증

엔비디아의 파트너로 선택된 래블업.[사진=래블업]
엔비디아의 파트너로 선택된 래블업.[사진=래블업]

래블업은 이 밖에도 딥러닝 모델 분산기술, 슈퍼컴퓨팅 솔루션 기술, 딥러닝 기반 바이오 연구 기술, 초저지연 AI 모델 기술 등을 보유하고 있다.

GPU를 가상화하는 기술을 세계 최초로 개발하고, 이를 활용해 다양한 분야에 활용이 가능하게 하면서 래블업에 대한 관심은 더욱 높아지는 추세다.

독보적인 기술력을 토대로 글로벌 시장에서도 기대를 받는 스타트업으로 주목하고 있다. 한국 최초로 글로벌 스토리지 기업 퓨어스토리지의 AI 분야 기술협력 파트너로 선정됐고, 아태지역 최초이자 세계에서 10번째로 ‘엔비디아 DGX 레디 소프트웨어 프로그램’ 파트너사로 선정됐다.

래블업의 솔루션인 백엔드닷에이아이는 특히 엔비디아가 기술력을 검증해 주는 'DGX-Ready 소프트웨어'로도 인증받으며 신뢰도를 높였다.

현재 국내에서 삼성전자, KT, LG전자, CJ 등 대기업을 비롯해 물론 한국은행과 건강보험심사평가원 등 공공기관 70여곳에서 사용하고 있다.

보안에 민감한 대기업 들을 위한 맞춤형 서비스 등을 제공하면서 래블업을 선택하는 기업들이 대거 늘어난 것이다.

실제 래블업은 프로그래밍언어나 운영체제가 요구하는 새로운 데이터 패키지를 담아서 인트라넷상에 뿌려 자동으로 업데이트되지 않은 부분만 찾아 설치해 주는 기능을 탑재해 보안성도 높였다.

 

"손쉬운 AI 보급 및 사용 목표로 전진할 것"

신정규 래블업 대표.[사진=래블업]
신정규 래블업 대표.[사진=래블업]

래블업은 누구든 쉽게 접근하고 활용하는 AI가 될 수있는 환경을 구축하는 것이 궁극적인 목표다.

이미 국내 정부기관 등으로부터 기술혁신분야에서 공로를 인정받았기도 했다. 지난 2019년 말에는 대한민국 인터넷대상 기술혁신분야 과기정통부 장관상을 수상했으며, 오픈소스 분야로의 기여도 인정되어 공개SW 유공자 과기정통부 장관상도 수상한 바 있다.

최근 챗GPT 열풍에 따른 거대AI시장의 발전과 더불어 투자자들의 관심도 높아지고 있다.

최근 LB인베스트먼트, IBK기업은행, K2인베스트먼트파트너스, 대성창업투자 등으로부터 105억원의 시리즈 A 투자를 유치한 것이다.

투자에 나선 박지형 LB인베스트먼트 수석은 "래블업은 AI 분야에서 GPU 인프라 서비스를 제공하며 시장을 선도하고 있고 향후 성장세도 기대된다"고 투자 배경을 밝히기도 했다.

래블업은 자사 기술을 통해 누구나 손쉽고 효율적으로 AI를 사용할 수 있는 환경을 구현하는 것이 목표다.[사진=픽사베이]
래블업은 자사 기술을 통해 누구나 손쉽고 효율적으로 AI를 사용할 수 있는 환경을 구현하는 것이 목표다.[사진=픽사베이]

래블업은 자사 기술을 더욱 널리 알리고, 기술력 또한 고도화하기 위해 노력하고 있다.

올해 1월 열린 '국제 전자제품박람회(CES) 2023'에 참가해 엔드닷에이아이의 기업용 차기 버전인 엔터프라이즈 R3를 소개하기도 했다. 행사를 통해 미국 내 다양한 투자업계 관계자들 앞에서 쇼케이스를 펼치는 등 향후 글로벌 시장 진출도 기대케 했다. 이어 2월에도 '모바일 월드 콩그레스(MWC) 2023'에서 차기 솔루션을 선보이는 등 글로벌 행보를 본격화 하고 있다.

신 대표는 "거대 언어 모델부터 생성 모델까지 다양한 수요에 대응하는 AI 모델 서비스를 제공하는 데 집중하고 있다"며 "누구든지 쉽게 접근할 수 있고 누구든지 어려움 없이 활용할 수 있는 AI를 보급하는 것이 목표"라고 말했다.

[K글로벌타임스 김동현 기자] [email protected]

관련기사

저작권자 © K글로벌타임스 무단전재 및 재배포 금지