[K글로벌타임스] 스마트폰 등 전자기기가 작고 가벼워질수록, 시대가 ‘속도’를 요구할수록 절대적으로 필요한 기술이 있다. AI 모델의 경량화 기술이다.

스퀴즈비츠(대표 김형준)는 이 분야에서 탑티어라 할 수 있다. 최근에는 모바일로 이미지 생성을 단 7초 만에 해냈는데, 이는 보통 컴퓨터에서도 몇 분이 걸리는 일이다. 역시 여기에도 AI 모델 경량화 기술이 숨어 있다. 특히 같은 환경에서 퀄컴이 이미지 생성에 15초 걸렸던 점을 고려한다면 2배나 빠른 속도다.

설립 3개월도 안 돼 네이버로부터 투자를 유치하며 네이버가 마련한 스타트업 전용 공간에 입성한 기업, 스퀴즈비츠가 화제다. 게다가 대표도 무척 젊다. 스쿼즈비츠를 설립했을 당시 29세였기 때문이다. 그야말로 젊은 패기 하나로 사업 전선에 뛰어든 스쿼즈비츠는 AI 경량화 및 가속화 기술을 연구·개발(R&D)한다. 특히 이를 4비트(bit) 이하 양자화 기술을 통해 해결하고자 한다. 현재까지 연구된 양자화 기술은 8비트가 한계다.

스쿼즈비츠는 성능을 유지하면서도 무게는 가벼운 AI 기술을 내년에 상용화하는 데 목표로 뒀다. 물론 국내를 포함한 전 세계에서 AI 기술을 양자화해 경량화 및 가속화하는 기업은 무척 많다.

하지만 4비트 이하는 꿈의 무대다. 보통은 32비트의 데이터 포맷을 8비트 형태로 압축하고 있다. 반면, 스쿼즈비츠는 4비트 이하의 데이터 포맷을 사용해 평균 1/4 수준으로 경량화하던 것을 1/8 수준 이하로 경량화하고자 한다.

만일 이 기술이 성공한다면 AI 모델의 크기를 더 축소할 수 있을 뿐만 아니라 연산 속도 또한 더 빨라진다. 더 많은 작업을 더 빠르게 끝낼 수 있는 것이다. AI 모델이 작으니 클라우드 등에서도 비용 절감 효과가 뒤따른다.

스쿼즈비츠의 목표가 다소 현실 불가능하지 않나 싶을 수도 있다. 하지만 그렇지 않다. 이미 성공의 페이지를 한 차례 써 내려간 적 있기 때문이다. 지난해 가장 유명한 이미지용 생성 AI 모델 ‘스테이블디퓨전’을 모바일에서 구동하는 데 성공한 것. 퀄컴에 이은 두 번째 사례지만, 이미지 구동에 15초가 걸렸던 퀄컴에 비해 스쿼즈비츠는 7초 만에 이미지를 구동했다. 무려 8초나 앞선 셈이다.

AI 기술을 경량화하는 데 성공한 후 스쿼즈비츠가 가고자 하는 방향성도 명확하다. 추론 엔진을 개발해 경량화시킨 거대 생성 AI를 다양한 하드웨어에 유연하게 적용하는 범용성을 갖추겠다고 밝힌 것이다. 이로써 초거대 생성 AI를 기반으로 하는 서비스 운영에 필요한 각종 제반 비용이 절감될 것으로 기대된다.

이는 다양한 기업이 생성 AI를 통한 다채로운 서비스를 선보일 수 있다는 결과를 낳는다. 또한, AI 구동을 위해 가동되는 고성능 GPU 숫자가 줄어드는 만큼 전력 소모량 역시 줄일 수 있다.

스쿼즈비츠는 잠재적 성장을 인정받아 지난해 7월 과학기술정보통신부가 주최한 ‘2022 인공지능 온라인 경진대회’에서 자연어 분야 2위를 차지했으며, 같은 해 11월에는 ‘서울지역 창업기업 만남의 장’에서 중소벤처기업부장관상을 받았다. 국내 최대 스타트업 축제 ‘컴업 2022’에서는 북미 최대 IT 미디어 테크크런치가 선정한 ‘베스트 어워드’를, 컴업 루키 리그 중 상위 5개사에 주는 ‘스타 오브 스타즈’를 수상했다.

나아가 지난 6월에는 중소벤처기업부의 초격차 프로젝트 1000+ 우수 스타트업인 딥테크 팁스(TIPS)에 선정돼 3년간 15억 원 상당의 연구·개발 자금을 확보했다.

스퀴즈비츠는 포스텍 대학원에서 딥러닝 가속기 하드웨어(NPU)를 연구하던 동기들이 일반적으로 잘 사용하지 않는 하드웨어에서도 빠르게 연산하고 경량화할 수 있는 기법으로 AI 모델을 최적화하는 기술을 가지고 창업한 스타트업이다. 현재의 AI 모델 경량화 기술은 딥러닝 전용 하드웨어까지 직접 설계한 경험이 있었기에 가능한 일이라고 스퀴즈비츠는 말한다.

스쿼즈비츠는 네이버 클로바와 AI 모델 경량화 기술검증(PoC)을 진행한 바 있으며, 추가 협업을 위한 논의를 거치고 있다. 또한, SK텔레콤도 스쿼즈비츠와 함께 SK텔레콤 내 AI 솔루션을 경량화하는 데 심혈을 기울이고 있다.

김형준 스퀴즈비츠 대표는 “생각보다 많은 기업이 AI 모델의 경량화에 대한 필요성을 느끼고 있다”라며 “AI의 보편화를 저해하는 비용 문제 및 기술 병목 현상을 해결하고 싶다”고 밝혔다. 이어 “AI 기술은 이제 막 시작하는 단계다. AI 기술을 다루는 기업이라면 스퀴즈비츠가 필수인 시대가 올 수 있도록 노력하겠다”고 포부를 전했다.

[K글로벌타임스 강초희 기자] [email protected]