[Startup人터뷰] 딥러닝 모델 경량화를 기반으로 한 온디바이스 AI기업 “Nota”의 김태호CTO님

이번에 만나볼 기업은 AI를 활용하여 편리한 세상을 만들어보자는 모토를 기반으로 Nota의 김태호 CTO님입니다.

Nota가 개발한 AI모델 경량화 기술은 어디에도 탑재가 가능하며 제품, 서비스 개발 등의 비용과 시간을 줄일 수 있는 효율성을 지니고 있습니다. NetsPresso라는 경량화 플랫폼을 통해 AI솔루션 및 경량화된 솔루션을 활용하는 사업으로 뻗어나가고 있는 Nota의 김태호CTO님을 지금부터 만나보겠습니다.

Nota에 대한 간단한 소개 부탁드립니다.

안녕하세요, Nota는 딥러닝 모델 경량화 기술을 연구 개발하여 다양한 기업의 AI 모델을 효율적으로 운용할 수 있도록 도움을 주는 일을 하고 있습니다. 이를 통해 서버에서 AI모델을 운용하는 고객들에겐 비용 감소 및 엣지에서 AI 모델을 운용하는 고객들에겐 더 저렴한 엣지에서 AI를 이용하거나 같은 엣지에서 더 고성능의 모델을 이용할 수 있도록 도움을 주고 있습니다. 자체적으로도 얼굴 인증 및 차량 검출 등의 경량화된 AI 모델을 개발하여 사업을 진행 중입니다.

스마트폰, 드론 등의 엣지에서 운용하는 AI를 위한 딥러닝 모델 경량화 라는 기술은 다른 기기에도 적용하면 말씀하신대로 효율적으로 운용할 수 있을 것으로 보입니다. 고성능 서버에 의존하지 않고도 Nota의 기술인 경량화 기술을 활용하면 비용 등 여러 방면으로 절감이 되는 측면이 많을 것 같습니다.

해당 아이템으로 Nota가 창업을 하게 된 이유가 무엇인지 궁금합니다.

해당 아이템으로 창업을 한 것은 아닙니다. 처음 창업은 스마트폰 소프트키보드에 탑재되는 오타감소 알고리즘을 AI로 해결하는 솔루션이었습니다. 해당 솔루션 개발 과정에서 AI를 디바이스에서 실행하는 것이 얼마나 어려운 일인지에 대한 경험을 했고, AI 모델 경량화를 통해 같은 고민을 하는 분들을 돕고 AI가 고질적으로 가진 AI 모델의 크기와 연산량이 크다는 문제를 해결하고자 피봇을 하였습니다.

아이템은 달랐지만 AI가 기반이 되는 것은 변함이 없는 것으로 보입니다. Nota는 창업원 대표 학생창업지원프로그램인 E*5 초창기 팀입니다. 그 때부터 인공지능에 대한 청사진을 그렸기 때문에 지금의 AI 딥러닝 모델 경량화 기술까지 이어질 수 있었던 것 같습니다.

최근 AI기업들이 증가하고 있는데 Nota만이 가지고 있는 특징은 무엇이 있고, 그 장점은 무엇일까요?

먼저, 많은 AI기업들은 특정 분야에서의 AI솔루션을 개발하는 것으로 알고 있습니다. 노타는 이러한 AI기업들을 고객으로 삼아 경량화로 AI 모델의 효율화를 도울 수 있습니다. AI에 대한 수요와 솔루션의 수가 늘어날수록, AI를 실제 환경에 접목하고자 하는 수요가 늘어날수록 Nota가 고민했던 경험과 NetsPresso가 도움을 줄 수 있을 것입니다.

AI솔루션을 개발하는 다른 기업들과 달리 Nota는 AI기업들과 협업하고 효율성을 추구하며 AI모델 경량화 기술의 플랫폼인 NetsPresso를 개발한 것으로 보입니다.

노타의 AI 자동 경량화 플랫폼인 ‘넷츠프레소(NetsPresso)’에 대해 자세한 설명을 부탁드립니다.

NetsPresso는 딥러닝 모델 자동 경량화 플랫폼입니다. 사용자는 이미 딥러닝 모델을 보유하고 있다는 전제 하에, 해당 모델을 넷츠프레소에 입력으로 넣어 넷츠프레소는 해당 모델을 더 작은 모델로 경량화 하는 역할을 수행합니다. 넷츠프레소의 입력은 앞서 언급한 ‘학습된 모델’을 포함하여, ‘데이터셋’, ‘타겟 HW’, ‘고객의 요구사항’을 입력으로 받습니다.

NetsPresso는 크게 경량화 기법 풀, 디바이스 풀, 최적화 알고리즘, 경량화 파이프라인으로 구성되어 있습니다. 경량화 기법 풀이란, 가지치기 (Network Pruning), 양자화 (Quantization) 등 다양한 경량화 기법을 사전에 구현해놓은 것으로, 각종 연구자료에 공개되어 있는 기법들을 포함해서 노타에서 자체 개발한 기법을 포함하고 있습니다. NetsPresso에선 입력된 모델에 경량화 기법 풀에 있는 경량화 기법을 다수 선택하여 경량화를 진행하는데요, 어떤 기법을 어떤 방식으로 활용하는 지에 대해서 결정하는 것은 최적화 알고리즘에서 진행하게 됩니다. 최적화 알고리즘에서 기법의 활용을 결정할 때에는, 고객이 입력으로 넣은 타겟 HW에 최적화될 수 있는 기법의 조합을 선택하게 되고, 이 때에는 디바이스 풀에 연결되어 있는 타겟 HW에 모델을 직접 올려서 해당 HW에서의 성능치를 측정합니다.

NetsPresso를 통해서 고객이 AI 모델의 크기와 연산량을 통해 겪고 있는 문제를 해결하고, 고객에게 비용 절감, 온디바이스 AI에서 가능하도록 하는 등의 현실적인 가치를 전달하고자 하는 것이 NetsPresso가 가지는 의미입니다.

NetsPresso는 경량화된 모델을 더 경량화시켜 최적화된 AI 기기에 적용시키는 것으로 최적화된 플랫폼으로 보입니다. 다양한 경량화 기법으로 기존의 입력된 모델에 알고리즘을 활용하여 기존 모델이 가지고 있는 문제를 해결하는 데 도움을 주고 효율성을 높일 수 있겠네요. NetsPresso가 있다면 전문 엔지니어 없이도 빠르고 저렴하게 AI모델을 경량화하여 AI기술을 필요로 하는 기업들을 위한 솔루션이 될 수 있겠습니다. 그래서 국내의 대기업을 비롯하여 많은 기업들이 Nota와 전략적 제휴를 맺을 수 있는 것 같습니다.

AI모델 경량화와 온디바이스 AI 솔루션을 통해 Nota가 구축하고자 하는 것은 무엇일까요?

AI의 성능과 성장성은 폭발적이지만, 실제 우리 삶에 AI가 녹아들기에는 넘어야 할 관문이 많이 있습니다. 그 중 핵심적인 요소가 AI 모델의 크기 및 연산량이고, 노타는 경량화와 온디바이스 AI 솔루션을 통해 AI가 우리 삶에 많은 긍정적 영향을 미칠 수 있도록 하고 싶습니다.

AI의 성장률은 예상보다 빠르고 변화폭도 다양합니다. 그 가운데서 AI모델의 문제점 등 해결해야 할 과제들은 여전히 남아있습니다. Nota의 NetsPresso를 포함한 경량화 기술이 문제해결하는 데 발생하는 비용과 시간을 줄일 수 있을 것으로 예상됩니다.

AI모델 경량화를 하는데 있어서 어려운 점이 있다면 무엇이 있고, 그것을 극복하기 위해 노타가 하고 있는 것은 무엇이 있을까요?

AI모델은 굉장히 크기가 크고 연산량이 많습니다. AI모델을 경량화하는 방법에는 가지치기 (Network Pruning), 양자화 (Quantization), 지식증류 (Knowledge Distillation), 가중치 분해 (Filter Decomposition) 등이 있습니다. 각 기법에 대해서는 주로 학계에서 연구가 많이 되고 있습니다. 하지만, 현업에서 해당 기법을 활용해서 경량화를 진행하기 위해선, 해당 경량화 기법에 대한 깊은 이해가 필요할 뿐만 아니라, 경량화란 주어진 모델과 데이터셋에 따라서 경량화 기법을 다양하게 활용해야 하기 때문에 경량화에 대해 깊은 노하우가 있어야 달성 가능한 영역입니다. NetsPresso는 경량화 과정을 사람이 직접 진행하던 경량화 작업을 효율적으로 진행할 수 있도록 도와주는 자동 경량화 플랫폼입니다. NetsPresso에 대해서 앞서 설명드린대로, NetsPresso에서는 기존 사람이 직접 경량화 기법의 선택과 해당 경량화 기법들의 활용 방법에 대해서 사람이 수많은 시행착오를 거쳐야 했던 반면, NetsPresso에서는 해당 작업을 자동화하여 진행할 수 있기 때문에 손쉽게 경량화를 진행할 수 있다는 장점이 있습니다.

AI모델을 경량화하는데 쉽지 않을 것이라고는 생각했습니다. 그럼에도 개발한 AI 경량화의 어려움을 극복한 사례가 노타가 개발한 NetsPresso이군요. NetsPresso로 사람이 하던 작업을 플랫폼이 대체해주면서 자동화되어 더 편리해진 것 같습니다.

여러 기업들과 노타는 협업하고 있는 것으로 알고 있는데, 어떤 협업을 하고 있으며 노타의 기술이 어떻게 활용되고 있나요?

노타의 사업 영역은 크게 세 가지로 구분됩니다. 경량화 사업, 경량화된 솔루션인 얼굴 인증 솔루션, 경량화된 솔루션을 활용한 지능형 교통 시스템 사업이 있습니다. 경량화를 활용한 사업으로는 기존에 AI 모델을 보유하고 있거나, AI 모델을 통한 사업화를 계획하고 있는 기업들과 많은 협업을 진행하고 있습니다. 예를 들어, 드론이나 AI 카메라 등 엣지 디바이스에서 AI 모델을 활용하는 기업에선 경량화를 통해서 더 가벼운 장비를 이용하거나 더 많은 카메라 채널을 활용할 수 있습니다. 클라우드 서버를 활용해 AI 서비스를 하는 기업과의 협업을 통해서 해당 업체가 클라우드 GPU 사용량 지출을 감소시킬 수 있습니다.

경량화 사업 뿐만 아니라, 경량화된 솔루션을 이용한 사업도 활발하게 진행 중에 있습니다. 경량화된 얼굴 인증 솔루션을 활용해 공사 현장에서 출입 시의 인증을 관리하기도 하고, 도어락, 현관 로비 등에 들어가는 AI 모델에도 경량화된 얼굴 인증 모델이 활용됩니다. 기타 다양한 협업과 사업 케이스에 대해선 아래 링크를 통해 구체적으로 확인하실 수 있습니다.

https://nota.ai/news.php

다른 기업들과 협업이 아니라 Nota자체만의 기술로도 충분히 경쟁력이 있는 사업영역들로 보입니다. 경량화 사업뿐만 아니라 그 기술을 활용한 다양한 사업군에도 기술이 접목되고 있음을 볼 수 있습니다. 알고 있는 것보다 훨씬 더 다양하게 확장되어있습니다. Nota의 기술이 실질적으로 교통 체증 완화하는 데 기여하기도 하는 등 긍정적인 영향력들이 곳곳에 펼쳐지고 있음을 알 수 있습니다.(실질적인 활용이 더 궁금하신 분들은 위의 링크를 클릭해주세요.)

Nota가 창업을 준비했을 때와 지금 환경의 변화가 있을 텐데요. 그 차이가 무엇이고, 창업을 하고자 하는 KAIST 후배들에게 하고 싶은 조언이나 팁이 있다면 어떤 것이 있을까요?

노타가 창업했던 시기는 2015년이었습니다. 대학원생으로서 논문 연구를 중점으로 했지만 제가 하는 연구를 포함해 많은 수의 연구들이 논문으로 그치고 실제 제품이나 사람의 삶에 반영되는 경우는 극소수여서, 보다 사람과 사회의 문제를 더 직접적으로 풀어보고 싶었습니다. 창업을 하고 사업을 하는 과정에 있어 많은 어려움이 있었고, 핵심이 되는 아이템조차 피봇이 있었습니다. 아이템을 피봇하는 단계에서 어려움이 있었지만, 서로 힘이 되어주는 팀원이 있었고 여전히 사회의 문제를 직접 해결할 수 있다는 생각은 변치 않아 어려움들을 이겨낼 수 있었습니다. 어려움이 있을 때 이 일을 왜 시작했는지 생각해보면 힘이 될 수 있지 않을까 생각합니다.

노타가 창업을 한 지 생각보다 오래되었네요. 2015년부터 AI의 발전가능성을 보고 도전한 것이며 함께 마음이 맞는 팀원이 있었기에 가능했던 것 같습니다. 다른 AI기업과 다르게 솔루션뿐 아니라 아이템을 피봇하며 지금의 AI모델 자동 경량화 플랫폼을 만들게 된 것으로 보이네요. 결국, 사회와 세상에 관심을 갖고 무엇이 필요할지 예측하며 도전을 해보는 것이 창업에 있어서 출발점이 될 것 같습니다.

최종적으로 Nota가 이루고 싶은 목표 및 비전은 무엇인가요?

10년 전의 삶과 오늘의 삶은 굉장히 큰 차이가 있습니다. 오늘과 10년 후의 삶에도 굉장히 큰 차이가 있을 것이라 믿습니다. 인공지능이 폭발적으로 성장하는 시대에 기술로 사람들을 터치하는 일을 하는 것이란 가슴 뛰는 일이 아닐 수 없습니다. AI가 우리 삶과 사회에 투영되어 다양한 변화를 일으킬 때, 주요한 장벽이 되는 모델의 크기와 연산량 문제를 해소하고 싶습니다. 이를 통해 AI가 사람들의 삶을 윤택하게 만드는 일을 하고 싶습니다.

AI시대가 이렇게 급격하게 도래하게 될 줄은 10년 전만 해도 몰랐습니다. 불과 2년전만 해도 COVID-19로 전 세계의 인류가 새로운 시대에 직면하게 될 줄도 알 수 없었습니다. 그럴 때 과학기술의 발달은 우리를 변화에 적응할 수 있게 도와주고 있습니다. AI도 마찬가지입니다. 처음에 등장했을 때는 인류의 삶을 위협할 수 있는 기술이라고 생각한 적도 있지만 요즘에는 AI기술이 들어가지 않은 기기들이 없습니다. 이런 AI시대에서 AI솔루션 뿐 아니라 그런 AI를 돕는 AI모델 경량화 기술을 개발한 Nota라는 기업이 있습니다. AI 모델 경량화 기술로 국내 뿐 아니라 해외에서도 주목받고 CES2020-2021 연달아 소개되고, 해외에도 진출해있습니다. 온디바이스 AI 솔루션 기업 Nota의 앞으로의 일들을 기대합니다.

지금까지 Nota의 김태호CTO님을 만나보았습니다.