2020년 하반기 Startup팅의 두번째 회사는 퓨리오사AI입니다. 이 날 퓨리오사AI는 런치톡에 이어서  Startup팅으로 함께 하였습니다. COVID-19의 영향으로  Zoom으로 진행하였습니다.
 

퓨리오사AI는  AI 시장에서 맞춤형 반도체 칩을 설계, 개발하고 있는 스타트업으로 네이버D2SF 등으로부터 총 100억원 대 이상의 투자를 유치했습니다. NVIDIA,Google에 견주어도 경쟁력이 있는 기업으로 성장하고 있습니다.
 

Startup팅은 퓨리오사AI에 대한 소개, 반도체칩 이야기, 하드웨어, 소프트웨어 파트를 나눠서 강연 및 질의응답으로 전개하였습니다.

 

이번 강연은 특별하게 대표님께서 회사에 대한 간단 소개를 하고 사전에 받았던 Q&A위주로 전개되었습니다. 관련된 질문이 나왔을 때, 설명을 덧붙여주시면서 퓨리오사AI와 반도체칩에 관란 이야기로 강연을 진행하였습니다.

 

첫 순서는 퓨리오사AI에 대한 소개를 중심으로 백준호 대표님이 강연을 시작하였습니다. 퓨리오사AI는 데이터 센터량 AI칩을 개발하는 회사로 창업한 지 2년 반 정도 되었습니다. 데이터 센터량 AI칩은 NVIDIA,Google과 유사한 것으로 보면 됩니다. 퓨리오사AI는 AI를 개발해서 제품까지 개발하고 있습니다.
 

반도체 칩은 개발하는 것도 쉽지는 않지만 보통 시중에서는  NVIDIA를 많이 사용하고 있기에 스타트업 반도체칩이 서기는 더 어려운 측면이 있습니다. 그러나 그러기에 개발이 된다면 경쟁력이 있고 국내시장을 보는 것이 아니라 글로벌 관점에서 접근하게 됩니다. AI반도체는 딥 뉴럴 네트워크를 가속화할 수 있는 개발을 하고 있는데 NVIDIA, 퀄컴,인텔 등의 기업들도 처음부터 대기업으로 시작한 것이 아니라 스타트업으로 시작했습니다. 현재는  AI가 새롭게 등장하고 주요 요소로 떠오르고 있기에 관련 스타트업이 많이 등장할 수밖에 없다고 합니다. 퓨리오사AI는 이러한 시점에서 충분히 가능성이 있고, 스타트업이 성공할 수 있는 분야라고 생각한다고 말하였습니다.

 

백준호 대표님은 퓨리오사AI에 대해 간략한 설명을 한 후, 줌으로 학생들에게 사전질문과 실시간 질문들을 받으며 프로그램을 진행하였습니다. KAIST학생들의 관심분야라 사전질문뿐 아니라 실시간 채팅으로 질문들이 쏟아졌습니다. 기억에 남는 질문 몇가지는 아래와 같습니다. AI Chip 관련 연구, 개발을 하는데 있어, 학부생으로서 공부해야할 가장 중요한 부분은 무엇이라고 생각하냐는 질문이었습니다. 이에 답변은 AI칩을 개발한다는 것은 미세공정을 타겟으로 하는 개발을 포함합니다. 기본개념을 학교에서 배우는 것을 바탕으로 열심히 공부하고 반도체칩을 만드는 연습을 하는 것이 중요한데 퓨리오사는 칩을 직접 만들고 설계까지 한다고 말했습니다.
 

다음 질문은 fab-less 사업을 하기에 국내 환경이 해외에 비해 상대적으로 열악하다는 의견이 있는데, 실제로 스타트업을 이끄시면서 해외에 비해 아쉬운 점을 느낀 적이 있으신지 궁금합니다. 라는 것이었습니다. 국내의 환경은 팹리스사업은 미국이나 한국이나 본질적으로 힘든 사업입니다. 글로벌 제품이기에 국경에 제한이 없기에 글로벌 사업으로 전개해야 합니다. 반도체칩이 좋기만 하면 글로벌 시장에서 경쟁력이 있다고 생각한다고 말씀해주셨습니다.
 

현재 퓨리오사는 반도체 위주의 회사이지만 소프트웨어 60% 하드웨어 40% 근무하고 있습니다.
 

AI칩은 진입장벽이 높은데, 어떤 계기로 이러한 사업목표를 가지게 되었는지에 대한 질문도 있었습니다. 이에 반도체 사업쪽을 뛰어들게 될 지는 사실 몰랐지만 개인적으로 2014년 병가를 냈을 때, AI에 대해 공부를 하며 종합적인 학문으로 생각이 되고 이미 학교에서 아키택처, 신호처리 등을 학습을 해왔었던 상태였습니다. 회사 복귀 후 퇴직을 하면서 AI반도체가 기회라고 생각하고 주변인들과 시작을 하면 가능성이 있다 생각하여 시작하게 되었다고 합니다. 역시 자신이 해왔던 전문적인 일을 계속 하다보면 그 쪽으로 길이 열리게 마련입니다. 초기팀 빌딩의 경우는 김한준CTO님과는 한국에서 함께 일을 했었고 다른 분들은 지인들의 소개 등으로 시작을 했습니다. 대표님이 생각하기에는 어쩌면 같이 일해보거나 지인들의 추천이 가장 검증된 방법일지도 모른다고 합니다. 현재, 퓨리오사AI는 30명이상의 직원들이 근무하며 구성원들은 삼성,  KAIST,서울대, 포항공대,MIT 졸업생 등 실력있는 분들이 조인하여 함께 일하고 있습니다. 사업을 하며 중요한 것은 아이디어링, 목표는 높게 그러나 현실적인 목표로 잡는 것이 중요하고 크기에 따라 회사가 결정할 수 있는 힘이 생긴다고 봅니다
 

Q&A를 진행하면서 퓨리오사AI에 대해 매력을 느끼는 참가자들도 많았던 것 같습니다. 퓨리오사AI에 입사하기 위해서는 근본적인 테크놀로지를 가지고 있고, 열정이 있는 사람으로 실제 GPU를 만들고 싶은 생각, 엔지니어링 프로세스 경험 축척하고자 하는 사람은 누구나 환영한다고 덧붙이였습니다.

 

두번째 강연은 아키택처를 담당하고 있는 김한준 CTO님의 하드웨어 쪽 강연이었습니다. 김한준 CTO님은 KAIST 전산학과 학사, 석박사 통합과정으로 졸업했습니다. 강연은 크게 아래와 같았습니다.
 

What problems are we trying to solve?
 

We need a programmable architecture for deep learning
 

• New deep learning algorithms can be optimized on it
• Provide a good abstraction to tools & algorithms
• Should be based on a fundamental understanding of algorithm, architecture, compiler, and system

New methodology, team, and infrastruture are necessary
 

먼저 10년 정도 공부를 하며 어떤 문제를 풀 것인가 에 대한 고민이 가장 컸다고 하며 세상에서 필요로 하는 문제를 풀고 싶어하는 마음이 커서 컴퓨터 아키택처를 공부하게 되었습니다. 그 분야는 인텔CPU나 GPU같은 칩을 설계하는 과정입니다. 공부한 논문들을 구현해도 인텔에서 나오는 성능이 나오지 않음을 보며 인텔CPU 안에 아키택처가 훨씬 더 정교하게 되어 있는거구나를 깨달았습니다.
 

그렇게 약 10년의 공부를 마치고 회사에 입사하니 실질적인 문제들에 부딪치게 되며 문제해결을 위해 시스템을 만들게 되었습니다. 김한준CTO님은 선행연구를 하며 전반적으로 사회에 도움이 되는 문제해결을 위해 나아갔습니다. AI칩을 만들기 위해서는 생각보다 많은 노력이 필요한데 Archhitecture, Compiler&Tools software stack, Deep learning Algorithm, Network Architecture Search, Board & System, chip 등 모든 것이 어울러져서 AI칩을 만들 수 있음을 알게 되었습니다. amp lab에서 spark라는 물건을 만들어서 세계적으로 엄청난 충격을 주기도 한 것처럼 김한준CTO님은 세상에 임팩트 있는 문제를 해결하고 싶었고 KAIST후배들도 그런 일을 하면 좋을 것 같다고 추천하였습니다.
 

전반부는 김한준CTO님의 철학이 담겼다면 후반부는 Challenges in Architecture에 대해 설명하였습니다. 아래는 강연 내용의 대한 간략 요약입니다.
 

• Pursuing the best computational structure
• how to build chip for deep learning

여러 알고리즘들이 나오면서 점차 발전을 하고 있지만 모든 알고리즘 사이에서 10배 이상 성능의 차이가 나는 경우도 있습니다. 알고리즘을 얼마나 빨리 돌릴 수 있는가가 중요할 수 있습니다. 과거에 만들던 속도로는 알고리즘 발전속도를 따라갈 수 없고, 하드웨어가 섬세하게 셋팅이 되어있지도 않습니다. 이러한 문제를 해결하기 위해서는 어떤 Accelerator Architecture가 있을 때 충분히 configurable 하고 모든 알고리즘에 대해서 최대한 트랜지스터를 활용하려고 해야합니다. 알고리즘은 계속해서 새로 나오기에 아키택처가 정확하게 특화되어 있는 것이 아니라 딥러닝 알고리즘을 정확히 이해하는 데서 아키택처를 설계하고 compiler해서 설계해야 합니다. 컴파일러에 들어가는 여러 업무들이 속해있는데 엄청난 엔지니어링이 필요합니다. 반면 아키택처는 좋은 하드웨어 abstraction을 제공해야 합니다. 단순히 성능을 가속화하는 데 집중하는 게 아니라 소프트 스텝을 설계하고 하드웨어에서 어떻게 설계해야 할 지 고민하는 것이 필요합니다.
 

Conventional Chip Development Methodology는 1.5년~2년 정도가 필요하지만 요즘에는 새로운 알고리즘의 속도가 빨라지고 있습니다.
 

Software Architecturing/Implementation-Physical Design/Manufacturing-Verification-RTL Implementation-Performance Modeling/Architecturing
 

알고리즘이 변화함에 따라 프레임워크가 바뀌고 아키택처와 컴파일러까지 종합적으로 바뀌고 있는 상황입니다. 과거에 팹리스에서 IPU를 만드는 것과는 다른 문제가 있는 것이고 종합적으로 같이 이루어져야 한다고 생각합니다. AI 칩을 만들 때는 Methoology, Team, Infrastructure이 중요하다고 말하며 마무리하였습니다.

 

두번째 김한준CTO님이 하드웨어를 설명하였다면 세번째 시간은 소프트웨어팀의 이야기였습니다. 소프트웨어팀의 하재승 님은 넥슨, NC SOFT, 네오플에 근무했고 게임개발 경력 10년차입니다. 독특하게 셀프 Q&A형식으로 강연을 진행하였습니다. 게임회사 다니던 사람이 왜 칩 만드는 회사를 들어왔는지에 대한 질문을 많이 받는데 이에 퓨리오사AI의 비전이 딥러닝이 앞으로 더 활용될 것으로 보이고, 딥러닝 가속기는 반드시 필요한 기술로 생각이 들었고 업무도  성능, 테스트 환경, 시연 등은 연관이 있었기에 이직을 하게 되었다고 합니다. 하드웨어 개발 회사에서 소프트웨어 개발팀으로는 무슨 일을 하는가에 대한 질문에 대해서는 딥러닝과 관련된 소프트웨어이기도 하고 딥러닝 가속기용 컴파일러를 만들고 있습니다. 이러한 단계를 거쳐 최적화된 성능을 만드는 등의 개발하고 있습니다.

 

SDK지원을 하는데 텐서플로우 파이토치를 연동시켜 딥러닝 개발환경과 매끄럽게 연동되게 만들고 있습니다. 또한, 중요한 것은 Neural Architecture Search가 중요한데 같은 일을 하는 더 작고 빠른 모델을 찾는 방법에 대한 연구를 함께 진행합니다. 지금의 딥러닝 개발 환경에서 소프트웨어가 없다면 좋은 칩이 있다고 해도 그것을 활용할 수 있는 소프트웨어 스택이 필요합니다. 파이썬 바인등 만들기, 기타연구 참여 등 여러 소프트웨어 관련 업무를 담당하고 있습니다. NVIDIA RTX와 견주어도 퓨리오사 딥러닝 가속기는 성능이 뒤지지 않습니다. 만들어진 아키택처를 소프트웨어로 개발하는 것도 중요한 문제라고 덧붙였습니다.
 

하재승님은 퓨리오사를 다니면서 스타트업이라 자유로운 분위기, 도전의 기회가 많아서 좋고 정말 똑똑한 사람들이 모여있는 회사라 좋다고 회사를 말합니다. 또한 퓨리오사AI에서는 중요하고 가치있는 문제를 풀 수 있으며 인공지능 발전에 제일 중요한 역할을 할 수 있는 일을 할 수 있는 곳이고, NVIDIA, Google과 겨룰 수 있다는 점이 강점이라고 덧붙이며 강연을 마무리하였습니다.

 

하재승 님의 강연이 끝난 후 실시간 Q&A가 이어졌습니다. 직접 마이크를 켜고 질문을 하는 경우도 있었고, 채팅창에 질문을 하는 경우도 많았습니다. 대표적인 질문이 퓨리오사가 NVIDIA와의 경쟁 속에서 어떤 전략이 있는지에 대한 질문이었습니다. 이에 대표님은 구글 GPU, 테슬라도 자체 개발 중 NVIDIA보다 성능 좋은 딥러닝 가속기는 개발될 것이다. 그러나 모든 회사가 칩을 다 만들 수는 없고 퓨리오사는  네이버, 카카오처럼  customise칩을 요구하는 회사들은 많기에 그들의 니즈를 충족시켜줄 수 있다고 생각한다고 말했습니다. 칩을 한 번 개발하는데 생각보다 큰 예산이 필요하기에 스타트업들이 살아남기가 쉽지 않을 수 있지만 경쟁력을 갖추면 충분히 투자 등을 유치하여 가능하다고 말합니다.
 

강연을 들으며 퓨리오사AI 인턴십에 대해 관심을 갖는 참가자들도 많음을 보았습니다. 퓨리오사AI에 대한 인턴십 프로그램도 있으니 참가자분들이 관심 뿐 아니라 적극적으로 참여하길 바랍니다. 인턴십 프로그램에 대한 내용은 추후 신청자에 한해, 추후 메일로 발송드릴 예정입니다.
 

퓨리오사AI와 함께한 스타트업팅은 온라인이지만 참가자들이 끝까지 자리를 지키고 실시간으로 소통이 원활하게 이어지는 시간이었습니다. 참가한 학생들이 관심이 많은 분야로 보이고, 백준호 대표님을 비롯한 전문가들이 직접 현장에서 쓰이는 용어나 모습들을 설명하며 이야기를 하니 참가자들이 이해하기 좋고 관심이 더 높아짐을 보았습니다. 퓨리오사AI는 창업 2년만 AI반도칩 계에서는 잘 알려지고 NVIDIA, Google에 견줄 수 있는 기업으로 성장했습니다. 앞으로의 발전이 기대되는 곳입니다. 영화 매드맥스의 퓨리오사에서 이름을 따온 것처럼 AI반도체 업계에서 주역으로 떠오르는 기업이 되길 바랍니다.
 

온라인이지만 장시간동안 스타트업팅에 참여해주셔서 감사합니다. 다음번 스타트업팅도 기대해주세요:)