많은 기업이 AI(인공지능)를 자신들의 비즈니스에 적용하기 위해 노력하고 있다. 특히 자체적으로 인공지능 모델을 개발하고 성능을 확인하는데 막대한 투자에 나선다. 하지만 실제로는 서비스에 적용하지 못하는 사례가 수두룩하다.

오세진 텐 대표는 이러한 AI 상용화에 요구되는 인프라 서비스를 제공하면 충분한 시장 가능성이 발생한다고 봤다. 특히 GPU 자원 관리기술을 구축해 AI가 본격적으로 도입될 수 있도록 도움을 주고 있다.

비즈니스 현장에서 AI 필요성 높지만 실효성은?

오 대표는 대기업 비즈니스 현장에서 AI를 도입하는 프로젝트를 수행한 경험이 있다. 이때 왜 AI 서비스 운영이 필요한지 알 수 있었다. 사람이 할 수 있는 사안이라고 하더라도 AI를 도입하게 되면 나타나는 퍼포먼스에서 막대한 차이를 보였다.

하지만 이러한 신기술인 AI를 비즈니스에 적용하기 위해서는 대기업은 도입부터 기능 개발, 컨셉 증명에만 막대한 예산을 편성해야 한다. 더불어 AI 서비스를 개발하고 난 이후부터 난관이 벌어지게 된다. 운영 인프라와 운영 시스템 구축에 드는 물적, 인적, 시간적 비용이 AI 기능 개발보다 더 많이 소요되기 때문이다. 결국 이는 AI 도입 자체를 포기하는 것으로 이뤄지게 된다. 자연히 중소기업에서는 예산 문제로 꿈도 꾸기 어렵다.

이러한 시장에서 오 대표는 AI MLOps 플랫폼을 제공하는 것에 니즈가 충분히 있다고 분석했다. 이에 누구나 쉽고 간단하게 AI를 구축하고 활용할 수 있는 도구와 환경을 만들고 이를 창업 아이템으로 선정해 활용하고 있다.

AI 플랫폼, 어떻게 작동할까

GPU 자원 운용 기술 기반 MLOps 플랫폼 AI Pub은 인프라 서빙부터 AI 모델 생성 및 프로덕션 배포까지 AI 비즈니스 도입에 필요한 도구와 서비스를 제공하고 있다. 코스터를 코어로 해 AI개발과 운영 업무를 지원하는 완전 관리형 서비스를 제공한다.

코스터는 쿠버네티스를 확장해 GPU 인프라 운용과 사용자 관리 기능을 강화한 컨테이너 플랫폼을 의미한다. 이를 통해 AI 고성능 인프라 자원 관리자의 관리 업무와 사용자의 개발, 배포 및 운영 업무를 편리하게 수행할 수 있는 UI를 제공하게 된다.

또한 GPU 자원을 최고의 효율로 활용할 수 있도록 하는 쿠버네티스를 기반으로 하는 확장 기능도 제공하고 있다. 엔비디아의 GPU 활용 기술과 넷앱의 스토리지 활용 기술을 연동하는 것으로 효율성이 향상된 편리한 UX 제공도 이뤄지고 있다.

하지만 이러한 플랫폼 개발도 순탄한 과정으로 이뤄지지 않았다. MLOps라는 것 자체가 AI의 학습과 운영을 통합 관리해 안정적으로 서비스를 제공하면서도 신속, 유연한 개발을 추구하는 문화와 방식을 가지고 있다.

그러다 보니 이 개념 자체도 최근 들어 구축되고 있는 만큼 창업 당시에는 필요성 자체를 느끼지 못하거나 뜻을 이해하지 못하는 상황도 벌어졌다. 그러다 보니 초기에는 사업 아이템의 필요성을 알리고 더불어 어떤 서비스를 제공하는지에 대해서 지속적인 설득을 해나가 이끌었다.

물론 어려운 상황도 있었지만 이를 버티게 한 것은 미래가 올 것이라는 믿음과 확신이다. 오 대표는 “내가 바라보는 미래가 올 것이라는 믿음과 확신 아래 지속해서 시장을 검증하고 확인하는 작업을 진행했다”며 “이제는 정확한 명칭도 있을 정도로 많은 사람이 인지하는 세상이 다가왔다”고 밝혔다.

플랫폼을 넘어 클라우드 서비스 형태로 고도화하고파

이제 막 용어가 정의됐다는 점에서 아직도 발전할 방법은 무궁무진하다고 해도 과언이 아니다. 특히 우리나라 AI 시장은 서비스 운영 시장으로 넘어가기 전의 단계에 이르고 있다. 이러한 AI 운영 시장이 열리는 때 빠르게 달릴 수 있도록 다양한 준비를 하고 있다는 게 오 대표의 전언이다.

특히 2020년 7월 법인 설립 이후로 이를 위한 준비에 박차를 가하고 있다. GPU의 유일한 강자인 엔비디아와 글로벌 스토리지 기업 넷앱과의 공식 파트너십 체결도 이러한 준비의 일환이다. 또한 팁스 프로그램 선정과 엔비디아가 매년 개최하는 GTC에서 탑 스타트업 프롬 코리아로 선정, 기술력을 인정받기도 했다.

현재는 인공지능 전문 기업 마인즈 랩의 AI TTS 서비스를 운영하는 서비스를 제공하고 있다. 또한 LG 전자의 AI 기술이 적용될 때 GPU 인프라를 제공하는 플랫폼 서비스를 지원하는 등 여러 기업과 학교, 연구기관에 서비스를 공급하고 있다.

오 대표는 “현재 AI Pub을 올해 인공지능 전용 레퍼런스 인프라 아키텍처로 구성하는 게 목표다”며 “미래에는 이를 클라우드 서비스 형태로 오픈해 다양한 기업에서 편리하게 사용할 수 있도록 하겠다”고 강조했다.

한편 고려대학교 세종산학협력단 창업지원센터는 유망 기업의 성장을 돕기 위한 다양한 솔루션을 제공하고 있다. 사업을 진행하면서 겪을 수 있는 다양한 문제를 해결하고 필요한 도움을 적극적으로 지원하는 중이다.

Fn투데이는 여러분의 후원금을 귀하게 쓰겠습니다.