국내 AI 스타트업 업스테이지는 롯데쇼핑과 업무협약을 체결하고 유통 특화 생성형 AI 서비스 개발에 나섰으며 IT 보안·인증 기업 라온시큐어의 구독형 생체인증 서비스는 일본에서 월 이용자 360만명을 돌파했습니다. 12일 IT 업계 새 소식들을 모아 봤습니다.
◇ 엔비디아, 추론 성능 가속화하는 새로운 소프트웨어 ‘텐서RT-LLM’ 출시
 |
| (이미지제공=엔비디아) |
텐서RT-LLM은 텐서RT 딥 러닝 컴파일러로 구성되며 최적화된 커널, 전처리와 후처리 단계, 멀티 GPU·멀티 노드 통신 프리미티브를 포함해 엔비디아 GPU에서 획기적인 성능을 제공한다.
이를 통해 개발자는 C++ 또는 엔비디아 ‘쿠다’에 대한 전문적인 배경 지식 없이도 최고의 성능과 빠른 사용자 정의 기능을 제공하는 새로운 대규모 언어 모델을 테스트할 수 있다.
텐서RT-LLM은 LLM이 발전함에 따라 오픈소스 모듈식 파이썬 API를 통해 사용 편의성과 확장성을 개선하고 쉽게 맞춤화할 수 있다. 파이썬 API는 새로운 아키텍처와 개선 사항의 정의·최적화·실행이 가능하다.
최근 메타가 출시한 언어 모델 ‘라마2’는 생성형 AI를 통합하려는 여러 조직에서 널리 사용되고 있다. 라마2에서 텐서RT-LLM은 A100 GPU에 비해 추론 성능을 4.6배 가속화할 수 있다.
데이터센터의 총소유비용(TCO)과 에너지 효율성도 개선했다. ‘GPT-J 6B’와 같은 소형 언어 모델에서 8배의 성능 속도 향상으로 A100 대비 총소유비용이 5.3배, 소비 에너지는 5.6배 절감했다. 라마2와 같은 LLM에서는 700억개의 파라미터를 사용하더라도 고객은 A100 기준 대비 4.6배의 성능 속도 향상을 실현한다. 이로써 총소유비용은 3배, 소비 에너지는 3.2배 절감할 수 있다고 회사 측은 강조했다.
텐서RT-LLM은 개별 가중치 행렬을 여러 디바이스에서 분할하는 모델 병렬 처리의 일종인 텐서 병렬 처리를 사용한다. 이를 통해 개발자의 개입이나 모델 변경 없이도 각 모델이 NV링크를 통해 연결된 여러 GPU와 서버에서 병렬로 실행돼 대규모 추론을 효율적으로 수행할 수 있다.
텐서RT-LLM은 현재 얼리 액세스 버전으로 제공된다. 보안, 안정성, 관리 용이성, 지원 등을 갖춘 엔터프라이즈급 AI 소프트웨어 플랫폼 ‘엔비디아 AI 엔터프라이즈’의 일부인 ‘엔비디아 네모 프레임워크’에 통합될 예정이다. 개발자와 연구자는 NGC의 네모 프레임워크 또는 깃허브의 소스 레포지토리를 통해 텐서RT-LLM에 액세스할 수 있다.
◇ 업스테이지, 롯데쇼핑과 생성형 AI 활용 업무협약 체결
 |
| 김성훈 업스테이지 대표(오른쪽)와 김상현 롯데쇼핑 총괄대표 부회장이 기념촬영을 하고 있다. (사진제공=업스테이지) |
양사는 이번 협약을 통해 향후 생성형 AI를 활용한 다양한 신규 서비스를 개발하고, 유통업계 특화 AI 개발을 위해 협력을 강화하기로 손을 맞잡았다.
롯데쇼핑은 내부 인프라를 활용해 사업모델 개발 및 운영을 지원하고, 업스테이지는 생성형 AI 관련 기술 자문 및 서비스를 제공할 계획이다. 또한, 롯데쇼핑은 업스테이지 ‘1T 클럽’에 참여해 고품질 한국어 LLM 구축을 통한 국내 LLM 독립 생태계 조성에 협력하기로 했다.
업스테이지와 롯데쇼핑은 롯데온을 통해 지속적인 협력을 진행하고 있다. 지난 6월 양사는 2년간의 협업을 통해 개발한 개인화된 AI 상품 추천 서비스를 도입, 최근 유통업계에서 새로운 트렌드로 자리매김한 고객 세분화된 관심사와 취향 맞춤의 ‘초개인화’ AI 추천 기술을 선도하고 있다. 업스테이지의 추천 AI 도입 후 롯데온의 구매전환율은 1월에 실시한 테스트에 비해 30% 증가, 효과를 입증한 바 있다.
앞으로 업스테이지는 GPT-3.5를 뛰어넘고 세계 1위를 차지한 세계 최고 생성형 AI 기술을 상용화, 데이터 유출 및 환각 현상(할루시네이션) 방지에 특화된 ‘프라이빗 LLM’ 시장 개척에 속도를 낸다는 구상이다.
김성훈 업스테이지 대표는 “롯데쇼핑과 유통 도메인 특화 생성형 AI 도입을 함께 해 기쁘다”며 “업스테이지는 세계 최고 프라이빗 LLM 기술력을 바탕으로 유통 등 다양한 산업군의 디지털 경쟁력 강화를 적극 지원할 것”이라고 밝혔다.
◇ 라온시큐어, 구독형 생체인증 서비스 日 월 이용자 360만명 돌파
 |
| (이미지제공=라온시큐어) |
라온시큐어가 지난 2020년 7월 일본에 출시한 구독형 생체인증 서비스는 자사의 FIDO 기반 다채널 사설인증 플랫폼 ‘터치엔 원패스’를 클라우드 기반 구독 형태로 제공하는 서비스다. 일본 출시 3개월 만에 30만 MAU를 기록하고 9개월 만에 100만 MAU를 돌파한데 이어 지난 8월 360만 MAU를 넘었다.
일본 시장은 코로나19 이후 금융기관과 핀테크 분야 및 공공기관 등을 중심으로 비대면 거래가 활성화되어 왔으며 클라우드 컴퓨팅 이용률이 급증하는 추세가 더해졌다. 이러한 시장 조사를 바탕으로 일본 시장에 터치엔 원패스를 클라우드 기반 구독형으로 제공하는 구독형 생체인증 서비스를 출시했으며 꾸준히 성과를 내고 있다.
이와 함께 라온시큐어는 전 세계 최초로 FIDO 얼라이언스의 기술표준 인증을 받은 바 있으며, FIDO 얼라이언스 보드 멤버사로 활동하며 글로벌 생체인증 분야를 주도적으로 이끌고 있다. 이 같은 검증된 글로벌 시장 입지도 일본 고객들의 호응을 얻는 데 긍정적으로 작용했다고 회사 측은 설명했다.
라온시큐어는 앞으로도 일본 금융기관과 핀테크 등의 분야에서 더 많은 구독형 생체인증 서비스 고객사를 확보해 나갈 계획이며, 금융기관 등을 대상으로 통합인증 플랫폼 ‘옴니원 원액세스’ 영업도 본격화할 방침이다. 국내 모바일 신분증 등의 성공사례를 활용해 옴니원 디지털 ID에 대한 일본 영업도 강화할 계획이다.
이순형 라온시큐어 대표는 “생체인증과 디지털 ID 선두주자로서의 역량을 활용한 해외 사업에서 지속적으로 결실을 내고 있다”며 “일본 구독형 생체인증 서비스 사업 순항뿐 아니라 인도네시아 정부 디지털 ID 도입 전략 컨설팅을 수주하는 등 여러 나라에서 좋은 소식들이 이어지고 있으며 앞으로도 인증 서비스 글로벌 리더로서의 입지를 굳건히 할 것”이라고 말했다.
박준영 기자 pjy60@viva100.com
