[2024 테크 퀘스트] 최홍준 업스테이지 부사장 “프라이빗 LLM 시장 확대될 것”

프라이빗LLM, 내부 데이터만 활용해 보안성 높이고 환각 최소화
경량화 모델로 저비용 고효율…보험ㆍ증권 등 금융업에 적용 가능

▲최홍준 업스테이지 부사장이 26일 서울 영등포구 중소기업중앙회 KBIZ홀에서 열린 이투데이 창간 13주년 기념행사 '2024 테크 퀘스트; 기술의 미래와 혁신에 대한 탐구'에서 발표를 하고 있다. '웹3.0의 창조적 파괴'를 주제로 이투데이가 주최하는 이번 행사는 미래 기술의 글로벌 기준을 가장 빠르게 제시하는 뉴노멀(New Normal) 예측의 장으로, 2024년 디지털 경제의 비전과 발전 전략을 제시한다. 고이란 기자 photoeran@

"국내 기업들의 비즈니스를 함께 해본 결과, 데이터 보안에 대한 중요성이 굉장히 높다. 고유의 특성을 반영해 달라는 니즈가 강하다.”

최홍준 업스테이지 부사장은 26일 서울 여의도 중소기업 중앙회 KBIZ홀에서 열린 ‘2024 테크 퀘스트’에서 “국내 소비자는 상품의 다양성과 기업 고유의 특성을 반영하는 것을 선호하고, 데이터 보안을 강조함에 따라 결국 기업의 도메인, 업무 중심의 프라이빗 대규모언어모델(LLM) 기반의 활용이 늘어날 것”이라며 이같이 말했다.

최 부사장에 따르면 프라이빗 LLM은 기업의 내부 데이터만 활용해 보안을 강조하고, 거짓 정보를 생성하는 환각 현상(할루시네이션)을 최소화하는 데 최적화된 솔루션이다. 그뿐만 아니라 경량화된 모델로 저비용 고효율을 추구하면서 생성형 인공지능(AI) 시장의 대세로 떠오르고 있다.

업스테이지는 프라이빗 LLM을 금융업에 적극적으로 활용하고 있다. 실제 한화생명과 생성형 AI 기반의 ‘보험 특화 챗GPT PoC’를 만들었다. 최 부사장은 “은행, 증권, 카드, 보험에서 AI 컨택센터, 보험 심사나 청구 처럼 선후업무 영역과 AI 기술과 서비스의 결합으로 인한 고객 경험의 변화를 이끌어낼 수 있을 것”이라고 내다봤다.

최 부사장은 초거대 LLM이 이용자의 검색 경험을 바꾸고, 기업들에게 필수가 될 것이라고 내다봤다. 그는 “과거에는 검색이 키워드 기반이었다면 지금은 대화가 이어지는 경험을 할 수 있다”면서 “AI의 기술을 빠르게 경험하고 적용하지 않으면 AI 격차, AI 경쟁력은 더욱 벌어질 것”이라고 말했다.

그는 이용자들이 초거대 언어모델을 잘 쓰기 위해서는 ‘질문’을 많이 해보라고 조언했다. 최 부사장은 “다양한 기업들에서 초거대 언어모델들을 만들면서, 이용자들이 챗GPT나 초거대 언어모델을 잘 쓰는 방법을 아는 게 중요해졌다”면서 “‘제로샷’처럼 질문과 답변에 대한 샘플을 알려주지 않고, 문제를 풀게 하는 등의 방식을 통해 다양한 질문을 하면서 초거대 언어모델을 많이 써 보는 게 사용자 입장에서 좋다”고 말했다.