이성범 미디어테크 담당은 “LLM을 쓰는 데 가장 걱정한 부분이 할루시네이션(환각)이다. 생성형 AI를 쓰면 없는 것도 지어서 만들기 때문에 이를 방지하기 위해 많은 노력을 했다”고 설명했다. 이 담당은 “SK브로드밴드가 가지고 있는 메타 데이터를 기반으로 외부에 신뢰할 수 있는 파트너의 데이터, 자체 검증할 수 있는 그라운딩 기술을 이용해 신뢰할...
생성형 AI의 한계로 꼽히는 ‘할루시네이션(정보 왜곡 현상)’도 획기적으로 낮췄다.
김 전무는 “예를 들어 고객이 ‘한국타이어를 써봤더니 주행 중에 낙엽 굴러가는 소리가 들린다’라고 썼다면 기존 방식으로는 이걸 데이터화하기 어려웠다”며 “하지만 지금 시스템으로는 이 글을 쓴 사람이 타이어의 소음에 대해 평가하고 있고 몇 점 정도의 점수를 주고 있다는...
이 기능은 할루시네이션 문제를 보완하고, 제공되는 법률 정보의 신뢰성을 강화하기 위해 새롭게 개발된 것으로, 관련 특허도 출원한 상태다. 이 외에도 로앤컴퍼니는 슈퍼로이어 알고리즘 최적화를 통해 답변 속도를 약 40% 단축했다.
김본환 로앤컴퍼니 대표는 “앞으로도 법률 AI 시장 저변 확대에 기여할 수 있는 다양한 활동을 펼치는 한편, 할루시네이션...
해당 신규 서비스는 생성형 AI의 고질적 문제인 할루시네이션(환각) 현상을 최소화하는 데 효과적인 해결책을 제시할 것으로 기대된다.
비큐AI가 개발한 AI 검색 서비스는 자체 구축한 검색증강생성(RAG) 시스템을 기반으로 사용자가 의도한 검색 내용을 신속·정확하게 찾아주는 솔루션이다. 특히 비큐AI만의 문맥 검색 알고리즘이 적용돼 ‘오늘’...
또 검색 결과에 대한 정확한 출처를 제공해 할루시네이션(환각현상)도 줄인 점이 장점이라고 덧붙였다.
글로벌 시장 조사 업체 ‘마켓앤마켓(Market and Market)’에 따르면 대화형 AI 시장 규모는 2030년까지 연간 24.9%의 평균 성장률을 기록하며 성장세를 이어갈 전망이다. 2024년 132억 달러(한화 약 17조5천만 원)에서 2030년 499억 달러(한화 약 66조 원)로 성장할...
각 회사는 AI로 막대한 분량의 자료를 분석 처리해 회계 오류 및 부정을 잡아내는 데 사용 중인데, 감사 분야만큼은 책임 소재, 정보 왜곡현상(Hallucination·할루시네이션)으로 인한 문제의 소지가 있어 완벽 적용은 시간이 소요될 전망이다. 아울러 생성형 AI 활용에 대한 각 회사의 홍보도 치열한 가운데, 사실과 다른 내용을 홍보하는 ‘웃픈(웃음+슬픔)...
특히 AI 모델의 데이터 학습 및 연동 범위를 회사 내부 시스템으로 한정해 범용 AI 모델에서 흔히 발생하는 환각(할루시네이션) 현상을 최소화했다. 코오롱베니트는 코아이봇의 데이터 탐색 및 답변 품질을 고도화하기 위해 정식 출시 전 한 달 간의 베타테스트 기간을 거쳤다.
향후 코아이봇은 임직원의 질문 유형에 따라 해당 업무에 필요한 사내 시스템 기능을 즉각...
잘못된 정보를 학습해 없는 사실을 그럴듯하게 늘어놓는 AI 특유의 ‘할루시네이션(환각)’으로 인한 편향적이나 부정확한 분석이 이뤄질 수 있기 때문이다.
중앙은행들의 AI 의존도가 높아질수록 해킹 위험과 같은 외부 리스크도 커지게 된다. AI 시스템은 클라우드 시스템을 기반으로 하는데, 이 클라우드가 해킹을 당하게 된다면 정책 판단을 위한 객관적이고...
기존 게시판 형태로 운영되던 업무 매뉴얼의 단점인 느린 검색 시간을 대폭 개선하고 검색증강생성(RAG) 기술도 적용해 오류 정보를 답하는 ‘할루시네이션’ 현상도 최소화했다. 지난달 28일 업무 매뉴얼 AI 챗봇 공개 후 원하는 정보를 찾고자 하는데 소요되는 시간은 한 건 당 수분에서 수초대로 90% 이상 단축됐다.
또 사내 업무용 협업툴에도 ‘챗GPT’를...
AI의 할루시네이션(환각)과 데이터 편향 문제에 대해 샤르마 총괄은 “리스크를 해결하기 위해 개발 단계에서부터 데이터 포인트별로 데이터를 보호할 수 있는 조치를 적용하고 있다”고 말했다.
끝으로 러셀 CRO는 “SAP는 30년 가까이 한국 시장에서 성장과 혁신을 함께한 것에 자부심을 느낀다”며 “앞으로도 한국 기업들이 글로벌 비즈니스 혁신을...
발표를 맡은 안기순 법률AI연구소장은 “슈퍼로이어 개발에 있어서 가장 주안점을 둔 것이 할루시네이션 최소화”라며 “이를 위해 검색증강생성(RAG) 기술을 활용해 답변 전 로앤컴퍼니의 방대한 법률 정보를 바탕으로 질문과 관련된 데이터를 찾아 생성형 AI에 참고 데이터로 제공해 답변하도록 하고 있다”고 설명했다.
김 대표는 “AI가 법조계의 판도를 뒤바꿀...
김 CAIO는 “앨리비는 기업이 추구하는 가이드라인을 기반으로 답변하기 때문에 AI의 환각(할루시네이션)은 5% 미만”이라면서 “아예 다른 답변을 하는 경우는 없다”고 말했다.
임 대표는 “앨리비는 법률 업무 효율화에 집중했던 기능을 확대해 기업·기관·로펌 등의 비즈니스 의사결정을 지원하고 사업 전략 구축을 돕는 종합 B2B 솔루션으로 서비스 범위를...
최종 답변을 제공하기 전 신뢰할 수 있는 데이터에 근거한 정보인지 한 번 더 확인하는 ‘팩트체커’를 구축해 할루시네이션(생성형 AI가 주어진 질문에 대해 잘못된 응답을 출력하는 현상·환각 현상)을 최소화한 것도 특징이다. 로앤컴퍼니는 허위 정보 생성 방지와 관련한 3건의 특허를 출원했으며, 꾸준한 기술 고도화로 할루시네이션 ‘0%’를 달성하는 것이...
한영섭 AI기술담당은 “할루시네이션(환각)을 줄이기 위해 AI 답변이 사실에 입각하는지, 꼭 필요한 정보를 제공했는지 확인하는 ‘세이프티 레이어’ 기술을 적용했다”고 설명했다.
LG유플러스는 메타와 익시를 활용한 세로형 릴스(쇼트폼 영상)도 제작할 예정이라고 발표했다. 기존 TV 소재로 제작된 영상을 디지털 플랫폼에 맞춰 변경하려면 추가 작업에...
ONE AI는 기업 내부 데이터를 안전하게 활용할 수 있도록 검색증강생성(RAG) 기술이 접목돼 할루시네이션(거짓 정보를 사실인 것처럼 생성하는 현상)을 최소화했다. 또 AI를 업무용 솔루션에 내재화한 덕분에 기업 데이터의 외부 유출 없이도 기업별 업무에 최적화된 결과를 제공할 것이라고 회사 측은 강조했다.
더존비즈온 관계자는 “기업의 핵심 업무...
챗GPT 출시 이후 AI 기술 혁신과 맞물려 할루시네이션(환각), 딥페이크, 가짜뉴스, 저작권 침해 등 악용 사례도 등장하자 AI 선진국들은 이미 발 빠르게 대응하고 있다. 정부도 지난해 세계 최초로 인공지능법을 마련하겠다고 외쳤지만 유럽연합(EU)이 세계 최초로 AI법을 통과시키고 미국 바이든 정부가 AI 행정명령을 내리는 동안 ‘인공지능 발전과 신뢰 기반 조성...
솔루어 엘엘엠옵스는 AI가 오답을 생성하는 할루시네이션(환각 왜곡) 현상 제거와 sLLM 테스트 기능도 제공한다. 채팅창에서 간단하게 완성도 테스트를 수행하도록 자동으로 질문을 생성한다. 또한, 사용자 친화적 환경(UI)과 경험(UX)을 지원한다.
사용자는 웹 화면에서 데이터를 선택 후 간편한 드래그 앤 드랍 방식으로 데이터 정제부터 모델 튜닝 및 테스트까지...
챗GPT 출시 이후 AI 기술 혁신과 맞물려 할루시네이션(환각), 딥페이크, 가짜뉴스, 저작권 침해 등 악용 사례도 등장하자 AI 선진국들은 이미 발 빠르게 대응하고 있다. 국내에서 인공지능산업 육성 및 신뢰 기반 조성 등에 관한 법률안이 국회 과학기술정보방송통신위원회 법안2소위를 통과한 채 1년 넘게 계류된 동안 유럽연합(EU)에서는 3월 세계 최초로 AI 기본법을...
월 구독 형태로 추가 계약을 체결할 경우 할루시네이션(환각) 문제를 해결할 수 있는 ‘실시간 뉴스 데이터’도 공급받을 수 있다.
‘거짓 답변’을 생성하는 할루시네이션 현상은 생성형 AI의 고질적 문제로 꼽힌다. 이를 해결하기 위해선 정기적으로 업데이트되는 최신 뉴스 데이터 등이 필수적으로 요구된다. 비큐AI가 ‘RDPLINE’을 SaaS 기반의 구독형...
본 제품은 대규모 언어 모델(LLM)의 단점인 ‘환각(할루시네이션) 현상’을 최소화하는 해결책으로 글로벌 AI 시장에서 주목받는 ‘RAG(검색 증강 생성·Retrieval-Augmented Generation)’에 문서의 AI 학습용 데이터를 제공하는 SDK(소프트웨어 개발 키트)다. 5월 글로벌 출시 후 최근 한컴이 투자한 스페인 AI 보안 설루션 기업 ‘페이스피(FacePhi)’의 네트워크와 글로벌...