딥페이크 성범죄·환각 부작용이 드러나며 AI 윤리 중요성이 커지고 있지만 10월 현재까지 인증을 받은 기업은 4곳에 불과하다.
1일 본지가 지난 4년간 과학기술정보통신부 예산 및 기금운용계획 사업설명자료를 분석한 결과, 2021년부터 2024년까지 AI 신뢰성 기반 조성을 위해 편성된 예산은 137억 4600만 원이다. 그중 AI 신뢰성 검증 체계 마련 관련 사업...
증상이 심하면 환각과 망상이 동반된다. 치료는 약물, 전기‧전자극 또는 스트레스 대처 능력을 키우는 것이 있다.
우울, 불안 등 정신건강 문제는 흔하기 때문에 대수롭지 않게 넘어가는 경우가 있지만, 심혈관질환, 암, 각종 만성질환에 부정적 영향을 주기 때문에 적극 해결하는 것이 좋다.
학에서는 식이섬유 섭취량이 적으면 스트레스와 우울 등 정신건강의 악화...
이성범 미디어테크 담당은 “LLM을 쓰는 데 가장 걱정한 부분이 할루시네이션(환각)이다. 생성형 AI를 쓰면 없는 것도 지어서 만들기 때문에 이를 방지하기 위해 많은 노력을 했다”고 설명했다. 이 담당은 “SK브로드밴드가 가지고 있는 메타 데이터를 기반으로 외부에 신뢰할 수 있는 파트너의 데이터, 자체 검증할 수 있는 그라운딩 기술을 이용해 신뢰할...
해당 신규 서비스는 생성형 AI의 고질적 문제인 할루시네이션(환각) 현상을 최소화하는 데 효과적인 해결책을 제시할 것으로 기대된다.
비큐AI가 개발한 AI 검색 서비스는 자체 구축한 검색증강생성(RAG) 시스템을 기반으로 사용자가 의도한 검색 내용을 신속·정확하게 찾아주는 솔루션이다. 특히 비큐AI만의 문맥 검색 알고리즘이 적용돼 ‘오늘’...
최근 주목받고 있는 챗GPT와 유사한 기술이 적용되는데, 대규모 언어 모델은 ‘환각(hallucination)’이라는 치명적인 약점을 가지고 있다. 환각 증상은 실제로 존재하지 않는 정보를 마치 사실인 것처럼 생성하는 현상으로, 작년 미국에서 30년 경력의 변호사가 챗GPT의 환각으로 생성된 거짓 판례를 법원에 제출하여 벌금형을 선고받은 사례도 있다. 이처럼, 특허 심사...
이 중 6명은 환각 증상 등을 경험했다고 한다.
길 씨와 박 씨는 마약 음료를 마신 학생들의 학부모에게 전화해 돈을 뜯어내려 했지만, 학부모들이 경찰에 신고해 돈을 받아내지는 못했다.
1심은 길 씨에게 징역 15년을 선고하고 250만 원의 추징을 명령했다. 박 씨는 징역 10년에 10억6050만 원 추징, 김 씨는 징역 8년에 4676만 원 추징, 이 씨는 징역 7년을 선고받았다....
또 검색 결과에 대한 정확한 출처를 제공해 할루시네이션(환각현상)도 줄인 점이 장점이라고 덧붙였다.
글로벌 시장 조사 업체 ‘마켓앤마켓(Market and Market)’에 따르면 대화형 AI 시장 규모는 2030년까지 연간 24.9%의 평균 성장률을 기록하며 성장세를 이어갈 전망이다. 2024년 132억 달러(한화 약 17조5천만 원)에서 2030년 499억 달러(한화 약 66조 원)로 성장할...
그걸 술에 타 먹으면 환각이 온다고 한다”라며 “그 애들은 갑자기 환각이 보이는지 울거나 소리 지르고 창문에 매달렸다. 화장실 들어가서 자해하기도 했다. 제가 그걸 빼앗아서 버렸더니 담배로 지지더라”라고 전했다.
아영과 지아 역시 헤데 하우스에 가득한 약을 봤다고 전했다. 그럼에도 신고하지 못한 것에 대해 지아는 “다른 피해자들도 가만히 있는데 내가...
형광등 주변으로 개미 수천 마리가 돌아다니는 게 환각처럼 보였다. 3일 후 정신이 돌아왔다”라고 당시를 회상했다.
그러한 일이 발생한 뒤에도 몇 년간 농약을 직접 쳤다는 임현식의 말에 사위는 “농약을 치시는데 굳이 하지 않으셔도 되는데 직접 하셔야 하는 기준이 있다”라고 한탄했다.
오은영은 “요즘 쉬지를 못하고 뭔가 해야 하는 분들이 많다....
코오롱베니트와 새롬정보시스템은 왓슨x 기반의 AI 및 데이터 플랫폼을 온프레미스(on-premise) 서버에 구축해 동진쎄미켐의 고유한 지식 자산 유출을 물리적으로 차단하고, 생성형 AI 학습 대상을 플랫폼 내부 데이터로 제한해 범용 LLM(거대언어모델)의 한계인 환각 현상을 최소화할 예정이다.
코오롱베니트는 왓슨x를 기반으로 국내 엔터프라이즈 AI 시장 공략을...
특히 AI 모델의 데이터 학습 및 연동 범위를 회사 내부 시스템으로 한정해 범용 AI 모델에서 흔히 발생하는 환각(할루시네이션) 현상을 최소화했다. 코오롱베니트는 코아이봇의 데이터 탐색 및 답변 품질을 고도화하기 위해 정식 출시 전 한 달 간의 베타테스트 기간을 거쳤다.
향후 코아이봇은 임직원의 질문 유형에 따라 해당 업무에 필요한 사내 시스템 기능을 즉각...
우리나라가 AI 리더십 확보를 위해 발 빠르게 움직여야 한다는 지적이 나온다. IT업계 관계자는 “환각, 딥페이크 등 AI 발전에 따른 문제점도 같이 발생하는 상황에서 AI 경쟁은 이제 안전의 싸움이라고 봐도 될 것”이라며 “AI 기술을 국가안보와 직결되는 일종의 공급망 문제로 보는 인식이 확산되며 AI의 안전성을 확보하는 게 관건이 됐다”고 말했다.
벡터 DB는 생성형 AI의 고질적 문제점인 환각(Hallucination) 현상을 해결하는 검색 증강 생성(RAG)과 고객 중심의 맞춤형 AI 서비스를 구현하는데 핵심적인 기술이다.
에이뉴트는 AI 밸류체인 플랫폼 기업으로 데이터 생성 및 AI 모델 서비스 개발 전 조기에 대응이 가능한 기술 포트폴리오를 보유하고 있다. 에이뉴트가 공급 중인 독일 쿼드런트사의 ‘쿼드런트 벡터...
잘못된 정보를 학습해 없는 사실을 그럴듯하게 늘어놓는 AI 특유의 ‘할루시네이션(환각)’으로 인한 편향적이나 부정확한 분석이 이뤄질 수 있기 때문이다.
중앙은행들의 AI 의존도가 높아질수록 해킹 위험과 같은 외부 리스크도 커지게 된다. AI 시스템은 클라우드 시스템을 기반으로 하는데, 이 클라우드가 해킹을 당하게 된다면 정책 판단을 위한 객관적이고...
1월 종영한 드라마 '웰컴투 삼달리'는 딥페이크 기술로 '국민 MC' 송해의 젊은 시절을 재현했고, tvN 최고 시청률 기록을 쓴 '눈물의 여왕'은 생성형 AI로 주인공이 눈 덮인 자작나무 숲을 걷는 환각 장면을 연출했습니다.
이 밖에도 AI의 목소리와 진짜 가수의 목소리를 구분하는 음악 버라이어티 예능 KBS2 '싱크로유', 국내 최초 생성형 AI를 활용해 제작한 EBS...
원티드 LaaS는 특히 비 개발자도 쉽게 생성형 AI 서비스를 만들고 활용할 수 있는 것이 강점으로, △다양한 LLM 모델(Open AI, Anthropic, Google, Naver HyperClova, Upstage) △환각현상 제어를 위한 RAG(검색증강생성) 기능 △자동화된 테스트 환경 △ 프로젝트 및 프리셋 단위 상세한 토큰 사용량·비용 관리 등을 지원한다.
원티드랩은 대학생뿐만 아니라 교직원도 해당...
AI의 할루시네이션(환각)과 데이터 편향 문제에 대해 샤르마 총괄은 “리스크를 해결하기 위해 개발 단계에서부터 데이터 포인트별로 데이터를 보호할 수 있는 조치를 적용하고 있다”고 말했다.
끝으로 러셀 CRO는 “SAP는 30년 가까이 한국 시장에서 성장과 혁신을 함께한 것에 자부심을 느낀다”며 “앞으로도 한국 기업들이 글로벌 비즈니스 혁신을...
정보 유출 및 환각(AI가 부정확하거나 편향적인 정보를 사실인 것처럼 답변하는 것) 등 AI 활용에 따른 부작용 우려를 불식하려는 노력이다.
5일 업계에 따르면 이통3사는 자사 AI 서비스에 대한 인공지능 신뢰성 인증(CAT, Certification of Artificial Intelligence) 취득을 준비하고 있다. CAT는 한국정보통신기술협회(TTA)가 부여하는 민간자율 인증으로, AI...
김 CAIO는 “앨리비는 기업이 추구하는 가이드라인을 기반으로 답변하기 때문에 AI의 환각(할루시네이션)은 5% 미만”이라면서 “아예 다른 답변을 하는 경우는 없다”고 말했다.
임 대표는 “앨리비는 법률 업무 효율화에 집중했던 기능을 확대해 기업·기관·로펌 등의 비즈니스 의사결정을 지원하고 사업 전략 구축을 돕는 종합 B2B 솔루션으로 서비스 범위를...
최종 답변을 제공하기 전 신뢰할 수 있는 데이터에 근거한 정보인지 한 번 더 확인하는 ‘팩트체커’를 구축해 할루시네이션(생성형 AI가 주어진 질문에 대해 잘못된 응답을 출력하는 현상·환각 현상)을 최소화한 것도 특징이다. 로앤컴퍼니는 허위 정보 생성 방지와 관련한 3건의 특허를 출원했으며, 꾸준한 기술 고도화로 할루시네이션 ‘0%’를 달성하는 것이...
![[단독] 예산 수십억 원 들였는데 기업 참여 저조…'AI 신뢰 인증제'](https://img.etoday.co.kr/crop/200/125/2083761.jpg)
![스트레스‧우울 위험 낮추려면 ‘이것’ 섭취해야 [e건강~쏙]](https://img.etoday.co.kr/crop/200/125/2082376.jpg)
![[특허, 톡!] 특허심사 AI, ‘환각’ 조심해야](https://img.etoday.co.kr/crop/200/125/2078425.jpg)
![[중앙은행 게임체인저 AI] 파월 대신 챗GPT가?...“금리 결정 인간 몫이나 예측은 가능”](https://img.etoday.co.kr/crop/200/125/2054010.jpg)
!["귀신보다 무서워요"…'심야괴담회' 속 그 장면, 사람이 아니었다 [이슈크래커]](https://img.etoday.co.kr/crop/200/125/2053190.jpg)
!["원영 공주님도 들었다고?"…올가을 트렌드, '스웨이드'의 재발견 [솔드아웃]](https://img.etoday.co.kr/crop/300/170/2085060.jpg)
!['휘발유 33주만에 1500원대' 주유소 기름값 10주째 하락 [포토]](https://img.etoday.co.kr/crop/300/190/2085420.jpg)