한영섭 AI기술담당은 “할루시네이션(환각)을 줄이기 위해 AI 답변이 사실에 입각하는지, 꼭 필요한 정보를 제공했는지 확인하는 ‘세이프티 레이어’ 기술을 적용했다”고 설명했다.
LG유플러스는 메타와 익시를 활용한 세로형 릴스(쇼트폼 영상)도 제작할 예정이라고 발표했다. 기존 TV 소재로 제작된 영상을 디지털 플랫폼에 맞춰 변경하려면 추가 작업에...
ONE AI는 기업 내부 데이터를 안전하게 활용할 수 있도록 검색증강생성(RAG) 기술이 접목돼 할루시네이션(거짓 정보를 사실인 것처럼 생성하는 현상)을 최소화했다. 또 AI를 업무용 솔루션에 내재화한 덕분에 기업 데이터의 외부 유출 없이도 기업별 업무에 최적화된 결과를 제공할 것이라고 회사 측은 강조했다.
더존비즈온 관계자는 “기업의 핵심 업무...
챗GPT 출시 이후 AI 기술 혁신과 맞물려 할루시네이션(환각), 딥페이크, 가짜뉴스, 저작권 침해 등 악용 사례도 등장하자 AI 선진국들은 이미 발 빠르게 대응하고 있다. 정부도 지난해 세계 최초로 인공지능법을 마련하겠다고 외쳤지만 유럽연합(EU)이 세계 최초로 AI법을 통과시키고 미국 바이든 정부가 AI 행정명령을 내리는 동안 ‘인공지능 발전과 신뢰 기반 조성...
솔루어 엘엘엠옵스는 AI가 오답을 생성하는 할루시네이션(환각 왜곡) 현상 제거와 sLLM 테스트 기능도 제공한다. 채팅창에서 간단하게 완성도 테스트를 수행하도록 자동으로 질문을 생성한다. 또한, 사용자 친화적 환경(UI)과 경험(UX)을 지원한다.
사용자는 웹 화면에서 데이터를 선택 후 간편한 드래그 앤 드랍 방식으로 데이터 정제부터 모델 튜닝 및 테스트까지...
챗GPT 출시 이후 AI 기술 혁신과 맞물려 할루시네이션(환각), 딥페이크, 가짜뉴스, 저작권 침해 등 악용 사례도 등장하자 AI 선진국들은 이미 발 빠르게 대응하고 있다. 국내에서 인공지능산업 육성 및 신뢰 기반 조성 등에 관한 법률안이 국회 과학기술정보방송통신위원회 법안2소위를 통과한 채 1년 넘게 계류된 동안 유럽연합(EU)에서는 3월 세계 최초로 AI 기본법을...
월 구독 형태로 추가 계약을 체결할 경우 할루시네이션(환각) 문제를 해결할 수 있는 ‘실시간 뉴스 데이터’도 공급받을 수 있다.
‘거짓 답변’을 생성하는 할루시네이션 현상은 생성형 AI의 고질적 문제로 꼽힌다. 이를 해결하기 위해선 정기적으로 업데이트되는 최신 뉴스 데이터 등이 필수적으로 요구된다. 비큐AI가 ‘RDPLINE’을 SaaS 기반의 구독형...
본 제품은 대규모 언어 모델(LLM)의 단점인 ‘환각(할루시네이션) 현상’을 최소화하는 해결책으로 글로벌 AI 시장에서 주목받는 ‘RAG(검색 증강 생성·Retrieval-Augmented Generation)’에 문서의 AI 학습용 데이터를 제공하는 SDK(소프트웨어 개발 키트)다. 5월 글로벌 출시 후 최근 한컴이 투자한 스페인 AI 보안 설루션 기업 ‘페이스피(FacePhi)’의 네트워크와 글로벌...
최근 세계 AI 업계에서는 대규모 언어모델(LLM)의 단점인 ‘환각(할루시네이션) 현상’을 최소화하는 해결책으로 ‘검색 증강 생성(Retrieval-Augmented Generation·RAG)’ 기술이 떠오르고 있다. RAG는 특정 데이터베이스나 문서 집합으로부터 관련 정보를 검색(Retrieval)한 뒤 그 정보를 LLM에 적용해 적절한 답변으로 텍스트를 생성(Generation)하므로 실시간으로 정보가...
△생성형 AI 서비스를 쉽게 개발할 수 있는 환경 △다양한 LLM 모델 △동화된 테스트 환경 △프로젝트 및 프리셋 단위 상세한 토큰 사용량 관리 △할루시네이션 제어를 위한 검색증강생성(RAG) 기능 등을 구독 형태로 제공한다.
네이버클라우드 윤희영 상무는 ”하이퍼클로바X는 한국 특화 지식뿐 아니라 수학적 추론, 프로그래밍, 다국어 능력 등 다양한 영역에서...
문제는 LLM 사용 시 필연적으로 발생하고 있는 할루시네이션(환각) 현상이다. 이 현상은 구체적인 출처를 제공할 수 없고 때로는 지식을 거짓 생성하는 등의 문제를 뜻한다.
이와 관련해 가장 주목받는 해결 방안은 RAG(검색 증강 생성) 기술이다. RAG는 LLM이 답변을 생성하기 전에 외부 데이터베이스에서 질문과 관련된 정보를 검색하는 과정으로 할루시네이션...
기업에 불필요한 데이터가 적용되지 않아 생성형 AI의 문제로 지적되는 할루시네이션(거짓 정보를 사실인 것처럼 생성하는 현상)을 최소화하고 기업별 업무에 최적화된 결과를 제공할 수 있다.
더존비즈온은 기업 데이터 보안에 최적화된 AI 서비스를 제공한다는 것이 강점이라고 설명했다. 기존 AI 서비스는 업무용 솔루션과 결합되지 않은 채 독립적으로...
그러면서 “오랜 기간 축적된 경험으로 분석된 정제 데이터와 AI 투자금융 도메인 지식, 생성형 AI의 문제점인 할루시네이션(거짓 정보를 사실인 것처럼 생성하는 현상)을 최소화할 수 있는 검수 시스템, 증권사마다 다양한 조합이 가능한 모듈형 솔루션 등이 통합지원시스템의 장점”이라고 덧붙였다.
한편 씽크풀은 금융권 서비스 분야에서 유일하게 병역특례...
RDPLINE은 저작권 이슈 회피가 가능할 뿐 아니라, 초거대 AI에서 흔히 발생하는 환각 문제인 ‘할루시네이션’ 문제도 해결할 수 있다.
할루시네이션은 거짓 정보를 사실처럼 전달하는 오류 현상을 뜻한다. 이를 줄이기 위해 최근 AI 기업들은 ‘검색증강생성(RAG)’ 기술을 적극 도입하는 추세다. RAG는 답변 생성 전, 언론사의 뉴스 등 외부의 신뢰할 수 있는...
특히 포티투마루의 솔루션은 기업별 도메인 특화가 가능해 답변 정확도를 높이고 AI 허위정보(Hallucination, 할루시네이션)를 최소화할 수 있을 뿐만 아니라 일반 AI 솔루션 대비 비용 효율이 높은 것으로 알려졌다. 이에 한컴뿐만 아니라 LG유플러스와 네이버클라우드, 하나은행 등 주요 기업들도 ‘시리즈 B’ 투자에 동참했다.
한컴은 이보다 앞서 지난...
특히 포티투마루의 솔루션은 기업별 도메인 특화가 가능해 답변 정확도를 높이고 AI 허위정보(Hallucination, 할루시네이션)를 최소화할 수 있을 뿐만 아니라 일반 AI 솔루션 대비 비용 효율이 높다고 LG유플러스는 설명했다.
이번 투자는 황현식 대표 연임 후 이뤄진 첫 투자다. LG유플러스는 AI 기반 고객센터인 AI컨택센터(AICC), 거대언어모델(LLM)과 관련한 B2B...
전 세계 500여 개의 오픈 모델들이 추론과 상식 능력, 언어 이해 종합능력 및 환각현상(할루시네이션) 방지, 대명사 참조 및 수학 해결 능력 등 6가지 지표의 평균 점수로 경쟁, 공신력 있는 순위가 매겨진다.
업스테이지의 솔라는 기업들이 활용하기 좋은 프라이빗 LLM을 위해 작은 크기로 구성됐다. 세계 최초의 107억 매개변수(10.7B)인 사전학습 모델이다....
하지만, 범용 모델의 경우 간단한 연산에서도 오류가 빈번하고, 특히 거짓 정보를 생성하는 ‘환각 현상(할루시네이션)’은 고질적인 문제로 지적된다.
이에 양사는 환각 현상은 줄이고 수학적 추론을 통해 문제 풀이와 해설까지 제공할 수 있는 특화 언어모델 ‘MathGPT(가칭)’ 고도화에 나선다. 이를 위해 업스테이지는 모델의 엔진과 파인튜닝을 맡고, 콴다는...
해당 시스템은 생성형 AI의 최대 한계점으로 꼽히는 ‘할루시네이션(정보 왜곡 현상)’을 획기적으로 낮춰 수집된 데이터의 신뢰성을 강화한 것이 특징이다. AWS의 베드록 플랫폼을 통해 온라인에서 수집한 방대한 양의 VOC를 실시간으로 분석하고 이를 현업에서 즉시 활용할 수 있는 모니터링 시스템을 구축했다.
해당 시스템을 통해 전기차 고객의 다양한 니즈를...
특히, 개인정보 보호가 생명인 금융권 특성상 높은 보안성 보장과 잘못된 정보를 생성하는 ‘환각 현상(할루시네이션)’ 방지에 특화된 ‘프라이빗LLM’에 대한 수요가 급증하고 있다.
이러한 흐름 속에 업스테이지는 NH농협생명과 손잡고 △데이터 업무 효율화 및 AI 기술 내재화 방안 협업 △AI 기술 기반의 보험 밸류체인 업무 개선 △보험업에 특화된 AI 기술...
생성형 AI의 가당 큰 문제점은 ‘환각 답변(할루시네이션)’이다. KT는 이를 해결하기 위해 △도식화된 복잡한 문서도 모델이 정확히 이해할 수 있도록 변환하는 다큐먼트 AI △목표 도메인과 문서에 최적화된 최신 정보를 찾아내는 딥러닝 기술 서치 AI △원문에 근거한 응답만 생성하도록 강화학습을 적용한 팩트가드 AI를 적용했다.
KT는 이번 믿음 출시를...