할루시네이션 - 이투데이

검색결과 총29건

최신순 정확도순

한컴, 문서에서 AI 데이터 추출하는 ‘한컴 데이터 로더’ 글로벌 출시

최근 세계 AI 업계에서는 대규모 언어모델(LLM)의 단점인 ‘환각(할루시네이션) 현상’을 최소화하는 해결책으로 ‘검색 증강 생성(Retrieval-Augmented Generation·RAG)’ 기술이 떠오르고 있다. RAG는 특정 데이터베이스나 문서 집합으로부터 관련 정보를 검색(Retrieval)한 뒤 그 정보를 LLM에 적용해 적절한 답변으로 텍스트를 생성(Generation)하므로 실시간으로 정보가...

2024-04-18 09:31
네이버클라우드, ‘하이퍼클로바X’ 기반 원티드 LaaS 서비스 협력 업무협약

△생성형 AI 서비스를 쉽게 개발할 수 있는 환경 △다양한 LLM 모델 △동화된 테스트 환경 △프로젝트 및 프리셋 단위 상세한 토큰 사용량 관리 △할루시네이션 제어를 위한 검색증강생성(RAG) 기능 등을 구독 형태로 제공한다. 네이버클라우드 윤희영 상무는 ”하이퍼클로바X는 한국 특화 지식뿐 아니라 수학적 추론, 프로그래밍, 다국어 능력 등 다양한 영역에서...

2024-04-15 09:59
영역 넓히는 AI 챗봇 서비스…‘환각 현상’ 부작용 낮출 ‘RAG’ 기술 눈길

문제는 LLM 사용 시 필연적으로 발생하고 있는 할루시네이션(환각) 현상이다. 이 현상은 구체적인 출처를 제공할 수 없고 때로는 지식을 거짓 생성하는 등의 문제를 뜻한다. 이와 관련해 가장 주목받는 해결 방안은 RAG(검색 증강 생성) 기술이다. RAG는 LLM이 답변을 생성하기 전에 외부 데이터베이스에서 질문과 관련된 정보를 검색하는 과정으로 할루시네이션...

2024-02-10 06:00
더존비즈온, 한국생산성본부에 'AI 서비스' 최초 공급

기업에 불필요한 데이터가 적용되지 않아 생성형 AI의 문제로 지적되는 할루시네이션(거짓 정보를 사실인 것처럼 생성하는 현상)을 최소화하고 기업별 업무에 최적화된 결과를 제공할 수 있다. 더존비즈온은 기업 데이터 보안에 최적화된 AI 서비스를 제공한다는 것이 강점이라고 설명했다. 기존 AI 서비스는 업무용 솔루션과 결합되지 않은 채 독립적으로...

2024-02-07 15:20
씽크풀, AI 시대 증권사를 위한 AI통합지원시스템 출시

그러면서 “오랜 기간 축적된 경험으로 분석된 정제 데이터와 AI 투자금융 도메인 지식, 생성형 AI의 문제점인 할루시네이션(거짓 정보를 사실인 것처럼 생성하는 현상)을 최소화할 수 있는 검수 시스템, 증권사마다 다양한 조합이 가능한 모듈형 솔루션 등이 통합지원시스템의 장점”이라고 덧붙였다. 한편 씽크풀은 금융권 서비스 분야에서 유일하게 병역특례...

2024-02-01 10:00
비플라이소프트, AI 플랫폼 국내 주요 대기업향 공급 ‘실적 트리플 크라운 달성’

RDPLINE은 저작권 이슈 회피가 가능할 뿐 아니라, 초거대 AI에서 흔히 발생하는 환각 문제인 ‘할루시네이션’ 문제도 해결할 수 있다. 할루시네이션은 거짓 정보를 사실처럼 전달하는 오류 현상을 뜻한다. 이를 줄이기 위해 최근 AI 기업들은 ‘검색증강생성(RAG)’ 기술을 적극 도입하는 추세다. RAG는 답변 생성 전, 언론사의 뉴스 등 외부의 신뢰할 수 있는...

2024-01-31 10:26
한컴, GPT스토어 등록 추진까지...“AI 사업자로 진화 중”

특히 포티투마루의 솔루션은 기업별 도메인 특화가 가능해 답변 정확도를 높이고 AI 허위정보(Hallucination, 할루시네이션)를 최소화할 수 있을 뿐만 아니라 일반 AI 솔루션 대비 비용 효율이 높은 것으로 알려졌다. 이에 한컴뿐만 아니라 LG유플러스와 네이버클라우드, 하나은행 등 주요 기업들도 ‘시리즈 B’ 투자에 동참했다. 한컴은 이보다 앞서 지난...

2024-01-09 10:45
LG U+, AI 스타트업 ‘포티투마루’에 100억원 투자

특히 포티투마루의 솔루션은 기업별 도메인 특화가 가능해 답변 정확도를 높이고 AI 허위정보(Hallucination, 할루시네이션)를 최소화할 수 있을 뿐만 아니라 일반 AI 솔루션 대비 비용 효율이 높다고 LG유플러스는 설명했다. 이번 투자는 황현식 대표 연임 후 이뤄진 첫 투자다. LG유플러스는 AI 기반 고객센터인 AI컨택센터(AICC), 거대언어모델(LLM)과 관련한 B2B...

2024-01-07 10:08
“메타ㆍ알리바바 제치고 세계 1위”…업스테이지, 사전학습 LLM ‘솔라’ 공개

전 세계 500여 개의 오픈 모델들이 추론과 상식 능력, 언어 이해 종합능력 및 환각현상(할루시네이션) 방지, 대명사 참조 및 수학 해결 능력 등 6가지 지표의 평균 점수로 경쟁, 공신력 있는 순위가 매겨진다. 업스테이지의 솔라는 기업들이 활용하기 좋은 프라이빗 LLM을 위해 작은 크기로 구성됐다. 세계 최초의 107억 매개변수(10.7B)인 사전학습 모델이다....

2023-12-14 10:49
업스테이지-콴다, 수학 문제 푸는 AI 개발한다

하지만, 범용 모델의 경우 간단한 연산에서도 오류가 빈번하고, 특히 거짓 정보를 생성하는 ‘환각 현상(할루시네이션)’은 고질적인 문제로 지적된다. 이에 양사는 환각 현상은 줄이고 수학적 추론을 통해 문제 풀이와 해설까지 제공할 수 있는 특화 언어모델 ‘MathGPT(가칭)’ 고도화에 나선다. 이를 위해 업스테이지는 모델의 엔진과 파인튜닝을 맡고, 콴다는...

2023-11-15 13:25
한국타이어, AI 기반 전기차 고객 반응 분석 시스템 개발

해당 시스템은 생성형 AI의 최대 한계점으로 꼽히는 ‘할루시네이션(정보 왜곡 현상)’을 획기적으로 낮춰 수집된 데이터의 신뢰성을 강화한 것이 특징이다. AWS의 베드록 플랫폼을 통해 온라인에서 수집한 방대한 양의 VOC를 실시간으로 분석하고 이를 현업에서 즉시 활용할 수 있는 모니터링 시스템을 구축했다. 해당 시스템을 통해 전기차 고객의 다양한 니즈를...

2023-11-09 09:24
업스테이지, NH농협생명과 금융 AI 혁신 앞당긴다

특히, 개인정보 보호가 생명인 금융권 특성상 높은 보안성 보장과 잘못된 정보를 생성하는 ‘환각 현상(할루시네이션)’ 방지에 특화된 ‘프라이빗LLM’에 대한 수요가 급증하고 있다. 이러한 흐름 속에 업스테이지는 NH농협생명과 손잡고 △데이터 업무 효율화 및 AI 기술 내재화 방안 협업 △AI 기술 기반의 보험 밸류체인 업무 개선 △보험업에 특화된 AI 기술...

2023-10-31 16:22
KT ‘믿음’으로 초거대 AI 시장 도전장…“3년 내 매출 1000억 목표”

생성형 AI의 가당 큰 문제점은 ‘환각 답변(할루시네이션)’이다. KT는 이를 해결하기 위해 △도식화된 복잡한 문서도 모델이 정확히 이해할 수 있도록 변환하는 다큐먼트 AI △목표 도메인과 문서에 최적화된 최신 정보를 찾아내는 딥러닝 기술 서치 AI △원문에 근거한 응답만 생성하도록 강화학습을 적용한 팩트가드 AI를 적용했다. KT는 이번 믿음 출시를...

2023-10-31 14:34
생성 AI 시장에 도전장 내민 KT, 5대 영역서 B2B 사업 본격화

그간 생성형 AI가 산업현장에서 폭넓게 사용되는데 가장 큰 장애물로 여겨진 문제점은 바로 ‘AI의 환각 답변(Hallucination: 이하 할루시네이션)’이었다. KT는 이를 해결하기 위해 검색과 추론, 답변 모든 단계에서 신뢰성을 높일 세 가지 기술을 개발해 믿음에 적용했다. KT는 이번 믿음 출시를 계기로 기업전용 LLM 사업화, 새로운 AI 혁신 사업 발굴 등...

2023-10-31 10:00
[2024 테크 퀘스트] 최홍준 업스테이지 부사장 “프라이빗 LLM 시장 확대될 것”

최 부사장에 따르면 프라이빗 LLM은 기업의 내부 데이터만 활용해 보안을 강조하고, 거짓 정보를 생성하는 환각 현상(할루시네이션)을 최소화하는 데 최적화된 솔루션이다. 그뿐만 아니라 경량화된 모델로 저비용 고효율을 추구하면서 생성형 인공지능(AI) 시장의 대세로 떠오르고 있다. 업스테이지는 프라이빗 LLM을 금융업에 적극적으로 활용하고 있다. 실제...

2023-10-26 13:54
“운동하기 싫어 죽겠고 살찐 내 모습 보기 싫어”...네이버 큐:가 쓴 한편의 시

네이버는 베타 기간 할루시네이션(환각) 등 서비스 품질 개선과 기능 고도화를 거쳐 11월 네이버 통합검색에도 순차적으로 큐:를 접목해 네이버 서비스와의 연계를 더욱 강화해 나갈 계획이다. 네이버는 생성형 AI 검색 시대에도 기술을 통해 네이버 검색이 지켜온 철학과 가치를 극대화한다는 계획이다. 그간 네이버는 PC, 모바일 시대를 거치며 콘텐츠의 다양성과...

2023-10-02 07:00
[추석때 읽는 AI 트렌드④]프라이빗 LLM, 기업용 생성 AI 표준 제시

하지만 외부 클라우드 사용으로 데이터 유출 리스크와, 잘못된 정보를 생성하는 환각 현상(할루시네이션) 등의 문제점이 불거졌다. 실제로 애플, 아마존, 삼성전자 등에서 내부 임직원들에게 '챗GPT 경계령’을 내리는 등 보안 이슈로 도입을 꺼리는 기업들이 생겨났다. 이에 대항마로 프라이빗 LLM이 등장하면서 기업용 시장을 공략하고 있다. 프라이빗...

2023-10-01 05:00
업스테이지, NIA와 한국어 LLM 성능평가 리더보드 구축

즉, 해당 상식생성 기준을 통해 국내에서 가장 대표적인 할루시네이션의 예시로 평가되는 '세종대왕의 맥북던짐 사건' 등의 사례들도 크게 방지할 수 있어 한국어와 역사에 대해 더 적합한 모델을 평가할 수 있다는 평가다. 오픈 코-LLM 리더보드는 한국어 LLM 연구의 수준과 경쟁력을 높이고, 한국어 데이터의 양과 질을 개선하며, 한국어 LLM의 국제적 인지도를...

2023-09-25 09:24
네이버, 생성형 AI 검색 ‘큐:’ 출시…쇼핑·페이·플레이스 생태계로 연계

베타 기간 할루시네이션(Hallucination) 등 서비스 품질 개선과 기능 고도화를 거쳐 통합검색에도 순차 접목, 네이버 서비스와의 연계를 더욱 강화해 나갈 계획이다. 네이버는 생성형 AI 검색 시대에도 기술을 통해 네이버 검색이 지켜온 철학과 가치를 극대화한다는 계획이다. 그간 네이버는 PC, 모바일 시대를 거치며 콘텐츠의 다양성과 연결의 가치를 최우선으로...

2023-09-20 10:54
업스테이지 LLM '솔라', 오픈AI·구글·메타와 어깨 나란히

이는 생성형 AI의 고질적 문제로 지적되는 내부 데이터 유출 우려와 잘못된 정보를 제공하는 할루시네이션을 해결할 수 있는 대안으로 주목받고 있다. 업스테이지 솔라를 기반으로 한 프라이빗 LLM은 기업의 특성과 요구사항에 맞게 맞춤형으로 구축되며, 경량화된 모델 사이즈로도 더 뛰어난 성능을 제공할 예정이다. 이를 통해 기업들은 정확도와 보안을...

2023-09-18 09:20

1 2