그간 생성형 AI가 산업현장에서 폭넓게 사용되는데 가장 큰 장애물로 여겨진 문제점은 바로 ‘AI의 환각 답변(Hallucination: 이하 할루시네이션)’이었다. KT는 이를 해결하기 위해 검색과 추론, 답변 모든 단계에서 신뢰성을 높일 세 가지 기술을 개발해 믿음에 적용했다.
KT는 이번 믿음 출시를 계기로 기업전용 LLM 사업화, 새로운 AI 혁신 사업 발굴 등...
최 부사장에 따르면 프라이빗 LLM은 기업의 내부 데이터만 활용해 보안을 강조하고, 거짓 정보를 생성하는 환각 현상(할루시네이션)을 최소화하는 데 최적화된 솔루션이다. 그뿐만 아니라 경량화된 모델로 저비용 고효율을 추구하면서 생성형 인공지능(AI) 시장의 대세로 떠오르고 있다.
업스테이지는 프라이빗 LLM을 금융업에 적극적으로 활용하고 있다. 실제...
네이버는 베타 기간 할루시네이션(환각) 등 서비스 품질 개선과 기능 고도화를 거쳐 11월 네이버 통합검색에도 순차적으로 큐:를 접목해 네이버 서비스와의 연계를 더욱 강화해 나갈 계획이다.
네이버는 생성형 AI 검색 시대에도 기술을 통해 네이버 검색이 지켜온 철학과 가치를 극대화한다는 계획이다. 그간 네이버는 PC, 모바일 시대를 거치며 콘텐츠의 다양성과...
하지만 외부 클라우드 사용으로 데이터 유출 리스크와, 잘못된 정보를 생성하는 환각 현상(할루시네이션) 등의 문제점이 불거졌다. 실제로 애플, 아마존, 삼성전자 등에서 내부 임직원들에게 '챗GPT 경계령’을 내리는 등 보안 이슈로 도입을 꺼리는 기업들이 생겨났다.
이에 대항마로 프라이빗 LLM이 등장하면서 기업용 시장을 공략하고 있다. 프라이빗...
즉, 해당 상식생성 기준을 통해 국내에서 가장 대표적인 할루시네이션의 예시로 평가되는 '세종대왕의 맥북던짐 사건' 등의 사례들도 크게 방지할 수 있어 한국어와 역사에 대해 더 적합한 모델을 평가할 수 있다는 평가다.
오픈 코-LLM 리더보드는 한국어 LLM 연구의 수준과 경쟁력을 높이고, 한국어 데이터의 양과 질을 개선하며, 한국어 LLM의 국제적 인지도를...
베타 기간 할루시네이션(Hallucination) 등 서비스 품질 개선과 기능 고도화를 거쳐 통합검색에도 순차 접목, 네이버 서비스와의 연계를 더욱 강화해 나갈 계획이다.
네이버는 생성형 AI 검색 시대에도 기술을 통해 네이버 검색이 지켜온 철학과 가치를 극대화한다는 계획이다. 그간 네이버는 PC, 모바일 시대를 거치며 콘텐츠의 다양성과 연결의 가치를 최우선으로...
이는 생성형 AI의 고질적 문제로 지적되는 내부 데이터 유출 우려와 잘못된 정보를 제공하는 할루시네이션을 해결할 수 있는 대안으로 주목받고 있다.
업스테이지 솔라를 기반으로 한 프라이빗 LLM은 기업의 특성과 요구사항에 맞게 맞춤형으로 구축되며, 경량화된 모델 사이즈로도 더 뛰어난 성능을 제공할 예정이다. 이를 통해 기업들은 정확도와 보안을...
그러나 기업 내부 데이터 유출에 대한 우려, 잘못된 정보를 생성하는 환각 현상(할루시네이션) 등 생성형 AI의 고질적인 문제가 대두되며 이를 해결할 프라이빗 LLM이 대안으로 주목받고 있다. 프라이빗 LLM은 기업 내부 데이터만 학습해 정보 유출과 환각 현상을 방지하는데 특화된 솔루션이다.
업스테이지는 커넥트웨이브와 손잡고 업계 최초 프라이빗 LLM 구축에...
또 메타의 최신 대규모언어모델(LLM) ‘라마 2’보다 할루시네이션(AI의 허위 정보 생산)이 30% 적다고 주장했다.
텐센트의 훈위안은 최근 중국 기술 기업들이 AI 모델을 경쟁적으로 내놓는 가운데 출시됐다. 장제 텐센트 부사장은 “7월까지 중국에서 출시된 LLM이 130여 종”이라며 “AI 모델의 전쟁이 시작됐다”고 말했다. 앞서 지난달 말 중국 당국은 바이두...
바이브컴퍼니 관계자는 “기존 키워드 검색보다 빠르고 정확한 검색 결과로 업무 효율 증가를 기대할 수 있다”며 “챗GPT의 경우 데이터와 검색기록에 대한 보안 우려와 사실처럼 설명한 거짓 정보를 대답하는 할루시네이션 이슈가 있는데 이를 개선해 몇몇 기업과 공공기관에서 관심 두고 논의 중”이라고 말했다.
AI 검색 솔루션은 기존에 검색에 쓰이는 단어...
몸풀기를 마치고 본격 시장 선점에 나선 업스테이지는 생성 AI 시대 한계로 꼽힌 △최신성 부족 △할루시네이션(환각) △보안 문제 해소에 주목하고 프라이빗 AI 시장 개척에 승부수를 던졌다. 프라이빗 AI는 기업의 핵심 데이터 유출을 막고 환각 현상을 방지하는데 특화된 솔루션으로 AI 솔루션을 내재화하고자 하는 기업들로부터 각광받고 있다.
특히 130만...
코난테크놀로지가 17일 선보인 코난 LLM은 기업 전용 온프레미스 LLM으로 보안 우려를 줄이고 벡터 검색기반의 코난 서치를 적용해 잘못된 정보를 내놓는 할루시네이션(환각)을 최소화하는데 방점을 뒀다.
김영섬 코난테크놀로지 대표는 이날 서울 여의도 콘래드 서울에서 열린 기자간담회에서 “25년 간 인공지능 연구를 하면서 몇 번의 겨울을 감내하며...
전 세계 500여개의 오픈 모델들이 추론과 상식 능력, 언어 이해 종합능력 및 환각현상(할루시네이션) 방지 등 4가지 지표의 평균 점수로 경쟁, 공신력 있는 순위가 매겨진다. 현재 업스테이지는 73점을 돌파하는 모델을 배포, 세계 1, 2위 모델을 독식하고 있다.
1T 클럽은 한국어 데이터의 부족 문제 해결은 물론, 데이터 제공자와 모델 제작기업이 상생하는...
기업들이 특정 분야에 특화된 B2B 시장을 공략하는 이유는 AI의 가장 큰 문제로 지적된 정보의 부정확성과 할루시네이션(환각) 문제에 대한 리스크가 적기 때문이기도 하다.
여기에 전 세계적으로 표준화된 AI 규제가 나오지 않은 상황에서 B2C 서비스의 경우 대중에게 노출되기 때문에 악용될 가능성이 높은만큼 신규 서비스를 추진하는 기업 입장에서...
매일 수십개의 전세계 각국 대표 AI 모델들의 업데이트되며 치열한 경쟁이 이뤄지는 리더보드는 모델의 추론과 상식능력 뿐 아니라 언어이해 종합능력과 환각현상(할루시네이션) 방지 등 생성AI 평가에 꼭 필요한 4가지 지표의 평가 점수 평균으로 최종 순위를 결정한다.
챗GPT로 상징되는 거대언어모델, LLM은 많은 양의 텍스트 데이터를 학습 자연어 처리(NLP)...
또 AskUp이 답변한 정보의 출처까지 링크를 달아 챗GPT의 한계인 말을 만들어 부정확한 정보를 제공하는 할루시네이션(환각)을 보완하고, 이용자가 정보의 정합성을 쉽게 확인할 수 있도록 했다.
AskUp은 업스테이지가 오픈AI의 챗GPT를 기반으로 자사의 OCR 기술을 결합해 개발한 카카오톡 인공지능 챗봇이다. 사용자가 문서의 사진을 찍거나 전송하면 그...