최근 세계 AI 업계에서는 대규모 언어모델(LLM)의 단점인 ‘환각(할루시네이션) 현상’을 최소화하는 해결책으로 ‘검색 증강 생성(Retrieval-Augmented Generation·RAG)’ 기술이 떠오르고 있다. RAG는 특정 데이터베이스나 문서 집합으로부터 관련 정보를 검색(Retrieval)한 뒤 그 정보를 LLM에 적용해 적절한 답변으로 텍스트를 생성(Generation)하므로 실시간으로 정보가...
삼성SDS는 공공분야에서 생성형 AI를 활용하기 위해서는 공공 행정 용어에 대한 이해와 답변의 신뢰도가 중요하다며, 패브릭스는 언어모델의 학습/배포가 용이하고 환각 현상도 최소화하는 등 공공분야에서 큰 강점을 가진다고 설명했다.
이어지는 발표에서 삼성SDS는 ‘디지털플랫폼정부를 위한 삼성 클라우드 플랫폼(SCP)’을 주제로 효과적인 공공...
성준현 상무는 "챗 에이전트는 유플러스 서비스에 데이터가 최적화된 것이 장점"이라면서 "자사 데이터와 LLM 기술을 사용해 고객 개인정보 및 데이터를 안전하게 처리하고, 챗GPT를 사용했던 기존 챗봇 대비 환각 효과를 최소화해, 없애려는 수준까지 가려고 한다"고 말했다.
특히 LG유플러스의 생성형 AI 모델 ‘익시젠(ixi-GEN)’을 챗 에이전트...
위티는 부토기 론칭에 앞서 20만 개 이상의 매물 및 공간 특성 데이터와 최신 부동산 정보 데이터를 학습시켰으며, 이용자는 부동산 관련 질문에서 허위 정보를 제공하는 ‘환각(Hallucination) 현상’ 없이 정확한 답변을 받을 수 있다.
부토기는 부톡 앱과 PC버전에서 만나볼 수 있으며 PC버전의 경우 매물 추천 기능을 이용하려면 우측 상단 배너를 누르면 된다. 현재 매물...
홍해인은 백현우와 떨어져 사냥하러 갔고 백현우는 자신의 사냥 영역에 들어온 윤은성과 마주했다.
백현우는 자신의 영역에 있는 고라니를 사냥하려는 윤은성을 방해한 뒤 “자기 영역 아닌 곳에서는 아무것도 하시면 안 된다”라고 경고했다.
홍해인은 사냥 중 또 한 번 환각에 시달렸다. 덩치 큰 짐승이 홍해인을 덮치려던 순간 백현우가 나타나 짐승에 총을 쏴 구했다.
2일 인천 서부경찰서는 화학물질관리법상 환각물질흡입 혐의로 남성 A씨(20대)을 구속했다고 밝혔다.
이날 오후 김지후 인천지법 부장판사는 A씨에 대한 구속 전 피의자 심문(영장실질심사)을 진행한 뒤 “도주할 우려가 있다”라며 구속영장을 발부했다.
A씨는 지난달 28일 오후 인천시 서구 가좌동 도로에서 흡입을 목적으로 차량 내에 휴대용 부탄가스통을...
최근 챗GPT를 위시한 생성형 AI 서비스가 혁신의 촉매제로 각광받고 있지만, 기업 정보 유출과 왜곡된 정보를 생성하는 ‘환각 현상’은 고질적인 문제로 지적된다. 특히, 고객 개인 정보와 컴플라이언스 등 보안이 생명인 금융권에서는 생성형 AI 접근 및 활용이 제한적이다.
이에 4사는 MOU를 체결하고 금융 맞춤형 생성형 AI 환경을 구축하는 한편, 기업 내부 데이터...
☆ 유머 / 검증하라
정신병원에 온 청년이 환각에 시달린다고 호소했다. 의사가 그 청년을 진찰대에 눕히며 “지금은 뭐가 보입니까?”라고 묻자 창 쪽을 보며 숨이 넘어가는 소리로 “예쁜 간호사가 옷을 다 벗고 있어요”라고 했다.
의사가 얼른 청년을 일으키며 한 말.
“비켜봐! 나도 한번 누워보게.”
채집/정리:조성권 국민대 경영대학원 객원교수, 멋있는 삶...
22일 무인 카페에서 난동 부린 뒤 폭설 내린 시내로 나와 서울중앙지법 24일 영장 발부
마약에 취해 환각 상태에서 웃통을 벗고 강남 한복판을 활보한 30대 작곡가가 구속됐다.
26일 연합뉴스에 따르면 서울 강남경찰서는 마약류관리법 위반과 재물손괴 혐의로 작곡가 최모(39)씨를 구속했다.
최씨는 앞서 22일 새벽 필로폰을 투약하고 강남구 삼성동의 한 무인 카페에서...
매개변수 수가 적어 연산 작업이 단축된 만큼 답을 얻는 시간도 짧고, 필요한 정보만 선별적으로 학습시킬 수 있어 환각 현상을 줄일 수 있다는 장점도 있다.
한 AI 업계 관계자는 “기업들이 비용뿐만 아니라 보안 측면에서 LLM보다 sLLM을 선호하는 편”이라면서 “모델로부터 답변을 얻기 위해서는 회사 정보를 입력해야 한다. 이에 보안 유지를 위해 사내...
21세기 문명의 특정 지질층에 매장되어 있는 화석 에너지에 전적으로 의존하고 있듯, 영화 속 ‘듄’에 매장된 환각제 ‘스파이스’도 전 우주가 움직이는 데 결정적인 물질입니다.
결국 아라키스 행성의 스파이스는 행성을 둘러싼 전 우주적 차원에서 별들의 전쟁의 도화선이 되는데요. 스파이스를 가졌지만, 그 때문에 강력한 행성들의 식민지로 전락한 사막 민족...
증상이 심할 땐 환각과 망상을 경험하기도 한다. 조증‧경조증 삽화일 때 행동이 극적이어서 주목을 받지만, 실제로는 우울 삽화가 더 길고 괴로운 경우가 많다.
국내 양극성 장애 환자는 꾸준히 늘고 있다. 11일 건강보험심사평가원 질병소분류(3단 상병)통계를 보면 ‘양극성 정동장애(F31)’ 진료인원(입원·외래)은 2018년 9만4129명에서 2019년 10만5522명에서 1년새 1만...
김진 연구원은 "허위 정보를 설득력 있게 보이는 정보로 생산하는 환각(Hallucination)이나 편향이 발생하는 등 생성형 AI의 신뢰성을 높이는 것이 중요한 과제"라고 했다. 챗GPT의 환각현상은 현재 20~25% 수준으로 알려졌다.
김영준 연구원도 "인터넷 등에 있는 잘못된 정보를 받아들일 수 있고 복잡한 금융용어 및 개념 등을 이해하는데 어려움을 겪을 수...
문제는 LLM 사용 시 필연적으로 발생하고 있는 할루시네이션(환각) 현상이다. 이 현상은 구체적인 출처를 제공할 수 없고 때로는 지식을 거짓 생성하는 등의 문제를 뜻한다.
이와 관련해 가장 주목받는 해결 방안은 RAG(검색 증강 생성) 기술이다. RAG는 LLM이 답변을 생성하기 전에 외부 데이터베이스에서 질문과 관련된 정보를 검색하는 과정으로 할루시네이션...
SK C&C는 생성형 AI 도입으로 인한 비용 증가, 정보오류 및 환각, 내부 데이터 유출 등과 같은 우려도 없앴다.
차지원 SK C&C G.AI그룹장은 “생성형 AI는 현재 기업 내에서 일어나는 모든 업무 영역을 재창조할 수 있는 잠재력을 보유하고 있다”며 “기업들이 SK C&C의 맞춤형 생성형 AI 서비스를 활용하면 구성원들이 효율적으로 업무에 활용할 수...
양진영 법무법인 민후 변호사는 “(현재 AI는) 법리가 부족해서 환각 현상이 일어난다 생각한다. 판례뿐만 아니라 법리를 익혀야 할 것”이라며 “AI가 상담에 대한 결과를 못 내놓더라도, 절차에 대해서는 알려줄 수 있을 것이고, 법조인 입장에서 신입 변호사들도 쟁점을 파악하는 데 AI를 활용할 수 있을 것”이라고 말했다.
정부는 이날 제시된 업계 의견을 바탕으로...
RDPLINE은 저작권 이슈 회피가 가능할 뿐 아니라, 초거대 AI에서 흔히 발생하는 환각 문제인 ‘할루시네이션’ 문제도 해결할 수 있다.
할루시네이션은 거짓 정보를 사실처럼 전달하는 오류 현상을 뜻한다. 이를 줄이기 위해 최근 AI 기업들은 ‘검색증강생성(RAG)’ 기술을 적극 도입하는 추세다. RAG는 답변 생성 전, 언론사의 뉴스 등 외부의 신뢰할 수 있는...
인프라에 대해서는 정부도 함께 정책을 마련해주시면 좋을 것 같다”며 “앞으로 AI가 일반화되면 환각 효과 등에 고민이 많아질 텐데 윤리 정책도 많이 나올 것 같다. 어떻게 하면 AI를 선한 목적으로 잘 포용할 수 있을지도 고민이 필요할 것”이라고 덧붙였다.
그는 이날 공개한 카카오의 멀티모달 대규모 언어모델(MLLM) ‘허니비’에 대해 “이미지와 텍스트가...
특히 시간과 비용이 필요한 추가 학습 없이 문서를 특정 서버에 업로드만 하면, 환각현상을 피해 해당 문서를 분석하고 질문에 가장 정확한 답을 찾아 제공한다는 점이 ‘엔터프라이즈 AI마켓’의 가장 큰 장점이다.
‘엔터프라이즈 AI 마켓’을 활용하면 콜센터 상담사가 마케팅 캠페인 등을 검색하는 시간을 줄일 수 있다. 또, 인사, 재무, 법무 등 다양한...
소식통에 따르면 머스크 CEO는 전 세계에서 열린 개인 파티에서 LSD와 코카인, 엑스터시, 기타 환각제를 사용해 왔다. 일례로 2018년 로스앤젤레스에서 열린 파티에서 LSD 여러 알을 복용했고 2019년엔 멕시코의 한 행사에서 ‘환각 버섯’ 파티를 열었다. 2021년엔 세계 유명 아트페어인 아트바젤 기간 마이애미 하우스 파티에서 동생인 킴벌 머스크와 케타민을...