문제는 LLM 사용 시 필연적으로 발생하고 있는 할루시네이션(환각) 현상이다. 이 현상은 구체적인 출처를 제공할 수 없고 때로는 지식을 거짓 생성하는 등의 문제를 뜻한다.
이와 관련해 가장 주목받는 해결 방안은 RAG(검색 증강 생성) 기술이다. RAG는 LLM이 답변을 생성하기 전에 외부 데이터베이스에서 질문과 관련된 정보를 검색하는 과정으로 할루시네이션...
SK C&C는 생성형 AI 도입으로 인한 비용 증가, 정보오류 및 환각, 내부 데이터 유출 등과 같은 우려도 없앴다.
차지원 SK C&C G.AI그룹장은 “생성형 AI는 현재 기업 내에서 일어나는 모든 업무 영역을 재창조할 수 있는 잠재력을 보유하고 있다”며 “기업들이 SK C&C의 맞춤형 생성형 AI 서비스를 활용하면 구성원들이 효율적으로 업무에 활용할 수...
양진영 법무법인 민후 변호사는 “(현재 AI는) 법리가 부족해서 환각 현상이 일어난다 생각한다. 판례뿐만 아니라 법리를 익혀야 할 것”이라며 “AI가 상담에 대한 결과를 못 내놓더라도, 절차에 대해서는 알려줄 수 있을 것이고, 법조인 입장에서 신입 변호사들도 쟁점을 파악하는 데 AI를 활용할 수 있을 것”이라고 말했다.
정부는 이날 제시된 업계 의견을 바탕으로...
RDPLINE은 저작권 이슈 회피가 가능할 뿐 아니라, 초거대 AI에서 흔히 발생하는 환각 문제인 ‘할루시네이션’ 문제도 해결할 수 있다.
할루시네이션은 거짓 정보를 사실처럼 전달하는 오류 현상을 뜻한다. 이를 줄이기 위해 최근 AI 기업들은 ‘검색증강생성(RAG)’ 기술을 적극 도입하는 추세다. RAG는 답변 생성 전, 언론사의 뉴스 등 외부의 신뢰할 수 있는...
인프라에 대해서는 정부도 함께 정책을 마련해주시면 좋을 것 같다”며 “앞으로 AI가 일반화되면 환각 효과 등에 고민이 많아질 텐데 윤리 정책도 많이 나올 것 같다. 어떻게 하면 AI를 선한 목적으로 잘 포용할 수 있을지도 고민이 필요할 것”이라고 덧붙였다.
그는 이날 공개한 카카오의 멀티모달 대규모 언어모델(MLLM) ‘허니비’에 대해 “이미지와 텍스트가...
특히 시간과 비용이 필요한 추가 학습 없이 문서를 특정 서버에 업로드만 하면, 환각현상을 피해 해당 문서를 분석하고 질문에 가장 정확한 답을 찾아 제공한다는 점이 ‘엔터프라이즈 AI마켓’의 가장 큰 장점이다.
‘엔터프라이즈 AI 마켓’을 활용하면 콜센터 상담사가 마케팅 캠페인 등을 검색하는 시간을 줄일 수 있다. 또, 인사, 재무, 법무 등 다양한...
소식통에 따르면 머스크 CEO는 전 세계에서 열린 개인 파티에서 LSD와 코카인, 엑스터시, 기타 환각제를 사용해 왔다. 일례로 2018년 로스앤젤레스에서 열린 파티에서 LSD 여러 알을 복용했고 2019년엔 멕시코의 한 행사에서 ‘환각 버섯’ 파티를 열었다. 2021년엔 세계 유명 아트페어인 아트바젤 기간 마이애미 하우스 파티에서 동생인 킴벌 머스크와 케타민을...
음주·흡연 문제보다 환각성 물질 및 약물 위험 교육 경험 비율이 낮은 것으로 확인됐기 때문이다. 교사의 마약 예방 교육 역량 강화 프로그램 이수를 의무화하지 않았고, 교사용 지도서도 전문적인 내용이라는 점도 문제로 지목됐다.
국민권익위원회는 27일 '청소년 마약 예방 교육 강화 방안'을 마련해 관계 부처에 제도 개선하도록 권고했다. 대상 기관은 교육부와...
전 세계 500여 개의 오픈 모델들이 추론과 상식 능력, 언어 이해 종합능력 및 환각현상(할루시네이션) 방지, 대명사 참조 및 수학 해결 능력 등 6가지 지표의 평균 점수로 경쟁, 공신력 있는 순위가 매겨진다.
업스테이지의 솔라는 기업들이 활용하기 좋은 프라이빗 LLM을 위해 작은 크기로 구성됐다. 세계 최초의 107억 매개변수(10.7B)인 사전학습 모델이다....
엑사원 유니버스는 생성형 AI의 환각 문제를 극복하기 위해 AI가 전문 문헌에서 찾은 근거들을 종합해 논리적으로 추론할 수 있도록 설계한 플랫폼이다.
이 랩장은 “AI 전문가를 위한 엑사원 유니버스를 기본 모델로 해서 바이오, 화학, 의료, 제약, 특허, 금융, 법률 등으로 서비스 영역을 확대하기 위해 준비 중이다”고 말했다.
한편 LG AI연구원은...
1cP-AL-LAD는 환각 등 위해 가능성이 있고, HHCH는 대마 성분인 ‘테트라하이드로칸나비놀(THC)’와 구조가 유사해 신체적·정신적 의존성 유발 가능성이 있다.
독일과 일본 등 해외에서도 해당 물질들을 규제하고 있다.
임시마약류로 지정되면 지정예고일부터 마약류와 동일하게 취급·관리된다. 소지·소유·사용·관리·수출입·제조·매매·매매알선·수수 등이...
AI의 부작용으로 꼽히는 ‘환각 현상’을 최소화하는 데 활용할 수 있다. 경량형언어모델(sLLM)도 자체 개발해 고객의 비용 부담을 줄인다. 챗GPT, 하이퍼클로바X 등 타사의 LLM를 연동할뿐 아니라 자체 sLLM로 고객의 사용 목적에 최적화한다.
국내외 파트너사와 연합ㆍM&A 시동
글로벌 빅테크로 거듭나기 위해 한컴은 이날 국내외 파트너사와 상생하는...
이 시스템은 고객이 보유하고 있는 문서 정보들을 데이터베이스로 활용해 자연어로 답변하기 때문에 정확도를 높이고 환각 현상을 최소화할 수 있다. 구축형으로 제공해 기업 등 고객 정보를 보호하고, 사용 목적에 최적화한 경량형언어모델(sLLM)을 활용해 고객의 비용 부담도 줄일 수 있다.
한컴얼라이언스를 조성해 기술 수출과 해외 시장을 공격적으로 확대한다....
독감 치료제를 맞고 치료제의 부작용인 환각으로 아이는 아파트에서 떨어져 하반신 마비가 되었다.이를 설명하지 않은 의사는 5억 원의 배상금을 판결받았다. 하지만 아직 독감 자체로 인한 증상인지 독감치료제의 부작용인지 ‘의학적으로’ 정확히 밝혀지지 않은 일임에도 ‘법적으로’ 의사의 잘못이 되었다.
“독감 치료를 하지 말든가 할 때마다 위험성을...
환각 작용이 강하고 클럽 등에서 주로 사용된다.
검‧경은 수사 과정에서 케타민 3.07kg과 코카인 211g, 필로폰 160g 등 시가 102억 원 상당의 마약류 약 3.4kg(7만 명 동시 투약분)과 마약류 판매대금 현금 3500만 원을 압수하고 1억 7000만 원 상당의 범죄수익을 기소 전 몰수·추징 보전했다.
이들에게는 특정범죄 가중처벌 등에 관한 법률 위반과 범죄단체가입‧활동 등...
하지만, 범용 모델의 경우 간단한 연산에서도 오류가 빈번하고, 특히 거짓 정보를 생성하는 ‘환각 현상(할루시네이션)’은 고질적인 문제로 지적된다.
이에 양사는 환각 현상은 줄이고 수학적 추론을 통해 문제 풀이와 해설까지 제공할 수 있는 특화 언어모델 ‘MathGPT(가칭)’ 고도화에 나선다. 이를 위해 업스테이지는 모델의 엔진과 파인튜닝을 맡고, 콴다는...
대검찰청에 따르면 지난해 9월부터 올해 8월까지 접수된 마약류 및 환각물질 사범 건수는 2만4000여 건으로 전년 동기 대비 36.3% 증가했다. 강력사범(8.4%), 성폭력 사범(5.3%) 증가율을 한참 능가하는 급증세다. 마약류 정식재판 건수는 올해 약 7700건으로 전년 대비 27%가량 늘었다.
서울을 비롯한 국내 대도시가 마약 판매의 새 온상으로 떠오르는 현실도 우려를...
경 사장은 “안전 문제는 프라이버시 침해부터 인류에 대한 실존적 위협까지 다양하다”며 “신뢰성 확보를 위해서 '환각' 문제를 해결해야 하고, 지속 가능한 성장을 위해서는 학습과 추론을 위한 연산 효율도 높여야 한다”고 주장했다.
이어 그는 “삼성은 고대역폭메모리(HBM)를 비롯한 AI 컴퓨팅 시스템의 핵심 부품을 통해 AI 생태계를 강화하는 데 중추적...
가령 기업 내 데이터를 기반으로 방대한 문서를 요약해 일간 리포트로 제공해주거나, 고객의 복잡한 질문에 대한 답을 다양한 형태의 사내 문서에서 찾아 출처를 함께 표기해 환각현상을 줄이는 생성형 인지검색 앱들이 모여 있는 마켓이다.
양사는 올거나이즈의 앱 마켓에 있는 100여 가지 AI 앱에 SKT의 AI, 클라우드 등 기술력을 접목해 LLM 기반의 기업용...
특히, 개인정보 보호가 생명인 금융권 특성상 높은 보안성 보장과 잘못된 정보를 생성하는 ‘환각 현상(할루시네이션)’ 방지에 특화된 ‘프라이빗LLM’에 대한 수요가 급증하고 있다.
이러한 흐름 속에 업스테이지는 NH농협생명과 손잡고 △데이터 업무 효율화 및 AI 기술 내재화 방안 협업 △AI 기술 기반의 보험 밸류체인 업무 개선 △보험업에 특화된 AI 기술...