오픈 LLM 모델을 평가하는 허깅페이스 오픈 LLM 리더보드의 한국 버전인 ‘Open-Ko LLM 리더보드’는 한글 기반으로 개발된 LLM들의 성능을 평가하고 순위를 매기는 플랫폼으로 기존의 추론과 상식 능력, 언어 이해 종합능력 및 환각 현상 방지 등 4가지 지표에 NIA와 학계 등 신뢰할 만한 데이터를 기반으로 윤리, 전문가 지식 등 추가 기준을 개설, 모델을...
바이브서치는 기계독해(MRC) 기술을 이용해 답변의 근거가 되는 원문 데이터에서 답을 찾아 출처와 함께 보여줘 생성형 AI가 허위 정보를 생산하는 할루시네이션(환각) 문제를 보완하고 답변의 신뢰성을 높였다고 설명했다.
보안 문제에 대해서도 데이터나 사용자의 정보 접근 범위를 결정할 수 있게 한 것으로 알려졌다.
그러면서 “큐:에 적용된 질의 이해, 답변이 포함된 출처 수집, 답변과 출처의 사실성 일치 확인 등 3단계 기술적 과정을 통해 기존 생성형 AI 서비스가 지닌 한계점인 환각 현상이 72% 감소했다”고 설명했다.
네이버는 AI 생태계를 확장시키고 더 큰 성장을 만들어 나가기 위해 다양한 분야의 기업, 플랫폼, 애플리케이션, 기술 파트너 등 생태계 내 수많은 기업들과...
몸풀기를 마치고 본격 시장 선점에 나선 업스테이지는 생성 AI 시대 한계로 꼽힌 △최신성 부족 △할루시네이션(환각) △보안 문제 해소에 주목하고 프라이빗 AI 시장 개척에 승부수를 던졌다. 프라이빗 AI는 기업의 핵심 데이터 유출을 막고 환각 현상을 방지하는데 특화된 솔루션으로 AI 솔루션을 내재화하고자 하는 기업들로부터 각광받고 있다.
특히 130만...
마약 중독자들은 대부분 망상이나 환각과 같은 정신병적 증상을 경험한다. 망상은 현실과 맞지 않는 잘못된 생각과 믿음을 말한다. 약물 복용 후 생기는 대표적인 망상은 남이 자신을 해칠 것이라고 믿거나 누군가 나를 감시한다는 피해 망상이다. 배우자의 정절을 끊임없이 의심하는 의처증, 의부증인 부정 망상이 가족들에게 가하는 고통은 극심하다. 억만장자가...
케타민은 환각이 심하다. 불법은 클럽이고 합법은 병원이라고 생각한다. 강남에서는 암암리 이뤄지고 있다”라고 말했다.
전문가는 신씨가 카메라 앞에 직접 나선 것에 대해 “구속될 걸 알았으면 카메라 앞에 서지 말아야 한다. 그럼에도 결국 본인 과실로 까발려지는 상황이 되면 주변에 피해가 되는 거 아니냐”라며 “그게 처벌보다 무서운, 뭔가를 피하려고 언론을...
내부 정보 유출 문제를 방지하고 거짓말로 꾸며내 답변하는 ‘환각 증상’이 발생하지 않는다는 것이 장점이다.
풀무원은 풀무원 GPT에 영양상담, 식이상담까지 확대해 사업에 내재화하는 방향을 검토하고 있다. 이를 위해 식약처 등 공공기관 데이터뿐 아니라 고객 상담 내역, 풀무원기술원의 데이터도 학습시켜 나가고 있다.
코난테크놀로지가 17일 선보인 코난 LLM은 기업 전용 온프레미스 LLM으로 보안 우려를 줄이고 벡터 검색기반의 코난 서치를 적용해 잘못된 정보를 내놓는 할루시네이션(환각)을 최소화하는데 방점을 뒀다.
김영섬 코난테크놀로지 대표는 이날 서울 여의도 콘래드 서울에서 열린 기자간담회에서 “25년 간 인공지능 연구를 하면서 몇 번의 겨울을 감내하며...
이후 A 씨에게 섬망(delirium, 심한 과다행동과 생생한 환각, 초조함과 떨림 등이 자주 나타나는 상태) 증상이 나타나자 의료진은 뇌 MRI 검사를 시행했다. 그 결과 A 씨에게 급성 뇌경색 소견이 확인됐다.
A 씨 측은 "의료진의 의료상 과실이 경합해 원고에게 뇌경색으로 인한 뇌병변 장애가 남게 됐다"며 수술상 과실, 설명의무 위반 등을 이유로 손해배상...
전 세계 500여개의 오픈 모델들이 추론과 상식 능력, 언어 이해 종합능력 및 환각현상(할루시네이션) 방지 등 4가지 지표의 평균 점수로 경쟁, 공신력 있는 순위가 매겨진다. 현재 업스테이지는 73점을 돌파하는 모델을 배포, 세계 1, 2위 모델을 독식하고 있다.
1T 클럽은 한국어 데이터의 부족 문제 해결은 물론, 데이터 제공자와 모델 제작기업이 상생하는...
케타민은 수면마취제로 쓰이지만, 환각과 통증 경감 등의 효과가 있어 국내에선 일명 '클럽 마약'으로 불리고 있다. 신 씨는 사고 당시 현장에서 경찰에 체포돼 구금됐다가 17시간 만에 석방됐다.
한편, 7일 해당 사건을 쫓고 있는 유튜브 채널 '카라큘라 탐정사무소'에 피해 여성의 친오빠 A 씨와의 통화 내용이 공개됐다. A 씨는 통화에서 여동생의 상태에 대해...
프라이빗 AI는 기업 내부 데이터만 학습해 정보 유출을 막고 잘못된 정보를 생성하는 환각 현상을 방지하는데 특화된 솔루션으로, 보안 이슈 등으로 생성 AI 도입을 주저하는 기업들에게 매력적인 대체재로 각광받고 있다. 기업들은 글로벌 톱 수준의 업스테이지 LLM 기반의 프라이빗 AI를 도입함으로써 최신 생성 AI 기술을 손쉽게 구축하고 활용할 수 있을...
기업들이 특정 분야에 특화된 B2B 시장을 공략하는 이유는 AI의 가장 큰 문제로 지적된 정보의 부정확성과 할루시네이션(환각) 문제에 대한 리스크가 적기 때문이기도 하다.
여기에 전 세계적으로 표준화된 AI 규제가 나오지 않은 상황에서 B2C 서비스의 경우 대중에게 노출되기 때문에 악용될 가능성이 높은만큼 신규 서비스를 추진하는 기업 입장에서...
매일 수십개의 전세계 각국 대표 AI 모델들의 업데이트되며 치열한 경쟁이 이뤄지는 리더보드는 모델의 추론과 상식능력 뿐 아니라 언어이해 종합능력과 환각현상(할루시네이션) 방지 등 생성AI 평가에 꼭 필요한 4가지 지표의 평가 점수 평균으로 최종 순위를 결정한다.
챗GPT로 상징되는 거대언어모델, LLM은 많은 양의 텍스트 데이터를 학습 자연어 처리(NLP)...
이 실태조사는 청소년 보호법에 따라 2년마다 실시되는데 올해 처음으로 환각성 약물 사용, 온라인 도박성 게임 이용 경험 등 문항이 추가됐다.
조사 결과 환각성 물질인 식욕억제제(나비약) 복용 경험은 0.9%,청소년의 마약류 진통제(펜타닐 패치) 사용 경험은 10.4%였다. 펜타넬 패치를 사용한 경우 구매 방법은 94.9%가 병원에서 처방을 받아 구입한 것으로...
극소량만으로도 강력한 환각효과 및 이상행동을 일으켜 '좀비 마약'으로 불리는 펜타닐이 10대까지 빠른 속도로 파고든 것이다.
중독 우려는 더 크다. 최근 5년간 재범률은 52%까지 치솟았다. 2명 중 1명이 마약에 다시 손을 대고 있는 셈이다. 특히 미국 국립약물남용연구소 실험 결과, 중독성은 성인보다 청소년에 더 강한 것으로 나타났다. 단속을 넘어 치료·재활...
기술을 개발하고 사고 전파를 막기 위한 정보 공유 체계를 강화해야 한다”고 말했다.
정일옥 이글루코퍼레이션 연구위원 “챗GPT와 같은 대규모언어모델 AI의 성능은 우수하지만 틀린 것을 정답처럼 제시하는 환각으로 보안 분야의 신뢰성이 흔들리는 경향이 있다”며 “데이터 보안에 필요한 비식별화와 적대적 AI에 대한 방안을 마련이 필요하다”고 제언했다.
먼저 생성 AI 기술을 결합한 만큼 ‘환각(hallucination)’ 현상이 고질적인 문제로 지적되죠. AI 챗봇은 확률과 통계 데이터를 바탕으로 질문과 관련된 단어를 선택, 문장을 구성해 똑같은 질문을 해도 답변이 매번 다릅니다. 이런 과정을 통해서 어떤 답변이 가장 많은 공감을 얻는지 학습하는데요. 자신이 내놓은 정보가 거짓인지, 참인지 구분하지도 못해 잘못된 정보를...
이는 AI 언어 모델의 가장 큰 단점으로도 지적되는 ‘환각(hallucination)’ 현상인데요. 챗GPT가 기사, 논문, 시나 소설까지 뚝딱 작성해 내면서 이어졌던 환호성은 오래 가지 못했습니다. 존재하지 않는 논문을 인용하거나 거짓 정보를 소개하는 등 심심찮게 거짓말을 쏟아냈기 때문이죠. 오픈AI는 이와 관련해 “데이터 학습 한계로 추론의 오류를 범하거나 부정확한...
집단 환각 파티를 벌인 남성 60명이 경찰에 검거될 당시 모두 에이즈(AIDS·후천성면역결핍증)에 감염된 상태였다는 보도가 나왔다.
20일 KNN에 따르면 경찰에 붙잡힌 마약사범 60명은 호텔이나 클럽에서 집단으로 필로폰을 투약했다. 경찰은 이들이 단속을 피하려고 필로폰을 특정 장소에 놔두면 이후 찾아가는 이른바 ‘던지기’ 수법을 이용한 것으로 봤다.
KNN은...