유해콘텐츠 검색결과

검색결과 총141건

최신순 정확도순

'AI 보안성 82%'… 숭실대 연구센터 국내외 모델 첫 비교 분석

숭실대학교 AI안전성연구센터는 국내외 거대언어모델(LLM) 20종을 비교한 결과, 국내 모델의 보안성과 안전성이 해외 모델의 약 82% 수준이라고 18일 밝혔다. 이번 분석은 최근 '국내외 파운데이션 모델 보안·안전성 평가 세미나'에서 공개됐으며, 과학기술정보통신부와 정보통신기획평가원의 '정보보호핵심원천기술개발사업' 연구과제의 일환으로 수행했다. 연

2025-11-18 14:47
원민경 장관 "AI 기술 시대에 맞는 성평등 정책 과제 도출"

성평등가족부는 정부서울청사에서 인공지능(AI) 기술이 성평등에 미치는 영향을 점검하고, 신기술 도래에 따른 성평등 정책 방향을 논의하기 위한 'AI 성평등전략 포럼'을 개최한다. 6일 성평등부에 따르면, 이번 포럼은 AI 기술의 확산에 따라 새롭게 등장하는 사회적 쟁점을 분석하고, 성평등 관점에서 대응 전략을 논의하기 위해 마련됐다. 이번 회의를 시

2025-11-06 12:00
내일부터 카톡에 챗GPT 탑재⋯AI 전환 가속화

카카오가 인공지능(AI) 전환에 드라이브를 걸었다. 특히 28일 카카오톡에 챗GPT를 적용한다고 예고하며 이용자들의 관심이 쏠리고 있다. 27일 정보기술(IT) 업계에 따르면 카카오는 공지를 통해 28일부터 챗GPT가 카카오톡에 적용되면서 개인정보 처리 관련 사항을 반영했다고 밝혔다. 이에 28일부터는 이용자들이 챗GPT 애플리케이션(앱)을 별도로 설치

2025-10-27 16:15
부모 관리 기능 도입된 챗GPT…얼마나 효과 있을까

오픈AI가 최근 10대를 대상으로 챗GPT 사용에 부모 통제 기능을 출시했다. AI 챗봇을 둘러싼 청소년 유해성 논란으로 기업들이 미성년자 전용 모델을 도입하는 등 대책 마련에 나섰지만 실효성에 대한 의문이 제기된다. 지난달 29일부터 챗GPT에 적용된 부모 관리 기능은 부모가 자녀의 챗봇 사용 방식을 제한하고 10대가 심리적 위기에 처했을 가능성을 챗

2025-10-07 09:00
오픈AI, 미성년자 전용 챗GPT 이달 말 내놓는다

미성년자로 식별 시 자동으로 전환유해 콘텐츠 차단·자녀 보호 기능 강화 청소년들이 생성형 인공지능(AI) 사용 시 직면하는 부작용을 방지하고자 오픈AI가 이달 말 18세 미만 이용자를 위한 전용 챗GPT 서비스를 출시한다. 16일(현지시간) 블룸버그통신에 따르면 오픈AI는 청소년 보호 강화를 위한 조치의 일환으로 챗GPT 사용자가 미성년자로 식별되면 자동

2025-09-17 15:23
[오늘의 증시리포트] 실리콘투ㆍ현대차ㆍ쿠콘 등

◇한글과컴퓨터 AI 기반 통합 솔루션 기업으로 진화 디지털 전환 중심의 조직 개편 및 AI 역량 통합 AI SaaS 확장 및 글로벌 시장 진출 전략 R&D 투자 강화 및 품질경영시스템 고도화 김경민·한국IR협의회(리서치 ◇플랜티넷 유해콘텐츠 차단 본업 성장 지속, 다음은 모아진 통신망 기반 유해콘텐츠 차단 솔루션 기업 모아진, 공공 독점에서 B2C·글

2025-07-25 08:18
비피엠지, 태국 중앙수사국에 AI 기반 불법 콘텐츠 식별 시스템 제공 협약

블록체인 기업 비피엠지(BPMG)는 태국 중앙수사국(CIB)과 블록체인 및 인공지능(AI)에 기반을 둔 불법 콘텐츠 식별 시스템 구축 및 활용에 관한 업무협약(MOU)을 체결했다고 16일 밝혔다. 이번 협약에 따라 비피엠지는 AI를 활용해 불법 사이트 자동 탐지 기능과 영상·이미지 등 불법 저작물을 식별하는 솔루션을 태국 중앙수사국에 제공한다. 태국

2025-07-16 11:05
AI가 5초 만에 보이스피싱 잡는다⋯LGU+ '익시오' 안심 에이전트로 진화

AI 통화 서비스 ‘익시오’에 보이스피싱 대응 기술 적용…딥페이크·언어폭력 탐지까지 확대온디바이스 방식으로 개인정보 보호 강화…연내 가입자 100만, 3년 내 600만 목표 LG유플러스가 위조된 목소리를 5초 내에 탐지하는 AI 보안 기술 ‘안티딥보이스(Anti-DeepVoice)’ 기술을 세계 최초로 상용화했다. 안티딥보이스는 AI가 위변조한 목소리를

2025-06-26 15:57
KT나스미디어, AI로 유튜브 유해 콘텐츠 필터링한다

자체 AI 모델 기반 'SCV' 출시선정적·폭력적 광고 송출 막는다 KT나스미디어는 인공지능(AI)이 유튜브 광고 환경에서 유해 콘텐츠를 차단하는 ‘세이프 컨텍스트 비디오(SCV)’를 출시한다고 9일 밝혔다. SCV는 KT나스미디어가 개발한 멀티모달 AI 모델을 활용해, 광고가 송출되는 범위에서 유해 콘텐츠를 자동으로 식별·차단한다. 만약, 영상이

2025-06-09 09:39
카카오, AI 가드레일 모델 ‘카나나 세이프가드’ 공개⋯韓 최초 오픈소스로

카카오는 인공지능(AI) 서비스의 안전성과 신뢰성을 검증할 수 있는 AI 가드레일 모델 ‘Kanana Safeguard(카나나 세이프가드)’를 개발하고, 생태계에 기여하기 위해 국내 기업 최초로 총 3종의 모델을 오픈소스로 공개한다고 27일 밝혔다. 최근 다양한 생성형 AI 서비스들이 확산되는 가운데 유해 콘텐츠의 위험성에 대한 사회적 우려가 증대되고

2025-05-27 09:22
계속되는 생성AI ‘답변 오류’...오픈AI는 ‘안전성 평가 허브’ 도입

머스크의 ‘그록’, 질문 무관 ‘남아공 백인 학살 논란’ 답변챗GPT도 새 추론 AI 등장 이후 엉뚱한 답으로 골머리 ‘그록’과 ‘챗GPT’ 등 생성형 인공지능(AI)에서 최근 답변 오류 현상이 빈번하게 일어나면서 신뢰성 문제가 불거지고 있다. 14일(현지시간) CNBC방송에 따르면 일론 머스크 테슬라 최고경영자(CEO)가 세운 AI 스타트업 xAI의 챗봇

2025-05-15 13:31
국세청, 엑셀방송 BJ·사이버레커 유튜버 탈세 혐의 '정조준'

성(性) 상품화로 1인 미디어 시장을 오염시키는 엑셀방송 운영 BJ와 딥페이크로 미성년자까지 유혹하는 사이버 도박사이트 운영자, 허위·비방 콘텐츠로 피해자를 갈취하는 사이버 레커 유튜버 등 대표적인 온라인 유해 콘텐츠 제작·운영자들이 교묘하게 탈루 행위를 저지르는 것을 정부가 포착, 이들을 정조준한 세무조사에 들어간다. 국세청은 다수가 이용하는 온라인

2025-03-06 13:31
챗GPT가 교수 사칭하자…94%는 '진짜'로 믿었다

KAIST 공동 연구진, LLM 기반 사이버 공격 실험20초에 60원만 들이면 개인정보 탈취…해킹도 진화LLM, 피해자 개인정보 최대 95.9% 정확도로 수집연구진 "LLM의 확장성 고려한 보안 장치 필요하다" GPT·딥시크 등 거대언어모델(LLM)이 사이버 공격에 악용될 수 있다는 연구 결과가 나왔다. 인공지능(AI)으로 사이버 공격 피해자의 정보

2025-02-24 11:30
소셜미디어 X 대탈출…이용자 대부분 ‘블루스카이’에 몰려

美 대선 이후 반트럼프 세력 X 이탈11월 한 달 사이 블루스카이 2배↑한국서도 사용자 급증 약 1300만 명이었던 소셜미디어(SNS) 플랫폼 ‘블루스카이’ 가입자가 두 달 가까운 시기에 2배 급증했다. 미국 대통령선거 이후 일론 머스크 테슬라 최고경영자(CEO)가 소유한 엑스(Xㆍ옛 트위터)를 떠난 가입자들이 대체재로 블루스카이를 선택했다는 분석이 지

2024-12-23 08:26
16세 미만 SNS 이용 금지하는 호주…세계 최초 ‘의회 법안’ 통과

부모 동의 관계없이 SNS 이용 제한국가 차원 SNS 규제는 호주가 처음 호주 의회가 세계 최초로 16세 미만 어린이의 소셜미디어서비스(SNS) 이용을 금지하는 법안을 통과시켰다. 28일(현지시간) 블룸버그통신에 따르면 호주 상원은 이날 이러한 내용의 법안을 찬성 34표, 반대 19표로 가결했다. 부모 동의 여부와 상관없이 자녀의 SNS 이용이 금지

2024-11-29 08:09
"아이 계정 삭제됐어요"…인스타그램의 강력 규제, '진짜 목표'는 따로 있다? [이슈크래커]

해맑은 미소, 귀여운 장난, 의도치 않게 안겨주는 뭉클한 감동까지… '랜선 조카'들에게 위로를 받는다는 이들이 적지 않습니다. 아이들의 일상을 담은 사회관계망서비스(SNS) 내 인기 콘텐츠는 수만~수백만 조회 수를 기록합니다. 인기 키즈 인플루언서들은 협찬이나 광고도 받고 브라운관까지 진출하는 등 연예인 못지않은 화제성을 자랑하죠. 그런데 이들의 활

2024-11-21 17:00
서울시, 유해 콘텐츠로부터 아동 지킨다

내년 1년간 ‘서울런 키즈’ 시범사업취약계층 유아에 양질 콘텐츠 제공 서울시가 취약계층 만 4~5세 유아에게 양질의 온라인 콘텐츠를 제공하는 ‘서울런 키즈’ 사업을 내년 1년간 시범 운영한다. 서울시는 18일 6개 민간업체(단비교육, 메가스터디교육, 아이스크림에듀, 에누마, 웅진씽크빅, 천재교과서)와 ‘서울런 키즈’ 업무협약을 체결했다. 디지털 시

2024-11-18 11:15
영국 일간지 가디언, 머스크 ‘엑스’ 계정 철수…“미 대선 결정적”

“유해 콘텐츠로 계정 철수 오래 고민”“대선 중 영향력 극대화...결정적 계기” 13일(현지시간) 영국 일간 가디언이 테슬라 최고경영자(CEO) 일론 머스크가 소유한 엑스(X‧옛 트위터)에 더 이상 콘텐츠 게시를 하지 않겠다고 밝혔다. 가디언은 이날 독자들에게 보내는 성명을 통해 “엑스에서 얻는 이점보다 부정적인 측면이 더 크다고 판단한다”며 “엑

2024-11-14 17:11
과방위 국감 최대 화두는 '단통법 폐지ㆍ불법 유해 콘텐츠 관리' [2024 국감]

국회 과학기술정보방송통신위원회 국정감사에서 단통법 폐지·구글 망 사용료 납부 등 정보통신기술(ICT) 현안 질의가 이어졌다. 한국의 이공계 인재 및 핵심기술 유출 문제도 화두였다. 국회 과학기술정보방송통신위원회는 25일 여의도 국회에서 과학기술정보통신부 등에 대한 종합 국정감사를 열었다. 이날 SKT와 KT는 이동통신단말장치 유통구조 개선에 관한

2024-10-25 20:51
'사이버 룸살롱'이 웬 말…아프리카TV→숲, 사명 변경보다 중요한 '이것' [이슈크래커]

국내 대표 온라인 스트리밍 플랫폼, 아프리카TV가 SOOP(숲)으로 사명을 변경한 지도 일주일가량 지났습니다. 주식회사 숲은 15일 공식 홈페이지를 통해 이날 정오부터 아프리카TV에서 새롭게 개편한 플랫폼 숲이 서비스에 들어갔다고 밝혔는데요. 주식회사 숲은 지난해 말 플랫폼 리브랜딩 계획을 밝히고 올해 3월 회사명을 아프리카TV에서 현재 이름으로 변경

2024-10-24 17:07

1 2 3 4 5 6 7 8