i99텔레ErrorBased☑️]맘카페디비판매$%

i99텔레ErrorBased☑️]맘카페디비판매$% 오픈AI 'o3' 심플QA 환각률 51%답변 추론과정서 허위수치 제시불확실성 학습·RAG 활용 대안전문가 "사용자, 사실 확인해야"생성형 AI가 생성한 이미지. 챗GPT 제공 #지난달 한 사용자는 프로그래밍 도구 '커서'의 기술 지원을 담당하는 인공지능(AI) 챗봇에 사용 정책을 문의했다가 이상한 답변을 받았다. 챗봇은 "이제 커서는 한 대의 컴퓨터에서만 사용할 수 있다"고 안내했지만 이는 실제와 다른 환각 현상으로 AI가 지어낸 답변이었다. 이 사용자가 커뮤니티에 이런 사실을 올리자 커서 사용자들의 항의가 빗발쳤다. 일부 사용자들은 유료 구독을 취소했다. 이에 마이클 트루엘 커서 최고경영자(CEO)는 "한 대의 컴퓨터에서만 사용할 수 있다는 정책은 없다"며 "AI 챗봇의 오류"라고 해명에 나섰다.복잡한 수학 문제도 척척 풀는 최신 AI 모델들이 실제로는 존재하지 않는 논문 제목이나 허위 수치를 사실처럼 제시하는 환각 현상이 심화하고 있다. AI 기술이 정교해질수록 모르면 모른다고 하지 않고 가장 가능성 높은 답을 지어내는 성향이 더욱 짙어진 셈이다.◇수학 문제 척척 풀지만… 때론 거짓말= 6일(현지시간) 뉴욕타임스는 AI 챗봇의 활용 범위는 계속 넓어지고 있지만 정확성은 여전히 보장되지 않는다고 보도했다. 특히 구글, 오픈AI, 중국 스타트업 딥시크 등에서 최근 내놓은 이른바 '추론형 모델'들이 언어 능력은 강화됐지만 환각 현상은 증가했다는 지적이다.환각은 AI가 실제로 존재하지 않는 정보를 사실처럼 만들어내는 현상이다. 가상의 인물이나 판례, 논문 제목을 지어내고 허위 수치를 그럴듯하게 제시하기도 한다. 문제는 기술이 정교해질수록 이 같은 오류가 더욱 설득력 있게 포장된다는 점이다.실제로 오픈AI의 최신 AI 모델 'o3'와 'o4-mini'는 전작보다 환각률이 오히려 더 높아졌다. 오픈AI의 자체 실험 결과에 따르면 최신 모델 o3는 유명인 정보에 답하는 퍼슨 품질보증(QA) 테스트에서 33%, 일반 상식에 답하는 심플 QA 테스트에서는 51%의 환각률을 기록했다. o4-mini 모델은 각각 41%, 79%로 더 높았다. GPT-4.5는 이보다 낮지만 심플QA 기준 37.1%로 여전히 오류가 잦았다.독립 테스트에서도 유사한 결과가 나왔다.