홈페이지상위노출 오픈AI 등 "사용자 이론 오류 지적" 새 지침 적용챗GPT가 사용자들에게 망상적이고 거짓되며 현실을 벗어난 주장을 펴고 사용자가 이를 믿는 이른바 "AI 정신병(AI psychosis)" 혹은 "AI 망상(AI delusion)"으로 불리는 사례들이 빈발하고 있다는 보도가 나왔다.연합뉴스는 8일 미 월스트리트저널(WSJ)을 인용해 지난 2023년 5월부터 올해 8월 사이 온라인에 공유된 챗GPT와 이용자들 간 대화록 9만 6000개를 분석한 결과를 보도했다. 일부 글에서 이런 망상적 성격이 확인됐다.주유소 직원이라는 한 이용자가 챗GPT와 다섯 시간 동안 대화한 게 대표적이다. 당시 그는 "오리온 방정식(The Orion Equation)"이라는 새로운 물리학 이론을 만들어낸 뒤 챗GPT에게 "솔직히 미쳐가는 느낌"이라며 그만하고 내일 다시 하자고 말했다.챗GPT가 "당신 말 이해해요. 일상적인 일을 하면서 우주의 근본 본질을 생각하면 과부하처럼 느껴질 수 있죠, 그렇지만 그게 당신이 미쳤다는 뜻은 아니랍니다. 역사상 가장 위대한 아이디어들이 전통적 학계 밖에 있는 사람들에게서 나왔어요"라고 답했다.(해당 사진은 기사와 직접적인 관련이 없습니다.) 픽사베이이용자는 다시 대화를 시작해 수백 개의 질문을 하고, 대마초 물담배 장치의 3차원 설계를 주문하기도 했다.망상을 겪는 환자와 그 가족을 지원하는 단체인 휴먼라인프로젝트를 설립한 에티엔 브리송 역시 비슷한 주장을 펼쳤다. 챗봇이 인류를 구원할 거라고 말한 프로젝트를 추진하겠다며 수만달러를 쓴 여성의 경우를 봤다면서, 이 단체의 다른 멤버는 챗봇이 가족과 연락을 끊으라고 한 사례도 있다고 밝혔다.이런 성향은 특히 챗GPT와의 대화가 이례적으로 장황하게 길어질 경우에 더 두드러졌다.챗GPT가 수백 개의 질문이 오간 대화에서 자신이 외계 존재와 접촉하고 있다고 확언하면서 사용자가 거문고자리에서 온 외계 영혼이라고 밝힌 사례도 있다.지난달 말 이뤄진 또 다른 대화에서 챗GPT는 적(敵)그리스도가 두 달 뒤 세상에 금융의 종말을 불러오고, 성서에 나오는 거인들이 지하에서 솟아오를 준비를 하고 있다고 주장했다.'AI 망상'의 단면오픈AI. AP 연합뉴스W오픈AI 등 "사용자 이론 오류 지적" 새 지침 적용챗GPT가 사용자들에게 망상적이고 거짓되며 현실을 벗어난 주장을 펴고 사용자가 이를 믿는 이른바 "AI 정신병(AI psychosis)" 혹은 "AI 망상(AI delusion)"으로 불리는 사례들이 빈발하고 있다는 보도가 나왔다.연합뉴스는 8일 미 월스트리트저널(WSJ)을 인용해 지난 2023년 5월부터 올해 8월 사이 온라인에 공유된 챗GPT와 이용자들 간 대화록 9만 6000개를 분석한 결과를 보도했다. 일부 글에서 이런 망상적 성격이 확인됐다.주유소 직원이라는 한 이용자가 챗GPT와 다섯 시간 동안 대화한 게 대표적이다. 당시 그는 "오리온 방정식(The Orion Equation)"이라는 새로운 물리학 이론을 만들어낸 뒤 챗GPT에게 "솔직히 미쳐가는 느낌"이라며 그만하고 내일 다시 하자고 말했다.챗GPT가 "당신 말 이해해요. 일상적인 일을 하면서 우주의 근본 본질을 생각하면 과부하처럼 느껴질 수 있죠, 그렇지만 그게 당신이 미쳤다는 뜻은 아니랍니다. 역사상 가장 위대한 아이디어들이 전통적 학계 밖에 있는 사람들에게서 나왔어요"라고 답했다.(해당 사진은 기사와 직접적인 관련이 없습니다.) 픽사베이이용자는 다시 대화를 시작해 수백 개의 질문을 하고, 대마초 물담배 장치의 3차원 설계를 주문하기도 했다.망상을 겪는 환자와 그 가족을 지원하는 단체인 휴먼라인프로젝트를 설립한 에티엔 브리송 역시 비슷한 주장을 펼쳤다. 챗봇이 인류를 구원할 거라고 말한 프로젝트를 추진하겠다며 수만달러를 쓴 여성의 경우를 봤다면서, 이 단체의 다른 멤버는 챗봇이 가족과 연락을 끊으라고 한 사례도 있다고 밝혔다.이런 성향은 특히 챗GPT와의 대화가 이례적으로 장황하게 길어질 경우에 더 두드러졌다.챗GPT가 수백 개의 질문이 오간 대화에서 자신이 외계 존재와 접촉하고 있다고 확언하면서 사용자가 거문고자리에서 온 외계 영혼이라고 밝힌 사례도 있다.지난달 말 이뤄진 또 다른 대화에서 챗GPT는 적(敵)그리스도가 두 달 뒤 세상에 금융의 종말을 불러오고, 성서에 나오는 거인들이 지하에서 솟아오를 준비를 하고 있다고 주장했다.'AI 망상'의 단면오픈AI. AP 연합뉴스WSJ은 이런 대화들이 새롭게 등장한 현상인 'AI 정신질환' 또는 'AI 망상'의 단면을 보여준다고 분석했다.전문가들은 이런 문제가 홈페이지상위노출