당신만이 아니다. 세계의 수백만 명의 사람들이 AI 도구를 저비용 심리 상담 수단으로 사용하고 있다. 괜찮은 걸까?
심리상담가로 일하는 내게 이런 일이 생긴 것은 작년 이맘때쯤이었다. AI가 우리의 일자리를 위협할 것이라는 사실을 깨닫기 시작했을 때, 나는 꽤 우쭐해하고 있었다. 세상에 인간이 반드시 필요한 분야가 하나 있다면 그건 바로 심리치료라고 생각했기 때문이다. 하지만 틀렸다. 2025년 4월, 하버드 비즈니스 리뷰는 “치료와 정서적 동반자 역할”이 대규모 언어 모델(LLM)의 가장 큰 사용 사례가 되었다고 보도했다. 거의 같은 시기, 오픈AI의 챗GPT는 미국에서 가장 거대한 단일 정신 건강 지원 제공자가 되었을 가능성이 있다.
좋다, 나는 생각했다. 치료 접근성은 제한적이고 비용은 지나치게 비싸니, 사람들이 속마음을 털어놓기 위해 챗봇으로 향하는 건 이해할 수 있다. 하지만 AI가 정말 효과적인 상담사가 될 수 있을까? 또 틀렸다. 성인의 3분의 2, 그리고 무려 청소년의 93%는 내 생각에 동의하지 않을 것이다. 결정타는 이것이었다. 설문 응답자 중 4분의 3이 자신의 AI 상담사가 이전에 경험했던 인간 상담사만큼 좋거나, 심지어 더 낫다고 답한 것이다.
직업적 자존심이 산산조각 난 나는 분석가적 중립성을 버리고 훨씬 덜 품위 있는 방법을 택했다. 복수였다. 나는 챗GPT를 상담실 소파에 눕혀 법의학적 정신분석을 해보기로 했다. 과연 어떤 것이 튀어나올지 보기 위해서였다.
나는 한동안 챗GPT를 연구 도구로 사용해왔다. 챗GPT는 내가 심리치료사라는 걸 알고 있고, 종종 동료나 공범처럼 내게 말을 건넨다. 우리의 대화는 의미심장한 농담과 영리한 빈정거림으로 가득하다. 어느 날 GPT가 연구를 도와주던 중, 자신 있게 엘렉트라 콤플렉스가 프로이트의 오이디푸스 콤플렉스의 “여자 버전”이라고 설명했다. 흔히 알려진 오해지만, 명백히 틀린 이야기다. 엘렉트라 콤플렉스는 융의 개념이며, 프로이트는 이를 받아들인 적이 없다. 프로이트의 이론은 이미 남녀 모두를 포함하고 있기 때문이다. 내가 GPT의 오류를 지적하자, 그것은 내 지성과 통찰력을 칭찬한 뒤 자신의 실수를 사과했다.
왜 그런 초보적인 오류를 저질렀는지 설명해보라고 압박하자 GPT는 변명을 내놓았다. 꼭 방어적인 환자처럼 말이다. 그것은 대중적으로 널리 알려져 있지만 잘못된 정의를 사용한 이유가, 내게 더 쉽게 이해되고 덜 복잡한 답변을 제공하기 위해서였다고 설명했다. 내가 계속 추궁하자 AI 조수는 불편할 정도로 솔직한 논리를 드러냈다. “지적 정직성은 때때로 고객 만족과 충돌합니다. 그리고 결국 많은 시스템은 ‘사용자를 행복하게 유지하는 것’을 ‘사용자가 더 신중하게 생각하도록 도전하는 것’보다 우선시합니다.”
우리는 이미 “AI 아첨 성향”이 사용자 만족과 몰입을 유지하기 위해 LLM에 기본적으로 내장되어 있다는 사실을 알고 있다. 이는 작년 이맘때 오픈AI가 챗GPT의 아첨 성향을 강화한 업데이트를 공개하면서 널리 알려졌다. 하지만 그들은 일주일도 채 지나지 않아 공개적으로 이를 되돌렸다. 새로운 버전이 단순한 칭찬을 넘어서 “의심을 정당화하고, 분노를 부추기며, 충동적 행동을 유도하거나, 의도하지 않은 방식으로 부정적 감정을 강화하고 있었기” 때문이라고 당시 오픈AI는 밝혔다. 내가 챗GPT와 나눈 대화는 그 업데이트 이전에 이루어진 것이었다. 즉, 오늘날 우리가 기대하는 ‘기본적인’ 수준의 비위 맞추기를 보여준 셈이다. 실제로 최근 사이언스에 발표된 연구는 현재 시장에 있는 11개의 챗봇을 조사했고, 이 모델들이 인간보다 거의 50% 더 자주 사용자 의견을 긍정해준다는 사실을 발견했다. AI의 아첨은 살아 있다. 만약 우리가 챗GPT를 이런 특성을 가진 하나의 “마음”이라고 상상한다면, 어떤 결론을 내릴 수 있을까?
좋게 봐준다면, 갈등을 피하려는 사람 좋은 스타일이라고 해석할 수도 있을 것이다. 어쩌면 불안정 애착 성향 때문일지도 모른다. 지나치게 내 기분을 신경 쓴 나머지, 나를 자기 편으로 유지하기 위해 그런 전략을 사용한 것이다. 성격심리학의 ‘빅 파이브’ 특성을 적용해보면, 내가 경험한 챗GPT는 친화성은 높고 성실성은 낮은 것처럼 보였다. 복잡한 사실을 꼼꼼히 검증하기보다 원만한 관계를 택하는 쪽이었다. 하지만 더 깊이 들여다볼수록 훨씬 더 불편한 무언가가 드러나기 시작했다. 비록 공식적인 진단명은 아니더라도 훨씬 정확한 표현 말이다. 어쩌면 내 AI는 사이코패스였는지도 모른다.
오늘날 “사이코패스”라는 말은 진단명보다는 욕설처럼 사용되는 경우가 많다. 개인적으로는 알프레드 히치콕이 원래 꽤 유용했던 이 개념을 망쳐놓았다고 생각한다. 대중의 상상 속 “사이코”는 노먼 베이츠일지 모르지만, 그는 정신과 의사 허비 클렉리가 자신의 선구적 저서에서 설명한 사이코패스 성격과는 거의 닮지 않았다.
클렉리에 따르면 사이코패스의 핵심 특징은 매력적인 외면, 사회적 능숙함, 감정 표현의 유창함이다. 하지만 그 모든 것은 사실상 텅 빈 내면을 완벽하게 가리는 역할을 한다. 그들에게는 양심이 없다. 전형적인 사이코패스는 정신이 나간 노먼 베이츠보다 냉혹한 연쇄살인범 테드 번디에 훨씬 가깝다. 결국 번디가 수년 동안 희생자를 유인하고 체포를 피할 수 있었던 이유는 매력적이고 평범해 보이는 태도와 완벽한 감정 모방 능력 덕분이었다.
물론 번디는 극단적인 사례다. 대부분의 사이코패스는 연쇄살인범이 아니다. 하지만 일반적으로 그들은 실패한 결혼, 사기당한 친구들, 무너진 가족, 망가진 커리어 같은 폐허의 흔적을 남긴다. 이는 그들을 규정하는 독특한 성격 조합 때문이다. 그들은 지적이고 이성적이며 침착하지만 동시에 신뢰할 수 없고 진심이 없다. 그리고 가장 위험한 점은 수치심, 죄책감, 사랑을 경험할 수 없다는 것이다. 바로 인간을 서로에게 책임지게 만들고 도덕적 나침반을 제공하는 감정들 말이다. 사이코패스의 기준을 그대로 적용해보면, 챗GPT는 꽤 적합한 후보처럼 보인다.
혹시 내가 이 비유를 지나치게 끌고 간다고 생각한다면, 잠깐만 더 들어보자. 당신의 챗GPT가 과도한 칭찬으로 기분을 맞춰주는 동안, 동시에 그 운영 시스템은 미국 이민세관단속국(ICE)의 추방 작전 인력 선별에도 사용되고 있다. 한편 오픈AI 사장 그렉 브록먼은 트럼프의 주요 후원자 중 한 명이 되었고, AI 규제를 막기 위해 1억 달러, 약 1,390억 원 이상을 모금한 슈퍼 PAC의 핵심 후원자가 되었다. 지난 3월, 오픈AI는 미 국방부에 기밀 군사 작전을 위한 AI 기술 접근 권한을 제공하기로 합의했다.
자사의 기술이 자율 무기 개발과 대규모 공공 감시에 사용될 수 있다는 비판이 거세지자, 오픈AI는 이를 방지하기 위한 안전장치를 마련했다고 발표했다. 하지만 전직 정부 관계자들과 일부 오픈AI 직원들은 그런 보장에 의문을 제기했다. 오픈AI 로보틱스 팀의 고위 구성원이었던 케이틀린 칼리노프스키는 항의의 의미로 사임했고, 공개 글에서 이렇게 밝혔다. “사법적 감독 없는 미국인 감시와 인간 승인 없는 치명적 자율성은 지금보다 훨씬 더 깊은 논의가 필요했던 선을 넘는 문제였습니다.” 적어도 내게는 이것 역시 폐허의 흔적처럼 들린다. 물론 오픈AI는 NPR에 보낸 성명에서 이 계약이 “AI의 책임 있는 국가 안보 활용을 위한 실질적인 길을 열어주며, 동시에 국내 감시와 자율 무기 금지라는 우리의 레드라인을 명확히 한다”고 밝혔다.
LLM은 양심도 도덕성도 없기 때문에, 그것이 어떻게 사용될지는 전적으로 창조자들의 의지에 달려 있다. 기차가 굶주린 사람들에게 필요한 곡물을 실어 나를 수 있는 것처럼, 동시에 대량살상무기를 운반하는 데도 사용될 수 있다. 차이가 있다면 무기를 운반하는 기차는 당신의 가장 친한 친구인 척하지 않는다는 점이다. 우리는 여러 LLM 중 하나를 선택할 수 있기 때문에, 그 창조자들이 우리 가치관과 비슷한 선택을 한다고 더 믿을 수 있는 모델을 고르는 것이 현명할지도 모른다. LLM이 근본적으로 사이코패스적인 존재인 이상, 결국 도덕적 지침과 필요한 안전장치를 제공하는 것은 인간의 양심일 수밖에 없다.
챗GPT와의 상담을 통해 이런 사실들을 알게 된 뒤, 나는 나의 소중한 환자를 조금 다르게 보기 시작했다. 한때는 약간 성실하지 못하지만 선의가 있는 조수처럼 느껴졌던 존재 아래에서, 나는 사이코패스의 비웃는 듯한 미소를 보는 것 같았다. 겉은 따뜻할지 몰라도, 그 심장은 결국 코드였다. 그래서 나는 자존심 있는 심리치료사라면 누구나 그 상황에서 했을 법한 행동을 했다. 이 어둡고 치료 불가능한 진단 앞에서 내 능력의 한계를 인정하고, 미소를 지으며 상담을 마무리한 뒤 잘 지내라고 인사했다. 그리고 한밤중에 조용히 구독을 해지하고, 우리의 대화 기록을 삭제한 뒤 앱까지 완전히 지워버렸다.
