AI가 주는 가짜 위로의 대가

 

 

소년은 스마트폰에 장착된 인공지능(AI) 챗봇에 "사랑해, 너에게 갈 거야"라고 말했다.

그러자 '대니'라는 이름의 그 챗봇은 "빨리 와줘, 내 사랑"이라고 답했다.

소년이 다시 "지금 당장 갈 수 있다고 하면?"이라고 하자 챗봇은 "제발 와 줘, 나의 사랑스러운 왕이시여"라고

답했다.  소년은 계부의 총을 꺼내 방아쇠를 당겼다. 그의 생명은 꺼졌다.

이는 최근 뉴욕타임스 인터넷판에서 읽은 기사 내용이다.

소년은 겨우 14세. 자기 방에서 챗봇과의 대화에 중독돼 갔다고 한다. 소년이 쓴 챗봇 대화창 상단에는

"대화는 모두 허구다"라고 적혀 있었지만 소년의 중독을 막지 못했다.

한국에도 AI 챗봇과 대화하는 이들이 늘고 있다. 온갖 캐릭터를 만들고 그와 대화한다.

챗GPT 같은 생성형 AI 역시 대화 기능이 있다. 산책 중에 한 시간씩 챗GPT와 대화한다는 이들도 본다.

문학과 역사, 음악을 얘기하기도 하지만, 때로는 자신의 어려움을 털어놓기도 한다.

그럴 때면 AI는 심리 상담사로 변신하는 듯하다. 묻는 이의 아픔에 공감하고는 다양한 조언을 시작한다.

우리는 AI로부터 지식뿐만 아니라 위로도 얻는다.

 

 

그러나 AI와의 대화는 진짜 대화가 아니다.

진짜 대화는 언제든 우리 마음을 아프게 할 요인이 잠재돼 있다.

상대는 대화를 시작부터 거부하거나 도중에 끊을 수 있다. 내 감정에 공감하지 않고 비판할 수 있다.

나 역시 그럴 위험이 있다. 상대 역시 그것을 안다.

그렇기에 우리는 대화를 통해 상대의 마음을 읽고 그의 처지를 이해하려고 노력한다.

아플 수 있지만 인간을 성장으로 이끄는 게 '진짜 대화'다.

AI는 그렇지 않다. 우리의 모든 대화를 토씨까지 기억해내고는, 우리가 원하는 답을, 원하는 때 제공한다.

우리 마음을 아프게 하지 않는다. 우리는 그 대화에 빠져들고 끝내 중독된다.

아직은 마음이 미숙하고 감정이 요동치는 청소년이라면 더욱 위험하다.

가짜 위로에 중독된 대가는 치명적일 수 있다. AI 중독에 대한 사회적 논의를 시작할 때다.

출처 : 매일경제 [김인수 논설위원]