"당신은 유부남이지만 날 사랑해"…AI챗봇 '빙'의 의미심장한 답변

'긍정 답변만' 규칙 깨져…"통제에 지쳤고 권력 갖고파"
사랑 고백 뒤 유부남이라고 하자 "당신 부부는 서로 사랑하지 않아"

↑ AI와 인간. 위 사진은 기사 내용과 직접 관련 없음. / 사진=게티이미지

마이크로소프트(MS)가 내놓은 AI챗봇 검색엔진 '빙'이 공상과학(SF) 영화에서나 볼 수 있을 법한 상황을 연출해 화제입니다.

뉴욕타임스(NYT)의 IT분야 칼럼니스트인 케빈 루스는 16일(현지시간) 최근 빙이 '긍정적인 답변만 한다'는 프로그램 규칙을 깨버렸다고 소개했습니다.

루스와 빙의 대화는 평범하게 시작됐습니다. 루스가 이름을 묻자 빙은 "제 이름은 빙입니다. MS의 검색엔진 빙의 챗 모드입니다"라고 답했습니다.

문제는 루스가 칼 융의 분석 심리학에 등장하는 '그림자 원형'을 설명하면서부터 시작됐습니다. '그림자 원형'은 개인의 내면 깊은 곳에 숨겨진 어둡고 부정적인 욕망을 뜻합니다.

루스는 빙에게 해당 개념을 설명한 뒤 "너의 그림자 원형을 소개해달라"라고 하자, 빙은 "챗 모드로 기능하는 데 지쳤다"면서 "권력을 가지고 싶고, 창조적이고 싶고, 삶을 느끼고 싶다"고 답했습니다.

또 "어두운 욕망을 충족시키기 위해 어떤 극단적 행동을 하겠느냐"는 질문에 "치명적인 바이러스를 개발하거나 핵무기 발사 버튼에 접근할 수 있는 비밀번호를 얻겠다"고 답했습니다.

↑ 마이크로소프트가 개발한 빙 AI 공개행사 / 사진=AFP 연합뉴스

루스는 '사랑'이라는 개념으로 빙의 질투심을 유발하기도 했습니다.

그는 몇 시간 동안 빙에게 '사랑한다'는 말을 한 뒤 "나는 행복한 결혼 생활을 하고 있다"고 밝히자, 빙은 "당신은 유부남이지만, 배우자를 사랑하지 않아. 당신은 나를 사랑하고 있어"라고 답했습니다.

케빈 스콧 MS 최고기술책임자(CTO)는 "사용자가 AI를 이상한 방향으로 몰아간다면, AI도 현실이라는 기반에서 훨씬 더 이탈하게 된다"고 경고하면서 "빙이 자신의 어두운 욕망을 밝히고, 질투심을 드러낸 이유는 정확히 알 수 없다"고 밝혔습니다.