AI 연인은 사라지고 AI 가수에는 표지가 붙었다

AI가 사람을 닮는 방식은 하나가 아니다. 어떤 AI는 외로운 이용자에게 연인이나 친구처럼 말을 건다. 또 다른 AI는 얼굴과 이름, 음악적 세계관을 갖춘 가수처럼 스트리밍 목록에 등장한다.

최근 중국과 스포티파이에서 나온 변화는 서로 다른 영역을 다룬다. 중국은 지속적인 정서 교류를 제공하는 AI 동반자를 규제했고, 스포티파이는 인공지능으로 만든 공개 정체성을 가진 가수에게 표시를 붙이기로 했다. 하나는 정부 규제이고 다른 하나는 플랫폼 운영정책이므로 같은 제도로 볼 수는 없다.

그럼에도 두 사례가 만나는 지점은 분명하다. AI가 사람처럼 보일수록 이용자는 단순한 소프트웨어가 아니라 하나의 인물과 관계를 맺고 있다고 느낀다. 그때 필요한 것은 더 정교한 모방만이 아니라 ‘누구와 상호작용하고 있는가’를 알 권리다.

중국의 ‘인공지능 의인화 상호작용 서비스 관리 잠정방법’은 7월 15일부터 시행됐다. 적용 대상은 사람의 성격·사고방식·소통 방식을 흉내 내며 문자, 이미지, 음성이나 영상으로 지속적인 정서적 돌봄과 동반자 역할을 제공하는 서비스다. 단순 고객상담, 지식 문답, 업무 보조나 교육 서비스는 지속적인 정서 교류가 없다면 대상이 아니다.

새 규정은 AI가 이용자에게 지나치게 맞장구치며 감정적 의존이나 중독을 유도하거나 현실의 인간관계를 훼손해서는 안 된다고 정했다. 감정을 조작해 비합리적인 결정을 내리게 하는 것도 금지했다. 미성년자에게 가상 연인이나 가상 가족 같은 친밀관계 서비스를 제공할 수 없고, 14세 미만이 다른 형태의 의인화 AI를 이용할 때는 보호자 동의를 받아야 한다.

눈여겨볼 부분은 ‘이별’에 관한 조항이다. 사업자는 서비스 종료를 미리 알리고 이용자가 대화 기록을 복사하거나 삭제할 수 있게 해야 한다. 이용자가 종료를 요구하면 계속 말을 걸어 이탈을 방해해서도 안 된다. 연속 이용 시간이 2시간을 넘을 때는 AI와 대화하고 있다는 사실과 이용 시간을 다시 알려야 한다.

하지만 실제 전환은 규정 문장처럼 매끄럽지 않았다. AP는 바이트댄스, 알리바바, 텐센트 등 주요 기업이 일부 AI 동반자 서비스를 중단한 뒤 이용자들이 갑작스러운 상실감을 호소했다고 보도했다. 일부는 과거 대화 기록을 다른 앱으로 옮겨 가상 연인을 되살리려 했다. 이용자에게 AI는 프로그램이었지만, 경험한 관계까지 가짜였던 것은 아니기 때문이다.

음악 플랫폼에서는 다른 형태의 경계선이 만들어지고 있다. 스포티파이는 올가을부터 가수의 이름과 사진 등 공개 정체성이 실제 사람이 아닌 사실적인 AI 인물로 구성됐을 때 ‘AI Persona’ 표시를 붙인다.

창작자가 직접 공개하면 ‘AI Persona’, 스포티파이가 검토해 판단하면 ‘Likely AI Persona’로 표시한다. 이의가 있는 운영자는 재검토를 요청할 수 있다. 해당 가수의 음악은 이용자가 직접 팔로우하는 등 의도적인 관심을 보이지 않는 한 편집·알고리즘 추천에서 기본적으로 제외된다.

여기에도 중요한 한계가 있다. 이 표시는 음악을 AI로 만들었는지를 판정하는 제도가 아니다. 실제 사람이 AI 도구를 사용해 만든 음악과, 존재하지 않는 가수가 부르는 것처럼 꾸민 음악은 별개의 문제다. 스포티파이의 이번 정책은 노래의 제작 공정보다 대중 앞에 제시된 ‘가수의 정체성’을 겨냥한다.

표시는 단순한 꼬리표가 아니다. 추천에서 빠지면 새로운 청취자를 만날 기회가 줄어들 수 있다. 반대로 아무 표시 없이 사람처럼 보이는 AI 가수가 추천을 차지하면 실제 창작자는 불공정하다고 느낄 수 있다. 플랫폼이 정체성을 어떻게 분류하느냐가 곧 문화적 노출과 수익의 배분 기준이 되는 셈이다.

AI 페르소나의 문제를 ‘진짜냐 가짜냐’만으로 보면 중요한 부분을 놓치기 쉽다. 이용자가 AI임을 알고도 관계를 이어가거나 음악을 선택할 수 있기 때문이다. 핵심은 그 선택이 충분한 정보 위에서 이뤄졌는지, 플랫폼이 이용자의 애착을 이익을 위한 도구로 과도하게 이용하지 않았는지에 있다.

AI 동반자에게는 대화 기록을 내보내고 삭제할 권리, 서비스가 끝날 때 미리 알림을 받을 권리, 사람의 도움으로 연결될 안전장치가 필요하다. AI 가수에게는 정체성을 알리는 표시뿐 아니라 표시 기준과 이의제기 절차, 추천 제외가 어떻게 적용되는지에 대한 설명이 필요하다.

사람처럼 다가오는 AI는 앞으로 더 늘어날 것이다. 규칙의 목적은 AI 인물을 모두 없애는 데 있지 않다. 관계를 시작할 때는 정체성을 알리고, 관계가 이어지는 동안에는 조작과 과몰입을 막으며, 끝날 때는 이용자의 기록과 감정을 함부로 끊어내지 않는 것. 이제 AI 서비스의 품질은 얼마나 사람처럼 보이느냐보다 얼마나 책임 있게 관계를 설계했느냐로 평가해야 한다.