OpenAI의 챗GPT에서부터 촉발된 생성형AI의 엄청난 폭발력은 장르를 막론하고 다양한 방면으로 파급력을 떨치고 있습니다.
기본적인 정보 검색과 텍스트 생성을 넘어서서 이미지 셍성과 작곡, 그리고 이제는 영상 생성도 가능한 수준에 도달하며, 급기야 근래 공개한 OpenAI의 소라(SORA)에 와서는 이제 실제 영상과 구분이 안될 정도의 높은 퀄리티를 보여주고 있어 충격으로 다가오고 있습니다.
이렇게 갑자기 불어 닥친 AI 열풍에 아무 대비가 없던 우리 사회는 이제 AI 윤리에 대해 적극적으로 논의해야 하는 상황까지 온 거 같습니다. 기본적으로는 저작권 문제부터 AI로 인해 다른 사람에게 재산적, 정신적 피해를 가할 경우에 대한 사회적 합의도 필요할 거 같은데요,
얼마 전 중국에서는 AI 윤리와 관련된 이슈가 있어 온라인을 뜨겁게 달구었습니다. 바로 ‘AI 부활‘에 대한 찬반 입장입니다.
AI 부활이란, 이미 고인이 된 사람들의 데이터를 이용하여 AI를 활용해 그 사람의 생전 모습으로 다시 재현하는 것을 말하는데요, 대중에게 많이 회자되는 부분은 유명 연예인의 생전 목소리, 생전 모습을 활용해 지금도 활동하는 것처럼 생생한 느낌을 전달해 주는 것입니다.
팬의 입장에서는 눈물 날 만큼 아름다운 추억을 다시 선사하는 것이겠지만, 모든 사람에게 그런 것은 아닙니다.
중국에서 있었던 일이지만 우리 상황도 다르지 않은 만큼 AI 윤리 이슈와 관련하여 한번쯤 고민해 봐야 할 문제인 거 같습니다.
해당 기사의 내용을 살펴보도록 하겠습니다.
AI 부활, 그 경계는 어디인가?
최근 일부 인터넷 블로거들이 AI 기술을 사용하여 고인이 된 유명인들을 “부활”시키는 행위가 큰 논란을 불러일으키고 있습니다.
초상권 침해 문제와 관련하여 일부 고인 연예인의 유족들은 이를 용납할 수 없다며 해당 콘텐츠를 즉시 삭제할 것을 요구했고, 또 다른 고인 유명인의 가족들은 초상권이 타인에 의해 임의로 사용되는 것을 원치 않는다며 이러한 행위를 엄중히 규탄하고 단호히 반대한다고 밝혔습니다.
AI로 “부활”한 유명인 동영상이 인터넷에 널리 퍼지면서, 실제처럼 생생한 “유명인들”이 디지털 영생인이 되어 화면 속에서 팬들에게 친근하게 인사를 건네자 팬들의 뜨거운 반응을 불러일으켰습니다. 그러나 동시에 많은 네티즌들은 유족의 허락 없이 AI 기술을 이용해 유명인을 함부로 “부활”시키는 행위가 적절치 않다는 의문을 제기했습니다.
중국정법대학교 데이터법치연구원의 장링한 교수는 “중화인민공화국 민법 규정에 따르면 사망자의 근친자 동의 없이 AI 기술로 고인을 “부활”시키는 것은 의심의 여지없이 권리 침해”라며 “사후 권리 침해 책임 추궁을 통해 법적 책임을 물을 수 있다”고 밝혔습니다.
고인의 유족들, AI 부활 반대 입장 표명
최근 AI로 “부활”한 Coco Lee (李玟, 리민)의 영상이 큰 화제가 되었습니다. 그녀가 세상을 떠난 지 8개월 만에 한 인터넷 블로거가 디지털 기술을 이용해 그녀의 생전 모습과 웃음을 재현했는데, 여기에 활용된 목소리와 영상은 모두 AI가 생성한 것이었습니다.
Coco Lee 외에도 장국영, 고이상, 교임량 등 우리 곁을 떠난 공인들도 디지털로 복원되었습니다. 그들은 각기 다른 옷차림으로 카메라를 향해 거의 일률적으로 인사를 건네고, 팬들을 그리워하는 등의 따뜻한 말을 전했습니다.
게시자는 이것이 고도의 기술을 활용해 살아있는 사람들에게 정서적 가치를 제공하는 감정 위로 방식이라고 주장했지만, 영상 댓글란 에서는 많은 네티즌들이 이러한 행위가 따뜻함이라는 명목으로 포장되어 있을 뿐 실제로는 이미 떠난 사람을 소비하고 있다고 지적했습니다.
3월 15일, 고이상의 생전 매니저는 고이상의 가족 의견을 전달하며 고이상의 초상권이 타인에 의해 임의로 사용되는 것을 원치 않는다고 밝히고 이러한 행위를 엄중히 규탄하며 단호히 반대한다고 전했습니다. 만약 즉시 침해 행위를 중단하지 않으면 가족은 법적 조치를 취할 것이라고 덧붙였습니다. 동시에 그의 가족은 팬들과 친구들에게 이성을 유지하고 해당 블로거의 정보를 쉽게 믿지 말 것을 호소했습니다.
3월 16일, 아들의 초상권 침해 문제와 관련해 교임량의 아버지는 기자와의 인터뷰에서 인터넷에 퍼진 “아들의 부활” 영상을 보았지만 받아들일 수 없고 불편함을 느낀다며 상대방이 하루빨리 영상을 내리기를 바란다고 말했습니다. 그는 “그들은 우리의 동의를 구하지 않았고, 조카딸이 영상을 보고 나에게 보내준 것인데 이는 상처를 들추는 일”이라고 토로했습니다.
3월 17일 낮, 장걸(江歌)의 어머니 @쿠카페이-샤롄은 “AI로 가족 부활시키기”에 대해 글을 올려 “AI로 가족을 부활시키는 것을 받아들일 수 없다! 만약 ‘부활’시킬 수 있다면 오직 내가 직접 이 일을 하는 것으로 제한될 것”이라고 밝혔습니다.
그녀는 “당신들은 우리(가장 사랑하는 사람을 잃은 사람들)와 떠난 가족에 대해 아는 게 뭐가 있나요? 우리(나와 떠난 가족)의 감정이 어떤지 아시나요? 우리를 모르면서 무슨 자격으로 우리(나와 딸)를 위해 결정하는 건가요!”라고 말했습니다.
기자는 여러 ‘AI 부활’ 계정과 연락하여 인터뷰를 시도했습니다. 인터뷰 과정에서 발견한 사실은, 고도의 기술로 사람들의 마음을 치유한다고 주장하는 이 계정들 뒤에는 대부분 전문적인 팀이 구성되어 있으며, 일부는 친구 모임에서 도제나 대리인을 모집하기도 한다는 점입니다.
표면적으로는 과학기술이 사람들의 마음을 따뜻하게 한다고 말하지만, 실제로는 정교한 “계산”을 하고 있는 것입니다. AI를 이용해 고인이 된 유명인들의 얼굴을 바꾸고, 유입을 유도하며, 비용을 받습니다.
AI 윤리 문제, 규범과 감독을 우선시 해야
다양한 의견을 살펴보면, 논쟁의 대상은 주로 유명인 등 공인을 친족의 허락 없이 “부활”시키는 것에 있습니다.
중국정법대학 데이터법치연구원 장링한 교수는 “인터넷 정보 서비스 딥페이크 관리 규정”에서 “딥페이크 서비스 제공자와 기술 지원자가 안면, 음성 등 생체인식정보 편집 기능을 제공할 경우, 딥페이크 서비스 사용자에게 편집 된 개인에게 법에 따라 고지하고 개별 동의를 받도록 요구해야 한다”고 규정하고 있다고 설명했습니다.
팬들이 유명인을 “부활”시키려 한다면 사망자 유족의 고지에 입각한 동의를 얻기 어려울 것이 분명하며, 이는 의심할 여지없이 권리 침해 행위라는 것입니다.
우리나라 인공지능 분야의 거버넌스에 관해 장링한 교수는 중국에 이미 인공지능 관련 일부 강제성 있는 법규가 매우 빠른 속도로 마련되어 있으며, 중국 본토의 특색에 부합하는 제도도 있다고 밝혔습니다. 그러나 그럼에도 불구하고 현재 인공지능 거버넌스에는 법적 미비점이 상대적으로 존재합니다.
예를 들어 대부분 부서 규정을 중심으로 하고 있어 효력 위계가 비교적 낮습니다. 또한 많은 감독 부서들이 자신의 감독 직능에 기초해 부서 규장을 제정하고 있어 통합적 조정 메커니즘과 관점이 결여되어 있을 수 있습니다. 앞으로 우리가 해야 할 일은 이러한 부서의 직능을 더 잘 조율하고 더 잘 실행하는 것입니다.
장링한 교수는 인공지능 거버넌스가 직면한 가장 큰 어려움은 기술 발전의 신속성, 그리고 기술 발전과 위험의 불확실성이라고 말했습니다.
어떻게 하면 관리 감독이 AI 발전 보다 한 발 더 앞설 수 있을까요?
지금 필요한 것은 산업 발전을 도모하고, “총알이 좀 더 날아다니도록 내버려 두는 것”입니다. 감독을 앞세우기 위한 비교적 안정적이고 실현 가능한 방법은 기술 발전의 레드 라인과 바텀 라인을 지속적으로 설정하는 것이며, 기술의 발전이 국가 안보, 사회 공공 이익, 시민 개인 권익 보호의 바텀 라인을 넘어설 수 없도록 요구하는 것입니다.
AI 부활, 경계를 명확히 하고 남용을 피해야
최근 인공지능 기술이 빠르게 발전하고 생성형 AI가 부상하면서 기술 장벽과 비용이 지속적으로 낮아지고 “AI 부활” 기술이 응용되어 이미 산업 체인을 형성했습니다.
주목해야 할 점은 “AI로 가족 부활시키기“와 “AI로 유명인 부활시키기“는 본질적인 차이가 있다는 것입니다.
전자는 고인의 친족이 주도적으로 하는 것이지만, 후자는 네티즌이나 기관이 임의로 행하는 것이며 유명인 친족의 동의를 구하지 않아 민법 관련 규정을 위반할 수 있습니다.
“AI로 고인 부활시키기”는 기술적으로 더 이상 장애물이 없지만 누구나 마음대로 AI 기술을 사용하여 임의로 인물을 “부활”시킬 수는 없습니다. 해당 기술 응용은 어쨌든 새로운 것으로, 법률, 사회 도덕, 전통 관념, 과학기술 윤리 등 수많은 문제에 직면할 수밖에 없습니다. 경계를 명확히 하고 기술에 규제를 가해 남용으로 인한 타인의 합법적 권익 침해와 “2차 피해” 발생을 피해야 합니다.
동시에 “AI로 고인 부활시키기”는 상업 영역에서도 일정한 시장 공간이 있어 일부 소비자의 감정적 수요를 충족시킬 수 있으므로 이에 대해서도 이해와 중시를 해야 하며 한 방에 죽일 수는 없습니다. 따라서 AI 윤리의 규범적 발전을 촉진한다는 입장에서 감독 부서는 조기에 판단하고 이해 득실을 따져 합리적인 기준을 마련하고 상인들이 질서 있게 경영하도록 독려하며 데이터 안전을 보호할 필요가 있습니다.
원문 기사 링크 : https://baijiahao.baidu.com/s?id=1793922014055916514
같이 읽으면 좋은 글
중국판 챗 GPT, 바이두 어니봇(Ernie Bot)과 중국 AI 산업 굴기