국내 언론에 나타난 가상 인간 윤리 이슈 파악: 의미연결망 분석을 중심으로
Copyright ⓒ 2022 The Digital Contents Society
This is an Open Access article distributed under the terms of the Creative Commons Attribution Non-CommercialLicense(http://creativecommons.org/licenses/by-nc/3.0/) which permits unrestricted non-commercial use, distribution, and reproduction in any medium, provided the original work is properly cited.
초록
코로나19 이후 가상 인간은 하나의 새로운 디지털 서비스로 급부상했다. 한편, 가상 인간이 인간의 외형을 하고 있고 인간의 역할을 대체하는 용도로 활용되고 있다는 점에서 오남용될 가능성이 있다. 이에, 본 연구는 가상 인간을 다룬 국내 언론 기사문139개를 수집하고 UCINET 6을 활용해 의미연결망 분석을 진행했다. 연구 결과는 다음과 같다. 가상 인간의 윤리 문제는 개발부터 활용까지 전반적인 과정에서 논의되어야 한다. 정책과 규제 측면에서는 ‘일자리 대체’, ‘인격권 침해’ 그리고 ‘다양성’에 대한 논의가 필요하다. 또한, 인간을 대상으로 발생하던 ‘성희롱’, ‘외모 평가’, ‘혐오’, ‘차별’과 관련한 이슈가 가상 인간에게도 나타나고 있으며, 실제 사람의 외형을 본떠 가상 인간을 제작한 경우에 ‘범죄’, ‘초상권’, ‘존엄성’, ‘잊힐 권리’ 등과 관련한 이슈가 존재했다. 마지막으로, ‘신뢰’, ‘개인정보 유출’ 그리고 ‘편향’이나 ‘편견’과 같이 개발 단계에서 고려되어야 하는 사항들이 있었다.
Abstract
Virtual humans have emerged as a new digital service following the COVID-19 pandemic. However, there is also a concern that the technology could be misused. We collected 139 Korean media reports on virtual humans and analyzed them through semantic networks using UCINET 6 to identify the ethical issues of virtual human. The study findings are as follows: It is important to discuss the ethical issue of virtual humans in terms of the overall process of their development and their use. Regarding policies and regulations relating to virtual humans, discussions on ‘job replacement’, ‘violation of personal rights’ and ‘diversity’ are urgently required. Virtual humans are also subject to issues like sexual harassment, appearance judgement, hatred, and other types of discrimination that affect humans. There are also issues related to ‘crime’, ‘portrait rights’, ‘dignity’, ‘right to be forgotten’, etc., when a virtual human is created after the appearance of a real human. Lastly, the development phase of virtual humans should take into consideration factors like ‘trust’, ‘personal information leakage’, ‘bias’, and ‘prejudice.’
Keywords:
AI Ethics, Ethics Guidelines, Policy Proposal, Semantic Network Analysis, Virtual Human키워드:
가상 인간, 윤리 가이드라인, 의미연결망 분석, 인공지능 윤리, 정책 제안Ⅰ. 서 론
코로나19로 인해 비대면 사회가 도래하면서 ‘메타버스(metaverse)’에 대한 관심이 급증하기 시작했고, 이와 함께 가상 인간(virtual human)을 향한 관심 또한 높아지기 시작했다. 가상 인간은 버추얼 휴먼, 디지털 휴먼 혹은 가상 인플루언서로도 불리는 실제 인간의 모습을 한 3D 모델을 일컫는다. 현재 가상인간은 광고 모델, 인플루언서, 가수, 아나운서 등으로 활동하고 있으며 향후 금융, 유통, 헬스케어 등 다양한 산업으로 확대 적용될 전망이다[1]. 더 나아가, 가상 인간은 메타버스에서도 큰 활약을 할 것으로 예상된다.
그러나 이러한 가상 인간에 대한 긍정적인 전망에도 불구하고, 이에 대한 몇 가지 문제들이 제기되고 있다. 실제 사람이 아니지만, 사람의 외형을 가진 가상 인간은 사람들로 하여금 불쾌감을 느끼게 할 수 있으며, 예상치 못한 상황에 오남용될 가능성이 있다[1]. 이에 전문가들은 가상 인간 활용에 대한 윤리적·정책적 방안을 마련할 것을 촉구하고 있다. 스탠퍼드 대학교의 가상 인간 상호작용 연구소의 교수인 제러미 베일렌슨(Jeremy Bailenson)과 월터 그린리프(Walter Greenleaf)는 가상 인간이 곧 인간의 지능을 넘어설 것이며, 점차 활용의 범위가 넓어짐에 따라 사회에 혼란을 야기할 것이라 예측한다. 이들은 정부 및 정책 당국이 해당 기술이 사회에 올바르게 안착할 수 있도록 적절한 정책과 규범을 마련해야 한다고 강조한다[2]. 가상 인간 제작 업체 유니큐(UneeQ)는 가상 인간의 윤리적 디자인에 대한 공론화의 필요성을 제시하면서 가상 인간 디자인에 관한 5가지 윤리 원칙(정직함과 투명성, 삶의 개선, 개인정보, 존중, 공동 설계)을 세우고 공개했다[3]. 가상 인간의 한 형태 중 하나인 버추얼 인플루언서의 사회적 의미변화를 살핀 연구 또한 가상 인간과 ‘여성’, 가상 인간 콘텐츠의 생산자이자 소비자인 ‘MZ세대’ 등과 관련한 가상 인간의 윤리적, 법적 그리고 정책적 이슈에 대한 공론화가 필요하다고 주장한다[4].
가상 인간을 둘러싼 법적인 책임에 관한 논의도 이뤄지고 있다. 다국적 로펌인 덴톤스(Dentons)의 한 변호사는 가상 인플루언서와 관련된 잠재적 법적 논란을 다룬 문제를 다룬 리포트를 발간했다. 해당 보고서는 가상 인플루언서의 법적 책임 측면에서 상당히 불확실한 부분이 있어 광고 활동과 커뮤니케이션 규제 관련하여 여러 문제가 발생할 수 있으므로 관련하여 입법이 시급하다고 지적한다[5]. 우리나라의 경우 지난 제20대 대통령 선거 운동 기간 중, 후보를 가상 인간으로 제작하여 이를 선거 운동에 활용하는 것이 선거법에 위반되는지 여부가 논란이 되기도 했다[6]. 이처럼, 새로운 기술과 서비스의 등장으로 인한 사회적인 혼란을 막기 위해서는, 가상 인간의 개발과 활용에 대한 가이드라인 마련과 정책, 그리고 법적인 대비가 필요하다.
많은 가상 인간의 외형이나 두뇌가 인공지능으로 개발되고 있다는 점에서 현재 제공되고 있는 인공지능 윤리 원칙을 가상 인간에 적용할 수 있다고 볼 수 있다. 하지만 유럽연합이나 과학기술정통부와 같은 기관에서 제공하고 있는 인공지능 윤리 원칙의 요건들은 기준이 모호하고 가상 인간과 같은 특정 서비스가 야기하는 이슈들을 세부적으로 포괄하지 못한다는 한계가 있다[7], [8]. 가령, 투명성이라는 요건에 대하여 과학기술정통부는 인공지능의 활용 내용과 활용 과정에서 발생할 수 있는 위험 등의 유의 사항을 사전에 고지하는 것으로 제시한다[9]. 반면, 가상 인간 제작 업체 유니큐는 동일한 투명성 요건에 관하여 가상 인간이 사람을 속이는 목적으로 이용되어서는 안 되며, 사람과 구분하기 어려운 경우에는 대화할 때 이를 투명하게 밝혀야 하고, 허락 없이 타인의 형상으로 가상 인간을 제작해서는 안 된다는 세부적인 기준을 제시한다[3]. 이와 같이 인공지능이 활용되는 범위가 넓기 때문에 가상 인간으로 인해 나타나는 부작용과 윤리적 문제를 포괄하기 어려울 수 있다. 뿐만 아니라, 인공지능 기술을 사용하지 않고 제작된 가상 인간의 경우에는 인공지능 윤리 원칙에 해당한다고 보기 어려우므로, 가상 인간의 윤리적 활용에 대해 오롯이 인공지능 윤리 원칙만을 적용하기에는 무리가 있다. 따라서 가상 인간의 윤리적 방침과 정책에 관해 보다 세부적으로 논의할 필요가 있다.
오늘날 가상 인간의 윤리적 문제와 우려가 언론을 통해 제기되고 있다. 언론 보도를 통해 우리는 광고 모델로 활발히 활동하고 있는 ‘로지(ROZY)’에 대해 성희롱이나 외모 평가가 이뤄지고 있거나[8], 딥페이크(deepfake) 기술이 미국 오바마 전 대통령과 우크라이나의 대통령 젤렌스키의 형상을 모사한 가상 인간을 만드는데 활용되어 사실과 다른 소문을 퍼뜨리는 등의 사건을 종종 접할 수 있다[11], [12]. 이에, 본 연구는 언론 기사에 나타나는 가상 인간에 대한 의미연결망 분석을 진행하여 오늘날 발생하고 있는 가상 인간의 윤리적 이슈를 파악하고, 관련한 윤리 가이드라인과 정책 방향에 대한 논의와 의미를 파악하고자 한다. 특히, 가상성이 인간의 행동과 현실에 미치는 영향에 대한 논의는 추측보다는 실증적인 발견을 기반으로 이뤄져야 함을 근거로[13], 본 연구는 현재 가상 인간이 어떤 윤리적·사회적인 문제들을 야기하고 있는지 혹은 야기할 것으로 예상되는지, 그리고 앞으로 나아가야 할 윤리 기준과 정책 방향은 무엇인지를 언론의 보도 자료를 분석해 파악하는 실증 연구를 진행하고자 한다.
Ⅱ. 선행 연구
2-1 가상 인간 윤리
가상 인간은 실제 사람의 특징과 외형을 닮은 3D 모델을 의미한다[14]. 일부 연구에서는 가상 인간을 기존의 아바타의 개념에서 발전하여 형태나 움직임이 사실적으로 묘사되는 것으로 여기기도 하며, 인공지능, 컴퓨터 그래픽 그리고 메타버스 등이 합쳐진 현대 기술의 집약체로 보는 경우도 있다[15], [16]. 한편, [17]는 가상 인간이 활용 분야에 따라 다르게 정의되고 있지만 실제 사람의 외형을 모방하고, 실제 사람의 행동양식을 모방하고, 사람의 역할을 대체한다는 공통점이 있다고 밝혔다. 본 논문은 가상 인간을 실제 존재하는 사람의 외형을 모방하는지 여부나 제작 방식과 관계없이, 인간이 아니지만, 인간의 외형을 하고 인간의 행위를 하는 모든 3D 형태를 일컫고자 한다.
가상 인간을 제작하는 방식에는 크게 3가지가 있다. 몸은 실제 사람의 것을 빌리고 얼굴만 가상으로 구현하거나, 전신을 가상으로 구현하거나, 현실에 존재하는 사람을 디지털 형태로 만드는 방식 중 하나를 택하여 제작한다[18]. 사용되는 기술로는 CG, 모션캡처 그리고 인공지능 등이 있다. 그중에서도 인공지능은 3D 모델에 뼈대를 심는 과정인 리깅(rigging)을 자동화하는 데에 쓰일 수 있으며, 딥페이크 기술의 기반이 되는 생성적 대립 신경망(GAN; generative adversarial network)이라는 딥러닝 기술은 가상 얼굴 이미지를 만드는 데에 사용될 수 있다[1]. 또한 자연어처리(NLP; natural language processing)는 가상 인간이 사람과 대화를 통해 상호작용할 수 있도록 한다[19].
지금까지 가상 인간과 관련한 연구는 주로 제작 기술, 사용자 경험 그리고 광고 측면에서 이뤄졌다. 특히 사용자 경험과 광고 측면에서는 사용자의 인식과 수용에 대해 연구가 이뤄지고 있다[4]. 사용자 경험의 경우, 인간이 아닌 존재가 인간을 일정 수준 이상 닮은 경우에 발생하는 ‘불쾌한 골짜기 현상(uncanny valley)’과 이의 극복 방안 관련 이슈가 자주 등장하고 있으며, 광고 측면에서는 가상 인간이 ‘가짜’라는 부정적인 인식이 증가하고 소비자에게 다가가는 ‘진정성’ 측면에서의 영향에 대한 연구가 이뤄지기도 한다[20],[21],[22]. 그러나 가상 인간을 윤리적 측면에 관해서 다루고 있는 연구는 부족하다. 가상 인간과 관련한 사회적 현상과 이슈에 대한 연구가 이뤄지기도 했으나, 여성과 소비 주체에 대한 키워드만 언급될 뿐[4] 이와 관련한 구체적인 이슈와 담론을 살피지 못한다는 한계가 존재한다.
2-2 의미연결망 분석
의미연결망 분석(SNA; semantic network analysis)은 텍스트에 출현하는 단어 간의 관계를 보여주는 분석 기법 중 하나이다[23]. 의미연결망은 단어 간의 동시 출현 정도를 계산한 것을 토대로 만들어지며, 노드(node)와 엣지(edge)로 구성되어 있다. 노드는 텍스트에서 등장하는 단어이며 엣지는 노드 간의 연결 관계이다.
해당 분석 방법은 단어가 전체 연결망 안에서 어느 위치에 존재하고 어떤 구조를 이루고 있는지 보는 것이 중요하다[24]. 이를 통해 텍스트에 내재하여 있는 메시지 전달자의 의도를 드러내고 구조적인 패턴을 파악하는 것이 가능하다[25], [26]. 이러한 이유로, 지금까지 의미연결망 분석은 언론에서 나타나는 이슈나 담론을 파악하는 연구에서 활발히 사용되어왔다[27],[28]. 따라서 본 연구는 해당 분석 방법이 언론에서 드러난 가상 인간의 윤리적 이슈의 패턴을 확인할 수 있을 뿐만 아니라, 가이드라인과 정책 방향에 대한 논의와 담론을 이끌어내기에 용이하다고 판단하고, 이를 주 분석 방법으로 활용하고자 한다.
의미연결망 속 단어 간 관계는 중심성(centrality) 값으로 파악할 수 있다. 중심성 값에는 연결중심성(degree centrality), 근접중심성(closeness centrality), 아이겐벡터중심성(eigenvector centrality), 매개중심성(betweenness centrality)이 있다. 특정 단어가 네 개의 중심성 값에서 모두 크게 나오면, 해당 단어는 의미구조나 맥락에서 중요한 역할을 한다는 것으로 해석할 수 있다[4].
연결망 군집 분석(CONCOR; convergence of iteration correlation)은 연결망 내 노드들 간에 관계 패턴에 대한 상관성이 높은 단어들을 분류하는 분석 방법이다. 상관관계 값을 이용해 동일한 관계 패턴을 가지는 단어들이 군집화되며, 시각적으로 확인할 수 있다. 그리고 이를 토대로 각 군집에 대한 특징을 파악하며 분석을 진행한다[29]. 각 군집 내의 단어들을 통해 해당 군집에 대한 의미를 파악할 수 있으며, 전체 의미연결망 구조의 파악이 가능하다[30].
Ⅲ. 연구 설계
3-1 연구 방법
가상 인간과 관련된 윤리적 이슈를 살피고, 앞으로 나아가야 할 가상 인간 윤리 기준이나 정책의 방향이 무엇인지 파악하고자 언론의 기사를 수집해 의미 연결망 분석을 진행하였다. 전반적인 분석 절차는 표1과 같다.
data analysis process
먼저, 언론사에서 가상 인간이 ‘가상 인간’, ‘버추얼 휴먼’ 혹은 ‘디지털 휴먼’으로 혼용되어 사용하고 있음을 확인할 수 있었다. 이에 따라, ‘가상 인간 윤리’, ‘가상인간 윤리’, ‘버추얼 휴먼 윤리’, ‘버추얼휴먼 윤리’, ‘버츄얼휴먼 윤리’, ‘버츄얼 휴먼 윤리’, ‘디지털 휴먼 윤리’, ‘디지털휴먼 윤리’를 검색어로 설정한 후, 파이썬(python)을 활용해 네이버 뉴스에서 등장하는 74개의 국내 언론사의 기사문 220개를 수집했다. 관련도가 낮거나 중복되는 기사를 제거하여 총 139개의 기사 제목과 기사문으로 분석하였다.
데이터 전처리는 불용어 제거, 단어 치환 그리고 토큰화와 품사 태깅 작업을 반복하였다. 특수 문자나 숫자 및 단위 등의 불용어를 제거하고 ‘여성’과 ‘여자’, ‘구별’과 ‘구분’과 같은 동의어 및 유의어는 하나의 단어로 치환하였다. 토큰화와 품사 태깅 작업은 파이썬의 KoNLPy 패키지를 활용했으며 명사, 형용사, 부사만을 추출했다.
이후 빈도 분석을 진행한 후 분석 결과를 토대로 가상 인간의 윤리적 법적 정책적 이슈와 관련한 상위 키워드 43개를 선정하였다. 빈도 분석 결과는 표2와 같다. 앞선 과정을 거쳐 선정된 키워드로 동시출현행렬을 생성했으며 이를 토대로 UCINET 6을 활용해 연결중심성, 근접중심성, 아이겐벡터중심성, 매개중심성 값을 통해 가상 인간 윤리와 관련한 핵심 단어를 파악했다. 또한 전반적인 의미 파악을 위하여 도출된 연결망을 넷드로(netdraw)로 시각화했다.
frequency analysis
시각화 시 자주 언급되고 연결망 내에서 중요한 역할을 하는 단어는 중앙에 위치하도록 하고 노드의 크기가 커지도록 했다. 또한 관계 값이 클수록 엣지가 굵어지도록 하였으며, 이후 연결망 군집 분석을 진행해 가상 인간 윤리 문제에 관한 언론의 좀 더 세부적인 담론 패턴을 살펴보았다.
3-2 연구 문제
본 연구는 앞선 연구 방법을 활용하여 보다 구체적인 가상 인간 관련 윤리 가이드라인과 정책 마련을 위해, 국내 언론에서 가상 인간의 윤리적, 법적, 정책적인 논의가 어떻게 이루어지고 있는지를 밝히고자 한다. 가장 먼저, 가상 인간을 중심으로 한 이슈를 발견하고, 해당 이슈와 관련한 윤리기준과 정책적, 법적인 논의를 확인하고자 한다. 그리고 이를 토대로 가상 인간의 윤리 원칙과 정책 방향을 제안하고자 한다. 이를 위해 연구 문제를 다음과 같이 설정하였다.
연구 문제1. 국내 언론에 나타난 가상 인간과 관련한 윤리적 이슈는 무엇인가?
연구 문제2. 국내 언론에서 제시되고 있는 가상 인간 윤리 가이드라인과 정책의 방향은 무엇인가?
Ⅳ. 연구 결과
4-1 의미연결망 분석 결과
언론을 통해 드러난 가상 인간의 윤리적 이슈에는 어떤 것들이 있는지 알아보기 위해 관련 언론 보도 자료에 대한 의미연결망 분석을 진행했다. 그중에서도 주요 이슈가 무엇인지 파악하기 위해 연결중심성, 근접중심성, 아이겐벡터중심성, 매개중심성 값을 토대로 각 상위 15개의 단어를 추출하고 비교하였다. 4가지 중심성 값에 대한 상위 15개의 키워드 결과는 표3과 같다.
keywords and centrality of ‘virtual human ethics’
visualization of semantic network
center of semantic network visualization
right side of semantic network visualization
분석 결과, ‘윤리’, ‘문제’, ‘활용’, ‘개발’, ‘다양성’, ‘여성’, ‘이루다’, ‘논란’, ‘딥페이크’, ‘범죄’, ‘평가’, ‘악용’이 4개의 중심성 값에서 모두 등장하는 것을 확인할 수 있었다. 이는 해당 단어들이 연결망 내에서 주요한 역할을 한다는 것을 의미한다. 현재 전반적으로 가상 인간 윤리와 관련해 문제들이 발생하고 있으며, 특히 활용과 개발의 측면에 있어서 집중적으로 논의되고 있음을 알 수 있다. 이에 더 나아가, ‘다양성’, ‘여성’과 같은 맥락에서 가상 인간 윤리에 관한 논의가 주를 이루고 있고, 가상 인간은 아니지만, 사람의 페르소나를 가진 대화형 챗봇인 이루다와 관련해 발생했던 논란도 함께 언급되고 있음을 살펴볼 수 있었다. 이루다는 20대 여성의 퍼소나를 가진 국내 대화형 인공지능 서비스이다. 그러나 서비스 출시 이후, 이루다의 발화를 통해 데이터에 남아있던 비식별화되지 않은 개인정보가 유출되거나 성희롱, 차별 그리고 소수자에 대한 혐오 발언이 드러나 논란이 되었다. 일부 사용자들은 이루다를 성적 대상으로 취급하기도 하였다. 또한, 딥페이크와 같이 가상 인간 제작 기술과 더불어, 범죄와 악용 그리고 가상 인간의 외모 평가에 관한 논의도 이뤄지고 있음을 확인할 수 있다.
이와 더불어, 의미연결망 시각화 결과를 토대로 현재 사회적으로 논의되고 있는 가상 인간 윤리 이슈에 대한 전반적인 의미구조를 파악했다. 중심성 값의 결과와 동일하게, ‘윤리’, ‘문제’, ‘활용’, ‘개발’, ‘딥페이크’ 노드의 크기가 컸으며 중앙에 위치하였다. 이렇게 5가지의 핵심어를 중심으로 다양한 이슈, 정책 그리고 가이드라인에 관한 논의가 이뤄지고 있음을 확인할 수 있었다. 또한, ‘문제’와 함께 ‘규제’와 ‘정책’이라는 키워드가 가까이 있는 것을 볼 수 있었다. ‘여성’, ‘다양성’, ‘혐오’, ‘차별’, ‘이루다’, ‘논란’, ‘성희롱’, ‘외모’, ‘젊은’ 등의 성이나 차별에 관한 단어들이 중앙에 위치하거나 ‘윤리’, ‘문제’, ‘딥페이크’와 같은 주요 단어 주변에 있음도 확인할 수 있었다. 이는 언론에서 주로 가상 인간 윤리와 관련해 성이나 차별과 관련한 이슈를 언급하고 있음을 시사한다.
연결망 군집 분석 결과, 총 8개의 군집이 나타났으며 각 군집의 키워드는 표4와 같다. 군집1은 ‘윤리’, ‘문제’, ‘개발’, ‘활용’, ‘정책’, ‘다양성’, ‘규제’, ‘인격권’, ‘우려’, ‘일자리’, ‘대체’, ‘사생활’, ‘공존’의 키워드를 포함하고 있었다. 이를 통해 가상 인간의 윤리적 이슈가 ‘문제’, ‘개발’ 그리고 ‘활용’의 키워드로 언론에서 다뤄지고 있음을 알 수 있다. 관련 세부 논의 사항으로는 ‘다양성’, ‘일자리’, ‘대체’, ‘사생활’, ‘인격권’이 있었으며, 관련하여 ‘정책’과 ‘규제’가 필요한 것으로 해석할 수 있다.
result of CONCOR analysis
visualization of CONCOR analysis
visualization of cluster 1
visualization of cluster 2 and cluster 5
visualization of cluster 3
visualization of cluster 4 and cluster 8
visualization of cluster 6 and cluster 7
군집2의 키워드로는 ‘여성’, ‘외모’, ‘평가’, ‘성희롱’, ‘젊은’, ‘부작용’, ‘이루다’, ‘논란’, 그리고 ‘불쾌’가 있었다. 가상 인간의 외형이 주로 젊은 여성으로 제작되고 외모에 대한 평가나 성희롱이 이뤄지는 것이 하나의 윤리적 이슈인 점을 확인할 수 있다. 그뿐만 아니라, 이루다 서비스에서 발생한 논란이 주로 군집2의 키워드들의 맥락에서 언급되고 있음을 살펴볼 수 있다. 이는 이루다 서비스에서 나타났던 개인정보 유출, 성희롱, 차별 그리고 혐오와 관련한 다양한 논란 중 특히 성희롱과 관련한 맥락과 가상 인간의 윤리적 이슈와 가장 관련이 깊게 연결 지어지고 있음을 의미한다. 가상 인간 서비스에 대화형 인공지능 기술이 적용될 경우, 이루다 서비스에서 발생한 문제가 유사한 양상으로 발생할 가능성이 제기되고 있는 것이다.
군집3은 가상 인간 제작 시 사용되고 있는 기술에 관한 키워드가 포함되어있었다. 키워드로는 ‘딥페이크’, ‘범죄’, ‘악용’, ‘피해자’, ‘초상권’, 그리고 ‘존엄성’이 있었다. 이는 ‘딥페이크’로 제작된 가상 인간이 범죄에 악용되고 있다는 사실과 ‘초상권’, ‘피해자’, 그리고 ‘존엄성’과 관련한 문제가 있음을 드러낸다.
군집4는 ‘신뢰’, ‘편향’, ‘편견’, ‘공정성’, ‘가이드라인’의 키 워드로 구성되어있었다. 특히 가상 인간의 윤리 가이드라인에 관한 논의가 ‘신뢰’, ‘편향’, ‘편견’, ‘공정성’의 맥락에서 자주 언급되고 있음을 보여준다.
군집5는 ‘개인정보’, ‘차별’, ‘유출’의 키워드를, 군집6은 ‘고인’과 ‘잊힐 권리’, 군집7은 ‘명예훼손’과 ‘프라이버시’, 그리고 군집8은 ‘선거’와 ‘대선’의 키워드를 포함했다. 군집5의 경우, 가상 인간 서비스에서 개인정보 유출과 차별의 문제가 발생할 우려가 나타나고 있는 것으로 해석할 수 있다. 군집6의 ‘고인’과 ‘잊힐 권리’의 키워드들은 고인을 가상 인간으로 제작해 방영하는 텔레비전 프로그램이 등장하면서, 고인의 잊힐 권리에 대한 논의에서 기인한 것이다[31]. 군집7의 ‘명예훼손’과 ‘프라이버시’는 실제 인물이 가상 인간으로 제작된 경우 나타날 수 있는 이슈로서, 앞으로 발생 가능할 것으로 우려되는 이슈로 볼 수 있다[32]. 그뿐만 아니라, 제20대 대통령 선거 당시, 후보자를 가상 인간으로 제작해 선거운동에 활용하여 선거법에 위배되는지 여부에 대해 논란이 있었던 것이 군집8의 ‘선거’와 ‘대선’의 키워드를 통해 드러났다[33].
Ⅴ. 결 론
본 연구는 가상 인간 제작 기술과 서비스의 발전에 맞춰, 가상 인간과 관련한 윤리적 이슈를 탐색하고, 이에 대응할 수 있는 가이드라인과 정책을 마련하는 데 도움이 되고자 관련 언론 보도 자료에 대한 의미 연결망 분석을 진행하였다. 먼저, 중심성 분석 결과가 시사하는 바는 다음과 같다. 가상 인간의 윤리적 문제는 활용, 개발, 다양성, 여성, 그리고 딥페이크 측면에서 논의되고 있으며, 개발부터 활용까지 전반적인 과정에서 윤리적인 문제에 대한 고민이 필요하다.
의미연결망 시각화 결과와 연결망 군집 분석 결과가 드러낸 가상 인간에 대한 윤리적 이슈와 윤리 기준 및 정책 마련과 관련한 시사점은 다음과 같다. 첫째, 정책과 규제 측면에서 논의되어야 할 부분으로는 일자리 대체, 인격권 침해 그리고 다양성이 있다. 가상 인간의 개발 목적이 인간을 대체하기 위함이라는 점에서 인간의 일자리를 대체할 가능성에 대한 대처가 필요하며, 가상 인간이 인간의 인격권을 침해할 우려도 나타나는 것을 확인할 수 있다[34]. 이와 더불어, 가상 인간 서비스는 다양한 성별, 연령, 인종을 아우르는 다양성을 반영할 필요성이 제기되고 있었다. 이에 정부 및 사회 단체는 인간과 가상 인간과의 공존을 위해, 특히 위 사항들에 대한 전문가와의 논의를 통해 정책과 규제를 마련할 필요가 있다.
둘째, 인간 간에 발생하던 ‘성희롱’, ‘여성’, ‘외모’, ‘평가’, ‘혐오’ 그리고 ‘차별’의 문제가 가상 인간에게도 적용되고 있다. 국내 가상 인간 ‘로지’ 혹은 중국의 가상 인간 ‘앤지’ 등에 대한 외모 평가 및 비하가 담긴 댓글이 달리는 이슈가 나타나고 있는데, 인간과 구분이 어려운 가상 인간에게 그동안 인간에게 해당하여 온 지나친 미의 기준이 가상 인간에게도 적용되는 것을 볼 수 있다[35]. 또한, 가상 인간에 대화형 챗봇의 기능이 탑재되었을 때, 이루다 논란에서 발생한 것과 같이 가상 인간을 성적인 대상으로 여기거나 성희롱, 혐오 그리고 차별의 발언이 이뤄질 수 있다는 우려가 드러나는 것을 볼 수 있다. 대상이 인간이 아닌 존재이기에 문제가 되지 않는다고 판단할 수도 있지만, 이러한 행위가 가상 인간이라는 대상에만 그치지 않고 실제 인간에게도 영향을 미칠 것으로 우려되고 있다[10]. 이에 따라, 성희롱이나 악성 댓글 피해자가 인간이 아닌 가상 인간인 경우, 이에 대한 처벌이 가능한지 여부에 대한 논의가 이뤄지고 있다[36].
따라서 인간의 모습을 한 가상 인간에게 행하는 행동들이 실제 인간에게 미치는 영향에 관한 연구가 활발히 이뤄질 필요가 있다. 가상 인간 제작자의 경우, 가상 인간의 퍼소나 설정 시 성별, 인종, 외모 등의 다양성에 기반해 설정하고, 가상 인간 서비스에 대화형 인공지능이 탑재되면 사용자가 윤리적으로 문제가 될 만한 발언을 하였을 때 폴백메세지(fallback message) 전략으로 ‘무관심’과 ‘회피’의 전략을 취하기보다는 윤리적 이슈에 적극적으로 대응할 수 있는 전략을 취할 수도 있을 것이다[37].
셋째, 실존 인물의 외형을 토대로 가상 인간을 제작했을 때 발생하는 법리적 문제들이 존재했다. 구체적으로는, ‘범죄’, ‘악용’, ‘초상권’, ‘존엄성’, ‘고인’, ‘잊힐 권리’, ‘명예훼손’, ‘프라이버시’, ‘대선’, ‘선거’와 관련한 이슈를 확인할 수 있다. 가상 인간을 제작하는 데에 종종 사용되는 딥페이크 기술로 실제 사람의 얼굴을 본떠 악용하거나 범죄에 악용되는 사례가 존재했으며, 이로 인해 피해자가 나타났다.
그뿐만 아니라, 가상 인간 제작에 참여한 모델의 초상권과 존엄성과 관련한 이슈도 있었다. 한 30대 모델이 가상 인간 모델 시안 작업에만 참여했으나, 자기 모습을 한 가상 인간이 광고나 소셜 미디어상에서 활동한다는 사실을 나중에 알아차리는 초상권 침해를 당한 사례가 나타나기도 했다[34]. 변호사들 사이에서는 가상 인간 제작 시 모델의 권리가 어느 정도로 보장되어야 할지에 대한 논란이 되기도 하였다. 이외로, 고인이 가상 인간으로 제작될 때 발생하는 이슈인 잊힐 권리, 명예훼손 그리고 프라이버시와 가상 인간이 대통령 선거와 같이 선거에서 활용했을 때도 이슈가 발생했다. 이처럼 오늘날 실존 인물의 외형을 한 가상 인간과 관련한 법적 이슈들이 다양한 맥락과 상황에서 나타나고 있으므로, 이에 대처하기 위한 법적 근거와 정책 마련이 시급하다.
마지막으로, 가상 인간 개발 단계에서 대응해야 하는 논의점도 발견하였다. 서비스에 대한 ‘신뢰’와 ‘공정성’, ‘개인정보 유출’과 ‘편향’이나 ‘편견’에 관한 문제였으며, 윤리적 가이드라인 마련이 해당 이슈를 중심으로 이뤄지고 있었다. 그중에서도 의미연결망 시각화 결과를 통해 살펴보았을 때 ‘신뢰’의 단어는 ‘다양성’과 함께 등장하고, ‘공정성’은 ‘일자리’, ‘외모’, ‘젊은’ 등의 단어와 함께 등장하는 것을 볼 수 있다. 결국 가상 인간 서비스를 제공하는 기업은 다양성을 확보함으로써 신뢰할 수 있는 서비스를 제공할 수 있어야 하며, 일자리 대체 문제나 가상 인간이 가진 외모나 연령대와 같은 특징으로부터 올 수 있는 공정성과 관련한 문제들에 대해서는 정부와 기업 모두 인지하고 이를 예방할 수 있어야 함을 시사한다.
편향과 편견에 대한 논의는 앞서 살핀 가상 인간과 관련한 윤리적 이슈 중 여성과 관련한 이슈와 연관이 깊다. 많은 가상 인간이 젊은 여성의 모습으로 활동하고 있는데, 이는 사용자로 하여금 가상 인간이 하는 활동들을 특정한 성별이나 연령에 국한시키는 편견이나 편향을 갖게 할 수 있다[35]. 연구자들은 특정한 성별, 연령 그리고 인종과 같은 특징을 지닌 가상 인간의 사회적 활동이 인간의 편견과 편향에 어떤 영향력을 가할 수 있는지와 관련한 탐색과 고찰을 할 필요가 있다. 또한, 가상 인간이 사회적 고정 관념을 재학습하도록 하는 도구가 되지 않도록 하는 구체적인 개발 가이드라인 또한 마련될 필요가 있다. 해당 이슈들은 가상 인간 개발 단계에서 방지되어야하기 때문에, 가상 인간 서비스 기관의 노력이 가장 필요한 부분이다.
본 연구의 한계는 다음과 같다. 가상 인간의 윤리 이슈를 정책이나 법률 분야의 전문가나 가상 인간 제작 및 활용 기업 관계자 등의 관점을 다양하게 고려하여 이슈를 살피지 못했다는 한계가 있다. 이에, 후속 연구에서는 여러 전문가와 관계자 논의를 살핌으로써 가상 인간 윤리 이슈의 해결 방안을 모색하고자 한다.
References
- S. Han, Newcommers in Mataverse: Digital Human, Software Policy & Research Institute, Bundang-gu, Seongnam-si, Gyeonggi-do, Republic of Korea, Issue Report IS-135, January 2022.
- Chosun Biz. “Virtual humans will become part of the human world… Utilization policy and regulation required” [Internet]. Available: https://biz.chosun.com/industry/company/2021/12/17/AAXEUECY5ZEYTCRAVW2EGWHWZA/, .
- UneeQ. Why we wrote the Five Laws of Ethical Digital Human Design[Internet]. Available: https://digitalhumans.com/blog/why-we-wrote-the-five-laws-of-ethical-digital-human-design/, .
-
S. Hwang and C. L. Lee, “Changes in Meaning of ‘Virtual Human’ through Semantic Network Analysis: Focusing on the COVID-19 Pandemic,” The Journal of Digital Contents Society, Vol. 22, No. 12, pp. 2039-2047, December 2021.
[https://doi.org/10.9728/dcs.2021.22.12.2039]
- Dentons. Virtual influencers: controversial legal issues [Internet]. Available: https://www.dentons.com/en/insights/articles/2019/june/28/another-surprising-ai-application-virtual-influencers
- AITIMES. AI Changed Election Landscape, Beneficial or Poisonous [Internet]. Available: http://www.aitimes.com/news/articleView.html?idxno=143390, .
- Electronic Times. AI ethics and law, what and how to uphold [Internet]. Available: https://www.etnews.com/20210510000131, .
- J. H. Yoo, H.. S. Chu, and S. H. Kang, An European approach to ethics on artificial intelligence: from principles to practices, Software Policy & Research Institute, Bundang-gu, Seongnam-si, Gyeonggi-do, Republic of Korea, Issue Report IS-114, March 2021.
- Ministry of Science and ICT. Ministry of Science and ICT prepares 「Artificial Intelligence (AI) Ethics Standards」[Internet]. Available: https://www.msit.go.kr/bbs/view.do?sCode=user&mPid=112&mId=113&bbsSeqNo=94&nttSeqNo=3179742, .
- The Asia Business Daily. “Doesn't have double eyelids, so she is not pretty... and thighs are thick", 'Appearance evaluation' made even for virtual humans [Internet]. Available: https://www.asiae.co.kr/article/2021091815161361417, .
- The Korea Economic Daily, Hankyung. Obama's video swearing at Trump is a lie... Real-looking fake 'deepfake' warning [Internet]. Available: https://www.hankyung.com/it/article/2018070900051, .
- BBC News Korea. Deepfake video of the president used in the Russia-Ukraine war [Internet]. Available: https://www.bbc.com/korean/international-60776475, .
-
Slater, M., “Beyond Speculation About the Ethics of Virtual Reality: The Need for Empirical Results,” Frontiers in Virtual Reality, Vo1 2, Article 687609, August 2021.
[https://doi.org/10.3389/frvir.2021.687609]
-
M. S. Oh, G. H. Han, and Y. Seo, “A Study on the Production Techniques of Digital Humans and Metahuman for Metaverse,” Korea Institute of Design Research Society, Vol. 6, No. 3, pp. 133-142, August 2021.
[https://doi.org/10.46248/kidrs.2021.3.133]
- newsH. [Professor who reads the newspaper] The emergence of a new human race, the era of heyday of virtual humans [Internet]. Available: http://www.newshyu.com/news/articleView.html?idxno=1004891, .
- S. Kim and J. Heo, “Fashion as an Identifier of Digital Human Persona : Focusing on the Advertisement Use,” in KSDS·SDC Spring International Conference, Seoul, Republic of Korea, pp. 108-109, May 2021. http://www.riss.kr/link?id=A107810020
- Y. Seo and G. H. Han, “The present and future of the digital human,” Broadcasting and Media Magazine, Vol. 26, No. 4, pp. 72-81, October 2021. https://koreascience.kr/article/JAKO202134255848642.view?orgId=anpor&hide=breadcrumb,journalinfo
- Chosun Biz.. Metaverse 'virtual human' technology, how far has it come? [Internet]. Available: https://it.chosun.com/site/data/html_dir/2021/11/27/2021112700838.html, .
- The Korea Economic Daily, KT develops 'Giga Genie virtual human' [Internet]. Available: https://koreascience.kr/article/JAKO202134255848642.page, .
-
Do, T. D., McMahan, R. P., and Wisniewski, P. J. “A New Uncanny Valley? The Effects of Speech Fidelity and Human Listener Gender on Social Perceptions of a Virtual-Human Speaker,” in CHI Conference on Human Factors in Computing Systems, New Orleans, LA., pp. 1-11, April 2022.
[https://doi.org/10.1145/3491102.3517564]
-
Arsenyan, J., and Mirowska, A., “Almost human? A comparative case study on the social media presence of virtual influencers,” International Journal of Human-Computer Studies, November 2021.
[https://doi.org/10.1016/j.ijhcs.2021.102694]
-
S. Hwang and C. L. Lee, “Analysis of the Value Change of Virtual Influencers as Seen in the Press and Social Media Using Text Mining,” The Korean Journal of Advertising and Public Relations, Vol. 24, No. 4, pp. 265-299, October 2021.
[https://doi.org/10.16914/kjapr.2021.23.4.265]
-
Popping, R, “Computer-assisted text analysis,” Computer-Assisted Text Analysis, Vol. 17, No. 4, pp. 1-240, Jan. 2000.
[https://doi.org/10.4135/9781849208741]
-
Wasserman, S. & Faust, K, “Social network analysis: methods and applications,” Cambridge: Cambridge University Press, November 1994.
[https://doi.org/10.1017/CBO9780511815478]
- S. Kim, “Middle Power’s Diplomatic Strategies in the Perspective of Networks : Applying Theories of Structural Holes and Positional Power,” Korean Journal of International Relations, Vol. 51, No. 3, pp. 51-77, September 2011. https://www.dbpia.co.kr/journal/articleDetail?nodeId=NODE01709120
- J. Y..Park, T. Kim, and H. Park, “A Semantic Network Analysis of Celebrity Messages on Social Network Site : A Case of Korean Idol’s Me2Day,” Korean Journal of Broadcasting & Telecommunications Research, No. 82, pp. 36-74, April 2013. https://www.kci.go.kr/kciportal/ci/sereArticleSearch/ciSereArtiView.kci?sereArticleSearchBean.artiId=ART001760865
-
M. K. Cha, “Semantic Network Analysis of ‘Arts management’ in Newspaper Articles - From 1990 to 2014,” The Journal of Cultural Policy, Vol. 29, No. 2, pp. 168-200, August 2015.
[https://doi.org/10.16937/jcp.29.2.201508.168]
- E. S. Lee. and Y. S. Lim, “Exploring Marketing Communication Strategy Using Facebook in South Korea The Semantic Network Analysis of Communication Messages” The Korean Journal of Advertising and Public Relations., Vol. 14, No. 3, pp. 124-155, July 2012. https://www.dbpia.co.kr/journal/articleDetail?nodeId=NODE02499797
-
S. M. Baek and I. O. Moon, “The Study on the patient safety culture convergence research topics through text mining and CONCOR analysis,” Journal of Digital Convergence, Vol. 19, No. 12, pp. 359-367, December 2021.
[https://doi.org/10.14400/JDC.2021.19.12.359]
-
W. G. Kang, E. S. Ko, H. R. Lee, and J. Kim, “A Study of the Consumer Major Perception of Packaging Using Big Data Analysis -Focusing on Text Mining and Semantic Network Analysis,” Journal of the Korea Convergence Society, Vol. 9, No. 4, pp. 15-22, April 2018.
[https://doi.org/10.15207/JKCS.2018.9.4.015]
- Money Today. The dead wife is back, in virtual reality... Is VR a good technology? [Internet]. Available: https://news.mt.co.kr/mtview.php?no=2021072811270641988, .
- Chosun Biz. “Turtleman Kim Hyun-seok returns as an AI singer” In the era of AI creation, the law remains the same [Internet]. Available: https://it.chosun.com/site/data/html_dir/2020/12/21/2020122100298.html, .
- The Asia Business Daily. Challenges in the ‘AI Human’ Era [Internet]. Available: https://cm.asiae.co.kr/article/2022011814272094402, .
- Chosun Biz. “Give me my face”… Controversy over infringing virtual human rights to human models [Internet]. Available: https://www.chosun.com/economy/tech_it/2022/04/04/VINLSHCHYJHWZI5T5MHNYYKFGA/, .
- The Hankook Ilbo. Rosie, Lucy, Lea... Why are virtual humans all thin and young women? [Internet]. Available: https://m.hankookilbo.com/News/Read/A2021101313050000649, .
- Money Today. Is it possible to punish sexual harassment of a '20-year-old AI female college student'?, 4 controversies over 'I-ru-da' [Internet]. Available: https://news.mt.co.kr/mtview.php?no=2021011112203426381, .
- J. H. Lee, Governance of artificial intelligence as seen in the Yiruda incident: How to prevent the deviance of AI?, SNU AI Policy Initiative, 1, Gwanak-ro, Gwanak-gu, Seoul, Republic of Korea, DAIG No. 2, February 2021.
저자소개
2022년 : 경희대학교 (프랑스어학, 소프트웨어융합학 학사)
2022년～현 재: 연세대학교 정보대학원 UX 트랙 석사과정
※관심분야 : 대화형 인공지능(Conversational AI), 사용자경험(User Experience), 인간컴퓨터상호작용(Human Computer Interaction)
2022년 : 건국대학교 리빙디자인 학사 (경영학 부전공)
2022년～현 재: 연세대학교 정보대학원 UX 트랙 석사과정
※관심분야 : 사용자경험(User Experience), 인터랙션 디자인(Interaction Design), 인공지능(Artificial Intelligence)
2012년 : 서울대학교 (영어영문학, 경제학 학사)
2019년 : 서울대학교 융합과학기술대학원 (공학박사 - HCI)
2019년～2019년: 서울대학교 융합과학기술대학원 연수연구원
2019년～2020년: 카네기멜론대학교(Carnegie Mellon University) HCII 박사후연구원
2022년～현 재: 연세대학교 정보대학원 UX트랙 교수
※관심분야 : 인공지능(Artificial Intelligence), 인간컴퓨터상호작용(Human Computer Interaction), 사용자 경험(User Experience)