Korea Digital Contents Society

Journal Archive

Journal of Digital Contents Society - Vol. 19 , No. 8

[ Article ]
Journal of Digital Contents Society - Vol. 19, No. 8, pp. 1565-1573
Abbreviation: J. DCS
ISSN: 1598-2009 (Print) 2287-738X (Online)
Print publication date 31 Aug 2018
Received 15 Jul 2018 Revised 25 Aug 2018 Accepted 28 Aug 2018
DOI: https://doi.org/10.9728/dcs.2018.19.8.1565

무대 공연 재현 이미지 구현의 모델링작업 개선 연구
김명준 ; 류근호*
충북대학교 전기전자정보컴퓨터학부 데이터베이스/바이오인포매틱스연구실

A study on the modeling work improvement of the representation image of stage performance
Myeong Jun Kim ; Keun Ho Ryu*
Database/Bioinformatics Lab, School of Electrical & Computer Engineering, Chungbuk National University, Cheongju, Korea
Correspondence to : *Keun Ho Ryu, Tel: +82-43-267-2254, E-mail: khryu@dblab.chungbuk.ac.kr


Copyright ⓒ 2018 The Digital Contents Society
This is an Open Access article distributed under the terms of the Creative Commons Attribution Non-CommercialLicense(http://creativecommons.org/licenses/by-nc/3.0/) which permits unrestricted non-commercial use, distribution, and reproduction in any medium, provided the original work is properly cited.
Funding Information ▼

초록

최근의 멀티미디어 컴퓨팅의 비약적 발전은 지금 까지 시도 될 수 없었던 분야로 그 적용 범위를 넓혀가고 있다. 지금까지 후순위로 밀려 온 분야였던 작고 예술인 특히 무용인의 재현도 빛을 보게 되었다. 본 연구는 이러한 작고 무용인의 재현에 멀티미디어 컴퓨팅이 어떻게 적용될 수 있는가를 보였다. 그 일환으로서 기존 무대재현에 많이 동원되는 수작업에 소프트웨어화를 도입하여 작업시간의 단축을 이루었을 뿐만 아니라, 후속작업 시 재사용이 가능하게 될 수 있도록 하였다.

Abstract

The recent breakthroughs of multimedia computing have expanded its scope of application to the fields not been touched before.

The reproduction of late artists‘ performance, especially dancers', which had put on the back burner until now, also beginning to shed the light. This study showed how to apply it to the reproduction of these late performers. Through this work, not only did we reduce the working time by applying the software to the manual process which has been dominantly practiced for reproducing the existing stage, but also made it possible to be reused in the subsequent work.


Keywords: 3D capturing, 3D facial modeling, Computer Graphics, Contents, Multimedia
키워드: 3D 캡처링, 3D페이셜 모델링, 컴퓨터그래픽스, 콘텐츠, 멀티미디어

Ⅰ. 서론

많은 영상 콘텐츠들이 스틸 사진 동영상 신문 스크랩 파일 등의 콘텐츠 형태로 존재한다. 이미 디지털화가 이루어졌더라도 그 제작 시점에 활용된 기술의 한계 나 수준에 갇히게 된다. IT기술의 발전과 함께 이러한 영상 콘텐츠를 바탕으로 원래 콘텐츠 제작 당시의 모습 그대로 현실에 재현해내는 수준은 날로 향상 되고 있으며, 현재의 재현 방법 가운데 최상의 기술적 표현 기법으로 홀로그램 이 제안 되고 있다. 이 기법을 통한 무대 재현은 몇몇 국내외 작고 공연예술인들에 대한 재현 시도로서 일반의 이목을 집중시키며, 그 재현 시점의 기술의 총화를 보여주며 각계로부터 많은 긍정적 평가를 이끌고 있기도 하나 옛 콘텐츠의 재현이 아직 많은 발전의 필요성이 있다는 평가도 함께한다.

지난 10여 년, ICT기술의 괄목할 진전과 함께 이 분야도 큰 발전이 이루어 졌다, 그럼에도 작고 작가에 대한 완벽에 가까운 재현은 아직도 많은 관련 분야의 기술적 성장이 요구된다. 운동량이 많은 무용인의 작품에 대한 재현시도 도 그동안 한국의 전통 유희 나 가상현실의 영역으로 확대되고 있다[1,2,3]. 그러나 홀로그램 제작으로 이루어진 이 작품들은 특정인물에 대한 재현이 아니라는 점이다. 고전 유희의 일반적 소개를 위한 홀로그램과 같이 가상인물의 성격이 특징이다. 우리의 대상과 같은 실재 인물에 대한 시도로 작고 인물들의 생전 공연 재현을 목표로 진행된 홀로그램 제작들이 있어왔다. 재현의 대상으로 대중 가수들의 생전의 모습을 재현하는 홀로그램이었다.

본 연구의 재현 대상은 무용인이다. 무용의 특징을 기존 재현 과 비교하여 그 움직임의 역동성에서 찾을 수 있다. 무용과 비교해 가수 공연 재현은 정적 재현이라 할 만큼 운동량에서 큰 격차를 갖는다.

그리고 지난 콘텐츠에 대한 재현의 노력은 멀티미디어를 이용하여 달성될 수 있다는 특성을 갖는다. 여러 재현 대상에서도 무용은 다량의 운동량 변화를 갖는 역동적인 변화의 매 순간을 재현해야 함에 따른 기술적 재정적 이유로 우선순위에서 밀려온 상태였다. 재현의 완성도는 적용 가능한 기술 수준으로 제한된다. 투여한 기술 수준만큼 표현된다는 것이다. 여기에 과학 기술외적인 예술적 표현도 포함되어야 한다는 면에서 대표적 ICT융합의 본보기이기도 하다. 대표적으로 활용 연구되어야 하는 대상 분야는 데이터베이스, 컴퓨터 그래픽스, 영상기술, 공연 무대 기술 이며, 이를 융합한 멀티미디어 컴퓨팅 기술 실현을 통하여 이루어진다.

본 연구는 남아있는 소수의 영상자료를 바탕으로 콘텐츠 제작 당시의 공연자/무용수의 공연 모습을 재현 하는 데 대한 것이다.

그 가운데에서도 얼굴재현을 하는데 있어 기존 수작업에 의해 이루어진 부분에 대해 새로운 방법을 고안 적용 해 보았다.


Ⅱ. 연구의 배경 및 필요성

21세기는 문화가 지배하는 세대라 일컬어질 만큼 문화가 사회에 끼치는 영향력이 날로 커져가고 있다[4]. 세계 각국 또한 자신의 문화적 우수성을 더욱 널리 알리려는 노력이 치열하다[5]. 문화는 콘텐츠를 발판 삶아 발전한다고 볼 때 우리의 우수한 문화유산을 발굴하고 육성하는 노력이 필요한 때이다. 멀티미디어는 이런 문화유산 발굴과 육성에 있어서 아주 중요한 역할을 해오고 있으며 그 역할은 더욱 중대해지고 있다.

문화유산의 발굴육성 중 콘텐츠를 표현 하는 기술 또한 지난 20년 동안 기하급수적 발전을 보였다. 이러한 기술 발전의 근간은 컴퓨팅 또는 ICT 기술이다. 그 장르로는 멀티미디어라 할 수 있다.

또한 예술[6]의 특성상 재현은 기술 분야 독자적으로는 목적 달성에 한계가 있으며 예술인과의 합동 작업으로 완성을 향해 나아가야 한다는 것이다. 문화 콘텐츠는 예술 콘텐츠로 함께 혼용되어 불리고 있을 만큼 예술 분야로 대표되는 것이 문화라고 할 때, 그 중에서도 무용은 여러 예술 장르를 융합해 내는 최고지위에 있는 표현력을 과시하는 공연 예술의 총아라 할 수 있다.

문화융성의 시대에 그 콘텐츠개발의 필요성 이 대두된 이때에 예술의 집대성이라 할 수 있는 무용의 재현시도는 그 충분한 타당성을 갖는다. 그 대표적인 예 가 작고 무용인의 재현이라고 볼 수 있다. 그동안 재현 기술의 한계로 인하여 이 분야는 잠자고 있었다. 본 연구는 이러한 분야에 대한 첫 시도에 대한 것이다.


Ⅲ. 연구 범위 및 목표

작고 무희들의 공연을 재현하는 것은 멀티미디어 컴퓨팅의 발전 이전에는 단지 존재하는 콘텐츠 재생의 수준에 머물러있었다. 다시 말해서 콘텐츠 생성 시점의 기록 매체의 기술수준으로 제한되는 제약을 벗어날 수 없었다.

디지털시대의 등장으로 인하여 탄생한 멀티미디어기술 과 발전은 오래전에 기록된 콘텐츠 매체를 바탕으로 현실로 복원을 하는 본연의 목표를 뛰어넘어 부가적 표현이 가능토록 할 수도 있는 유연한 도구로서 자리매김하는 기술적 진보를 거듭 하여 오고 있다. 이러한 복원 또는 재현 노력의 본연의 목표는 그 기록 시점의 현실(元 콘텐츠 제작 시점)을 그대로 다시 만들어 내는 것이다. 본 연구는 그 일환으로 적합하지만 시도되지 않았던 무희들의 여러 스틸 및 동영상을 멀티미디어 기법을 사용하여 재현해 내는 데 대한 연구이다. 여기에 동원되는 기법은 멀티미디어 컴퓨팅이다.

우리의 목표는 작고 무용가의 표현의 기록인 정지 화면 사진이나 동영상 형태로 남아 있는 콘텐츠를 원래의 모습대로 현실에 재현 시켜 내는 것이다. 아직도 현재 수준의 컴퓨터 그래픽에 의한 무용 동작의 복원은 그 완성도는 미흡한 점이 있다. 덧붙여 유일무이한 예술인 개인의 독특함을 그대로 불러내는 것은 기술적 해결보다는 같은 예술분야의 전문가에 의한 해결이 더욱 완성도를 높일 수도 있다. 이러한 부분은 기술적 접근 보다는 예술인들에 의해 실현 가능한 만큼 재창조 되어야 한다. 이러한 점에 서 본 연구는 제학제간 총화협력을 필요로 하는 좋은 융합 또는 ICT의 보기가 될 수 있다.

이러한 융합의 필요성이 요구되는 공연의 재현은 단지 멀티미디어 컴퓨팅에 의존하는데 에는 한계가 있을 것이며 공연전문가의 도움이 더 높은 완성도를 가져올 수 있다. 무용수 대역에 의해 최대한 생존 무용인의 표현을 재현해 내는 것을 말한다. 우리는 이러한 대역을 재현 무용수 또는 공연으로 통칭하고자 한다. 동서고금을 막론하고 생존 시의 유명하면 할수록 그 예술계승자 또한 두터운 층을 이루고 있으므로 그들의 도움을 받는 것은 어렵지 않다. 따라서 이러한 대역에 의존하는 부분은 예술 비평의 영역에 머무르게 되어 기술적 완성도와는 별개로 가치를 논하게 될 것이다. 어쩌면 예술이란 특성상 극히 기술적이지 않아 논외의 대상이 될 수 도 있는 대역 무용수를 선정이 전체 프로젝트의 성패를 가늠하는 가장 큰 요인으로 작용할 수 도 있을 만큼 그 무게 또한 크다.

재현의 완성은 재현 무용수의 공연에 재현대상 얼굴을 입히는 시도로서 구성되어진다.

본 연구는 두 번째 부분인 얼굴의 재현에 집중된다.

얼굴의 움직임은 남아 있는 콘텐츠의 컴퓨터그래픽에 의한 복원으로 이루어지고, 다른 신체부위의 표현은 공연 재현 배우의 것을 사용하여 재현의 현실감과 완성도를 높이려는 시도의 연구이다. 그가 생전에 추구한 예술세계를 계승하는 예술인들의 대역/재현 공연을 생전의 무희의 얼굴로 표현해내는 것이다. 지금까지의 공연무대예술 재현 홀로그램 시도들과 다른 특징은 공연의 운동량에서 찾을 수 있다. 지금까지 조사된바 에 따르면 특정 무용인에 대한 재현 시도는 없다. 역동적인 재현을 대상으로 하는 시도가 없었음이 큰 이유라 할 것이다. 따라서 새로운 기법의 제안이나 기존 기술에 대한 재검토와 개선이 요구되게 된다.

본 연구는 재현 의 기존 기술을 검토하고 개선점을 제안 하고자 한다.


Ⅳ. 기존 연구의 검토

본 연구와 직접 연관 있는 연구로서 국내외 작고 예술인의 재현 홀로그램 제작 발표를 들 수 있다. 그간 국내에서는 수년 전 제작 발표되었던, 가수 김광석의 공연 홀로그램이 있었다. 해외에서는 같은 공연 분야인 몇 몇 가수들에 대한 동일한 종류의 홀로그램 발표들이 있었다.1)

무용수를 대상으로 하는 유사한 홀로그램제작은 특정 공연인 이 아닌 한 시기, 또는 여러 장르를 망라하는 홀로그램, 가상현실 시현, 발표들로 국한 되었다. 다시 말해서 특정 인물의 재현은 아니다. 또한 위에서 언급한 작고 가수의 재현에도 소량의 운동량의 표현이 나타난다.

공연예술에 대한 홀로그램 활용한 유사한 시도들1)이 작고가수를 중심으로 국내외에서 이루어져 왔다. 그리고 여기서 주목할 것은 현재까지 국내외의 공연예술 홀로그램 실현은 pseudo 홀로그램 또는 플로팅홀로그램에 머물러 있다는 것이다. 표 1[7]은 홀로그램의 실현에 쓰이는 현재의 기법들이다 .

Table 1.  
The range of hologram[7]
Analog Hologram Pseudo Hologram Digital Hologram
(ex) Hologram picture, relic, exhibition etc.
(Core techs) Hologram film, light source & Optics technologies
(ex) Tele-conference, Performance, Ads. Etc.
(Core techs) semitransparent type screen display & Super-multi view contents acquiring, creation, transmission, reproduction techs
(ex) H-HMD, H-HUD, H-Mobile, H-Game etc.
(Core techs) Digital Hologram acquireing, creation, transmission, reproduction techs.
*HMD(Head Mounted Display): a headset used with virtual reality systems.
*HUD(Head-UP Display): a display of instrument readings in an aircraft or vehicle that can be seen without lowering the eyes, typically through being projected on to the windscreen or visor.

재현의 출력인 홀로그램의 입력은 컴퓨터 그래픽 의한 출력이다. 공연 재현을 어떤 작업을 통해서 어떤 컴퓨터그래픽의 관련기법이 사용되는가를 볼 필요가 있다.

먼저 공연 예술인의 영상을 캡처하고, 영상을 3차원 자료로 변환 한다. 이렇게 마련된 자료에, 표현 대상의 얼굴을 입히는 것으로 작업은 진행된다. 이를 위해 표현대상의 콘텐츠를 디지털화하고, 3차원 자료화 한다.

  • 1. 캡처링/변환
  • 2, 기존 콘텐츠의 디지털화
  • 3. 기존 콘텐츠의 3D 디지털화

디지털화를 통하여 이루어지는 작고무용인의 재현은 예술과 기술과의 제학제간 총합적 구성이라는 특성에서 멀티미디어 컴퓨팅의 대표 격이 된다. 곧, 멀티미디어 기법의 제구성이 공연예술의 재현에 모두 관계 가 있지만, 그중 주요 관련을 갖는 분야들을 살표 본다.

4.1 디지털화

Fig. 1.  
Digitization Process[12]

최종 홀로그램을 비롯한 여타 표현법에 의해 표시되는 것은 디지털정보이다. 만약 주어진 콘텐츠가 디지털정보이지 않으면, 디지털화를 이루어야한다. 우리의 관심의 대상인 3D 데이데이터를 말하며, 이것은 디지털화를 통하여 이루어진다. 디지털화는 기본적으로 다음 과 같은 단계를 통하여 획득된다. 이러한 디지털화는 컴퓨터과학의 영역으로서 컴퓨터그래픽이며, 다학제간 협력의 필요 측면에서 멀티미디어 컴퓨팅이라 할 수 있다.


Ⅴ. 기존의 재현법

이제 우리의 주제인 작고무용인의 홀로그램 화를 위한 작업 단계를 살펴본다. 우선, 기존에 이루어졌던 가수들의 재현 홀로그램의 제작단계를 보면, 간단히 다음과 같이 정리된다. 재현 배우의 공연 획득, 대상 인물의 더미제작 및, 3차원 자료 획득, 재현 배우 영상과 대상 인물 3차원자료의 합성, 합성된 자료에 의한 홀로그램 표현, 의 단계를 거쳐 이루어진다.

5.1 재현 배우의 공연 획득

현존 콘텐츠를 바탕으로 하여 최대의 예술적 유사성을 계승하는 재현 무용인의 공연을 촬영하여 얻는다. 얻어진 데이터는 뒤에 얼굴 부분을 목표 대상 얼굴로 치환/재구성 하는 밑바탕으로 쓰이게 된다.

1) 재현의 요소들

재현은 같은 전문분야의 배우 공연을 통해서 이루어짐을 앞장에서 밝힌 바이다. 동시에 얻어진 얼굴의 움직임에 따른 변화를 3차원 자료화(資料化) 하면 목표얼굴을 3차원 자료에 대입시킴으로서 대상 얼굴에 의한 재현이 이루어진다는 구조로 이루어진다.

이렇게 얻어지는 자료화는 전(前處理) 과정으로 분류할 수 있겠다. 그리고 그 자료화 의 정확성은 뒤에 따르는 모든 과정의 정확도 에 상속 되는 속성을 갖게 되므로 최종적 완성도에 영향을 끼치는 고유상수가 될 수 있음에 이 상수의 정확성이 그 재현의 척도가 될 수 있음을 알 수 있다.

작고 공연인의 재현은 남아있는 대상자의 모든 자료를 총합검토하고 현재 활동하는 공연자중 가장 재현도가 높을 것 예측되는 공연인 을 예술계의 추천을 받아 선택할 것이며, 또한 모션 캡처를 통해서 기록 저장된다. 촬영은 2D 장면이다.

5.2 재현 배우의 3차원 자료 획득

재현 배우의 공연장면을 기록하는 동시에 병행하여 재현배우의 움직임 자료를 동기화 시켜야 한다. 기록은 곧 움직임 추적(movement tracking: 촬영을 통해서 얼굴의 실시간 움직임을 추적하고 실시간 움직임 궤적 자료(각도, 위치, 등)를 축적한다.) 이것은 곧, 모션 캡처링을 통하여 이루어진다. 이 과정은 얼굴 움직임 추적 (facial movement tracking)도 포함 한다. 이것은 얼굴 재현을 이루는 데 있어 근간을 이루는 첫 번째 관문이기도하다.

움직임 추적은 재현 배우의 3차원 자료를 얻는 것으로서 크게 알려진 3방법 (관성적, 동영상, 광학적 )이 있다. 서로의 장단점 및 오차의 한계가 존재하나, 본 연구의 대상인 무용 분야에 있어서 는 몸의 큰 움직임이 주체가 되므로, 어떤 방법을 택하더라도 방법 사이의 오차의 크기가 크지 않음을 알 수 있다. 따라서 가장 보편적인 역반사 표적을 쓰는 광학적-피동적방법도 무방하다는 결론을 얻을 수 있다. 물론 얼굴의 세밀 묘사를 위한 자료 획득은 예외가 됨은 분명하다

얼굴 재현은 크게 두 단계로 구분한다. 얼굴 전체의 3차원 적 위상 자료 와 얼굴의 표정을 구성하는 움직임의 위상자료이다.

재현 배우의 기본 3차원 인물 모델링은 재현 대상 인 목표 대상의 모델링의 기반이 됨을 알 수 있다. 각 3차원 요소의 위상차를 파악해 목표 인물 모델링을 해야 하기 때문임을 알 수 있다. 위에서 파악한 두 가지 단계의 요소 (전체적 및 세밀 표현적)를 거쳐야 함을 또한 알 수 있다.

5.3 목표 대상 인물의 모델링

목표 인물의 3차원 자료 획득

기존 재현 작품들에서는 대상인물의 더미를 3D 스캐닝 하는 법을 통하는 것이 일반적이다. 또한, 2차원 자료를 바탕으로 3차원 자료를 얻는 것에 관한 연구 또한 많은 논문들이 발표되어져 왔다[11]. 많은 성과들이 주로 각종 비 인물 대상으로 괄목할 만큼 이룩되어 오고 있다. 이러한 노력에도 불구하고 인물 복원에 아직도 산업계에서는 조각가에 의한 가상 인물상(더미, dummy)제작이 일반적이다. 가장 큰 원인은 아직까지 실용화 수준의 기계화가 이루어지지 못한 때문이다. 앞으로 많은 연구가 기울어져야 할 분야이다. 본 연구는 이러한 3차원 자료를 획득하는 법에 대하여 집중한다.

5.4 인물 복원

재현 배우의 공연에서 얻어진 얼굴의 움직임에 따른 3차원 자료에 목표 인물의 3차원 자료로 대치하는 과정을 통하여 얻어진 인물 자료를 재현 영상에 합성하는 과정이다.

1) 재현 배우 3차원 위치로 목표 인물 합성

재현 배우 의 공연을 통해 얻어진 모션 캡처는 두 종류로 구성되어있다. 얼굴 전체의 3차원 적 위상 자료 와 얼굴의 표정을 구성하는 움직임의 위상자료이다.

얼굴 전체의 3차원 적 위상 자료 는 얼굴의 전후좌우 상하의 움직임을 포착한 3차원 자료 이다. 매 프레임 상의 x-y-z 축의 값을 자료화 하는 것을 말한다.


Fig. 2.  
Overall Facial Phase Differences

2) 얼굴의 표정을 구성하는 움직임의 위상 자료

얼굴의 움직임에 따라 변한 마커 나 센서 위치 값 이다. 이것을 기반으로 표정의 시각화/표현을 한다. 얼굴 시각화/표현 연구들이 부단히 진행되고 있으며, 여러 최신 기법을 검토한다.

관성 센서를 이용한 모션 캡처 이외의 기법은 2차원 자료이다. 모션 기법 에 따라 2차원 에서 3차원으로의 변환이 동반된다.


Fig. 3.  
Marker for Facial Expression Change[13]

5.5 영상 제작

홀로그램이나 다른 3D 디스플레이 기법을 쓰느냐에 따라 처리과정이 결정된다.

앞에서 얻어진 디지털화한 자료를 바탕으로 컴퓨터그래픽 디스플레이를 하게 된다. 현재까지는 보편적으로 채택되는 것은 pseudo 홀로그램 또는 플로팅 홀로그램 기법에 의한 홀로그램 이다.


Ⅵ. 기존연구의 문제 해결 제안과 간단한 실험

우리가 하고자 하는 작업 대상은 앞에서 예로든 유사한 시도들과는 확연히 다른 한 가지 특징과 고려 사항이 있다. 그것은 우리의 모델링 대상이 끊임없이 움직인 다는 것이다. 뿐만 아니라 그 움직임은 매우 역동적이다. 현재 까지 선보였던 작품들은 그 움직임 량에 비교적 제한이 있는 것, 앉은 모습 이라 던 가, 서 있는 소극적 동작이 대상들 이었으나 무용은 끊임없이 움직이는 격렬한 움직임의 동적인 공연 예술 이라는 점이다.

작업의 전 단계 에 해당하는 재현배우의 공연 영상 캡처에 있어서 핵심적 사항은 캡처 한 영상 가운데 얼굴의 움직임에 따른 변화를 기록 해 두는 색인 작업이다.

작고 무용인의 3D모델링은 2D형태의 사진과 남아있는 필름을 토대로 목표 목업(mock-up)을 만드는 과정이다. 그리고 만들어진 목업을 토대로 3D 스캐닝을 통하여 3D 자료를 얻는다. 얻어진 목업을 바탕으로 실연을 통하여 얻어진 영상의 정확한 기반 자료에 목업을 일치시키게 된다. 이렇게 얻어진 자료, 곧 재현 무대 촬영을 통해 얻어진 얼굴 움직임을 3차원 모델로 바꾸고 이 모델을 목표 모델로 치환 하여 완성된 재현 영상을 완성하는 방법으로 재현무대 공연은 완성된다.

표정의 변화는 재현배우의 연기를 바탕으로 미리 마련된 기본 3차원 모델(재현 모델 얼굴의 3차원 모델링) 과 목표 배우의 3차원 모델링 (여기에서는 작고무희의 생전 모습을 담은 영상을 근거로 최대한 되살린 모델) 을 통해 얻은 목표 기본 3차원 모델과의 위상 차(位相差)를 구하여 대입함으로서 각 순간의 얼굴 표정도 추정해 낼 수 있다는 것을 알 수 있다.

목업을 바탕으로 피부를 입히는 텍스처링, 피부의 색조 등을 결정하는 렌더링. 실연 화상과 일치하는 포지셔닝 과 레이트레이싱 등을 어떠한 방법으로 할 것인가가 결정되어야 한다.

목업을 만드는 것은 현재 미술 분야에서 쓰였던 기존 조각 기법을 사용하는 것이 일반적이다. 또한 여러 논문에서 컴퓨터 시뮬레이션 기법의 사례들이 있기도 하다.

재현의 승패는 이런 목업을 얼마나 완벽하게 구성해 내는가에 달렸다 할 수 있다. 이 목업의 오류 값은 후속 작업의 그대로 전파되기 때문이다.

재현실연 바탕의 프레임 별 화면에 대상(목표)화상을 입히는 작업은 긴 반복 작업이다.

이러한 반복 작업을 자동화 / 단순화 시키는 새로운 알고리즘에 대한 연구의 필요성이 제기 되는 분야이다.

목표 화상의 완성이 곧 모든 작업의 완성이다.

6.1 문제 또는 개선점

남아있는 몇 안 되는 자료를 바탕으로 실제 모습의 디지털 데이터를 구현해내는 과정(목표 대상의 모델링)은 반복된 수작업을 통하여 이루어지고 있다. 따라서 이러한 작업을 어떻게 하면 실물과 가깝게 하고 또한 자동화 할 수 있는 가에 대해선 많은 개선의 여지가 있다.

목표인물의 모델링을 기계화 한다면 여러 면에서 그 활용도가 높아질 것이고, 휴대성 및, 재사용 또한 가능해 질것이다.

그 방법 가운데 하나는 표준 모델을 바탕으로 대상 모델을 구성 하는 것으로서. 표준 모델과 대상 모델의 각 구성요소의 위상(位相) 차로 표현된다면 표현 값을 기반으로 하여 어떠한 모양도 유도 될 수 있다는 개념이 도출 될 수 있다.

이러한 표준 모델은 개연성을 갖게 되며 또한 보편성을 가지며 편의성과 통일성을 염두에 두어 기존에 활용되어온 것을 택하는 것이 기준점의 척도로 활용될 수 있다. 그런 면에서 기존 조각 데생의 모델로 또한 컴퓨터그래픽 기술 자료에서 활용되어온 모델을 표준모델로 정한다면 위에서 언급된 전제를 충족시킬 수 있다. 표준 모델의 사용은 있을 수 있는 매번 필요한 모델링 작업을 생략 할 수 있을 것이다. 간단한 순서는 다음과 같이 이루어진다.

  • • 기존 3차원 컴퓨터그래픽에 의해 이룩된 데이터베이스를 확보한다.
  • • 확보된 DB를 우리의 가공 방법에 맞추어 목표 모델링을 만들어가는 과정을 만들어낸다.
  • • 과정은 수차례의 되풀이 과정을 거쳐 과정 자체 및 목표모델링에 접근해 간다.
  • • 목표모델링에 접근해 가는 과정 및 결과는 검증(verification)을 통해서 이루어지며, 검증의 기준 또한 확립해 나아간다.
6.1 모델링 작업의 간편화를 위한 제안

산업분야에 이미 정착단계에 들어있는 3D데이터제작과정을 그림 4 가 보여주고 있다. 그중 모델링 과정은 통일된 표준화된 작업은 아니다. 이 부분의 간편화와 자동화를 통한 개선의 여지는 많다. 따라서 개선점을 제안해 보고자 한다.


Fig. 4.  
3D Data Producing Process

사람의 얼굴을 3D로 구성하는 작업은 현재 스캐닝 카메라를 사용하여 이루어지고 있다. 현존하는 얼굴은 문제가 없으나 이미 작고하였거나 과거의 얼굴을 재생해내려면 문제는 달라진다. 여기서 우리가 하고자 하는 것은 과거의 얼굴이다. 그리고 대부분의 자료는 2D로 존재 한다. 2D로 만 실재하는 자료 에서 3D 데이터를 구성해내는 방법은 여러 가지가 존재한다.

이 가운데, 본고에서는 유니버설 모델 (표준 모델)을 기준으로 하여 이 모델과의 각 vertex의 Gap(delta)을 가지고 모델링을 하는 방법을 제시한다. 이렇게 함으로서 각 모델의 정량화된 값들을 갖추게 되어 모델간의 차이를 수치화 할 수 있으며, 이를 기반으로 자동화된 모델 구성도 할 수 있게 된다. 게다가, 수치화 된 데이터는 후속 작업에 이용되어 데이터의 재생산 이 수월해지고 변형이 쉬워진다. 이외에도 데이터의 수치화로 인하여 활용도를 확장해 나아갈 수 있다.

현재 작고한 대상의 모델링은 보통 목업(dummy)을 만들어 3D스캐닝을 거쳐 만들어진다. 따라서 후속 수정과 검정의 과정은 사람의 손에 의한, 보통 조각가에 의한, 작업이다. 수정 작업 마다, 3D스캐닝을 하는 것이 보통이다. 그러나 앞에서 제안한 방법을 도입하면 제일 먼저 만든 목업을 한번만 제작하고 수정은 얻어진 델타 곧 위상차를 수정하여 반복하여 어떤 형태로든지 만들 수 있다는 것이다. 물론 최종적으로는, 이러한 방법을 통하여 콘텐츠 또는 데이터베이스가 축적 되면, 최초의 목업 작업에 재투입되어 최초 목업 작업을 쉽게 해 줄 수도 있다.

6.2 제안의 첫 번째 적용 실현 방안

우리의 재현 목표 대상은 2차원 자료로 존재 하며 이것을 대상으로 3D 변환을 하여 표준 모델을 만든다.


Fig. 5.  
2D to 3D Conversion

또한 재현을 위한 배우의 모델은 비교적 쉬운 3D스캐닝을 하여 얻는다.


Fig. 6.  
3D scanning for reproducing performer

이렇게 얻어진 대상 모델과 재현 배우의 모델 간 의 위상차인 델타를 획득한다.

재현 배우의 공연 스트림에서 재현 배우의 순간 모습들을 모션 캡처 기법을 써서 획득한다.

표준 모델에 대하여 위에서 얻어진 델타 값만큼 보상하면 공연 스트림 프레임을 기준으로 대상 모델의 해당 순간에 맞는 3D 모델 값을 나타 낼 수 있다. 물론 여기에도 델타 값만큼의 조정 작업 전에 표준 모델의 스트림 프레임 순간과 동일한 위상 변환이 있어야 한다.


Fig. 7.  
Motion Capturing

6.3 적용 및 실험

제시한 개선책 중 본고에서는 재현의 각 과정 중 재현 대상 모델의 얼굴을 재현 배우 공연 화상 스트리밍의 각 프레임의 해당 위치에 치환 하는 과정에 대한 적용 및 실험을 보인다.


Fig. 8.  
Application on the targeted model

치환 과정은 다음 순서로 적용된다.

  • (1) 재현 배우의 얼굴의 위상 값 획득
  • (2) 대상 모델의 재현 배우 위상 값으로 동기화
  • (3) 각 프레임에 동기화된 대상 모델의 치환

각 프레임의 모델 얼굴 의 위상 값은 재현 배우의 공연 시에 3D스캐닝 법에 의해 획득 된다. 이렇게 획득된 값은 크게, 촬영 시점과 재현 배우 얼굴의 3차원 값이다.

각 프레임은 재현 배우의 3차원 값을 갖도록 색인되어 있다.

재현 대상 화상은 대부분 2차원 사진으로 보존되어오고 있다. 2차원 사진을 3차원 화는 기존 재현 과정에서는 통상 더미를 제작하여 3차원 스캐닝 하여 준비한다.

최종 디스플레이에 따른 변환이 이루어진다. 플로팅 홀로그램 기준 2차원 그래픽변환이 필요하다.

1) 재현 배우의 얼굴의 위상 값 획득

재현 배우의 공연 시에 얼굴의 3차원 위상차를 획득하기 위해 3개 이상의 마커를 사용하여 실시간 움직임을 추적하여 캡처한다. 추적되는 데이터는 매 프레임과 색인되어 데이터베이스화 시켜 놓고 다음의 동기화 과정에 쓰이도록 준비한다.

마커를 사용하는 추적 시스템에서 마커의 순간 3차원 값은 동기화 과정의 근거 자료로 이용됨을 알 수 있다.

데이터의 구조는 파일 머리 부분에 캡처된 파일의 상세한 설명이 붙여 이용한다.

머리 부분 뒤에 이어진 데이터는 각 하위 부분에 해당하는 값이다. 이 데이터들이 위상 값의 요소이다. 이 데이터를 이용하여 우리의 대상 모델을 일치시키는 것이 가능하다. 이 과정을 노멀라이제이션 또는 동기화라고 지칭한다.

2) 대상 모델의 재현 배우 위상 값으로 동기화

준비한 대상 모델 얼굴부분의 3차원 값을 해당 프레임의 색인 값에 맞도록 하여 동기화/노멀라이즈 시킨다.

위에서 만들어진 재현 배우의 위상차 값을 이용하여 동기화는 기하학적 변환/모델 변환을 통해 이루어 질 수 있다.

주어진 3차원 모델의 형식에 따라, 변환이 이루어진다. 모델은 동차 좌표(同次, 均質, Homogeneous Coordinates)로 표현될 것이다. 이 좌표를 위에서 얻어진 위상차를 적용하여 기하 변환을 이룬다.

3D 로 준비된 대상 모델은 우리의 제안 알고리즘의 증명에 충분한 만큼 최대한 간단 화된 모델로 선택한다.

3 차원 모델에서 우리의 주요 관심대상은 재현배우의 위상과 동일한 값으로 동기화 시키는 것이다. 따라서 얼굴의 단면집합으로 이루어진다면 계산이 수월해 질 것이다.

그림 10 은 3차원 모델의 2차원 적 단면을 예시하여 델타 값을 보이는 그림이다.


Fig. 9.  
Delta per cut-through view

3) 대상 모델의 치환

해당 프레임에 동기화 된 화상(얼굴) 영상을 배치하여 스트리밍 프레임을 준비한다. 곧 투상 변환(Projection Transformation)을 거처 카메라의 렌즈를 선택하고 촬영하여 물체의 2차원 영상을 필름에 맺히게 하는 과정이다. 이 과정은 1단계의 프레임별 작업이 이루어지게 된다.

시험을 위해 선정된 것 두 자료, 모션캡처 및 대상모델, 을 이용하여 치환과 변환하는 과정이 어떻게 이루어질 수 있는 가를 소프트웨어 기법을 써서 보였다. 이 적용은 재현 대상 화상이 재현배우의 얼굴캡처 와 치환 및 변환이 컴퓨팅에 의해 소프트웨어화되었음을 보인 것이다. 이것은 기존의 반복된 안구에 의한 확인 과 수정 통하여 수정되는 방법을 소프트웨어 한 것이기도 하다.


Ⅶ. 결론

본 연구는 작고 무용인의 재현이란 처음 시도된 연구로서 재현에 멀티미디어 컴퓨팅이 어떻게 적용 되는가를 보이는 것이 목적이다.

따라서 작고 무용인의 재현 방법을 사용하기 위하여 기존의 방법을 검토하고 방법의 내용을 검토하여 기존의 수작업이 ICT 와 융합을 하여 작업의 자동화 와 간단 화를 이룰 수 있고 반복사용이 가능한 소프트웨어 로 개선됨을 입증할 수 있음을 간단히 보였다.

작고 무용인의 재현이란 처음 시도는 따라서 앞으로 이번에 시도된 모델링 과 합성에 관한 것뿐만 아니라. 다른 연관 분야에 다양한 연구와 개선이 계속되어야 함은 쉽게 예상 할 수 있다. 본 연구가 그러한 노력들의 기폭제가 되었으면 한다. 또한 ICT의 본보기로서의 이번 시도는 제 학제간의 융합을 보여주는 작업이었다. 기술적 요소만이 성패를 판가름하는 것은 아닌 특수성도 내포됨을 알 수 있었다. 기술외적 곧 예술적 요인의 적용과 입증 부분이 앞으로의 문화 콘텐츠재현 시도에 도 공히 적용될 것이다.


Notes
1) 1. 홀로그램 "환생" 프로젝트 ‘김광석 공연 홀로그램 콘텐츠’2. Michael Jackson Hologram Billboard Music Awards 2014 Performance3. Elvis Presley in hologram form to perform in Las Vegas

Acknowledgments

본 연구는 미래창조과학부 및 정보통신기술진흥센터의 대학ICT연구센터육성 지원사업의 연구결과 (IITP-2018-2013-1-00881)와 2017년 충북대 학술진흥재단의 연구비지원으로 수행되었음.


References
1. E.J. Oh, “Analysis of Interactive Art using Korean Traditional Performing Arts,” HanYang University, MS Dissertation, 2010
2. Steve Dixon, 'digital performance', the MIT press, Cambridge, Massachusettes, 2007
3. T.Y. Uhm, et al, 'Technical cooperative research trends for dance and image mechanism - Focusing on Korean dance and motion analysis‘, Han Yang Univ., Traditional Dance & Science Technologies, vol.5, pp.251-265, Dec. 2007
4. The effect of digital technology on late 20th century and early 21st century culture, Jennifer, Clarke, Univ. of South Florida, 2003 http://scholarcommons.usf.edu/etd/1344/
5. 21st Century Cultures of War: Advantage Them, The Philadelphia Papers, FOREIGN POLICY RESEARCH INSTITUTE, April, 2013 https://www.fpri.org/docs/Simons _21st_Century_Cultures_of_War.pdf
6. The Definition of Art, Stanford Encyclopedia of Philosophy; Oct, 2012 https://plato.stanford.edu/entries/art-definition/
7. Ministry of Science and Technology, ‘Prepare for Hologram Era’. MSIP Press Release, July 17, 2014
8. Dominik Sibbing, Martin Habbecke, Lief Kobbelt, Makerless Reconstruction of Dynamic Facial, RWTH-Aachen University, Computer Vision and Image Understanding, Vol 115, Issue 5, P668-680, May 2011
9. Joo-Eun Chun, ‘Design and implementation of 3D hologram for activating of Korea traditionak banquet’, Han Yang University, Graduate School, PhD. Dissertation, 2013
10. H. Yoo, ‘A Study on the Virtual image display and Interactive expression in Interactive Media Art’, The Graduate School of Advcd. Imaging Science, Multimedia & Filem, Chung-Ang Universiy, PhD. Dissertation, Feb. 2015
11. Computer Vision MERL – Computational Photography –3D analysis based on 2D images http://www.merl.com/research/computational-photography
12. Jeffrey A. Okun, Susan Zwerman, The VES Handbook of Visual Effects, 1st ed., Visual Effects Society, P698, May 2010
13. Motion Capture, [Internet], Available:https://en.wikipedia. org/wiki/Motion_capture

저자소개
김명준(Myeong Jun Kim)

1979년 : 숭실대학교 전산과(공학사)

1990년 : Illinois Institute of Technology 이학부컴퓨터과학 전공(이학석사)

2017년 : 충북대학교 대학원 컴퓨터과학과(박사수료)

1979년~1980년: Fujitsu Korea Ltd. (시스템 엔지니어)

1980년~1987년: 한국전자통신연구원 (연구원)

1990년~2013년: AT&T Bell Labs, Alcatel-Lucent (연구원)

2014년~2017년: 한국산업기술대학교, 청운대학교 (부교수)

※관심분야: 멀티미디어, 데이터마이닝, 데이터베이스

류근호(Keun Ho Ryu)

1976년 : 숭실대학교 전산과 (공학사)

1980년 : 연세대학교 공학대학원전산전공 (공학석사)

1988년 : 연세대학교 대학원 전산전공(공학박사)

1976년~1986년: 육군군수 지원사 전산실(ROTC 장교), 한국전자통신연구원 (연구원), 한국방송통신대학교 전산학과 (조교수)

1989년~1991년: Univ. of Arizona Research Staff

1986년~현재: 충북대학교 소프트웨어학과 교수

※관심분야: 시간 데이터베이스, 시공간 데이터베이스, Temporal GIS, 지식기반 정보검색 시스템, 유비쿼터스 컴퓨팅 및 스트림데이터 처리, 데이터 마이닝, 데이터베이스 보안, 바이오 인포메틱스 및 바이오 메디칼