Korea Digital Contents Society
[ Article ]
Journal of Digital Contents Society - Vol. 24, No. 2, pp.229-235
ISSN: 1598-2009 (Print) 2287-738X (Online)
Print publication date 28 Feb 2023
Received 28 Nov 2022 Revised 29 Dec 2022 Accepted 30 Dec 2022
DOI: https://doi.org/10.9728/dcs.2023.24.2.229

VR 공간상에서 시청각의 자극이 단기 기억력에 미치는 영향의 검증

최웅1, *
1강남대학교 ICT융합공학부 부교수
Verification of the effect on short-term memory in VR space by audio-visual stimulation
Woong Choi1, *
1Associate Professor, College of ICT Construction & Welfare Convergence, Kangnam University, Yongin-si, Korea

Correspondence to: *Woong Choi Tel: +82-31-280-3753 E-mail: wchoi@kangnam.ac.kr

Copyright ⓒ 2023 The Digital Contents Society
This is an Open Access article distributed under the terms of the Creative Commons Attribution Non-CommercialLicense(http://creativecommons.org/licenses/by-nc/3.0/) which permits unrestricted non-commercial use, distribution, and reproduction in any medium, provided the original work is properly cited.

초록

기억은 인간의 삶을 영위하는데 중요한 요소이고, 효과적인 학습을 위해서는 배운 내용을 뇌에 기억하는 활동이 필수적이다. 단기 기억의 반복 학습에 의해 중요한 학습 내용을 뇌는 장기 기억할 수 있다. VR (Virtual Reality) 환경을 교육에 접목 시키려는 시도가 늘어나는 만큼 VR 학습에서 시청각의 자극이 단기 기억력에 어떤 영향을 미치는지에 대한 연구의 필요성이 있다. 본 연구에서는 HMD (Head Mount Display)와 컨트롤러를 이용한 카드 맞추기 테스트를 실시하는 시스템을 구현하여, 평가 실험을 통해 VR 공간에서 공간색이나 소리에 의한 환경요인이 피험자의 단기 기억력에 미치는 영향을 검증하였다. 실험 결과는 정상 피험자의 VR 공간에서의 단기 기억력은 평균 5.5±2.1개의 정답률을 갖고, 공간색이나 소리에 의한 환경요인이 단기 기억력에 영향을 미치지 않는다는 것을 확인하였다. 본 연구에서는 20대의 성인에 대해서 검증을 실시했지만, 다른 연령대도 조사하여 VR 학습이 가장 유효한 학습 시기나 연령대에 의한 최적의 학습 환경 등 다방면에 활용 가능할 것으로 기대된다.

Abstract

Memory is an important component of human life. For effective learning, the activity of storing learned content in the brain is essential. Through repeated short-term memory learning, the brain can store important learning content in long-term memory. As more and more attempts are made to integrate virtual reality (VR) environment into education, there is a need for research on how audio-visual stimuli in VR learning affects short-term memory. In this research, we implemented the proposed system to conduct a card matching test using a head mount display (HMD) and a controller, and verified the effects of environmental factors such as spatial color and sound on short-term memory through an evaluation experiment. The experimental results confirmed that normal subjects' short-term memory in VR space had an average of 5.5 ± 2.1 correct answers, and that environmental factors due to spatial color and sound had no effect on short-term memory. Although this research was conducted on adults in their 20s, it is expected that other age groups will be investigated and VR learning can be utilized in many fields, such as the most effective learning period and the optimal learning environment for each age group.

Keywords:

Virtual reality learning, Virtual reality, Short-term memory, Immersion, Multi-modal

키워드:

가상현실 학습, 가상현실, 단기 기억력, 몰입감, 멀티 모달

Ⅰ. 서 론

인간의 기억은 생명을 유지하고 삶을 영위하는데 필수적인 요소이다[1]. 기억되어 있는 지식을 토대로 논리적인 사고를 하고, 뇌의 해마에는 생명과 관련된 중요한 데이터들이 기억 되어있어 생명을 유지하는데 중요한 역할을 한다[2]. 최근 초고령 사회로 접어들면서 치매와 같은 기억력 상실[3]에서 유래한 질병들이 증가하고 있고, 의학, 심리학 및 ICT분야에서도 기억과 관련된 연구가 증가하고 있다. 인류의 실제 생활에 밀접한 영향을 미치고, 현실 사회의 치매 문제 등을 해결 한다는 측면에서 인간의 기억과 관련된 연구는 기여하는 바가 크다.

1885년, 기억력 연구의 선구자인 Ebbinghaus는 단기 기억을 반복 학습함으로써 장기 기억력이 향상됨을 발견하였다[4]. 단기 기억은 처음 수분 동안 급격히 하락하지만, 그 다음에 반복 학습하는 단기 기억에서는 하락률이 감소된다고 밝혀져 있다. 그 후 기억 처리 과정의 이론 모델로서는 기억의 다중 저장 모델이 제시되었다[5], [6]. 기억 정보의 보존은 우선 뇌의 감각 저장고에 넣은 후 단기 기억 저장고에 보내진다. 또한 리허설이라고 하는 반복 작업에 의해 장기 기억 저장고에 보존된다. 단기 기억 저장고는 비교적 단시간의 유지를 의식적으로 행하는 부분인데 반해 장기 기억 저장고는 반영구적인 유지가 행하여지는 부분이며, 기억의 유지 과정은 다중 구조로 되어있다는 이론이다. 기억력 실험의 평균 기억력 수치를 살펴보자면, 숫자와 알파벳을 기억한 순서로 나열하는 실험에는 단기 기억 용량의 한계로 인해 정상 피험자가 단어를 나열할 경우 7 ± 2개 정도를 기억하는 결과를 보였다[7]. 특히 숫자나 문자를 4 × 3의 행렬의 행태로 50ms정도의 단시간에 제시될 경우 4-5개 정도를 기억하는 결과를 보였다[8]. 본 연구에서는 숫자와 문자를 이용하여 보통 최대 30초정도 유지[9] 되는 단기 기억에 주목하여 단기 기억력을 정량적으로 분석한다.

최근 VR (Virtual Reality)기술은 VR을 이용한 3D 게임, 엔터테인먼트뿐만 아니라 의료 현장에서의 수술 시뮬레이션이나 재활운동 등의 학습 목적으로도 이용되고 있다[10]. 또한, VR을 이용한 연령대 별의 공간기억력의 성능을 평가하여 치매를 예방하기 위한 연구[11], 젊은 성인과 노인과의 길 찾기 태스크를 이용한 공간기억력의 분석[12]과 가상 환경에서 기억을 토대로 한 인식능력 분석[13] 등의 다양한 연구역시 진행되고 있다.

일례로, 미국 메릴랜드 대학에서는 메모리 팰리스라는 방법을 이용하여 HMD (Head Mount Display)로 테스트를 실시한 경우와 PC로 테스트를 실시한 경우의 기억력 평가 실험을 진행하였는데[14], HMD을 사용하는 그룹은 PC를 사용한 그룹과 비교하여 기억력의 정확성이 8.8 % 높아진 통계적으로 유의한 결과를 보였다. 또한 360도 영상으로 구성된 VR 공간에서 문맥 의존 효과인 기억의 복원 효과를 HMD를 착용하고 검증하였다. 이 결과 몰입감와 자유 회상 테스트(Free recall test)는 양(+)의 상관 관계를 보였고, VR의 교육 응용에있어서 유익한 결과를 얻었다[15].

사람이 외부로부터 받는 정보 중 약 70%는 시각 정보이고, 그 다음에 청각이 20%, , 후각이 5%, 촉각 4%, 미각이 1% 순이며, 인간은 주로 시각과 청각 정보에 90%정도 의존하여 살고 있음을 알 수 있다[16]. VR 기술은 실제 환경의 임상 실험에서의 시각 공간 기억을 평가하는 방법보다 더 안정적이고 정확한 수단을 제공할 수 있다[17]. VR 기술을 이용하면 경도 인지장애를 가진 사람들의 단기 기억 능력을 향상 시키고[18], 뇌졸중 환자의 단기 시공간 기억회복에 도움이 된다[19]. VR 공간상에서 파노라마 영상을 이용하여 단기 기억력을 구두로 평가하고[20], VR로 구현된 고속도로 위의 노이즈가 단기 기억력에 미치는 영향을 분석한 연구는 있지만[21] 정량적으로 VR 공간상에서 시각 및 청각의 환경 변수에 의한 정상인의 단기 기억력에 관련된 연구는 없다.

따라서 본 연구에서는 VR 시스템을 이용하여 시청각 자극에 관련된 환경요인를 정량적으로 제시할 수 있는 특징을 활용하여 VR 공간상의 단기 기억력에 관한 연구를 수행하였다. VR 시스템으로는 HMD와 컨트롤러를 이용한 카드의 마크 맞추기 테스트를 진행하는 시스템을 구현하여 단기 기억력을 측정하는 테스트를 시청각의 다양한 조건 아래에서 실시하였다. 실험에 있어 VR 공간 내의 시각 및 청각 변화를 이용한 환경요인을 변화시키는 조건으로는 앙케이트로 선정된 기억력에 영향을 줄 것 같은 5개의 공간 색 및 3개의 소리로 구성하였다. 이번 연구에서는 평가 실험을 통해 VR 공간에서 시청각 자극에의한 환경요인이 단기 기억력에 미치는 영향을 정량적으로 검증하는 것을 목적으로 한다.


Ⅱ. 평가실험의 방법

2-1 제안시스템

VR 공간의 단기 기억을 평가하는 검증 시스템의 구성을 그림 1에 나타낸다. Unity를 사용하여 VR 단기 기억력 테스트를 위한 시스템을 구축하고 HTC Vive를 사용하여 사용자에게 3D 입체시를 제시하여 VR 공간을 구축 하였다. 본 시스템은 Intel i7-6700 CPU, 8GB RAM사양의 PC 및 NVIDIA GeForce GTX1070 GPU에서 처리되었다. 3D CG의 제시는 HTC Vive HMD(해상도: 2,160 × 1,200, 프레임 레이트: 90 Hz, 시야: 110°)에서 구현 되었다. VR 기억력 테스트의 공간을 HMD을 통해 제시하고 사용자는 컨트롤러를 사용하여 카드를 선택하면 결과를 피드백 하는 프로세스로 진행된다. 청각을 자극 하는 소리는 스피커를 통해 제시하였다. 본 평가 실험에서는 환경요인으로 시각 및 청각 정보를 이용하여 몰입감을 변화시켰을 경우에 단기 기억력에 어떤 영향을 미치는지를 검증한다.

Fig. 1.

The proposed system for the test of short-term memory in VR space. A: The environment of VR short-term memory system presented to users, B: The process of the system implemented in the proposed system

2-2 제시되는 카드의 종류

카드 테스트는 그동안 많은 연구에서 기억력을 측정하는 효과적인 실험 방법으로 여겨져왔다. 일례로 정신분열병 환자의 작업기억을 카드 테스트를 통해 분석한 연구도 있고 [22], 스트레스 요인에 노출된 어린이는 메모리 카드 게임에서 더 낮은 수행도를 보였다는 연구결과도 있다 [23]. 또 다른 연구에서는 UNO ME 카드 게임이 학생들의 기억력을 향상시키고 학습 동기를 부여함으로써 긍정적인 학습효과가 있음을 시사하기도 했다 [24]. 이처럼 카드 게임은 작업 기억력, 스트레스 정도 측정, 교육 등에 다양하게 이용되고 있기 때문에 본 연구에서도 단기 기억력을 측정하는 도구로 카드 테스트를 활용하였다. 사용자에게 카드의 종류를 기억하게 하고, 뒤집은 후에 지정된 카드를 맞추는 방식으로 단기 기억력을 측정 하였다.

본 연구에서 VR 공간에 제시하는 카드의 종류는 하트, 다이아몬드, 스페이드, 클로버, 스타의 5종류의 도안 및 0~9의 숫자 10종류, 또한 A~Z의 알파벳 26종류로 제한하였다. 모든 41 종류의 카드에서 랜덤하게 선택된 20장의 카드가 나열되어진다. 그림 2에서는 사용되는 카드의 종류를 제시하고 있으며 20장의 카드는 그림 3과 같이 4 × 5의 행렬의 행태로 VR 공간에 표시되도록 하였다. 피험자는 선택한 카드 위에 카드를 선택하는 포인터를 컨트롤러를 이용하여 이동시키고 컨트롤러의 트리거를 당겨 응답하게 된다. 카드 선택의 판정 실수 방지를 위해 포인터가 가리키는 카드의 색이 변화하도록 하였다 (그림 4).

Fig. 2.

Types of cards presented for short-term memory test

Fig. 3.

20 cards presented randomly during a 30-second memorizing period

Fig. 4.

Card selected according to question for short-term memory test

2-3 평가 실험

1) 피험자

피험자는 20명의 남자였으며 평균 연령은 21.2 ± 1.2세였다. 실험에 참가한 피험자들은 모두 정상 또는 교정 정상 시력을 갖고 있고 정상 청력을 가지고 있다. 모든 피험자는 이전에 유사한 연구 실험에 참여한 경험이 없고, 실험 참여 전에 서면 동의를 받았다. 프로토콜은 일본의 National Institute of Technology, Gunma College의 윤리위원회의 승인을 받았고, 모든 실험은 관련 지침 및 규정에 따라 진행되었다.

2) 실험방법

VR 공간에서 시각 및 청각의 환경요인을 변화시키는 조건으로는 공간의 색 및 소리로 하였다. 먼저 공간의 색을 결정하기 위해 33명의 피험자 (남자: 30명,여자: 3명,평균연령: 23.2 ± 7.9세)를 대상으로 앙케이트를 실시하였다. 내용은 “기억력에 좋은 영향을 줄 것 같은 색 및 나쁜 영향을 줄 것 같은 색을 상위 5개씩 응답하라”는 것이다. 이 앙케이트 결과를 근거로 기억력에 좋은 영향을 줄 것 같은 색 파랑, 초록, 오렌지와 나쁜 영향을 줄 것 같은 색 검정, 회색을 선정하여 5가지 색으로 검증하였다. 다음으로 소리는 무음, 클래식(느슨한 템포), 록(빠른 템포)의 3가지 패턴으로 설정하였다.

이러한 공간색과 소리의 조합, 총 15가지 패턴의 조건으로 테스트를 실시하여 VR 공간상의 시각 및 청각과 관련된 환경요인이 단기 기억력에 미치는 영향을 검증하였다. 단기 기억력의 테스트를 공간색과 소리의 조건을 변경하는 방법으로 실시하여 각각의 정답률을 산출함으로써 단기 기억력의 변화가 발생하는지 확인하였다. 횟수를 거듭함으로써 결과에 편중이 생기는 것을 방지하기 위해 공간색을 파랑, 녹색, 오렌지, 검정, 회색 순서를 피험자별로 카운터 밸런스를 맞추어 실시하였다. 청각 자극에 관해서도 피험자별로 카운터 밸런스를 맞추어 실시하였다. 위에서 언급한 5가지 색과 3가지 소리의 총 15가지 패턴의 조건으로 카드 테스트를 실행하였고, 피험자가 각 패턴에서의 카드 테스트 작업을 수행할 때 공간 색과 배경 소리로 랜덤하게 제시되었다. 카드 테스트를 하는 동안 연동된 컨트롤러의 인터랙션에 의해 공간 색과 소리가 변경되지 않게 설정되었다.

평가 실험이 시작되면 그림 3과 같은 화면이 제시된다. 피험자는 30초간의 암기 시간이 주어지고, 30초 안에 랜덤하게 정렬된 카드의 마크와 위치를 기억해야 한다. 30초 후, 카드가 모두 뒤집히고, 맞힐 카드의 질문 마크가 화면의 윗 부분에 제시된다. 넘기고 싶은 카드 위에 컨트롤러의 포인터를 맞추고, 트리거를 당김으로써 카드를 선택할 수 있다. 그림 4는 실제로 카드를 선택한 후의 화면을 나타낸다. 카드를 선택하여 응답할 수 있는 시간은 10초로 설정하였고, 랜덤하게 10개의 질문이 제시되도록 하였다. 평가 실험 중에는 각 질문 별로 정답, 부정확의 제시 및 정답수의 표시는 제공하지 않고, 테스트 종료 후에 확인하도록 하였다. 평가 실험 후에 본 실험에 대한 조작성, 난이도, 질문수, 몰입감, 신체적 피로, 정신적 피로에 대한 앙케이트를 실시하였다. 조작성, 난이도, 문제수, 몰입감은 10점에 가까울수록 긍정적인 평가, 신체적 피로, 정신적 피로는 1점에 가까울수록 스트레스가 적은 것으로 앙케이트를 실시 하였다.

3) 데이터 분석

이 분석의 목적은 공간의 색에 따라 기억력에 차이가 발생하는지, 소리 환경에 의해 단기 기억력에 차이가 나는지의 여부와 공간색과 소리 요인에 의한 상호작용이 기억력에 미치는 영향이다. 본 연구에서는 5 가지 색 (시각 정보)과 3 개의 소리 (청각 정보)의 2 가지를 요인으로 SPSS의 이원 반복 측정 분산분석(COLOR (5 레벨): 파랑, 녹색, 오렌지, 검정, 회색; SOUND (3 레벨): 무음, 록, 클래식)을 이용해 VR 공간상에서 인간의 단기 기억 능력를 분석하고, 사후 검증 (post-hoc) 테스트는 Bonferroni 교정을 적용한 쌍대 비교 (pairwise comparisons)에 의해 수행되었다.


Ⅲ. 연구결과 및 고찰

3-1 연구결과

그림 5에서는 VR 공간상에서 공간색과 소리에 인한 환경요인이 단기 기억력에 미치는 영향에 대한 평가 실험 결과를 제시한다. 그래프를 보면 모든 조건에서 5 - 6개의 정답률을 보여 큰 차이는 보이지 않는 것을 알 수 있다. 본 실험에서 정상 피험자들은 평균 5.5±2.1의 정답률을 갖는 것을 확인하였다. 단기 기억력의 테스트 조건을 5색의 공간색 (파랑, 녹색, 오렌지, 흑, 회색)과 3개의 소리(무음, 록, 클래식)로 설정하고, 공간색과 소리의 요인이 VR공간상에서 단기 기억력에 미치는 영향을 이원 반복 측정 분산 분석를 이용하여 분석하였다 (표 1). 그 결과, 먼저 공간색의 주 효과 (F (4,76) = 0.547, p = 0.702, partial η2 = 0.028)에 유의한 차이는 관찰되지 않았다. 그런 다음 소리의 주 효과 (F (2,38) = 1.947, p = 0.157, partial η2 = 0.093)에도 유의한 차이는 관찰되지 않았다. 마지막으로 공간색과 소리의 상호작용 (F (8,152) = 2.760, p = 0.945, partial η2 = 0.481)에서도 유의한 차이는 제시되지 않았다. 각 요소의 상호작용이 없으므로 쌍대 비교를 이용해 사후 검증 분석을 실시하였고 쌍대 비교에서도 각 실험 조건에서의 유의한 차이는 발견 되지 않았다.

Fig. 5.

Effects of spatial color and sound on short-term memory in VR space

Statistical results of short-term memory in VR space by Two-way repeated measure ANOVA.

결과적으로 정상 피험자의 VR 공간의 단기 기억력은 평균 5.5±2.1의 정답률을 가지며 공간색이나 소리에 의한 환경요인에 영향을 받지 않는다는 것을 확인하였다.

그림 6은 평가실험 후의 조작성, 난이도, 질문수, 몰입감, 신체적 피로, 정신적 피로에 대한 앙케이트 결과를 제시한다. 앙케이트 결과를 보면 조작성, 난이도, 문제수, 몰입감에 관해서는 평균 7.5점 이상으로 단기 기억력 테스트의 실험 방법이 타당한 것이라고 분석할 수 있다. 신체적 피로, 정신적 피로는 5.2점 이하로 평가 실험을 진행하는 동안 피험자들에게 있어 평가 시스템 및 방식으로 인한 스트레스는 큰 문제가 되지 않았다. VR 단기 기억 평가 시스템에서 15개의 실험조건에서 10문제를 1문제당 10초씩 답을 하는 실험 방식이 정상 피험자의 단기 기억력을 테스트하는데 크게 스트레스를 주지 않았음을 알 수 있었다.

Fig. 6.

Survey results on operability, difficulty, The number of questions, immersion, physical fatigue, and mental fatigue

3-2 고찰

본 연구에서는 시각 및 청각적 환경요인이 단기 기억력에 미치는 영향을 정량적으로 분석하기 위해 VR 공간상에서 30초 이내에 암기할 카드를 랜덤하게 20장의 카드로 제시하고, 10초씩 10장의 카드를 랜덤하게 질문하여 피험자가 응답 하는 방법으로 단기 기억력을 테스트하였다. 실험결과는 통계적으로 피험자의 VR 공간의 단기 기억력은 평균 5.5±2.1의 정답률을 가지며 공간색이나 소리의 환경요인이 단기 기억력에 영향을 미치지 않는다는 것을 확인하였다. 그리고 HMD를 착용하고 진행하는 단기 기억력 테스트에서 피험자의 신체적 정신적 피로도가 적었다는 것은 질문수, 난이도, 시스템의 조작성, 몰입감의 피험자 평가가 높음에 기인한다고 판단할 수 있다.

인간의 단기 기억 용량의 한계에 대해서는, 몇 개에서 수십 개의 숫자나 알파벳 문자가 제시되어 제시 순서와 같은 순서로 복창을 요구하면 올바르게 복창할 수 있는 최대 개수는 성인이 30초 이내에서는 7개 전후이고[7], 숫자나 문자를 4 × 3의 행렬의 행태로 50ms정도의 단시간에 제시될 경우는 2초 이내의 감각기억에서는 4-5개 정도를 기억한다는 결과가 보고되어 있다[8].

본 평가 실험의 결과와 비교하면 대략 기존 연구의 결과에 준하고 있다고 말할 수 있다. 숫자나 알파벳 문자가 연속 제시되는 경우 기존의 테스트 결과와 차이가 발생하는 이유로는 낱말 맞추기나 닮은 것을 정리하는 부호화에 의해 한 번에 기억할 수 있는 용량이 다르기 때문이 아닐까 생각하고 있다. 부호화에 의한 단어와 같은 몇개의 음절의 경우 한 번에 기억할 수 있는 한계량은 7±2개의 범위 내이며 얻어진 정보를 연상하여 1개의 단위로서 기억한다고 할 수 있다. 본 실험의 경우는 41장으로 구성된 카드의 숫자, 마크, 알파벳이 랜덤하게 피험자에게 20장 제시되고, 10초에 1장씩 랜덤하게 질문 하기 때문에 낱말 맞추기나 닮은 것을 정리하는 부호화를 하기에는 제한이 있고 그 결과 정답률이 낮아졌다고 판단 할 수 있다. 하지만 기존 연구에서 숫자나 문자를 4 × 3의 행렬의 행태로 50ms 정도의 단시간에 제시하는 감각기억 경우는 4-5개 정도의 정답률을 보고하고 있고, VR 공간상에서 숫자, 마크, 알파벳을 4 × 5의 행렬의 행태로 암기 시간이 30 초 정도인 본 평가 실험의 경우 평균 5.5±2.1개의 정답률을 갖는 것은 타당한 실험결과라고 할 수 있다.

본 실험의 결과를 통해 VR 공간상의 공간색이나 소리의 환경요인이 단기 기억력에 영향을 미치지 않는다는 것을 확인하였다. 사람이 외부 세계로부터 받는 오감의 정보 중 약 70%가 시각 정보이고, 청각이 20%, , 후각이 5%, 촉각 4%, 미각이 1%로 보고 되어 있다[16]. 본 실험에서는 실제 공간상에서 제시되는 멀티 모달 정보량 보다 낮은 약 90% 정도의 멀티 모달 정보량이 시각과 청각을 중심으로 피험자에게 제시되었다. VR 공간의 사용자 인터페이스로써 촉각을 제시하면 멀티모달이 개선되는 보고가 있고[25], VR 공간에서도 실제 카드를 만지면서 암기 하는 것과 같은 촉각 정보를 제시 하면 멀티 모달의 정보량이 증가하여 단기 기억력이 증가할 수도 있다. 후속 연구에서는 촉각을 제시할 수 있는 장치를 사용자가 장착하고 카드 등의 암기 대상을 실제 터치하는 것 같은 감각을 VR 공간에 제시하여 단기 기억력을 평가하는 방법이 기대된다.

본 평가 실험은 VR 공간상에서 단기 기억에 중점을 두고 검증을 수행했지만 장기 기억의 경우 다른 결과를 나타낼 가능성도 있다. 또한 20대 건강한 피험자들에게는 테스트 결과 상 큰 개인차가 보이지 않았지만 뇌에 장애를 가진 사람에게 테스트를 행하면 또 다른 결과가 나올 수도 있겠다.


Ⅳ. 결 론

본 연구에서는 HMD와 컨트롤러을 이용한 41종류의 카드 맞추기 테스트를 실시하는 단기 기억력 평가의 시스템을 구현하여, 20대 정상 피험자들의 평가 실험을 통해 VR 공간 상의 시각·청각의 자극에 의한 환경요인이 단기 기억력에 미치는 영향을 검증하였다. 실험결과는 정상 피험자의 VR 공간의 단기 기억력은 평균 5.5±2.1개의 정답률을 갖고, 공간색이나 소리에 의한 환경요인에 단기 기억력이 영향을 받지 않는다는 것을 확인하였다.

본 연구의 활용 방법으로서는 건강한 사람의 단기 기억력에 색과 소리의 환경 변화는 관계가 없고 단기 기억력 테스트에 있어서 평균 5-6 개의 일정 수의 정답이 있다는 점에서, 단기 기억테스트에 의해 뇌의 장애 및 치매를 찾아내는 용도로 사용될 수 있다. 시각 및 청각적 요소의 경우 사람마다 선호하는 컬러 및 음향적 요소가 다를 수 있으며 이러한 개인별 선호도 및 호감도가 단기 기억력에 영향을 미칠 수 있다. 향후 연구에서는 개인별 선호도 및 호감도와 단기 기억력 사이의 상관관계를 분석하는 연구를 진행할 계획이다.

또한 본 연구에서는 20대의 성인 남성에 한하여 검증을 실시했지만 다른 연령대도 조사하여 VR 학습이 가장 유효한 학습 시기나, 연령대에 의한 최적의 학습 환경 등도 분석 가능할 것으로 판단된다.

References

  • L. T. Robertson, “Memory and the brain,” Journal of Dental Education, Vol. 66, No. 1, pp. 30-42, January 2002. [https://doi.org/10.1002/j.0022-0337.2002.66.1.tb03506.x]
  • T. Bartsch and P. Wulff, “The hippocampus in aging and disease: From plasticity to vulnerability,” Neuroscience, Vol. 309, pp. 1-16, November 2015. [https://doi.org/10.1016/j.neuroscience.2015.07.084]
  • A. Baddeley, R. Logie, S. Bressi, S. D. Sala, and H. Spinnler, “Dementia and working memory,” The Quarterly Journal of Experimental Psychology Section A, Vol. 38, No. 4, pp. 603-618, November 1986. [https://doi.org/10.1080/14640748608401616]
  • H. Ebbinghaus, “Memory: A contribution to experimental psychology,” Annals of neurosciences, Vol. 20, No. 4, p. 155, October 2013. [https://doi.org/10.5214/ans.0972.7531.200408]
  • R. C. Atkinson and R. M. Shiffrin, “Human memory: A proposed system and its control processes,” Psychology of learning and motivation, Vol. 2, pp. 89-195, April 2008. [https://doi.org/10.1016/S0079-7421(08)60422-3]
  • B. B. Murdock Jr, “The serial position effect of free recall,” Journal of experimental psychology, Vol. 64, No. 5, p. 482, 1962. [https://doi.org/10.1037/h0045106]
  • G. A. Miller, “The magical number seven, plus or minus two: Some limits on our capacity for processing information,” Psychological review, Vol. 63, No. 2, p. 81, 1956. [https://doi.org/10.1037/h0043158]
  • G. Sperling, “The information available in brief visual presentations,” Psychological monographs: General and applied, Vol. 74, No. 11, p. 1, 1960. [https://doi.org/10.1037/h0093759]
  • M. Cascella and Y. Al Khalili, Short Term Memory Impairment. StatPearls Publishing, Treasure Island (FL), 2022. [Internet]. Available: http://europepmc.org/books/NBK545136
  • M.-S. Bracq, E. Michinov, and P. Jannin, “Virtual reality simulation in nontechnical skills training for healthcare professionals: a systematic review,” Simulation in Healthcare, Vol. 14, No. 3, pp. 188-194, June 2019. [https://doi.org/10.1097/SIH.0000000000000347]
  • G. Plancher, A. Tirard, V. Gyselinck, S. Nicolas, and P. Piolino, “Using virtual reality to characterize episodic memory profiles in amnestic mild cognitive impairment and Alzheimer's disease: influence of active and passive encoding,” Neuropsychologia, Vol. 50, No. 5, pp. 592-602, January 2012. [https://doi.org/10.1016/j.neuropsychologia.2011.12.013]
  • M. Taillade et al., “Executive and memory correlates of age-related differences in wayfinding performances using a virtual reality application,” Aging, Neuropsychology, and Cognition, Vol. 20, No. 3, pp. 298-319, Augest 2013. [https://doi.org/10.1080/13825585.2012.706247]
  • H. Sauzeon, B. N'Kaoua, P. Arvind Pala, M. Taillade, and P. Guitton, “Age and active navigation effects on episodic memory: A virtual reality study,” British Journal of Psychology, Vol. 107, No. 1, pp. 72-94, February 2016. [https://doi.org/10.1111/bjop.12123]
  • E. Krokos, C. Plaisant, and A. Varshney, “Virtual memory palaces: immersion aids recall,” Virtual reality, Vol. 23, No. 1, pp. 1-15, March 2019. [https://doi.org/10.1007/s10055-018-0346-3]
  • T. Mizuho, T. Narumi, and H. Kuzuoka, “The Effect of Environmental Context Variation Between Encoding and Retrieval on Free Recall in VR,” TVRSJ, Vol. 26, No. 3, pp. 187-197, 2021. [https://doi.org/10.18974/tvrsj.26.3_187]
  • H. Zhang, “Head-mounted display-based intuitive virtual reality training system for the mining industry,” International Journal of Mining Science and Technology, Vol. 27, No. 4, pp. 717-722, June 2017. [https://doi.org/10.1016/j.ijmst.2017.05.005]
  • U. Diaz-Orueta, B. M. Rogers, A. Blanco-Campal, and T. Burke, “The challenge of neuropsychological assessment of visual/visuo-spatial memory: A critical, historical review, and lessons for the present and future,” Frontiers in Psychology, Vol. 13, August 2022. [https://doi.org/10.3389/fpsyg.2022.962025]
  • J. Wu, Y. Ma, and Z. Ren, “Rehabilitative effects of virtual reality technology for mild cognitive impairment: A systematic review with meta-analysis,” Frontiers in Psychology, Vol. 11, p. 1811, July 2020. [https://doi.org/10.1002/gps.5603]
  • B. R. Kim, M. H. Chun, L. S. Kim, and J. Y. Park, “Effect of virtual reality on cognition in stroke patients,” Annals of rehabilitation medicine, Vol. 35, No. 4, pp. 450-459, August 2011. [https://doi.org/10.5535/arm.2011.35.4.450]
  • M.-C. Juan, M. Estevan, M. Mendez-Lopez, C. Fidalgo, J. Lluch, and R. Vivo, “A virtual reality photography application to assess spatial memory,” Behaviour & Information Technology, pp. 1-14, February 2022. [https://doi.org/10.1080/0144929X.2022.2039770]
  • F. Ruotolo et al., “Immersive virtual reality and environmental noise assessment: An innovative audio-visual approach,” Environmental impact assessment review, Vol. 41, pp. 10-20, March 2013. [https://doi.org/10.1016/j.eiar.2013.01.007]
  • P. Stratta, E. Daneluzzo, P. Prosperini, M. Bustini, P. Mattei, and A. Rossi, “Is Wisconsin Card Sorting Test performance related to 'working memory'capacity?,” Schizophrenia Research, Vol. 27, No. 1, pp. 11-19, January 1997. [https://doi.org/10.1016/S0920-9964(97)00090-X]
  • A. Quesada, U. Wiemers, D. Schoofs, and O. Wolf, “Psychosocial stress exposure impairs memory retrieval in children,” Psychoneuroendocrinology, Vol. 37, No. 1, pp. 125-136, June 2012. [https://doi.org/10.1016/j.psyneuen.2011.05.013]
  • B. A. Lukas, F. I. A. Patrick, G. Chong, N. B. Jaino, and M. M. Yunus, “Using U-NO-ME Card Game to Enhance Primary One Pupils' Vocabulary,” International Journal of Learning, Teaching and Educational Research, Vol. 19, No. 5, pp. 304-317, 2020.
  • F. Biocca, J. Kim, and Y. Choi, “Visual touch in virtual environments: An exploratory study of presence, multimodal interfaces, and cross-modal sensory illusions,” Presence: Teleoperators & Virtual Environments, vol. 10, no. 3, pp. 247-265, June 2001. [https://doi.org/10.1162/105474601300343595]

저자소개

최웅(Woong Choi)

2000년 : 조선대학교 대학원 (공학석사)

2005년 : Tokyo Institute of Technology (공학박사-지능시스템과학)

2005년~2010년: Ritsumeikan University

2010년~2022년: National Institute of Technology, Gunma College

2022년~현 재: 강남대학교 ICT융합공학부 부교수

※관심분야 : 가상현실(Virtual Reality), 휴먼 컴퓨터 인터랙션(Human Computer Interaction), 등

Fig. 1.

Fig. 1.
The proposed system for the test of short-term memory in VR space. A: The environment of VR short-term memory system presented to users, B: The process of the system implemented in the proposed system

Fig. 2.

Fig. 2.
Types of cards presented for short-term memory test

Fig. 3.

Fig. 3.
20 cards presented randomly during a 30-second memorizing period

Fig. 4.

Fig. 4.
Card selected according to question for short-term memory test

Fig. 5.

Fig. 5.
Effects of spatial color and sound on short-term memory in VR space

Fig. 6.

Fig. 6.
Survey results on operability, difficulty, The number of questions, immersion, physical fatigue, and mental fatigue

Table 1.

Statistical results of short-term memory in VR space by Two-way repeated measure ANOVA.

Variable Test Statistic Confidence
Short-term memory effect between the factors Color and Sound Two-way Repeated Measure ANOVA Color:
F(2, 34.397) = 1.947
Color: p = 0.157, partial η2 = 0.093,
power = 0.378,
corrected by Sphericity Assumed
Sound:
F(4, 76) = 0.547
Sound: p = 0.702, partial η2 = 0.028,
power = 0.176,
corrected by Sphericity Assumed
interaction:
F(2, 152) = 0.945
interaction: p = 0.481, partial η2 = 0.047,
power = 0.429,
corrected by Sphericity Assumed