Korea Digital Contents Society

Current Issue

Journal of Digital Contents Society - Vol. 22 , No. 3

[ Article ]
Journal of Digital Contents SocietyVol. 22, No. 3, pp.519-525
Abbreviation: J. DCS
ISSN: 1598-2009 (Print) 2287-738X (Online)
Print publication date 31 Mar 2021
Received 29 Jan 2021 Revised 09 Mar 2021 Accepted 09 Mar 2021
DOI: https://doi.org/10.9728/dcs.2021.22.3.519

손그림 자동분석에 기반한 퍼지 추론 심리진단 응용의 개발
김수경1 ; 유견아2, *
1덕성여자대학교 컴퓨터공학과 학부과정
2덕성여자대학교 컴퓨터공학과 교수

Development of Fuzzy Reasoning based Psychological Diagnosis Application with Automatic Hand-drawing Analysis
Su-Kyung Kim1 ; Kyeonah Yu2, *
1Undergraduate Course, Department of Computer Engineering, Duksung Women’s University, Seoul, Korea
2Professor, Department of Computer Engineering, Duksung Women’s University, Seoul, Korea
Correspondence to : *Kyeonah Yu Tel: +82-2-901-8346 E-mail: kyeonah@duksung.ac.kr


Copyright ⓒ 2021 The Digital Contents Society
This is an Open Access article distributed under the terms of the Creative Commons Attribution Non-CommercialLicense(http://creativecommons.org/licenses/by-nc/3.0/) which permits unrestricted non-commercial use, distribution, and reproduction in any medium, provided the original work is properly cited.
Funding Information ▼

초록

HTP 검사는 손으로 그린 집과 나무와 사람 그림을 통해 개인의 성격과 정서를 분석하는 심리 검사 방법이다. 본 논문에서는 손그림 분석이 가능하도록 딥신경망을 훈련하여 분석 결과가 심리 진단에 사용될 수 있도록 함으로써 그림 심리분석의 전 과정을 자동화하는 방법을 제안한다. 제안하는 시스템은 손그림에서 주요 객체들을 탐지하여 분류하고, 객체들의 특성을 알아내는 이미지 분석부와 이미지 분석의 결과를 입력받아 심리를 진단하는 심리 진단부의 2단계로 구성된다. 이미지 분석부는 합성곱 신경망으로 구현하여 자체적으로 수집한 손그림 데이터 셋으로 정밀 튜닝하였으며, 심리 진단부는 심리 진단을 위한 전문가의 지식을 퍼지 규칙으로 표현하여 심리분석 결과를 퍼지 추론하도록 하였다.

Abstract

The HTP test is a psychological test that analyzes an individual's personality and emotions through hand-drawn drawings of houses, trees, and people. In this paper, we propose a method to automate the entire process of psychological analysis of pictures by training deep neural networks to enable hand-drawn analysis so that the analysis results can be used for psychological diagnosis. The proposed system consists of two stages: an image analysis unit that detects and classifies major objects in hand drawings and finds their characteristics, and a psychological diagnosis unit that diagnoses psychology by inputting the results of image analysis. The image analysis unit was implemented as a convolutional neural network and finely tuned with the self-collected hand-drawn data set, and the psychological diagnosis unit expressed the expert knowledge for psychological diagnosis as fuzzy rules to make fuzzy inferences of the psychological analysis results.


Keywords: Fuzzy Inference, Hand-drawing Analysis, HTP Test, Object Detection, Online Psychological Diagnosis
키워드: 퍼지 추론, 손그림 분석, HTP 검사, 객체 탐지, 온라인 심리 진단

Ⅰ. 서 론

집과 나무와 사람 그림을 통해 개인의 성격과 정서를 분석하는 HTP(House, Tree, Person) 검사는 각종 심리 검사 방법 중에 가장 보편적으로 시행되고 있는 방법이므로 컴퓨터를 이용한 자동화의 요구도 많은 분야이다 [1][2]. 인터넷 기술의 발달로 웹 기반 심리 진단의 타당성을 입증하는 연구도 활발하고 웹 기반 뿐 아니라 모바일 기반에 이르기까지 다양한 어플리케이션이 존재하지만 HTP 검사의 전 과정을 구현한 시스템은 아직 존재하지 않는다. 그 이유는 HTP 검사가 손으로 그린 그림 분석과 전문가 지식 기반의 분석을 동시에 요구하는 작업으로 고전적인 지식기반 인공지능이나 데이터 기반 인공지능 단독으로는 해결할 수 없는 문제이기 때문이다. 또한, 이미지 인식의 성능이 사람의 능력을 뛰어넘는 딥러닝 모델의 등장은 이미지 인식에 기반하는 심리검사의 컴퓨터화 가능성을 보여주었지만, 아직 딥러닝 기술의 활용이 제한적일 뿐 아니라 지식기반의 설명과의 연계는 여전히 열린 연구 주제이다 [3]. 본 논문에서는 딥러닝 기술과 지식기반 인공지능을 접목하여 그림 심리분석 전 과정의 자동화의 가능성을 보이고자 한다. 즉 딥러닝 기술을 이용하여 손그림으로부터 사물을 분석하고 이렇게 추출된 정보들을 퍼지 추론엔진의 입력으로 사용하여 퍼지 추론을 통해 심리 진단 결과를 도출하는 시스템을 제안한다.

이 시스템은 Buck[4]이 제시한 오리지널 HTP 검사 방식에 따라 집-나무-그림을 따로 그린 그림을 입력으로 사용하고, 각 그림에서 개체들의 위치, 크기, 개수 등의 정보를 분석하여 과잉 행동적이고 예민한 특징을 갖는 타입과 우울증적이고 불안감을 갖는 타입을 기반으로 한 심리 분석을 하도록 설계하였다. 시스템의 구성은 손그림을 분석하는 이미지 분석부와 분석된 정보를 이용한 심리 진단부의 2가지 단계인데 이미지 분석부는 합성곱 신경망(CNN; convolutional neural network)으로 구현되어 그림에서 분석에 필요한 객체들을 탐지하고 분류하며 최종 출력층의 결과가 퍼지규칙기반 심리 진단부의 퍼지입력으로 넣어 퍼지 추론 규칙에 따라 심리분석 결과를 도출하는 데에 사용한다. 제안된 시스템은 모바일 기반의 그림 심리검사용 어플리케이션 개발을 위해 제안된 가이드라인[2][5]을 참고하여 구현되어 전문가의 개입 없이도 검사과정을 따라서 그림 심리검사를 진행할 수 있도록 하였다.

본 논문의 구성은 다음과 같다. 2장에서는 퍼지 추론이나 딥러닝 기술 등을 이용하는 온라인 심리분석에 대한 관련 연구들을 살펴보고 3장에서는 딥러닝과 지식기반 추론부로 구성된 심리분석 시스템의 개요와 온라인 심리분석을 위한 과정을 설명한다. 4장에서는 심리분석 시스템을 구현한 방법과 실행 결과의 예시들과 실제 사용자 테스트 결과를 제시하며 5장에서는 본 시스템의 장단점을 분석하고 향후 연구에 대한 제언과 함께 논문을 맺는다.


Ⅱ. 관련 연구

온라인 혹은 모바일 심리 진단 및 분석은 장소와 시간에 구애받지 않고 사람의 개입으로 인해 피검자가 느끼는 압박감이 적을 뿐 아니라 진단 과정에서 검사자의 오류 발생 가능성을 최소화할 수 있다는 장점으로 많은 연구와 개발 시도가 있는 분야이다 [1][6]. 특히 스마트폰의 출현으로 정신 건강 분야의 앱은 이미 많은 관심을 받고 있고 지속적으로 성장하고 있기 때문에 효과성을 갖는 앱 개발에 대한 연구도 활발하다. Mattson는 미술 치료를 위한 모바일 앱의 사용성 평가라는 연구에서 스마트폰의 출현으로 수 만개 이상의 앱들이 다양한 의료분야에서 개발되었으며 그 가운데 정신 건강 관련 앱은 앱 시장의 특화된 부분을 담당하고 있다고 주장하였다 [2][7].

심리 진단은 정량적으로 경계가 분명하지 않은 문제이기 때문에 퍼지집합 이론을 이용하여 결과를 추론하는 접근 방식을 사용한 심리학 응용이 다수 존재한다고 하였으며 [8], 심리학 분야 뿐 아니라 스포츠 분야에서 불안감과 동기부여 수준의 관계를 퍼지 논리로 분석하였다 [9]. [10]에서는 정량적 평가뿐 아니라 정성적 평가가 필요한 비선형적 평가과정에 퍼지 추론을 이용하는 심리 진단 시스템을 제안하였다. 그러나 퍼지 추론 방법도 수치와 텍스트에 기반한 문제에 적용 가능하며 모호한 경계를 표현하기 위한 퍼지규칙도 결국 사람이 설계한 값이 반영된다는 문제점은 남아 있다.

HTP 심리 검사란 투사 그림 검사 중 대표적인 방법으로, Buck[4]에 의해 개발되었다. 피검자에게 집(House), 나무(Tree), 사람(Person)을 각각 한 장의 종이에 연필로 그리게 한 뒤, 그린 그림들을 특정한 기준을 토대로 분석하고 피검자에게 질문을 하는 과정을 통해 심리를 진단하는 방법이다. 집 그림은 가정생활과 가족 내 관계를, 나무 그림은 무의식적인 감정과 갈등을 반영하며 사람 그림은 자신의 현실상이나 이상을 나타낸다. 특정한 기준들으로는 그림의 위치, 특정 요소의 유무 혹은 개수, 크기 등이 있다. 집 그림을 예를 들어, 그림이 매우 작은 경우, 무력감이나 불안감을 의미하고, 창문이 없는 경우, 편집증적 경향을 의미한다 [11]. 그림을 이용한 심리 진단 방식은 텍스트를 이용한 검사보다 솔직하게 내면 심리 상태를 드러내어 피검자의 주요 성격 특성을 효과적으로 파악할 수 있다고 알려져 언어로 표현하는 것이 미숙한 아동의 심리 상태 검사를 비롯하여 취업 인터뷰 등 여러 분야의 평가에 활용되고 있다 [5][12]. 특히 HTP 검사의 경우에는 강압적이지 않고 자유로운 분위기에서 검사가 행해지는 것이 신뢰성 있는 결과를 얻기 위해 필수적이므로 웹이나 모바일 앱으로의 구현이 필요함이 강조되고 있다 [2][5].

최근 딥러닝 기술의 발달로 이미지 인식 모델의 성능이 사람의 능력을 뛰어넘는 성과가 있었으며 이는 정형화된 데이터 이외에 이미지를 분석하여 성격 및 심리 분석을 하는 것이 가능해졌음을 의미한다 [13]. FACS(Facial Action Coding System)과 CERT(Computer Expression Recognition Toolbox)는 얼굴 표정을 보고 성격을 유추하며 이미지를 포함한 여러 종류의 데이터를 합쳐서 멀티모달 분석으로 성격 및 행동을 유추하는 시스템도 연구되고 있다 [14]. 하지만 그림을 이용하는 경우, 이미 존재하는 그림을 크기와 위치를 선택하는 수준의 응용이나 자유 그림에서는 정형화된 형태의 도형으로 제한하는 경우가 대부분이다. 딥러닝을 사용한 응용으로는 피검자의 얼굴 표정을 분석하는데 활용한 사례가 있지만 본 논문에서처럼 손그림을 그대로 분석하여 이용하는 시도는 찾아볼 수 없다. [15]에서는 아동의 손그림을 CNN으로 인식하여 HTP 테스트에 활용하는 것이 가능한가를 확인하는 사전연구를 진행하였는데 딥러닝으로 인식하는 단계까지만 구현하고 실제 심리 진단부를 구현하지는 않았다.

심리 진단이 아닌 다른 분야들에서도 본 논문에서 제안하는 지식-모델을 연결한 시스템 구현은, 서로의 약점을 보완할 수 있는 장점이 있음에도 불구하고 많이 연구되고 있지 않다 [3]. 그 이유는 현재의 데이터 기반의 모델 기법들이 보여주는 탁월성에 기인하며 과거의 지식기반 시스템이 구축된 모델에 도움이 되지 않을 것이라는 의심이 있기 때문이다. 그럼에도 불구하고 몇몇 문헌에서는 규칙 형태의 지식을 이용하여 딥 신경망을 구현했을 때의 효과를 입증하고 있으며[16] 메이크업 추천을 위한 응용에서 얼굴을 분석하고 그에 맞는 메이크업을 위하여 전문가의 지식을 이용하는 시스템을 개발하였지만 전문가 지식은 단순한 규칙의 형태로 구현되었다 [17]. 본 논문에서는 기존의 연구들과는 차별화하여 딥 신경망으로 손그림을 분석하여 이 결과를 자동으로 퍼지 입력에 연결되게 함으로써 손그림 분석에서 지식 추론 전 과정을 자동화한 심리분석 시스템을 구현한다.


Ⅲ. 손그림 자동인식에 기반한 심리분석 시스템

전체 시스템의 구조는 그림 1과 같다. 시스템은 CNN 모델을 이용한 이미지 분석부(image analysis)와 퍼지 추론(fuzzy inference)을 이용한 심리 진단부의 두 단계로 나뉜다. 피검자가 그린 집, 나무, 사람 등 3장의 그림은 이미지 분석부의 입력으로 제공된다. 손그림 데이터로 학습된 CNN 모델을 이용해 검사에 필요한 객체들의 라벨, 위치, 크기, 개수 등의 정보를 추출한다. 이렇게 추출된 정보들은 퍼지 추론엔진의 입력으로 사용되고 퍼지 추론을 통해 심리 타입에 대한 심리 진단 결과를 얻게 된다.


Fig. 1. 
System Structure

3-1 HTP 심리 검사법

심리 검사를 위해 사용한 HTP 검사법은 피검자에게 집, 나무, 사람을 각각 그리게 한 뒤, 상담사는 이 그림들을 보며 어색한 부분이나 특정한 기준을 토대로 그림을 분석하고 피검자에게 질문을 하는 과정을 통해 심리를 진단하는 방법이다. 실제 HTP 검사는 다양한 요인을 복합적으로 고려하고 피검자의 심리를 여러 관점에서 진단하는데 손그림 분석을 위한 딥러닝의 활용이라는 연구 목적을 위해서는 실제 검사에서 행해지는 다양한 심리 상태를 모두 고려하는 대신 진단 결과로 도출하게 될 심리 상태를 제한하기로 한다. [9]에서는 공격적 요인과 퇴행적 요인으로 심리를 분석하기도 하였는데, 본 논문에서는 [10]의 방법과 유사하지만 좀더 포괄적으로 결과를 표현하기 위해 비슷한 심리 상태들을 묶어 공격적/과잉 행동적/예민한 특징을 갖는 type1과 우울증적/불안감/위축됨 특징을 갖는 type2의 2가지의 HTP 검사의 진단 기준을 사용한다.

3-2 이미지 분석

심리 진단을 위한 퍼지 추론을 하기 전에 피검자가 그린 그림에 대한 분석이 필요하다. 이미지 분석 단계에서는 각 그림들로부터 심리 분석을 위한 집, 나무, 사람 그림의 유의미한 특징들을 추출해야 하는데 이때 필요한 기술은 컴퓨터 영상 인식 분야의 객체 탐지(object detection)이다. 객체 탐지는 주어진 이미지 속에서 하나 이상의 객체를 찾아내고 분류하는 기술이므로 객체 후보 위치를 알아내는 영역 제안(region proposal) 단계와 객체를 분류(classification) 단계로 이루어지며, 이 두 단계가 별도로 수행되는 두 단계(two-stage) 방법과 통합되어 수행되는 단일 단계(one-stage) 방법으로 나뉜다. 일반적으로 두 단계 방법이 단일 단계 방법에 비해 정확도는 높지만 높은 계산 비용으로 수행 속도가 느리기 때문에 본 논문에서는 모바일 환경에서도 사용이 가능한 단일 단계 방법을 사용한다 [18].

구글에서 제공하는 텐서플로 객체 탐지 API 모델 중, 단일 단계 기반의 객체 탐지 모델인 ssd mobilenet v1모델을, 직접 수집한 커스텀 데이터(custom data)에 대해 재훈련을 수행하는 방식으로 손그림 분석용 CNN 모델을 개발하였다. 모델 이름의 ssd(single shot detector)는 단일 단계 탐지 방법을 구현하는 방법 중에 하나이며 mobilenet은 모바일 환경에서 구동이 가능한 가벼운 모델을 의미한다. 그림 2는 기간(backbone) 네트워크로 mobilenet을 사용한 ssd의 구성을 나타낸다.


Fig. 2. 
SSD Structure

입력 이미지가 연결된 사다리꼴은 크기가 점점 줄어드는 일련의 합성곱 층(convolution layer)을 나타낸다. ROI(region of interest)는 관심 영역을 나타내며 우측 정육면체들은 하나 이상의 합성곱 층을 나타낸다. 가장 큰 외부 상자가 단일 단계 방식을 나타내는데, 한 번의 처리로 객체 위치와 분류가 동시에 실행됨을 보여주며, 두 단계 방식에서는 가장 큰 상자 바깥에 존재하는 타원 부분, 즉 후보 영역을 추천하는 과정이 별도로 추가된다.

3-3 퍼지 추론을 이용한 심리 진단

퍼지 이론이란 자연 언어 등의 애매함을 정량적으로 표현하기 위해 제안된 수학 이론이다. 퍼지 이론은 퍼지 집합을 이용하며, 퍼지 집합은 어떤 원소가 집합에 속하는 정도를 소속 함수(membership function)와 소속도(degree of membership)로 표현한다. 퍼지 추론은 퍼지 이론을 이용해 주어진 사실이나 관계로부터 새로운 사실을 유추하는 과정인데 퍼지 추론을 수행하기 위해서는 퍼지 추론 규칙이 필요하다. 퍼지 추론 규칙은 전건부 변수와 후건부 변수를 이용한 IF-THEN 형식으로 구성하며, 주로 사용되는 맘다니형 퍼지 추론 방법은 입력 변수의 퍼지화, 규칙 평가, 출력으로 나온 규칙의 통합, 역 퍼지화의 4단계 과정을 거친다 [19]. 퍼지화는 입력값이 퍼지 집합에 속하는 정도를 계산하는 과정인데 본 논문에서는 사용자가 임의로 입력값을 정하는 대신에 이미지 분석단계에서 계산된 결과값을 퍼지화하여 이용한다. 규칙 평가는 주어진 IF-THEN 규칙을 이용해 나온 소속도 값을 후건부의 소속 함수에 적용하는 과정이며 규칙 통합은 모든 규칙의 출력을 단일화하는 과정이다. 역퍼지화는 통합된 규칙에서 결론을 도출해내는 과정인데 이 단계에서는 무게 중심법(centroid technique)을 사용한다.


Ⅳ. 시스템 구현
4-1 이미지 분석

객체 탐지 API의 모델중, 모바일 환경에서 사용이 가능하게 하도록 단일 단계 방식 딥러닝 사물 인식 알고리즘 중 하나인 ssd mobilenet 모델을 사용했다. 이 모델은 MSCOCO 데이터셋에 대해 학습된 모델로서 본 논문에서 분석하고자 하는 손그림에서의 객체 탐지는 전혀 되지 않기 때문에 손그림 데이터에 대한 추가적인 학습이 필요하다. 이를 위해 손그림을 수집하고 딥 네트워크의 합성곱 층을 정밀 튜닝(fine tuning) 하여 원래 모델을 재훈련하는 전이학습(transfer learning)을 수행하였다.

1) 데이터 수집 및 라벨링

손그림 데이터는 크롬 브라우저의 확장 프로그램인 ‘Fatkun’을 이용해 구글에서 수집하였는데 수집한 자료는 집 그림 478개, 나무 그림 622개, 사람 그림 561개이다. 심리 분석에 필요한 객체는 표 1과 같으므로 각 그림에서 표 1의 객체들에 대해 라벨링해 주어야 한다.

Table 1. 
Objects Labeled
House House, Roof, Window, Doore
Tree Tree, Knothole, Root, Branch
Person Person, Head, Hair, Eyes, Nose, Mouth, Ears, Legs, Arms

즉, 집 그림에서는 집 자체와 지붕, 창문, 문 등이 탐지되어야 한다는 의미이고, 집 그림내의 이 객체들에 대해 직접 라벨링 작업을 수행하였다. 마찬가지로 표 1과 같이 나무의 구성 요소인 객체 4개와 사람의 구성 요소 9개에 대해 라벨링하였다. 객체로 라벨링하는 작업은 파이썬 공개 라이브러리인 ‘LabelImg’를 이용하였으며 xml 파일로 저장하였다. 그림 3은 사람 그림을 라벨링한 결과 예시를 보여준다. 사람, 머리, 머리카락, 팔, 다리 등이 바운딩 박스로 구분되고 라벨링된 것을 알 수 있다.


Fig. 3. 
Results of Labeling

2) 정밀 튜닝

ssd mobilenet 모델은 합성곱 층을 진행하며 필터를 합성곱 연산하여 추출한 특징 맵(feature map)을 다음 층에 넘겨주는 동시에 객체 탐지를 수행한다. 객체 탐지는 비율과 크기가 각기 다른 바운딩 박스(bounding box)를 투영하는 방법으로 수행한다. 이렇게 찾아낸 박스들에 바운딩 박스 회귀분석(bounding box regression)을 적용하고 각각의 바운딩 박스마다 분류를 진행한다. 이렇게 각 층별 특징 맵을 객체 탐지한 결과를 모두 합하여 손실(loss)을 구하고 전체 네트워크를 학습시키는 것이다 (그림 3). 한편 mobilenet은 모바일 환경에서 구동이 가능한 가벼운 모델을 만들기 위해 연산량과 파라미터의 수를 줄인 모델이다 [20]. 이를 위해서 기존의 합성곱 연산을 대신해 깊이 분할 합성곱(depthwise separable convolution) 방법을 사용했다. 깊이 합성곱이란 특성 맵을 채널 별로 분리하여 각 채널을 각각의 커널로 합성곱하는 것이다. 기존의 방법과 비교했을 때, 파라미터의 개수를 획기적으로 줄일 수 있다. 또한, 깊이 합성곱을 한 뒤에는 점 합성곱(pointwise convolution)을 수행한다. 점 합성곱에서는 연산량을 줄이는 데 효과적이라고 알려진 1x1 합성곱 연산을 한다. 1x1 합성곱은 1x1크기의 필터를 사용해 합성곱 연산을 하며 채널의 개수를 줄임으로써 연산량을 감소시킨다.

3) 이미지 분석 결과 확장

기존의 ssd mobilenet 모델은 이미지 위에 탐지한 객체를 포함하는 바운딩 박스를 표시만 하는데, 심리 분석에서 필요한 정보를 제공하도록 소스 코드를 수정하였다. 그림 4와 같이 바운딩 박스에 추가하여 손그림내에 있는 각 객체의 개수, 각 객체의 좌표 위치와 크기를 추출하였다. 같은 객체가 그림 안에서 여러 개 탐지되었을 때는 프로그램 내에서 가장 마지막으로 탐지된 객체의 크기로 표시하였다. 그림의 위치 좌표는 전체 이미지에서 그림의 x 좌표와 y 좌표의 중앙 점을 계산한 값이다.


Fig. 4. 
Image Analysis Results

심리분석을 위한 객체 탐지에서는 반드시 탐지되어야 할 객체들이 얼마나 제대로 검출되는가가 중요하기 때문에 중요한 성능 평가 척도는 평균 재현율(AR, average recall)이라고 할 수 있다. 재현율은 반드시 탐지되어야 객체 중에서 제대로 검출된 객체의 비율을 나타내는데 원래 모델에서 전혀 탐지되지 않았던 것을 재훈련시킨 CNN모델에 계산해보았을 때, 약 55%의 값을 얻을 수 있었다. 본 논문에서는 손그림으로부터 심리를 진단하는 전 과정을 자동화할 수 있음을 보이는 것이 목표이므로 이 수치는 큰 의미는 없으나 결론에서 제언하는 바와 같이 많은 향상의 여지가 있다.

4-2 퍼지 추론

CNN 모델을 통해 얻은 집, 나무, 사람에 대한 특징들은 그림 5와 같이 개별적인 퍼지 추론 엔진의 입력이 되고 추론의 결과는 심리 타입에 대한 소속도가 된다. 본 논문에서 제시한 두 가지의 심리 타입은 상반되는 개념으로 볼 수 있으며, 실제 HTP 검사 기준에 의해서도 규칙상 반대되는 경향이 있어 개별적인 추론이 아닌 각 타입을 결과의 양극단으로 가지도록 하는 하나의 추론 엔진을 이용한다. 따라서, 세 그림에 대한 종합적인 심리 진단을 내리기 위해 결과 소속도를 통합하는 과정을 거치며 전체 과정은 그림 5와 같다. 추론의 구현은 파이썬 라이브러리인 ‘skfuzzy’[21]를 이용하였다.


Fig. 5. 
Fuzzy Inference Process

1) 퍼지화를 위한 소속 함수

표 2는 CNN모델을 통해 얻은 특징들의 소속 함수에 따른 소속도를 집그림의 요소를 예시로 들어 나타낸 것이다. 표 2의 값의 범위에 CNN 결과를 매칭시키기 위해 개수(count)를 제외한 값들에 대해 간단한 전처리 과정을 거친다. 전처리는 집 자체는 전체 이미지 크기에 대한 상대 비율로, 각 구성 요소는 집 크기에 대한 상대 비율로 변환하는 과정이다. 사물이 존재하지 않는 경우에는 크기를 0으로 설정하였다. 이러한 과정을 통해 이미지 분석부의 출력 결과를 퍼지 추론의 입력으로 변환한다.

Table 2. 
Membership Function of House Components
Feature Value
House Size
(0~100)
Small[0,30] Medium[30,70] Big[70,100]
Location
(0~10)
Top[0,2] Middle[2,8] Bottom[8,10]
Door Size
(0~100)
Small[0,1] Medium[1,25] Big[25,100]
Count
(0~5)
None[0] Medium[1,3] Many[3,5]
Window Count
(0~5)
None[0] Medium[1,3] Many[3,5]
Roof Size
(0~100)
Small[0,10] Medium[10,50] Big[50,100]

2) 퍼지 추론 규칙

퍼지 추론을 수행하기 위해서는 퍼지 추론 규칙이 필요하다. 퍼지 추론 규칙은 전건부 변수와 후건부 변수를 이용한 IF-THEN 형식으로 구성되는데 집 그림에 대한 퍼지 규칙의 예는 다음과 같다:

(house_size high)&(door_size high)&(window_count high)→ type2

전건부는 조건을 나타내고 후건부는 그 조건이 만족되었을 때의 결과 타입을 나타낸다. 퍼지 추론을 위한 합성 규칙으로는 최대-최소(Max∙Min) 합성 규칙을 사용하였다. RS는 퍼지 관계의 합성에 의해 생성되는 xz상의 파지 집합이고 μRS는 그의 소속함수라고 할 때, 최대-최소 합성 규칙은 R과 S가 동시에 발생할 가능성과 같기 때문에 최소값을 취하고, 모든 가능성중에 최대값을 취하는 것으로 식 (1)과 같이 표현된다. 퍼지 규칙을 평가하여 나온 소속도 값은 후건의 소속 함수에 적용된다.

μRSx,z=yYμRx,yμSy,z=maxyYminμRx,y,μSy,z(1) 
3) 역퍼지화 및 심리 진단

퍼지 규칙들을 통해 얻은 결과를 하나의 정확한 실수값으로 만들기 위해서는 역퍼지화(defuzzification) 과정이 필요한데 본 논문에서는 무게 중심법을 사용하였다. 무게 중심법이란 출력 변수에 대한 소속도(xi)와 출력 집합의 단일 값(ui)을 곱한 값들을 모두 더하고 출력 소속도의 총합으로 나누는 방법으로 식 (2)와 같다. 역퍼지화는 3가지 퍼지 추론 엔진에서 개별적으로 수행하였고 역퍼지화를 거친 3가지 값의 평균값은 그림 6의 심리 타입에 대한 퍼지 소속 함수에 대응시켜 최종적인 심리 상태를 진단한다.

M=xi×uixi(2) 

Fig. 6. 
Membership Function for Psychological Type

4) 테스트 결과 예시

실제 집, 나무, 사람의 손그림이 이미지 분석부를 통해 분석되어 퍼지 추론의 결과에 도달하는 과정을 요약하면 그림 7과 같다. 우선 이미지 분석부를 통해 각 이미지에서 표 1에서 명시한 객체들을 인식한 결과가 3개의 그림이다. 분석된 객체들의 정보를 퍼지 추론 엔진의 입력으로 사용하여 심리 타입에 대한 소속도를 구한 결과가 각 그림으로부터 수치로 출력되며 이 값들의 평균을 취하여 퍼지 소속 함수로부터 최종 결과를 얻게 된다. 이와 같은 추론 과정은 퍼지 규칙을 기반으로 이루어졌기 때문에 심리 진단 과정을 설명하기 위한 설명 기관(explanation engine)의 구현이 용이하며 본 예시의 경우 다음과 같이 설명된다: 집 그림에서는 ‘집의 크기가 큰 편’이고 ‘창문의 개수가 많은 편’이므로 결과가 ‘type1에 가까움’, 나무 그림에서는 ‘뿌리가 없는 편’이고 사람 그림에서는 ‘머리가 작은 편’이고 ‘눈이 작은 편’이므로 결과가 ‘type2에 가까움’, 최종 결과는 ‘normal’ 이다. 본 연구에서는 두 가지 타입에 기반한 심리 분석 예시를 보여주었지만 퍼지 규칙을 보완하면 보다 다양한 관점의 분석이 가능하다.


Fig 7. 
Result of CNN and Fuzzy Inference


Ⅴ. 결 론

본 논문에서는 사람이 그린 그림으로부터 객체 탐지와 분류가 가능하며, 이를 통해 얻은 그림의 정보를 퍼지 추론의 입력으로 사용함으로써 손그림 기반 심리분석 전 과정이 자동화될 수 있음을 보여주었다. 또한 손그림을 분석하는 이미지 분석부와 심리를 진단하는 과정을 모델링한 퍼지 추론부를 독립 유닛으로 구성함으로서, 실제 진단하는 규칙을 검사자의 진단 성향에 따라 구성할 수 있도록 하였다. 또한 이미지 분석부의 경우, 피검자의 그림 데이터를 더 많이 수집하여 그림의 분석을 위한 CNN모델의 성능을 높인다면 더욱 정확한 분석이 가능할 것으로 기대되며 HTP 검사법뿐만 아니라 피검자의 그림을 기반으로 한 다른 심리검사 기법에도 연구를 확대할 수 있을 것이다.


Acknowledgments

이 논문은 2017년도 정부(과학기술정보통신부)의 재원으로 한국연구재단-차세대정보•컴퓨팅기술개발사업의 지원을 받아 수행된 연구임(NRF-2017M3C4A7083279).


References
1. A. Barak and T. Buchanan, “Internet-based psychological testing and assessment” Online counseling: A handbook for mental health professionals, Elsevier Science, pp.217–239, 2004.
2. S. Son, A Standardization Study on Developing the HTP Test Application; With a focus on response characteristics derived from the HTP Test based on the Big Five Personality Test, Ph.D. dissertation, Daegu University, 2015.
3. Coupang technology blog team. Guide for AI/ML System Construction, Coupang technology blog, Oct 12, 2018. Available: https://medium.com/coupang-tech/technote/home
4. J.N. Buck, “The HTP test”, Journal of Clinical Psychology, No. 4, pp.151-159, 1948.
5. Y.I. Yoon, "The children`s HTP test application development based on mobile device". Design convergence study, vol. 14, pp. 293-310, 2015.
6. E. Wallin et al., “The Preference for Internet-Based Psychological Interventions by Individuals Without Past or Current Use of Mental Health Treatment Delivered Online: A Survey Study With Mixed-Methods Analysis.”, JMIR mental health, vol.3, 2016. Available: https://www.ncbi.nlm.nih.gov/pmc/articles/PMC4925931/.
7. M. Smithson and G.C.Oden, “Fuzzy Set Theory and Applications in Psychology”, Zimmermann HJ. (eds) Practical Applications of Fuzzy Technologies, International Handbook of Fuzzy Sets and Possibility Theory, 1999.
8. G. S. Kushwaha and S. Kumar, “Role of the Fuzzy System in Psychological Research”, EJOP, vol. 5, no. 2, pp.123-134, May 2009.
9. J. Park, E. Roh, D. Kim, and H. Chung, "Psycholsy Diagnostsis System Using Fuzzy Reasoning .", Proceedings of KFIS Fall Conference, pp.236-239, 2004.
10. House, Tree, Person (HTP): A Personality Test, 2016. Available: https://exploringyourmind.com/house-tree-person-htp-personality-test/.
11. E.F. Hammer, “Guide for qualitative research with the H-T-P”, Journal of General Psychology, Vol.57, pp.41-60, 1954.
12. D. Mattson, “Usability assessment of a mobile app for art therapy”, The Arts in Psychotherapy, Vol.43, pp.1-6, 2015.
13. Y. Mehta, N. Majumder, and A. Gelbukh, “Recent trends in deep learning based personality detection.”, Artificial Intelligence Review, Vol.53, pp. 2313–2339, 2020.
14. K. He, X. Zhang, S. Ren, J. Sun, “Deep residual learning for image recognition.”, Proceedings of the IEEE conference on computer vision and pattern recognition, pp.770–778, 2016.
15. J. Park et al., “Preliminary Research of HTP Sentiment Analysis Automation on Children`s Drawings”, Proceedings HCI KOREA 2019 , pp. 867-871, 2019.
16. Y. Okajima and K. Sadamasa, “Deep Neural Networks Constrained by Decision Rules”, AAAI, vol. 33, no. 01, pp. 2496-2505, Jul. 2019.
17. T. Alashkar, S. Jiang and Y. Fu, "Rule-Based Facial Makeup Recommendation System," 12th IEEE International Conference on Automatic Face & Gesture Recognition, pp. 325-330, 2017.
18. A. Kunar, “Object Detection with SSD and MobileNet”, Medium, 2020. Available: https://medium.com/@aditya.kunar_52859/object-detection-with-ssd-and-mobilenet-aeedc5917ad0
19. A. Kandel, L. Li and Z. Cao, "Fuzzy inference and its applicability to control systems," Fuzzy sets and systems, vol. 48, no. 1, pp. 99-111, 1992.
20. A. G. Howard, M. Zhu, B. Chen, D. Kalenichenko, W. Wang, T. Weyand, M. Andreetto, and H. Adam. “Mobilenets: Efficient convolutional neural networks for mobile vision applications.” arXiv:1704.04861, 2017. Available: https://arxiv.org/pdf/1704.04861.pdf%EF%BC%89.
21. Skfuzzy API document [Internet]. Available: https://pythonhosted.org/scikit-fuzzy/api/api.html.

저자소개

김수경(Su-Kyung Kim)

2016–현 재: 덕성여자대학교 컴퓨터공학과 재학

※관심분야:인공지능, 기계학습, 딥러닝

유견아(Kyeonah Yu)

1986년: 서울대학교 제어계측공학과 공학사.

1988년: 서울대학교 제어계측공학과 공학석사.

1995년: University of Southern California 컴퓨터학과 공학박사

1996년~현 재: 덕성여자대학교 컴퓨터학과 교수

※관심분야: 인공지능, 기계학습, 딥러닝 등