인공지능 기반 헬스케어 서비스의 사용경험 향상을 위한 설명 시각화 방안 컨셉 제안
Copyright ⓒ 2024 The Digital Contents Society
This is an Open Access article distributed under the terms of the Creative Commons Attribution Non-CommercialLicense(http://creativecommons.org/licenses/by-nc/3.0/) which permits unrestricted non-commercial use, distribution, and reproduction in any medium, provided the original work is properly cited.
초록
인공지능 기반 헬스케어 서비스에서 인공지능의 도출 결과를 설명하는 것은 사용자의 불안감 해소와 신뢰 향상 측면에서 중요하며 설명의 제공 방식에 따라 사용자의 정보 인지 경험은 달라질 수 있다. 이에 본 연구에서는 사용자가 인공지능 결과도출과정을 쉽게 이해하고 신뢰감을 느낄 수 있도록 돕기 위한 설명 방안을 모색하고자 한다. 문헌 조사와 사례 조사를 통해 인공지능 헬스케어 서비스의 현황과 사용자에게 제공되는 정보를 파악하고, 선행 연구를 바탕으로 설명 시각화 방안을 정리하였다. 인공지능 도출 결과에 영향을 미친 요인과 요인의 중요도를 강조하여 설명하는 방안, 인공지능을 사회적 대상으로 표현하는 방안, 사용자가 직접 변수를 조작하고 조작에 따른 변화를 확인할 수 있도록 하는 방안을 제안하고 이를 적용한 화면 디자인 예시를 제작, 평가하였다. 평가결과, 도출결과에 영향을 준 변수에 대한 설명과 핵심 내용의 시각화를 통한 직관적 표현이 사용자의 서비스사용경험에 긍정적 영향을 줄 수 있음을 확인하였다.
Abstract
Explaining AI-derived outcomes in AI-based healthcare services is crucial for alleviating user anxiety and enhancing trust. In particular, the user’s information perception experience may vary by how information is provided. This study explores visualization methods to help users easily understand and trust the process of AI results derivation. Through literature and case studies, we identified the current status of AI healthcare services, and the informations provided to users, and organized explanation visualization methods based on prior research. The proposed approaches include emphasizing factors influencing AI-derived outcomes, portraying AI as a social entity, and allowing users to manipulate variables and visualize the resulting changes. We also created and evaluated screen design examples incorporating these strategies. As a result of the evaluation, explanation of the variables that influenced the results and the intuitive expression through visualization of key contents can have a positive impact on the user's service use experience.
Keywords:
AI Healthcare Service, Data Visualization Design, User Experience, Understanding, Trustworthiness키워드:
인공지능 헬스케어 서비스, 정보 시각화 디자인, 사용자 경험, 이해도, 신뢰도Ⅰ. 서 론
최근 인공지능 기술의 입지가 더욱 커지며 의료 헬스케어 시장에서의 인공지능 또한 많은 주목을 받고 있다. 글로벌 의료 분야 인공지능 규모는 2022년 약 90억 달러에서 2031년 1870억 달러로 커질 것으로 추정되며 연평균 40.1% 규모로 성장이 예상되고 있다[1]. 의료 분야에 적용된 인공지능은 다량의 데이터 세트를 분석하고 시뮬레이션을 통해 결과를 미리 예측함으로써 의약품 개발, 환자 맞춤형 케어, 질병 예측 진단 등 여러 역할을 해낼 수 있는 가능성을 가지고 있으며[2], 환자의 질병 치료와 의료 프로세스에 효율성을 가져오고 개인 맞춤형 의료를 실현하는 동력이 될 수 있다[3]. 하지만, 고도화되어가는 알고리즘의 복잡성으로 인해 막상 도출된 결과에 대한 설명이 없는 인공지능의 블랙박스 현상이 나타나고 있다. 이는 안전성이 무엇보다 중요한 의료 분야에서 해결이 필요한 문제로 지적된다[4]. 의료 분야에서 인공지능의 도출 결과를 설명하는 것은 일반 대중들의 인공지능을 향한 불안감을 해소하고 최종 사용자에게 신뢰를 준다는 점에서 굉장히 중요한 문제로 여겨진다[5]. 이를 해결하기 위해 설명 가능한 인공지능에 관한 연구가 활발하게 진행되고 있지만, 알고리즘의 성능 개선을 위한 개발자 중심의 연구와 설명을 제공하는 것 자체에만 관심을 둔 연구가 대부분으로 사용자 관점에서 인공지능이 진단한 결과나 추천 등을 어떤 방법으로 설명하는 것이 사용 경험 향상에 도움이 될 것인지에 대한 사용자 중심의 연구는 충분히 이루어지지 않았다. 동일한 내용의 정보이더라도 정보를 제공하는 방식에 따라 사용자가 정보를 인식하는 경험에 차이가 생길 수 있으며[6], 개인의 건강과 직결된 내용을 다루는 헬스케어 서비스에서 정보를 제대로 전달하고 이해하도록 하는 것은 매우 중요하다. 따라서 본 연구에서는 헬스케어 서비스를 중심으로 사용자들이 인공지능의 결과도출과정을 쉽게 이해하고 신뢰감을 느끼도록 돕는 설명 시각화 방안을 모색하고자 한다.
본 연구에서는 인공지능 기반의 서비스 중 결과도출과정 설명의 중요도가 높은 헬스케어 추천 서비스를 연구범위로 설정하였다. 사용자가 인공지능이 진단, 추천한 결과에 대해 이해하고, 신뢰감을 느끼도록 돕는 인공지능의 결과도출과정 설명 방안을 모색하기 위하여 첫째, 문헌 조사와 사례조사를 통해 인공지능 기반 헬스케어 서비스의 현황과 사례에 대해 알아보고, 인공지능의 결과도출과정 설명에 관한 연구 동향을 파악한다. 둘째, 선행연구를 바탕으로 사용자의 이해도, 신뢰도와 같은 사용 경험 향상에 도움을 줄 수 있는 정보시각화 방법을 알아보고, 인공지능 결과도출과정 정보시각화 사례를 조사하여 결과도출과정 설명에 포함되는 정보를 파악한다. 셋째, 조사 내용을 바탕으로 사용 경험 향상을 위한 인공지능 헬스케어 추천 서비스의 결과도출과정 설명 시각화 방안을 제안한다.
Ⅱ. 인공지능 기반 헬스케어 추천 서비스의 이해
2-1 인공지능 헬스케어 서비스 현황
의료 분야와 인공지능의 만남은 의료 서비스의 혁신을 가져옴으로써 기존의 표준적, 경험적 치료 중심의 전통 의료 방식에서 질병을 사전에 예방 및 진단하고 개인 맞춤형 치료를 하는 방식으로 변화할 것으로 전망된다[3]. 미국 시장조사기관 ‘트랜스패런시 마켓 리서치’에 따르면 글로벌 의료 분야 인공지능 시장 규모는 연평균 40.1% 규모로 성장하여 2031년에는 1870억 달러 규모에 달할 것으로 예측되고 있다[1]. 인공지능은 데이터를 신속하고 정확하게 분석해 효율성 측면에서 크게 장점을 보인다. 폐 질환, 유방암 등 질환을 정확하고 빠르게 진단하거나 효과적으로 치료할 수 있도록 하는 보조 소프트웨어[7], 세포 및 화학 구조 시뮬레이션, 증상이나 진단 내용 요약, 환자의 이해를 돕기 위한 자료 생성과 설명 개인화 작업 등에 인공지능이 적용되고 있다[8].
인공지능 헬스케어 서비스는 전문 의료진을 위한 질환 진단, 분석 등의 의료 전문 분야부터 체중, 행동 변화, 심리, 영양, 질환 등 개인이 스스로 개인이 스스로 건강 관리를 할 수 있도록 돕는 서비스로 확장하며 꾸준히 성장하고 있다[9].
2-2 인공지능 헬스케어 서비스 사례
현황 조사를 통해 인공지능 기반 헬스케어 서비스 시장이 꾸준히 성장하고 있고, 전문 의료진을 위한 진단분석 소프트웨어부터 일반 사용자들의 일상적 건강 관리를 위한 헬스케어 서비스까지 확장되고 있음을 살펴보았다.
본 논문에서는 인공지능이 헬스케어 서비스 사용자에게 어떤 정보를 제공할 수 있는지, 해당 정보를 어떻게 보여주고 있는지 파악하고자 인공지능 기술을 활용한 헬스케어 서비스 사례조사를 진행하였다. 인공지능을 포함한 정보통신기술이 융합된 맞춤 의료, 일상의 건강관리 서비스를 일컫는 디지털 헬스케어 서비스는 모바일 헬스케어, 원격 의료, 의료 분석학, 의료 디지털화 시스템 4가지 유형으로 나뉘며, 상세 설명은 표 1과 같다[10],[11].
Classification of healthcare service types
본 연구에서는 일반 사용자에게 인공지능의 진단 및 추천 결과가 쉽게 이해되고 믿을만하게 느껴지도록 돕는 설명 방안에 대해 알아보고자 헬스케어 서비스 4가지 유형 중 인공지능이 건강 데이터를 분석하여 사용자에게 진단 결과를 제공하는 기능을 포함하는 모바일 헬스 서비스 사례를 수집하여 분석하였다. 사례 조사를 위해 앱스토어를 통해 다운로드 받아 사용해볼 수 있거나 구글, 네이버 등의 포털 사이트 검색으로 개발된 앱의 기능과 화면을 확인할 수 있고, 사용자의 후기를 확인할 수 있는 사례를 수집하였다.
모바일 헬스케어 분류의 서비스로는 당뇨 환자들의 혈당 관리를 돕기 위한 ‘One drop’ 앱과 혈압, 심박, 체중, 활동량 등 일반 건강 활력 징후를 관리하는 ‘Medikarma’, ‘Together by Renee’ 앱, 개인 건강진단으로 발병 위험 질환을 알려주고 개인 건강 관리 방안을 제안하는 ‘Shelvy Checkup’ 앱, 맞춤형 영양제 관리, 식단, 활동량 등을 관리하는 ’Pillyze’앱을 수집하였고 내용은 표 2와 같다.
Collection of healthcare service cases
인공지능 기반 헬스케어 서비스에서는 사용자의 수기 입력, 디바이스 센서를 통한 기록, 건강 검진 기록 등을 데이터로 활용하여 사용자의 건강 관리를 위한 진단 및 추천을 하며 서비스에서 인공지능 기술을 통해 사용자에게 제공하고 있는 정보로는 사용자의 현재 건강상태 진단, 예측 건강상태 진단, 개인 맞춤형 건강 관리 방안이 있었다.
사용자(환자)의 현재 건강상태로 혈당, 혈압, 심박, 활동량 등의 활력 징후 데이터 자체를 보여주거나 분석된 데이터 내용을 바탕으로 좋고 나쁨 등의 평가를 통한 정보를 제공하기도 한다. 수치 데이터, 그래프, 아이콘, 캐릭터, 이미지 데이터 등을 활용하여 보여주고 있으며 예시 이미지는 그림 1과 같다.
Example of providing current health status information*Pillyze (Right) is a Korean heathcare service case.
현재까지 분석된 데이터를 바탕으로 앞으로의 예측 건강상태 정보를 제공한다. 이미 발생한 일이 아닌 앞으로 일어날 일에 대해 대비를 할 수 있기에 표준적 치료, 경험적 치료라고 설명하는 전통적 헬스케어에서 미리 질병을 예상하고 대응할 수 있도록 하는 새로운 패러다임의 헬스케어로 변화하는데 핵심적인 역할이 될 수 있는 정보이다. 실제 서비스 사례에 적용된 예시는 ‘One drop’ 서비스에서 제공하는 혈당 예측 정보로 사용자의 혈당 변화 패턴을 학습하여 향후 8시간까지의 예측 혈당 변화 흐름을 알려준다. 점선으로 이어지는 그래프가 시간대별로 변화하는 혈당 수치를 시각화하며, 예측 내용을 요약한 텍스트를 함께 제공하고 있다. 예시 이미지는 그림 2와 같다.
Example of providing predictive health status information*Shelvy check up (Middle, Right) is a Korean heathcare service case.
맞춤형 건강 관리 방안 정보의 제공은 상태에 대한 진단 분석을 넘어 사용자(환자)의 상황을 중재하거나 건강 증진을 위한 행동을 제안한다. 선정된 사례 중 ‘One drop’과 ‘Medikarma’에서 혈당 정상화를 위한 조언, 건강 관리를 잘하기 위한 행동 대한 조언을 제공하는 것을 확인할 수 있었는데, 사용자의 현재 혹은 예측 건강상태를 알려주는 것과 함께 건강상태를 유지하거나 개선하기 위한 방법을 제공하고 있었다. 관리 방안은 건강 관리를 도와주는 사람이 채팅을 보낸 듯한 알림 메시지 인터페이스를 통해 제공되고 있었다. 예시 이미지는 그림 3과 같다.
Example of providing personalized health management strategies*Shelvy check up (Left) is a Korean heathcare service case.
사례 조사를 통해 기존 서비스 사례에서 사용자에게 진단, 맞춤형 추천 등의 결과를 전달하기 위해 여러 시각화 방식을 활용하여 정보를 제공하고 있으나 대부분 결과가 어떻게 도출된 것인지에 대해 사용자가 알기 어렵다는 문제점이 있음을 알 수 있었다.
2-3 인공지능 결과 도출과정 설명에 관한 선행연구
인공지능 기반 헬스케어 서비스는 고도화된 알고리즘을 통해 사용자의 최적화된 건강 관리를 도울 수 있지만, 알고리즘이 복잡해지며 인공지능이 도출한 결과에 대한 이유를 설명하지 못하는 블랙박스 현상이 발생한다는 문제가 있다. 사용자에게 인공지능이 내린 결과가 어떻게, 왜 달성되었는지 알려주는 것은 설명이 특히 중요한 의료 분야에서 반드시 필요한 일이다[12]. 사용자는 왜 인공지능 모델이 이런 예측을 내렸는지, 도출된 결과가 어떤 영향을 미치게 될지 알고 싶어 하며 임상현장에 쓰일수록 투명하고, 신뢰할 수 있고 설명할 수 있는 모델을 필요로 한다[13]. 이에 여러 선행 연구자들이 의료 분야에서 인공지능이 도출한 결과에 대한 이유를 설명하기 위한 설명 가능한 인공지능 연구를 수행하고 있다.
설명 가능한 인공지능은 어떠한 요인이 결과에 가장 유의미한 영향을 미쳤는지, 왜 이러한 결과가 나온 것인지를 알려주기 위한 것으로 인공지능이 해답을 찾는 과정을 파악할 수 있는 의사결정트리 모델, 어떤 데이터가 결과에 강한 영향을 미쳤는지를 파악할 수 있는 LRP 모델, 학습이 완료된 모델에 설명력을 부여하여 데이터를 인식단위로 나누어 이미지를 해석하거나 피쳐 혹은 변수의 영향력을 추론하는 LIME, SHAP 모델이 의료 인공지능 분야에 활용되고 있다[5]. 이러한 설명력을 부여하는 모델이 적용되었을 때 사용자의 사용 경험에 긍정적 영향을 줄 수 있음을 확인한 연구들이 있다. Lamy는 유방암 진단 알고리즘에 사례 기반 추론법을 활용하여 인공지능이 내린 결과에 대한 이유를 함께 설명했고[14], 의료 전문가들이 진단 결과를 더 잘 이해할 수 있음을 확인했다. 정혜린은 중환자 사망 여부 영향요인 분석과 피부암 진단 알고리즘에서 변수 중요도를 강조하는 설명을 활용했을 때 결과에 대한 해석이 용이해 진다는 것을 확인했으며[15], 박윤하의 연구는 의료진이 혈당조절 예측 모델이 내린 결과를 잘 이해할 수 있도록 돕기 위한 시각화가 적용된 처방 프로세스 설명을 제공했을 때 인공지능의 제안을 믿고 사용할 수 있도록 도와주며, 인공지능이 도출한 결과와 의료진의 판단을 비교할 수 있게 도와줌으로써 인공지능이 더 유용하게 활용할 수 있음을 확인했다[16]. 인공지능이 도출한 결과에 대한 이유를 설명하는 것은 인공지능이 내린 결과에 대한 이해도와 신뢰도를 향상시키는 데에 도움을 줄 수 있다는 것을 알 수 있으나 선행 연구의 대부분이 설명을 제공하는 것 자체에만 관심을 두고 있다는 한계가 있다. 하지만 Marcengo, &Rapp은 사용자에게 동일한 데이터를 제공하더라도 시각화하는 방식의 차이는 사용자가 정보를 인지하는 경험에 다르게 영향을 미칠 수 있다고 말한다[6]. 인공지능의 수행과정을 시각적으로 보여주는 사례 분석 연구는 모델의 단계별 목적이나 전문가, 비전문가와 같은 사용 대상에 따라 데이터 시각화 제공방법에 차이가 있으나 대부분의 인공지능 수행과정의 시각화 사례가 최종 사용자가 아닌 데이터 과학자에 초점을 맞추었기 때문에 매우 복잡하게 보이는 전문가를 위한 시각화라는 점을 파악했다[17]. 인공지능 기술이 일반 사용자의 건강 관리를 위한 헬스케어 서비스까지 확장되고 있다는 점에서 전문가가 아닌 일반 사용자도 인공지능이 제공한 결과를 쉽게 이해하고, 믿을 수 있도록 설명할 방안이 필요하다.
Ⅲ. 헬스케어 서비스 정보시각화의 이해
3-1 헬스케어 서비스에서 정보시각화의 중요성
데이터 수집, 이해 가능한 정보로의 변환, 그래픽 알고리즘과 디스플레이, 인간의 지각과 인지 시스템이라는 과정으로 이루어지는 정보시각화는 많은 양의 데이터를 쉽게 이해하고, 패턴을 파악하여 새로운 통찰력을 얻도록 돕는다[18]. 헬스케어 서비스의 정보는 개인의 건강과 직결되어 있기 때문에 사용자에게 제대로 정보를 전달하는 것이 매우 중요하다. 또한, 헬스케어 앱을 통해 제공된 건강 정보 내용을 이해하고 있다고 느끼는 정보적 효능감과 앱을 효과적으로 사용할 수 있다는 능력에 대한 확신인 도구적 효능감은 모바일 헬스케어 앱을 지속적으로 사용하도록 하는 데에 긍정적 영향을 미치는 심리적 요인이며[19], 적절한 시각화 기법을 활용한 갖춘 의료 시스템은 사용자에게 시스템의 진행 상황이나 건강 데이터 이상을 파악하기 쉽게 만들어 서비스에 대한 유용성을 높일 수 있다[20]. 따라서 사용자가 헬스케어 서비스를 유용하게 느끼고, 지속적으로 사용하게 만들기 위해서는 적절한 방식의 정보시각화를 활용하는 것이 필요함을 알 수 있다.
3-2 사용경험 향상을 위한 정보시각화 방법
이지선은 정보를 보는 사용자를 위한 시각화 목적을 설정하고 이를 고수해야 한다고 말한다[21]. 수많은 데이터 자체의 표현에 집중하는 것이 아닌 사용자의 관점에서 필요한 정보를 얻을 수 있도록 데이터를 선별하고 이해할 수 있는 정보로 변환하는 것이 성공적인 빅데이터 시각화에 필요하다. 제공하려는 정보의 유형에 따라서 효과적인 시각적 형태가 다르다는 것 또한 고려해야 한다. Abela는 비교, 분포, 구성, 관계를 카테고리로 나누어 무엇을 보여주고 싶은지에 따라 데이터를 잘 표현하기에 적합한 그래프 선택 가이드를 정리하였다[22]. 김재영, 김덕용은 수치 데이터의 정보 유형을 비교분석 정보, 시간에 따른 변화의 추이 정보, 비율 정보, 관계 정보, 범위와 분포 정보로 분류하고 각 정보 유형을 표현하기 적합한 그래프의 유형을 조사, 분석하였고[23] Heer 등은 시계열 데이터, 통계 분포, 지도, 위계, 네트워크 시각화의 다양한 데이터 시각화 그래프 사례를 제시, 특징을 설명하였다[24]. Midway는 양, 구성, 분포, 관계 등의 데이터를 보여주기 위해 효과적인 그래픽을 선택하여 사용해야 함을 말하며 그래프 시각 디자인 유형 사례와 함께 어떤 정보를 보여줄 수 있는지를 설명했다[25]. 선행연구를 바탕으로 정보 유형에 따른 효과적인 시각화 방식을 분류해보면 표 3과 같다.
Classification of visualization methods according to information types
신뢰는 다른 사람의 말, 약속, 구두 또는 서면 진술이 신뢰할 수 있다는 개인이나 집단이 갖는 기대를 의미한다[26]. 의료 서비스에서 신뢰는 서비스 제공자가 제시하는 치료법이나 처방을 따르도록 하는 순응 중요성 인식에 긍정적 역할을 미치며[27], 사람 간 이루어지는 의료 서비스뿐 아니라 인공지능 기반의 의료 서비스에서도 중요한 역할을 한다[28].
Hurley는 사람 간 신뢰는 개인이 느끼는 위험을 줄이고 위험 상황을 관리할 수 있도록 만드는 보안성, 공동의 목표와 이익을 가지는 경우인 이해관계의 일치, 누군가 스스로에게 호의적 관심을 가지고 있다는 믿음, 적극적 경청이나 옹호와 같은 커뮤니케이션, 서로 비슷하다고 느끼며 결속력을 높이는 유사성, 앞으로의 행동을 예측할 수 있게 돕는 예측 가능성과 무결성, 역량을 정확히 이해하고 전달하는 역량과 신뢰의 일치를 통해 형성할 수 있다고 설명한다[29]. 안진희는 인터페이스에 적용할 수 있는 신뢰 형성 요인으로 인터페이스를 즉각적으로 이해하고 과업 진행을 돕는 가항성, 인터페이스 요소의 일관된 레이아웃과 정렬을 통해 쉽게 화면에 적응하도록 하는 일관성, 일상적 표현 방식의 언어로 레이블링 하여 이해를 돕는 친숙성, 사용자가 현재 어디에 있는지, 무엇을 할 수 있는지 등을 알려주는 통제성 4가지를 선별하였다[30]. Harley는 인터페이스 사용성 휴리스틱 중 하나인 시스템 상태의 가시성은 사용자에게 시스템의 상태를 전달함으로써 사용자가 시스템을 통제하고 있다고 느끼게 하며 이러한 통제감은 브랜드와 제품의 신뢰를 쌓는데 도움이 될 수 있다고 설명한다[31]. 자율주행 자동차 인터페이스 디자인에서 심성 모형, 전문지식, 공통 목적, 피드백, 인과관계와 에러 정보는 신뢰감을 형성시키는 중요한 선행 요인으로 파악됐다[32].
선행연구를 바탕으로 여러 신뢰도를 향상시키는 요인 중에서 사람 간의 신뢰 형성에만 해당되는 부분이나, 기술적 해결이 필요한 부분 등 설명 시각화 디자인으로 다루기 힘든 요인을 제외하여 설명의 신뢰도 향상 요인을 표 4로 정리하였다.
Factors of increasing explanatory reliability
인공지능 의료 헬스케어 서비스의 결과도출과정에 대한 정보시각화를 다룬 사례를 살펴보았다. 정혜린 등은 1) 중환자실 환자의 사망 이유에 대한 수치와 사망률 예측 결과정보, 2) 피부암 분류를 위한 이미지 분석 모델의 설명 시각화 연구를 진행하였고 사례는 그림 4와 같다[15].
Visualization cases: causes of death in icu, classification of skin cancer
첫 번째 사례는 중환자실 환자의 사망 여부에 영향을 미치는 변수는 무엇이고 변수의 중요도는 어느 정도인지를 보여주기 위한 시각화로 버블 차트를 통해 가로축에 변수 중요도, 세로축에 변수의 종류를 표기하고 중요도가 높을수록 버블의 크기를 크게 표현하였고 히트맵에 표현된 색상 진하기로 변수 중요도를 표현하였다. 두 번째 사례에서는 피부암 이미지 데이터 분석의 결과와 결과에 영향을 준 변수를 시각화한 것으로 피부 병변 이미지에서 피부암일 확률이 높은 영역을 표현하여 어떤 부분이 피부암 진단 결과에 영향을 준 것인지 확인할 수 있도록 한다.
박윤하의 연구에서는 머신러닝 기반 인슐린 처방 프로세스의 데이터 시각화 디자인을 제안하는 연구를 진행하였다[16]. 그림 5와 같이 선 그래프를 통해 시간에 따라 변화하는 혈당 데이터를 시각화하여 예측 혈당 데이터의 근거가 되는 혈당값, 경구 식이, 인슐린 처방에 대한 정보를 그래프와 함께 표기하고 어떤 이유로 해당 혈당 상태 진단이 도출된 것인지를 나타낸다. 또한, 의사의 처방 결정에 따라 즉각적으로 예측 그래프가 변화하는 것을 확인할 수 있도록 하였다. 그림 6의 산포도 그래프 시각화를 통해서는 환자가 어떤 특성을 가진 그룹에 속하는지 표현하여 인슐린 처방 결과에 대한 근거를 설명하고 처방 결정에 참고할 수 있도록 한다.
Visualization case: blood glucose diagnosis and prediction*This is an example work of visualization design by a Korean researcher.
Visualization case: patient group characteristics information* This is an example work of visualization design by a Korean researcher.
Ⅳ. 인공지능 기반 헬스케어 서비스의 결과도출과정 설명 시각화 방안
4-1 인공지능 결과도출과정 설명 시각화 방안
앞서 사례 조사와 문헌 조사를 통해 파악한 인공지능 헬스케어 서비스에서 제공하는 정보, 사용 경험 향상을 위한 정보시각화 방법을 바탕으로 사용자가 인공지능이 제공한 진단, 추천 결과에 대해 쉽게 이해하고 믿을 수 있도록 설명하기 위한 인공지능 기반 헬스케어 서비스의 결과도출과정 설명 시각화 방안을 정리해보았다.
첫째, 인공지능이 도출한 결과에 영향을 준 요인과 해당 요인의 중요도를 강조하여 설명한다. 사용자가 인공지능의 진단, 추천 결과를 이해함으로써 서비스를 믿고 활용하기 위해 결과도출에 영향을 준 요인을 알려주는 것이다. 결과도출에 영향을 준 여러 데이터의 특성에 따라 적합한 그래픽적 표현은 달라질 수 있다. 오랜 시간에 걸쳐 영향을 주는 변수의 경우 시계열 데이터를 표현할 수 있는 선 그래프나 타임라인 그래프를 활용할 수 있고, 개별 요인의 중요도를 비교하는 경우 버블 그래프 등을 활용할 수 있다.
둘째, 인공지능을 사회적 대상으로 표현하여 시각화한다. 인공지능이 정해진 대로 분석하기만 하는 알고리즘 기술로 끝나는 것이 아닌 사용자의 건강 관리를 위해 공유된 목표를 가지고 적극적으로 소통하려는 사회적 존재로 표현되고 사용자가 이해하기 쉬운 언어로 설명을 제공하는 것은 인공지능의 결과도출과정 설명의 이해도와 신뢰도를 높이는데 긍정적 영향을 줄 수 있다.
셋째, 인공지능의 맞춤형 건강 관리 추천 설명 과정에서 사용자가 변수를 조작할 수 있도록 하고 조작에 따른 변화를 보여준다. 사용자가 건강 관리 목표를 위해 인공지능이 추천한 관리 방안의 데이터 변수를 직접 조작하고 변화를 확인하는 것은 서비스에 대한 통제 가능성을 느끼게 만들고, 사용자가 데이터 종류나 비율을 변경하는 과정은 모델의 작동 과정을 이해하는 것에 도움을 줄 수 있다[17].
4-2 설명 방안 적용 디자인 예시
인공지능 기반 헬스케어 앱 서비스의 현재 건강상태 정보, 예측 건강 상태 정보, 개인 맞춤형 건강 관리 방안을 제공하는 화면에 인공지능 결과도출과정 설명 시각화 방안을 적용한 예시 화면을 제작하였고 페르소나는 과체중으로 인한 체중 조절 목표를 가진 사용자로 설정하였다.
그림 7은 사용자의 현 상태를 진단하고 어떻게 이러한 진단 결과가 나왔는지 설명하는 화면으로 첫 번째 방안과 두 번째 방안을 적용하였다. 분석된 결과를 일방적으로 전달하는 인공지능 알고리즘이 아닌 사회적 존재로 표현된 가상의 에이전트가 사용자가 건강에 주의가 필요한 상태임을 알려주며 서비스에서 사용자의 건강 관리를 함께 도우려고 한다는 것을 표현하고자 하였다. 또한, 혈당이나 체중 같은 개별 바이탈의 건강 상태와 내 건강 기록 등을 함께 볼 수 있도록 하여 건강상태 결과에 무엇이 영향을 주었는지 알아보기 쉽도록 시각화하였다. 정상, 주의, 위험 구간으로 나뉜 바 그래프에 배치된 아이콘을 통해 사용자가 ’주의 필요‘라는 자신의 건강상태에 어떤 요인이 부정적, 긍정적 영향을 주었는지를 직관적으로 확인하도록 표현하였고, 건강 관리 평가는 관리를 위한 목표를 얼마나 달성했는가에 따라 종합적 결과를 받는 것으로 개별 건강 기록 중 무엇이 전반적 관리 평가에 영향을 준 것인지 목표 달성에 대한 퍼센티지를 제공하는 것으로 표현하였다. 사용자가 자신의 건강상태에 대해 쉽게 이해하고 파악할 수 있도록 하는 것은 모바일 헬스케어 앱의 유용성을 느끼게 만들어 앱의 지속 이용 의도에 긍정적 영향을 줄 수 있다[33]는 측면에서 사용자가 인공지능을 활용한 헬스케어 앱 서비스를 활용하여 지속적으로 건강 관리를 하도록 만들 수 있다.
Exmaple for explanatory visualization (1)*This is an example of the screen design of the explanation of a healthcare app targeting Korean users.
그림 8은 사용자에게 맞춤형 건강관리 방안에서 사용자가 변수의 조작 가능성을 시각화하여 정보를 제공하는 것으로 서비스에서 제안한 관리 방안을 사용자가 직접 조작할 수 있는 방식으로 표현되었고, 조작된 값에 따라 변화가 생기는 것을 즉각적으로 확인할 수 있도록 보여주고자 했다. 사용자는 제안된 식이 관리나 운동 관리 선택지를 변경해보며 관리의 결과인 체중의 변화를 즉각적으로 확인해 결과에 대한 변수의 영향력을 더 쉽게 이해할 수 있도록 하고 시스템의 결정 과정을 예측할 수 있게 도와줄 수 있다. 인공지능 서비스 사용과정에서 시스템의 결정 과정을 이해하고 예측하도록 하는 것은 사용자가 제공하는 서비스에 대한 신뢰를 느낄 수 있게 하여[30],[31] 사용자가 앱이 제 제안을 믿고 활용하는 데에 도움을 줄 수 있을 것으로 기대된다.
Exmaple for explanatory visualization (2)*This is an example of the screen design of the explanation of a healthcare app targeting Korean users.
Ⅴ. 사용자 평가
5-1 사용자 평가 목적 및 방법
4장에서 도출한 인공지능 결과도출과정의 설명 시각화 방안의 적용 가능성을 파악하기 위하여 사용자 평가를 진행하였다. 평가 도구는 기존 앱 사례와 본 연구에서 제안하는 설명 방안 적용 디자인 예시 화면을 종합하여 시각화한 앱 컨셉 프로토타입을 사용하였고 도구의 모습은 표 5와 같다. 기존 앱 사례는 식단, 운동 등을 함께 관리하는 종합 헬스케어 앱이며, 앱 스토어 내 다운로드 수가 높았던 ’Pillyze‘ 앱으로 선정하였다. 각 도구는 사용자의 상태를 진단하고, 체중감량 목표를 위한 관리 방안을 제안하는 내용을 포함하고 있다. 평가는 정량적 평가와 정성적 평가로 구성하였다.
Comparative evaluation tools
기존 앱 사례의 맞춤형 추천 설명 화면과 방안이 적용된 컨셉 앱의 추천 설명 화면을 보여준 후 이해도, 신뢰도를 5점 리커트 척도로 질문하고 사후 인터뷰를 진행하였다. 총평가 인원은 7명이며, 각 평가는 1:1 인터뷰 방식으로 진행하여 다른 참여자의 의견이 영향을 주지 않도록 하였다.
5-2 사용자 평가 결과
사용자 평가결과는 표 6과 같다. 각 점수는 리커트 5점 평가 점수의 평균값이며 소수점 두 번째 자리까지 사용하였다.
Comparative evaluation results between existing case and proposed case
참여자들은 기존 앱 사례의 화면에 비해 본 연구에서 제안한 방안이 적용된 화면의 이해도와 신뢰도를 전반적으로 더 높게 평가하였다. 긴 줄글로 이루어진 텍스트 설명을 제공한 기존 사례 화면과 달리 방안이 적용된 화면에서는 정보를 그래프로 표현하여 내용을 더 빠르게 발견하고 이해하게 만들어 더 직관적으로 받아들일 수 있었고, 신뢰 또한 더 느껴진다는 것을 언급했다. 특히 이해도와 신뢰도 평가에 가장 긍정적 영향을 준 것으로 많은 답변을 받았던 것은 세 번째 방안인 제안된 내용의 선택지를 바꿔보며 예상 건강 결과의 변화에 대해 파악할 수 있도록 하는 것이었는데, 단순히 어떤 건강 관리를 하라고 추천하는 것보다 관리 방안이 어떤 역할을 하는지 파악할 수 있고 인공지능이 제안한 관리 방안을 이해하고 신뢰하는 데에 많은 도움을 줄 수 있을 것 같다고 평가했다. 자신의 상태에 대해 평가하고 점수를 매기는 것 자체가 거짓말이라고 생각하지는 않지만 왜 이러한 평가와 점수가 매겨졌는지 이유를 알아보기 힘들다는 것이 기존 사례 화면의 아쉬운 점으로 평가되었다.
VI. 결 론
최근 인공지능 기술의 입지가 커지며 의료 헬스케어 시장에서의 인공지능 또한 효율적 건강 관리와 개인 맞춤형 의료를 실현하는 동력이 될 것으로 많은 기대를 받고 있다. 인공지능 기반 헬스케어 서비스의 인공지능 도출 결과를 설명하는 것은 안정성과 설명에 대한 중요성이 무엇보다 중요한 의료 분야에서 사용자의 불안감 해소를 돕고 신뢰를 느끼도록 할 수 있다는 점에서 중요하게 다뤄지는 문제이다. 이에 본 연구에서는 헬스케어 서비스를 중심으로 사용자들이 인공지능 결과도출과정을 쉽게 이해하고 신뢰감을 느끼도록 돕기 위한 설명 방안을 모색하고자 했다. 이를 위해 문헌 조사를 통해 인공지능 기반 헬스케어 서비스의 현황을 알아보고, 서비스 사례 조사를 통해 서비스에서 사용자에게 제공하고 있는 인공지능 진단, 추천에 대해 파악하였다. 이어서 선행연구 조사를 통해 사용자의 이해도, 신뢰도와 같은 사용 경험 향상에 도움을 줄 수 있는 정보시각화 방법을 알아보고, 인공지능 결과도출과정 정보시각화 사례를 조사하여 결과도출과정 설명을 구성할 정보를 파악했다. 이러한 내용을 바탕으로 인공지능 기반 헬스케어 서비스의 사용 경험 향상을 위한 결과도출과정 설명 시각화 방안을 정리하였다. 내용은 다음과 같다. 첫째, 인공지능 도출 결과에 영향을 미친 요인과 해당 요인의 중요도를 강조하여 설명한다. 둘째, 인공지능을 사회적 대상으로 표현하여 시각화한다. 셋째, 맞춤형 건강 관리 추천 과정에서 사용자가 직접 변수를 조작할 수 있게 하고 조작에 따른 변화를 시각화한다. 이와 같은 인공지능 결과도출과정 설명 시각화 방안의 디자인 예시를 헬스케어 앱 서비스 적용하여 사용자 비교 평가를 진행하였다. 평가결과 사용자들은 기존 사례 화면보다 본 연구의 시각화 방안이 적용된 사례 화면의 정보를 더 이해하기 쉽고, 믿을만하게 느껴진다고 평가하며 본 연구에서 제안하는 설명 시각화 방안이 이해도와 신뢰도 측면에서 더 개선된 사용 경험을 제공할 수 있음을 확인하였다. 인공지능 기반 헬스케어 추천 서비스에서 사용자에게 정보를 효과적으로 설명하기 위해서는 영향 변수에 따른 예측 결과 변화를 즉각적으로 보여주는 방안을 활용하는 것이 가장 효과적일 수 있으며, 핵심 내용을 빠르게 파악할 수 있도록 돕는 직관적 표현이 서비스 사용 경험에 긍정적 영향을 줄 수 있다. 본 연구는 사례조사와 선행연구를 바탕으로 인공지능 기반 헬스케어 서비스의 인공지능 도출 결과를 보다 이해하기 쉽고, 신뢰감을 줄 수 있도록 설명할 방안에 대하여 파악하고 평가를 통해 방안의 적용 가능성을 확인한 것에 그 의의가 있다. 하지만, 본 연구에서 제안한 설명 시각화 방안의 정보 구성에는 헬스케어 앱의 직접 사용자 조사를 통한 니즈 파악이 이루어지지 않았다는 점과 디자인 예시로 다룬 헬스케어 정보의 내용이 다소 일반적이고 쉬운 내용이었기에 평가 결과에 영향을 주었을 수 있다는 점을 연구의 한계점으로 볼 수 있다.
References
- The Yakup. The Petitive ‘Medical Ai’ is Expected to be 240 Trillion Won in 2030...“Korea’s Biotech Global Matching Is Rare [Internet]. Available: http://m.yakup.com/news/index.html?mode=view&cat=11&nid=284351, .
- Medi Pharms Today. Leading the Revolution of the Generative AI Healthcare Industry [Internet]. Available: https://www.pharmstoday.com/news/articleView.html?idxno=327822, .
- ETRI Knowledge Sharing Platform. Personalized Healthcare: AI Applications and Immediate Attention [Internet]. Available: https://ksp.etri.re.kr/ksp/plan-report/file?id=770, .
- Medical Times. The Biggest Challenge of Medical Artificial Intelligence Reliability... Will ‘XAI’ be the Solution? [Internet]. Available: https://m.medicaltimes.com/News/NewsView.html?ID=1143883, .
- Korea Information Society Development Institute. Trends in the Use of Explainable Artificial Intelligence (XAI) Used in the Medical Field [Internet]. Available: https://eiec.kdi.re.kr/policy/domesticView.do?ac=0000172147, .
-
A. Marcengo and A. Rapp, Visualization of Human Behavior Data: The Quantified Self, in Innovative Approaches of Data Visualization and Visual Analytics, Hershey, PA: IGI Global, ch. 12, pp. 236-265, 2014.
[https://doi.org/10.4018/978-1-4666-4309-3.ch012]
- KOSEN (The Global Network of Korean Scientists & Engineers). Outlook by Artificial Intelligence Technology and Industry Sector [Internet]. Available: https://kosen.kr/info/reports/REPORT_0000000001224
- Deloitte. A New Paradigm In The Healthcare Industry Brought about by Generative AI [Internet]. Available: https://www2.deloitte.com/kr/ko/pages/life-sciences-and-healthcare/articles/2024/20240415.html, .
- Medical Device Newsline. Artificial Intelligence (AI) Use Cases in Healthcare in the United State [Internet]. Available: http://www.kmdianews.com/news/articleView.html?idxno=59928, .
- Monitor Deloitte. Digital Health in the UK: An Industry Study for the Office of Life Sciences [Internet]. Available: https://assets.publishing.service.gov.uk/government/uploads/system/uploads/attachment_data/file/461479/BIS-15-544-digital-health-in-the-uk-an-industry-study-for-the-Office-of-Life-Sciences.pdf, .
- S. J. Park and C. S. Lim, “Digital Healthcare Industry-Service Analysis: Based on the Digital Healthcare Industry- Service Classification System,” in Proceeding of 2023 Joint Spring Conference on KIIE & KORMS, Jeju, pp. 4413-4418, May-June 2023.
- BRIC (Biological Research Information Center). Explainable AI Research Trends in Medical/Healtcare [Internet]. Available: https://www.ibric.org/bric/trend/bio-report.do?mode=download&articleNo=8692799&attachNo=1040893, .
- KHIDI (Korea Health Industry Development Institute). Reliability and Safety of Medical Artificial Intelligence [Internet]. Available: https://www.khidi.or.kr/board/view?linkId=48863283&menuId=MENU02183, .
-
J.-B. Lamy, B. Sekar, G. Guezennec, J. Bouaud, and B. Séroussi, “Explainable Artificial Intelligence for Breast Cancer: A Visual Case-Based Reasoning Approach,” Artificial Intelligence in Medicine, Vol. 94, pp. 42-53, March 2019.
[https://doi.org/10.1016/j.artmed.2019.01.001]
- H. Jeong, Visualization of Explainable AI Techniques Using Variable Importance, Master’s Thesis, Chung-Ang University, Seoul, February 2020.
- Y. Park, Data Visualization of Machine Learning based Insulin Prescription Process, Ph.D. Dissertation, Hongik University, Seoul, August 2021.
-
Y. Park and J. Y. Yun, “A Design Case Study of Artificial Intelligence Pipeline Visualization,” Archives of Design Research, Vol. 34, No. 1, pp. 133-155, February 2021.
[https://doi.org/10.15187/adr.2021.02.34.1.133]
- C. Ware, Information Visualization: Perception for Design, 4th ed. Cambridge, MA: Morgan Kaufmann, pp. 1-27, 2021.
-
L.-S. Lee, S.-H. Lee, J.-S. Jeong, and K.-Y. Noh, “Psychological Factors Influencing Continuous Use of Mobile Healthcare Applications,” Journal of Digital Convergence, Vol. 15, No. 7, pp. 445-456, July 2017.
[https://doi.org/10.14400/JDC.2017.15.7.445]
-
A. Khan, H. Mukhtar, H. F. Ahmad, M. A. Gondal, and Q. M. Ilyas, “Improving Usability through Enhanced Visualization in Healthcare,” in Proceedings of 2017 IEEE 13th International Symposium on Autonomous Decentralized System (ISADS), Bangkok, Thailand, pp. 39-44, March 2017.
[https://doi.org/10.1109/ISADS.2017.36]
- J. Lee, “A Study on Visualizing Method and Expression of Information Design for Big Data,” Journal of Basic Design & Art, Vol. 14, No. 3, pp. 259-269, June 2013.
- The Extreme Presentation(tm) Method. Choosing a Good Chart [Internet]. Available: https://extremepresentation.typepad.com/blog/2006/09/choosing_a_good.html, .
-
J.-Y. Kim and D.-Y. Kim, “A Study on the Effective Visual Form Following the Numerical Information Types,” Journal of the Korea Contents Association, Vol. 16, No. 4, pp. 624-633, April 2016.
[https://doi.org/10.5392/JKCA.2016.16.04.624]
-
J. Heer, M. Bostock, and V. Ogievetsky, “A Tour through the Visualization Zoo,” Communications of the ACM, Vol. 53, No. 6, pp. 59-67, June 2010.
[https://doi.org/10.1145/1743546.1743567]
-
S. R. Midway, “Principles of Effective Data Visualization,” Patterns, Vol. 1, No. 9, 100141, December 2020.
[https://doi.org/10.1016/j.patter.2020.100141]
-
J. B. Rotter, “A New Scale for the Measurement of Interpersonal Trust,” Journal of Personality, Vol. 35, No. 4, pp. 651-665, December 1967.
[https://doi.org/10.1111/j.1467-6494.1967.tb01454.x]
- H. S. Jung, Y. S. Kim, and S. H. Kim, “A Study on the Effects of Patients’ Individual Factors, Medical Institute Factors, and Health Care Provider Factors on Trust, Role Clarity, and Compliance with Treatment,” Korean NPO Review, Vol. 14, No. 1, pp. 45-59, June 2015.
-
H. J. Lee, I. Lee, and S.-H. Kim, “A Study on Patient Compliance with Medical Artificial Intelligence: The Moderating Role of Physical Risks with Trust as a Mediating Role,” Journal of Consumer Studies, Vol. 33, No. 1, pp. 1-22, February 2022.
[https://doi.org/10.35736/JCS.33.1.1]
- Harvard Buisness Review. The Decision to Trust [Internet]. Available: https://hbr.org/2006/09/the-decision-to-trust, .
-
J. H. An, H. Kim, and H. Y. Ryoo, “A User Interface Design for Enhancing Trust of a Water Quality Application,” Journal of Korea Design Forum, No. 33, pp. 25-38, November 2011.
[https://doi.org/10.21326/ksdt.2011..33.003]
- Nielson Norman Group. Visibility of System Status (Usability Heuristic #1) [Internet]. Available: https://www.nngroup.com/articles/visibility-system-status/, .
-
H. J. Yeon and J. S. Kim, “An Identification of the Design Factors for ‘Trust’ Affordable Automated Vehicle’s User Interface: Towards a Comparison of Millennium and New Silver Generation,” Journal of Cultural Product & Design, Vol. 56, pp. 25-37, March 2019.
[https://doi.org/10.18555/kicpd.2019.56.03]
-
J. S. Jeong, J. M. Park, and G. Y. Noh., “Factors Influencing Intention to Continuous Use of Mobile Healthcare Apps: The Breakdown of Perceived Ease of Use,” Journal of Cybercommunication Academic Society, Vol. 36, No. 2, pp. 81-117, June 2019.
[https://doi.org/10.36494/JCAS.2019.06.36.2.81]
저자소개
2022년：서울과학기술대학교 디자인학과 산업디자인전공(미술학학사)
2022년～현 재: 서울과학기술대학교 일반대학원 산업디자인학과 석사과정
※관심분야：UX디자인, 인터랙션 디자인, 디자인 리서치, 디자인 프로세스 등
1996년：서울대학교 산업디자인과(미술학학사)
2003년：이화여자대학교 교육공학과(인문학석사)
2010년：Illinois Institute of Technology, Institute of Design (PhD in Design)
1995년～1999년: ㈜LG전자 디자인연구소 디자이너
1999년～2003년: ㈜디자인그룹에이블 제품/웹UI팀장
2010년～2012년: 서울대학교 디자인학부 BK연구교수
2012년～2013년: 공주대학교 산업디자인공학부 조교수
2013년～현 재: 서울과학기술대학교 디자인학과 교수
※관심분야：제품UX디자인, 인터랙션디자인, 제품디자인, 디자인 프로세스 등
