Korea Digital Contents Society

Journal Archive

Journal of Digital Contents Society - Vol. 20 , No. 5

[ Article ]
Journal of Digital Contents Society - Vol. 20, No. 5, pp. 917-925
Abbreviation: J. DCS
ISSN: 1598-2009 (Print) 2287-738X (Online)
Print publication date 31 May 2019
Received 22 Apr 2019 Revised 06 May 2019 Accepted 27 May 2019
DOI: https://doi.org/10.9728/dcs.2019.20.5.917

중도·중복 장애학생 및 성인을 위한 사용자 맞춤 AAC 화상키보드 개발 및 적용
김경양
부산장신대학교 특수교육과

Development and Application of Customized AAC On-screen Keyboard
Kyung-Yang Kim
Department of Spacial Education, Busan Presbyterian University, Gimhae-si, Gyeongnam 1894-68, Korea
Correspondence to : *Kim, Kyung Yang E-mail: elchild2014@gmail.com


Copyright ⓒ 2019 The Digital Contents Society
This is an Open Access article distributed under the terms of the Creative Commons Attribution Non-CommercialLicense(http://creativecommons.org/licenses/by-nc/3.0/) which permits unrestricted non-commercial use, distribution, and reproduction in any medium, provided the original work is properly cited.

초록

본 연구는 중도·중복 장애학생 및 성인을 위한 사용자 맞춤 AAC 화상키보드 개발을 목적으로 하였다. 기존에 개발된 키보드나 TTS 기반 글자 AAC 프로그램은 문해 또는 인지능력에 어려움이 있을 때는 사용이 어려웠다. 이에 본 연구에서는 사용자의 특성을 반영하여 첫째, 자모음 자판의 글쇠 위치를 자유롭게 변환하도록 개발하였고, 둘째, 스캐닝 방식을 적용하여 스위치를 활용하여 키보드 사용이 가능하도록 하였으며, 셋째, 장애학생이 키보드를 사용하면서 동시에 음성출력을 활용하도록 TTS 기능을 탑재하였고, 넷째, 글쇠를 누를 때 오류가 발생한 것은 읽지 않고, 완성된 글자나 문장을 읽을 수 있도록 개발하였다. 마지막으로 완성된 글자 또는 문장은 타 프로그램(예: 온라인 검색창)에 붙여 넣기 기능으로 전송하여 사용하도록 개발하였다. 본 연구 성과로 지체·중복장애학생은 스위치 스캐닝 방식을 사용하여 기능적인 핵심 글자 어휘를 쓸 수 있게 되었다.

Abstract

The purpose of this study was to develop a customized AAC on - screen keyboard that can be used by person with severe and multiple disabilities. The existing keyboard or TTS - based text AAC program was developed mainly for adults with physical disability. This has made it difficult to use text-based AAC programs for students with severe and multiple disabilities with limited cognitive abilities or difficult choices. In this study, we developed a method to freely convert the keyboard of the vowel, reflecting the characteristics of the user. Second, the keyboard was used by using the switch by using the scanning method. Third, TTS function to utilize voice output. Fourthly, it was developed to be able to read the completed letters and sentences so as not to read the error when pressing the key. Finally, the completed letter or sentence is transferred to another program (for example, an online search window) to be used as a paste function. As a result of this research, student with severe and multiple disabilities used functional core vocabularies like their own names with using switch.


Keywords: AAC(Augmentative and alternative communication), Customization, On-screen keyboard, Text, Disabilities
키워드: 보완대체의사소통, 사용자 맞춤, 화상키보드, 글자, 장애

Ⅰ. 서 론
1-1 연구배경 및 목적

사회의 한 구성원으로 생활하기 위해서 가장 기본적인 수단은 의사소통이다. 의사소통이란 청자와 화자가 자신의 의견이나 감정을 공유하고 나누는 과정을 의미한다. 최근에는 다양한 의사소통 수단을 통해 소통의 경험과 폭이 넓어지고 있다. 예를 들어, 00사의 이모티콘을 사용하여 감정을 전달하거나 전자 우편으로 자신의 의견을 나누는 등의 일련의 활동들 또한 의사소통의 수단이 확장되는 것을 의미한다. 이와 같이 기존에 구어 중심의 의사소통 수단을 비구어 또는 상징과 같은 이모티콘 등으로 대체하거나 보완하여 활용되는 것을 보완대체의사소통(Augmentative and alternative communication; 이하 AAC)라고 한다. AAC 체계에는 상징, 도구, 전략, 기법의 4가지 구성요소가 포함된다. 최근 공학의 발전과 소통의 중요성을 강조하는 시대적 환경 변화에 따라 국내외에서 그림이나 사진과 같은 다양한 상징을 도구에 탑재하여 사용하는 AAC 도구와 프로그램이 개발되어 출시되었다. 그러나 상징이나 사진을 사용하는 AAC 도구는 지속적으로 개발되고 현장에 보급되는데 반하여, 글자 또는 철자를 사용하여 음성을 출력하는 글자 기반 AAC 도구의 개발 및 보급은 여전히 부족한 상태이다. 이에 본 연구는 철자 사용에 어려움이 있는 중도·중복 장애학생 및 성인의 접근성을 고려한 사용자 맞춤형 AAC 화상키보드를 개발하여 글자 기반 AAC 연구의 확장 및 적용에 대해 살펴보는 것을 목적으로 하였다.

1-2 연구방법

본 연구는 구어를 통해 의사소통하기 어려운 중도·중복장애학생 및 뇌병변 장애인이 글자를 익히고 활용하여 자신을 표현할 수 있도록 세 명의 장애학생 부모의 심층 면담을 통해 사용자 맞춤 AAC 화상키보드 콘셉트를 구상한 후, 프로그램 개발자와 협의하여 장애학생이 다양한 보조기기를 활용하여 접근하기 용이한 윈도우 기반의 화상키보드를 개발하도록 하였다. 본 연구는 ① 선행연구 분석 - ② 부모 및 전문가 면담을 통한 화상키보드 개발 콘셉트 설정 - ③ 전문가 타당도 검증 - ④ 화상키보드 수정 - ⑤ 화상키보드 개발 - ⑥ 장애학생에게 적용을 통한 검증의 단계로 진행하였다.


Ⅱ. 이론적 고찰
2-1 보완대체의사소통(AAC) 체계

AAC란 말(speech)이나 글을 통해 의사소통하기 어려운 경우, 다양한 형태의 의사소통 수단을 사용하는 것이다. 예를 들어, AAC에는 말의 발달이 늦거나 또는 조음에 문제가 있는 자의 말을 보완(augment)하여 의사소통을 지원하거나, 또는 조음 기관에 대한 수술 또는 장애 등으로 인해 발음할 수 없는 자에게 다른 대체적인(alternative) 의사소통 수단을 지원하는 것 등이 포함될 수 있다. 일반적으로, AAC은 사용자가 입력하기 원하는 기호(symbol)를 직접적으로 선택하는 방식, 또는 사용자가 입력하기 원하는 기호를 간접적으로 선택하는 방식이 있다. 구체적으로, 기호를 직접적으로 선택하는 방식은 사용자가 자신의 신체 일부분(예를 들어, 손가락, 발가락, 코, 눈, 팔꿈치 등)으로 입력하고자 하는 기호를 지적하거나, 또는 보조 수단을 이용하여 입력하고자 하는 기호를 직접 또는 간접적으로 지적하는 것이다.

여기서, 기호를 직접적으로 지적할 수 있는 보조 수단에는 헤드 스틱(head sticks), 핸드 스플린트(hand splints) 및 마우스 스틱(mouth sticks) 등이 포함될 수 있다. 그리고 기호를 간접적으로 지적할 수 있는 보조 수단에는 터치 패드(touch pad), 광 포인터(light beam pointer), 조이스틱(joy sticks) 및 시선 추적 모니터(ocular eye gaze monitor) 등이 포함될 수 있다. 글자나 그림과 같은 기호를 간접적으로 선택하는 방식을 스캐닝(scanning) 또는 훑기이라고 하는데, 예를 들어 여러 기호들에 대하여 초점이 하나씩 이동하는 과정 중에 사용자가 입력하고자 하는 기호를 스위치와 같은 보조기기를 사용하여 간접 선택하는 것이다. 스캐닝은 자동 스캐닝(automation scanning), 순서적 스캐닝(step scanning), 역 스캐닝(inverse scanning), 그룹 스캐닝(group scanning), 및 행렬 스캐닝(row-column scanning) 등으로 분류될 수 있다.

종래의 AAC 도구는 사용자가 한정된 배열의 키패드를 사용하거나, 입력하고자 하는 기호를 일일이 찾아서 선택해야 하는 어려움이 있었다. 또한 입력하고자 하는 기호를 직접적으로 선택(즉, 사용자가 신체의 일부분 또는 보조수단을 이용하여 지적)하는 과정 또는 입력하고자 하는 기호를 간접적으로 선택하는 과정에서 의도치 않게 다른 기호를 선택할 가능성이 매우 높았다.

2-2 중도·중복 장애학생을 위한 AAC 적용 선행연구

최근에 장애학생을 대상으로 한 AAC 선행 연구를 살펴보면 다음과 같다.

먼저 [1]은 스위치를 사용하여 지체 및 중복 장애학생에게 AAC 도구를 사용하여 의사소통 능력의 향상을 보고하였다. 선행연구에서는 스위치의 자동 스캐닝(automation scanning) 방식의 적용을 통해 AAC 도구 사용의 활용도가 증가하였고 이에 의사소통 능력도 향상된 것으로 나타났다. [2]에서는 스위치 조작도 어려운 지체 및 중복 장애학생을 위해 적외선 센서로 눈의 동공을 스캐닝 하여 컴퓨터나 기기를 조작할 수 있도록 하는 돕는 Eye tracker를 적용하여 AAC 도구 사용의 효과를 검증하였다. 지체 및 중복 장애학생 안구의 움직임을 사용하여 Eye tracker를 사용하여 AAC 도구를 직접 선택으로 적용하는 것은 스스로의 도구 사용 적극성을 높이고 이로 인해 타인과의 상호작용에서도 효과적임이 나타났다. [3]에서는 스위치를 활용하여 AAC 중재를 지체 및 중복장애 고등학교 학생의 수업 참여행동(반응하기, 주의집중하기, 수업참여 행동 빈도)에 효과적임을 보고하였다.

종래의 운동장애로 인해 제한을 갖는 지체 및 중복 장애학생을 대상으로 한 연구들은 대부분 첫째, 스위치나 Eye tracker와 같은 보조기기를 AAC 도구에 적용하였다는 것과 둘째, 그림이나 상징 기반의 AAC 도구를 사용하였다는 공통점이 있다. 특히 지체 및 중복 장애학생을 대상으로 한 AAC 연구들은 대부분 그림이나 사진 기반의 AAC 도구 사용하고 있다. 이는 그림이나 사진 기반의 AAC 도구가 운동성 및 인지 능력에서 부담이 덜하여 지체 및 중복 장애학생에게 적합하였고, 초기 의사소통 수단을 증가시키기에 적합하였기 때문으로 간주된다. 그러나 지체 및 중복 장애학생이 AAC 도구를 지속적으로 사용하여 의사소통 능력이 향상되고 어휘가 증가하게 될 경우 또는 보다 더 많은 어휘를 사용하여 다양한 타인과 소통해야 하는 뇌병변 장애 성인의 경우에는 좀 더 보편적인 수단으로 글자 사용의 필요성이 제기된다. 그러나 기존의 대다수의 AAC 연구들이 그림 상징을 기반으로 하였다는 제한성은 글자를 기반으로 한 AAC 연구의 확장이 필요함으로 보여주는 것이다.


Ⅲ. 장애학생 및 성인을 위한 AAC 화상키보드 개발 요구
3-1 글자 기반 AAC 키보드 개발 요구조사

본 연구에서는 선행연구로 지체장애 성인 9명과 특수교사 17명을 대상으로 지체장애인을 위한 글자 기반 AAC 프로그램 개발에 대한 요구를 파악한 [4]에서 제안한 요구사항을 먼저 살펴보았다. 첫째, 다양한 음색 제공, 둘째, 현재 널리 보급되어 있는 플랫폼으로 스마트폰이나 태블릿 선호, 셋째, 음성 출력을 단어나 음절 단위의 즉각적인 음성 출력보다는 전체 문장을 입력 후 출력하는 것을 요구하였다. 넷째, 글자를 쓰면 소리로 출력하는 TTS(Text To Speech) 기능을 사용하여 자주 사용하는 문장을 저장하고 필요할 때 바로 재사용 할 수 있는 기능이 필요하다. 다섯째, 글자 입력을 도와주는 기능을 필요로 한다. 단어 예측 방식을 통해 글자 입력을 효과적으로 도와줄 수 있다는 것이다. 여섯째, 긴 문장 말하기 기능으로 발표나 면접, 긴 인사말과 같은 예견된 장소나 행사에서 사용할 수 있는 기능이 필요하다. 일곱째, 사용자 인터페이스 요구사항으로 운동 장애인을 위해 스마트 폰의 작은 크기 때문에 쿼티 키보드 형식은 입력 오류를 발생한다. 이 때문에 사용자 지정 키보드를 선호한다. 손사용의 어려움 때문에 개인별로 적합한 키보드를 제공해 주는 것이 필요하다. 또한 운동 능력에 심각한 장애를 가지고 있어 키보드 입력이 어렵고 스위치 on/off와 같은 단순 터치만 가능한 언어 장애인의 경우, 스캐닝 기능을 이용한 인터페이스가 필요하다. 이상의 요구를 반영하여 개발된 글자를 기반으로 한 AAC 프로그램은 주로 키보드 형태로 구성되어 안드로이드 운영체계에서 사용하는 진소리, 스마트AAC 키보드, 나의 AAC 글자판 등이 있다.

3-2 기존의 글자 기반 AAC 키보드 어플리케이션
1) 진소리

진소리[5]는 안드로이드에서 언어 장애인을 위해 텍스트를 음성으로 변경해주는 어플리케이션이다. 진소리의 대표 기능은 다음과 같다.

① 대화: 일상생활에서 가볍게 이야기하는 단어나 문장을 음성으로 출력할 수 있다. ② 파일: 발표 자리와 같이 긴 문장을 말해야 하는 경우 텍스트 파일을 만들고 음성으로 출력이 가능하다. ③ 상황: 각 상황에 맞는 문장들을 담고 있어 선택 시 음성으로 출력해 준다.

2) 스마트 키보드

스마트 키보드[6]은 가장 최근에 개발된 글자기반 AAC 키보드로 다음의 주요 기능을 담고 있다.

① 즐겨찾기 기능 : 자주 사용하는 메시지를 간단한 동작만으로 등록할 수 있고, 필요 시 빠르게 불러와 사용할 수 있다. ② 문자 상징 기능 : 즐겨찾기에 추가한 메시지 중 보다 자주 사용하는 단어나 문장을 문자 상징으로 등록하여 키보드 상단에 배치하여 빠르게 의사표현이 가능하다. ③ 다양한 키보드 구성. ④ 키보드 위치 / 키보드 크기 / 예측단어

이상의 두 가지 글자 기반 AAC 키보드는 인지 능력에 문제가 없는 성인 지체장애인을 대상으로 텍스트를 중심으로 의사소통을 하고자 하는 이 사용하기에는 유용하게 개발되었다. 따라서 인지능력에 어려움이 없는 지체장애인이 사용하기에는 간편하고 편의한 특성을 보인다.


Fig. 1. 
Example of Keyboard App

그러나 글자 기반의 AAC 키보드를 인지 능력에 어려움이 없는 지체장애인만 사용하는 것은 아니고 학령기의 중도·중복장애학생 또는 인지 능력에 어려움이 있는 발달장애학생이나 성인장애인도 사용할 수 있기 때문에 이들이 활용할 수 있는 글자 기반 AAC 프로그램은 전무한 상태이다. 특히 의도치 않게 선택된 기호(즉, 오타)를 곧바로 화면 또는 소리 형태로 출력(output)하여, 사용자가 의사소통에 어려움을 겪고 있다는 사실을 의사소통 상대방에서 곧바로 노출하는 문제가 있다. 따라서 사용자가 입력하고자 하는 기호를 제한 없이 선택하고, 의도치 않게 다른 기호가 선택된 경우에도 이를 수정할 수 있는 기회를 제공할 수 있는 프로그램이 필요하다.

3-3 중도·중복 장애학생 및 성인을 위한 글자 기반 AAC 개발 요구

본 연구에서는 중도·중복 장애학생 및 성인을 위한 글자 기반 AAC 프로그램을 개발하기 위하여 중도·중복 장애학생의 학부모 3인, 중도·중복 장애학생을 대상으로 AAC 중재를 제공한 경험이 3년 이상인 AAC 전문가 3인, 중도·중복 장애학생을 가르친 경험이 20년 이상 있는 특수교육 전문가 2인의 면담 및 자문을 통해 다음의 요구 사항을 정리하였다.

첫째, 안드로이드 운영체계의 글자기반 AAC 프로그램은 화면이 작고 키보드 조작이 어려워서 화면이 크고 터치도 가능하면서 스위치와 같은 보조기기 연결이 유용한 윈도우 기반의 글자 기반 AAC 프로그램이 요구된다.

둘째, 기존의 안드로이드 또는 윈도우 운영체제의 글자 키보드는 쿼티 방식을 주로 구현한다. 안드로이드의 경우에는 천지인 방식도 가능하지만 모두 정해진 글쇠를 제공하고 있다. 이로 인해 인지능력에 어려움이 있고 운동에도 제한이 있는 중도·중복 장애학생이나 성인, 발달장애학생이 쿼티 방식의 키보드를 사용하기에는 어려움이 있었다. 아직까지 중도·중복 장애학생 및 성인이나 발달장애학생에게 유용한 키보드의 글쇠에 대한 연구도 전무하고 추천되는 키보드도 없기 때문에 장애학생의 개별 특성을 고려하여 한글, 영어, 숫자, 기능키 등의 모든 글쇠를 자유롭게 위치하여 사용할 수 있는 사용자 맞춤 글자 기반 AAC 개발이 요구된다.

셋째, TTS로 구현되는 AAC 프로그램의 경우, 글쇠를 입력하면 그대로 자모음을 출력하여 개인의 사생활에 침해가 되고 글자를 입력하는 동안 그대로 자모음 출력으로 인해 의사소통 상대방과의 자연스러운 대화 주고받기에 방해를 받는 경우가 종종 있다. 따라서 글자창에 자모음을 완성하여 출력 버튼을 누를 수 있는 기능을 선택 가능하도록 구현하여 사용자 맞춤으로 자모음 동시 출력 또는 완성형 출력이 가능하도록 해야 한다.

넷째, 기존의 키보드는 한글 프로그램이나 인터넷 검색창에서 키보드에서 글쇠를 누르는 순간 바로 글자가 입력되어 수정할 수 없는 제한성이 있었다. 이로 인해 키보드에서 글자를 넣지 못하고 한글 프로그램이나 인터넷 검색창에 글자를 넣어야하고 수정해야 하는 불편함이 있다. 이로 인해해 인지 능력에 제한이 있거나 운동성에 어려움이 있는 경우에는 정확한 문장이나 단어를 완성하는데 오랜 시간이 필요했다. 이를 해결할 수 있도록 키보드 글자판에 글쇠를 입력하여 그 안에서 수정한 후, 이를 전송하면 바로 한글프로그램이나 인터넷 검색창에 붙여 넣어지도록 하여 키보드와 타 프로그램의 활용이 유용할 필요가 있다.

다섯째, 기존의 요구조사에서 나타난 예측 기능, 선택 기능, 스캐닝 기능 등이 구현되어 다양한 접근성이 확보되는 키보드 개발이 요구된다.

3-4 중도·중복 장애학생 및 성인을 위한 사용자 맞춤 AAC 화상키보드의 핵심 기능

상기 설명된 요구들을 반영하여 개발된 사용자 맞춤 AAC 화상키보드 핵심 기능을 정리하면 다음과 같다.

첫째, 사용자의 요구에 맞게 한글 자음, 한글 모음, 영문자 알파벳, 숫자 및 특수 기호 등의 모든 키보드 글쇠의 위치를 자유롭게 변환하여 배치할 수 있다. 이에 본 연구의 화상키보드는 장애인뿐만 아니라 초기에 한글 자모를 익히는 초등학생부터 고급 기능을 구사하는 성인에 이르기까지 개인 맞춤으로 화상키보드를 만들어서 사용할 수 있도록 보편적 접근이 가능하도록 개발하였다.

둘째, 사용자에 의해 선택된 기호를 즉각 출력하지 않고 이를 수정할 수 있는 기회를 제공하므로, 사용자가 의사소통에 어려움을 겪고 있다는 사실을 의사소통 상대방에서 노출시키지 않을 수 있다.

셋째, 상기 선택하는 단계는 상기 보조 입력 장치가 스위치인 경우, 상기 자판 배열에 따라 배치된 글쇠들에 대하여 순차적으로 초점을 이동시키고 상기 보조 입력 장치로부터 선택 신호가 수신된 시점에 초점이 위치하는 글쇠를 선택할 수 있는 스캐닝 방식을 제공하였다.

넷째, 사용자 맞춤으로 배치한 키보드 글쇠를 읽어주는 TTS 기능을 옵션 기능으로 제공하여 AAC 화상키보드로 사용할 뿐만 아니라 한글 자모음 학습에도 효과적으로 개발하였다.


Ⅳ. 중도·중복 장애학생 및 성인을 위한 사용자 맞춤 AAC 화상키보드
4-1 사용자 맞춤 AAC 화상키보드 콘셉트 및 기능

본 연구에서 개발된 사용자 맞춤 AAC 화상키보드는 사용자가 입력하고자 하는 기호를 제한 없이 선택하고, 의도치 않게 선택된 기호를 수정할 수 있는 기회를 제공하는 것을 그 목적으로 한다.

본 연구는 상술한 바와 같은 기술적 과제를 달성하기 위한 다음의 기술을 구현하였다. ① 사용자의 계정에 대응되어 사전에 등록된 자판 배열을 불러오기, ② 불러온 자판 배열에 따라 글쇠들을 구성하여 출력하고 AAC 체계 사용을 위해 연결된 보조 입력 장치로부터 수신된 정보를 기초로 하여 상기 글쇠들 중 어느 하나를 선택하기, ③ 상기 선택된 글쇠에 대응되는 기호를 텍스트 박스에 출력하기, ④ 상기 보조 입력 장치로부터 입력 완료가 수신되기 전까지 상기 텍스트 박스에 출력된 기호의 수정을 허용하고, 상기 입력 완료가 수신되면 상기 텍스트 박스에 출력된 기호를 사전에 지정된 검색창이나 프로그램에 전달하기, ⑤ 글쇠를 선택하는 방법은 직접 선택과 간접 선택의 방식을 모두 허용하기, ⑥ 자판 배열을 구성하는 각 글쇠는 한글 자음, 모음, 또는 한 글자 이상의 단어 및 복수 개의 단어로 구성된 문장 중 어느 하나에 대응하기.

본 연구에서 개발된 사용자 맞춤 AAC 화상키보드는 첫째, 사용자의 계정에 대응되어 사전에 등록된 자판 배열을 불러오는 단계, 둘째, 불러온 자판 배열에 따라 가상의 글쇠들을 구성하여 출력하고, 셋째, AAC을 위해 연결된 보조 입력 장치로부터 수신된 정보를 기초로, 상기 글쇠들 중 어느 하나를 선택하는 단계, 넷째, 선택된 글쇠에 대응되는 기호를 텍스트 박스에 출력하는 단계, 다섯째, 보조 입력 장치로부터 입력 완료가 수신되기 전까지 상기 텍스트 박스에 출력된 기호의 수정을 허용하고, 여섯째, 상기입력 완료가 수신되면 상기 텍스트 박스에 출력된 기호를 사전에 결정된 애플리케이션에 전달하는 단계를 실행시킬 수 있다.

4-2 사용자 맞춤 AAC 화상키보드 시스템 실행 조건

사용자 맞춤 AAC 화상키보드는 사용자가 로컬 환경에서 설치하여 사용할 수 있는 윈도우즈 애플리케이션으로 개발되었다. 인터넷 브라우저와 워드프로세서의 입력기로 활용 가능하고, Man Machine 간의 인터페이스로 스위치 또는 eye tracker 장비를 사용하는 것을 전제로 하였다. 사용자의 특성을 고려하여 추후 다양한 장비를 적용할 수 있도록 Porting Layer를 구현하였다. 사용자 맞춤 AAC 화상키보드를 실행되기 위해서는 다음의 몇 가지 요구 사항이 전제된다.

첫째, 운영체계는 Windows 7, 8, 8.1, 10에서 구현된다. 설치를 위해서는 다음 세 가지를 확인해야 한다. 또한 윈도우 비트를 확인한다.

둘째, 화상키보드에서 자동완성을 위한 access엔진을 설치한다. 윈도우 비트가 64bit인 경우와 32bit인 경우를 구분하며 각각에 대한 설치 프로그램(Access Database Engine, Speech Platform Runtime, MS Speech_TTS_ko-KR_Heami.msi)을 미리 다운 받아 설치해야 사용자 맞춤 AAC 화상 키보드를 실행할 수 있다.

4-3 사용자 맞춤 AAC 화상키보드 흐름도

본 연구에서 개발된 화상키보드 흐름도는 다음과 같다.


Fig. 2. 
Flow chart of customized AAC on-screen keyboard

4-4 사용자 맞춤 AAC 화상키보드 구조 및 매뉴얼
1) 사용자 맞춤 AAC 화상키보드 화면 구성

Fig. 3. 
Customized AAC on-screen keyboard

Table 1. 
Explanation of Customized AAC on-screen keyboard
Screen Explanation
Input window The window where the selected key is firstly input
Clear The function to delete input contents in input window one by one with backspace
Speaking Output the input contents to the input window by voice. TTS implementation
Sending Transfer the contents entered in the input window to the place where the text input cursor of another program is located (word program, search window, etc.)
Deleting Deletes the transferred contents one by one with backspace (the contents entered in the Talking Board input window are not deleted)
Enter Enter the text of another program Enter the Enter key where the cursor is located (the contents entered in the Talking Board input window are unchanged)
Input
key
Consonants, vowels, such as the space key, select the key combination entered in the input window Talking Board

2) 화상키보드 사용자 맞춤 AAC 화상키보드 기능 및 설명

(1) 제어판

① 감추기/보이기: 화상키보드 화면을 감추거나(감추기), 다시 보이게 합니다(보이기). 프로그램은 종료되지 않는다.

② 설정: 설정 화면을 띄워 화상 키보드의 설정을 개인의 요구에 따라 맞춤으로 변경할 수 있다.

③ 기능키: 설정에 세팅된 한글자판, 영문자판, 기호자판을 화상키보드 화면에 번갈아 띄워서 사용할 수 있게 한다.

④ 종료: 사용자 맞춤 AAC 화상키보드를 종료한다.


Fig. 4. 
Control panel of customized AAC on-screen keyboard

(2) 설정


Fig. 5. 
Setting of customized AAC on-screen keyboard

① 제어판 위치 설정: 상, 하, 좌, 우로 제어판의 위치를 상. 하. 좌. 우. 로 설정한다.

② [전송] 키: [전송]키 클릭 시 [키보드] 숨김을 체크하면 [전송]키를 클릭하였을 때 [키보드] 숨김이 자동 실행된다. 체크가 해제된 상태에서는 [전송]키 클릭 후에도 키보드가 화면에 유지되어 나타난다.

③ 단어 목록창: 단어 목록창을 체크하면 단어 목록창이 키보드 화면에 나타나고, 체크가 해제되면 단어 목록창을 감추어 준다. 폭, 높이에 입력한 숫자에 따라 단어 목록창의 크기를 지정한다. 파일크기는 단어목록창에 입력되는 목록을 저장할 파일의 크기를 지정한다. 입력되는 정보가 파일크기보다 먼저 입력된 내용이 지워진다.

④ 키 순차 변경 기능: 키 순차 변경 기능은 스캐닝 기능으로 접근법을 설정할 수 있다. 체크하면 글쇠를 자동으로 스캐닝 해 준다. TTS를 [사용]과 함께 체크하면 스캐닝 시 글쇠를 읽어 준다. 선택키는 자동 스캐닝 중 글쇠를 선택할 입력키를 지정한다. 예를 들면 Space Bar를 지정한 경우, 자동 스캐닝 중에 Space Bar의 신호가 입력되면 그 때 스캐닝 되고 있던 (색이 노란색으로 나타난) 해당 글쇠가 입력창에 입력된다. 사용자의 운동능력을 고려하여 다양한 스위치와 연결하여 스캐닝 기능을 사용할 수 있다.

⑤ 자판키의 글꼴과 크기 설정: 자판키의 글꼴과 크기는 사용자의 선호에 따라 선택할 수 있다. 기본적인 글꼴은 모두 포함하고 있다. 크기 선택에서 수동조정은 어플리케이션을 마우스 또는 수동으로 조작하면 자동으로 화면에 맞도록 조정되는 것이다. 그 외에 크기 1, 2, 3, 4는 키보드를 사용하는 화면 크기에 따라 맞춰져서 크기가 설정된다. 크기 1이 가장 작고, 크기 4가 화면을 꽉 채운 키보드로 나타난다.

⑥ 말하기: TTS 기능을 구현하는 것으로 사용자가 선호하는 말하는 속도와 볼륨을 선택할 수 있다. TTS는 윈도우 기반의 음성 출력을 활용한다.

⑦ 투명도: 사용자 맞춤 AAC 화상키보드의 투명도를 결정한다. 진하게 또는 연하게 사용자의 선호에 따라 맞춤으로 설정한다.

⑧ 자동실행, 초기화, 닫기: 자동실행은 윈도우 프로그램을 실행 할 때 자동으로 AAC 화상키보드가 나타나도록 설정하는 것이다. 초기화는 사용자 맞춤으로 AAC 화상 키보드를 설정하였다가 이를 변경하고 싶을 때 또는 초기 상태로 되돌리고 싶을 때 기본설정 값으로 되돌리는 것이다. 자판설정은 사용자 개인에 맞도록 키보드 글쇠 값을 변경하는 화면을 불러올 수 있다. 닫히는 전체를 닫는 기능키이다.

Table 2. 
Example of customized basic keyboard setting
Image of keyboard Keyboard setting
[ㄱ][ㄴ][ㄷ][ㄹ][ㅁ]<ㅏ><ㅑ><ㅓ><ㅕ>
[ㅂ][ㅅ][ㅇ][ㅈ][ㅊ]<ㅗ><ㅛ><ㅜ><ㅠ>
[ㅋ][ㅌ][ㅍ][ㅎ][ㄲ]<ㅡ><ㅣ><ㅐ><ㅔ>
[ㄸ][ㅃ][ㅆ][ㅉ][space]<ㅟ><ㅙ><ㅞ>

⑨ 자판설정: 한글 자판/영문 자판/기호 자판: 자판설정은 사용자 맞춤 AAC 화상키보드에서 가장 핵심 설정 영역이다. 먼저 자판설정을 선택하면 추가로 노란색 테두리의 팝업창을 확인할 수 있다. 한글자판, 영문자판, 기호자판으로 구성되어 있다. 한글자판은 기억부터 자모음이 순서대로 [ ]에 자음, < >에 모음이 기본 값으로 설정되어 있다. 이는 기존의 쿼터방식의 자모음 키보드와 차이점이다. [ ]에 흰색 바탕, < >에 회색 바탕으로 제작되어 자음과 모음의 차이를 둘 수 있다. 이들 [ ], < >기호들에 한글 또는 숫자 등은 개인의 맞춤에 따라 조작이 가능하다. 예를 들어 한글 자모음에 대한 인식이 부족하여 개인의 이름의 성만 알고 있다면, 또는 이름을 가르치기 위해서 먼저 자모음을 익혀야 한다면, ‘김’이라는 글자만 남겨두고 모두 삭제가 가능하다. [ㄱ], <ㅣ>, [ㅁ] 만 남겨두면 AAC 화상키보드에는 ‘김’의 자모음만 남겨지고 나머지 글쇠는 모두 삭제가 된다. 중도·중복장애학생에게 글쇠를 익힐 수 있는 학습 기회 및 자신에게 필요한 기능적인 글쇠만 사용하여 개인 맞춤 키보드를 사용하게 하는 설정이 될 수 있다. 이상의 설정 기능은 한글, 영문, 기능키 모두에서 동일하게 작동한다. 편의상 한글자판, 영문자판, 기호자판으로 구분하였지만 사용자의 편의 및 맞춤에 따라 사용중지를 선택하여 사용하지 않는 자판은 감출 수 있다. 또한 각각의 자판은 개인의 요구와 사용자 선호에 따라 자음판, 모음판, 숫자판 등으로 필요한 키보드 자판으로만 구성하여 사용할 수 있다.


Ⅴ. 중도·중복 장애학생을 위한 사용자 맞춤 AAC 화상키보드 적용
5-1 적용 사례

본 연구에서 개발된 사용자 맞춤 AAC 화상키보드는 다음 사례 학생에게 적용하였다.


Fig. 6. 
Example of using customized AAC on-screen keyboard

1) 사용자 특성

본 연구에서 사용자 평가를 위해 참여한 대상자는 만 15세의 경직형 뇌성마비 장애가 있는 중학생이었다. 상기 연구대상자는 기존에 마이토키(Mytalkie) PC 프로그램의 활용 2판을 사용하여 자신의 의사를 표현할 수 있는 학생이었다. 그러나 기존에 AAC 도구는 그림상징을 기반으로 하였기에 자신의 이름, 핵심어휘를 표현하는데 제한이 있었다. 이에 연구대상자의 부모는 학생의 연령을 고려하여 문해 학습과 글자 읽기 및 쓰기를 연습하기를 요청하였다. 그러나 기존에 개발된 키보드는 TTS 기능이 탑재되어 있지 않은 단순 키보드이거나 쿼터방식의 키보드라서 대상학생이 자판 순서를 익히는 것이 쉽지 않았다. 안드로이드 기반은 스위치 적용이 부적합하거나 화면이 너무 작아서 학생이 주시하여 키판을 익히는 것에 제한이 있었다. 이에 학생에게 필요한 기능적 어휘를 글자로 습득하고 이를 활용할 수 있도록 본 연구의 사용자 평가에 참여하게 되었다. 연구 참여자의 기본 특성은 다음과 같다.

① 연령 및 성별: 만 15세. 여

② 학교 및 학년: 특수학교. 중학교 1학년

③ 기존에 AAC 도구 사용 경험: 마이토키 PC 프로그램 4년 동안 사용한 경험자

④ 인지 능력 및 의사소통 능력: REVT-R 검사결과 생활연령에 비하여 2-3년 지체되는 어휘능력을 구사함. 의사소통 단계는 3단계 수준

⑤ 운동능력: 손의 직접적인 사용이 어려워서 스캐닝을 활용한 스위치 사용을 훈련함. 마이토키 PC 프로그램은 안구 마우스(Eye tracker)를 사용하여 자신을 표현하는데 익숙함

2) 사용하는 보조기기

본 연구 참여자가 사용하는 보조기기에는 Tobiiexplore eye tracker와 빅레드 스위치이다. 사용자 맞춤 AAC 화상키보드를 사용하는 방법으로 Eye tracker를 사용한 직접 선택 방법과 빅레드 스위치를 이용한 스캐닝 방식을 적용하였다. 본 연구 참여자의 경우, 익숙하고 기능적인 글자 어휘를 습득하는 것이 주목적이기 때문에 좀 더 손쉽게 적용할 수 있는 보조기기에 대한 탐색을 진행하였고, 대상자가 익숙한 특정 자모음(예: 홍, 용)에 대해 더 빨리 실수 없이 자모음 조합을 이루는 방식을 찾아보았다. 그 결과, 본 연구 참여자는 오른손으로 스캐닝 방식으로 자모음을 조합하는 것에 더 익숙하고 오류 발생률이 적어서 빅레드 스위치를 활용한 스캐닝 방식의 사용자 맞춤 화상키보드 사용을 지속하고 있다.

3) 연구 참여자가 사용하는 화상키보드 화면 구성

본 연구 참여자가 사용하는 화상키보드는 사용자의 특성을 고려하여 자음판, 모음판으로 구성하였다. 자모음을 순서대로 습득하는 것과 익숙한 기능어휘 글자를 스스로 표현할 수 있도록 핵심어휘 글자를 선정하였다. 먼저 선정된 핵심어휘 글자는 개인 이름, 부모님 성함, 학교 이름, 선생님 이름, 좋아하는 프로그램명이었다. 다음은 사용자 맞춤으로 자모음판1, 모음판 2(한글판, 영문판: 기능키로 전환)로 변환한 것과 ‘학교’라는 글자를 익히고 사용할 수 있도록 사용자 맞춤으로 AAC 화상키보드를 설정한 화면의 예이다.

Table 3. 
Example of customized keyboard setting
Image of keyboard Keyboard setting
[ㄱ][ㄴ][ㄷ][ㄹ][ㅁ]
[ㅂ][ㅅ][ㅇ][ㅈ][ㅊ]
[ㅋ][ㅌ][ㅍ][ㅎ]
<ㅏ><ㅑ><ㅓ><ㅕ><ㅣ>
<ㅗ><ㅛ><ㅜ><ㅠ><ㅡ>
<ㅐ><ㅔ><ㅒ><ㅖ>
[][ㅎ][][][][ㄱ][]
[][][]<ㅛ>[][][]
[][][][][][][]
[][][][]<ㅏ>[][]

4) 연구 기간 및 연구 성과

본 연구는 5개월 동안 격주로 1회에 약 120분씩 직접 연구 참여자의 가정에 방문하여 진행하였다. 총 10회 진행되었다. 스위치와 2초 간격 스캐닝 방식을 사용하여 현재 연구 참여자는 좋아하는 프로그램명, 선생님 이름, 학교명, 자신의 이름을 스위치를 사용하여 자모음 조합으로 적을 수 있게 되었다.

기존에는 글자를 조합하여 사용하는 것이 어려워 키보드 사용 자체를 시도해 보지 못하였으나, 사용자 맞춤 AAC 화상키보드의 사용을 통해 자신이 필요한 글자 어휘에 대해서는 자신감을 갖고 쓰기를 진행하고 있다. 예를 들어, ‘학교’라는 글자를 기록하는데 총 60초 이내에서 글자를 완성한다. 아직까지 중재의 빈도가 높지 않기 때문에 향후에도 지속적인 중재를 통해 개인 글자 활용의 빈도를 높이기를 기대한다.


Ⅵ. 결 론

본 연구는 중도·중복 장애학생 및 성인의 사용자의 특성을 고려하여 신체 운동 및 인지 능력에서 제한성으로 인해 글자를 습득하고 쓰기를 익히는데 부담을 감하기 위한 목적으로 진행되었다. 본 연구 성과로 중도·중복 장애학생이 키보드를 사용하여 글자 쓰기에 참여하고 글자 쓰기 경험을 통해 쓰기 활동에 긍정적인 피드백이 증가하고 있음을 확인하였다. 아직까지 더 많은 연구 참여자를 확보하지 못한 것이 본 연구의 제한점으로 추후에는 본 연구를 통해 개발된 사용자 맞춤 AAC 화상키보드의 사용자 평가를 진행하고자 한다.

또한 추후 연구로 서버개발을 통하여 사용자별 사용패턴을 수집할 수 있고, 수집된 정보를 바탕으로 머신러닝을 적용하여, 개별 사용자의 문자입력 신속성과 정확도를 지속적으로 개선해 나갈 수 있을 것으로 기대한다.


참고문헌
1. K. Y. Kim, “The Effects of Switch Training in AAC Intervention on the Communication, Switch Control, and AAC Device Use of Children with Severe Physical Disabilities”, Korean Journal of Physical, Multiple, & Health Disabilities, 58(3), p25-54, (2015).
2. K. Y. Kim, “The Effects of AAC Intervention Using Eye Tracking for Students with Multiple Physical Disabilities”, Korean Journal of Physical, Multiple, & Health Disabilities, 59(4), p181-211, (2016).
3. H. J. Seo, and E, H Park, “The Effects of AAC Intervention Using Switches on the Class Participation Behaviors of High School Students with Physical and Multiple Disabilities”, Korean Journal of Physical, Multiple, & Health Disabilities, 61(2), p1-27, (2018).
4. J. H. Lim, E, H Park, and S, H Lee, “A Preliminary Study for Korean Text-Based Communication Program Development ”, The Special Education, 12(21), p247-273, (2013).
5. JinSori. https://play.google.com/store/apps/details?id=com.honglab.jinsori_lite_ver
6. Smart AAC. https://play.google.com/store/apps/details?id=com.curos.aacinputmethod.android.app

저자소개

김경양(Kyung-Yang Kim)

1994년 : 대구대학교 초등특수교육과 (학사)

2009년 : 이화여자대학교 특수교육과 일반대학원 (석사)

2013년 : 이화여자대학교 특수교육과 일반대학원 (박사)

2013년~2015년: 동국대학교 교육학과 객원교수

2014년~현 재: 엘아동발달연구소 소장

2015년~현 재: 부산장신대학교 특수교육과 조교수

※관심분야: 보완대체의사소통(AAC), 지체장애, 복합장애, 의사소통, 특수교육공학, 등