AI Ethics 관련 학술연구 동향 분석: 네트워크 텍스트 분석을 중심으로
Copyright ⓒ 2024 The Digital Contents Society
This is an Open Access article distributed under the terms of the Creative Commons Attribution Non-CommercialLicense(http://creativecommons.org/licenses/by-nc/3.0/) which permits unrestricted non-commercial use, distribution, and reproduction in any medium, provided the original work is properly cited.
초록
본 연구는 국내 AI Ethics 연구의 향후 방향성을 확인하기 위해 2021년 전후 국내 AI Ethics의 학술 연구 동향을 분석하였다. 이를 위해 2023년 10월까지 발표된 국내 연구 193편을 대상으로 편당 5개의 주제어를 선정하여 주제어 빈도수를 분석하고 빈도수 상위 주제어를 대상으로 주제어 간의 상관관계를 파악하기 위해 네트워크 분석을 수행했다. 연구 결과는 다음과 같다. 첫째, 학술논문의 수는 늘었지만, AI Ethics의 실용적·실천적 측면에 초점을 맞춘 연구는 다소 부족하다. 둘째, 교육 내용 및 방법과 관련해 더욱 심도 있는 논의가 필요하다. 셋째, 인공지능 기술이 사회 불평등 구조에 어떻게 이바지하는지 또한 그것을 어떻게 제지할 수 있을 것인지에 대한 다양한 분야에서 탐색이 요구된다.
Abstract
This study analyzed the trends in AI ethics research in Korea from January 2006 to October 2023 to identify future research directions. A total of 193 Korean articles published until October 2023 were analyzed, and five keywords per article were selected for frequency analysis. Additionally, a network analysis was conducted on the top frequency keywords to visualize and clarify the interrelationships among them. Our findings can be summarized as follows: first, although the amount of AI ethics-related research is increasing, more studies should focus on the practical and application aspects of AI ethics. Second, a more profound discussion is required to determine the AI ethics-related content to be taught and the methods for teaching it. Third, future studies must explore the contributions of AI technology to societal inequality structures and methods for preventing them.
Keywords:
AI, AI Ethics, Research Trend Analysis, Network Text Analysis, Keyword Analysis키워드:
인공지능, 인공지능윤리, 연구동향분석, 네트워크 텍스트, 주제어분석Ⅰ. 서 론
알렉스 가랜드 감독의 영화 <엑스 마키나>에서 두 인간 주인공은 완벽한 인간의 외형을 가진 인공지능 로봇 에이바에 배신당해 몰락한다. 리들리 스콧 감독의 영화 <블레이드 러너>에서 인간들은 인간과 똑같이 사고하고 감정을 느끼는 로봇인 레플리칸트를 견제하고 두려워하여 이들을 찾아내어 사살하는 특수목적 경찰팀 ‘블레이드 러너’를 만든다. 이외에도 최근 인공지능이 등장하는 갖가지 공상과학 소설과 영화들에는 인공지능이라는 존재에 대해 인간이 가지는 막연한 두려움을 반영하는 사회문화적 시선이 잘 드러난다.
이런 배경에서 “인공지능은 인류 문명의 역사상 최악의 사건이 될 수도 있으며, 강력한 자율 무기와 같은 위험과 소수가 다수를 억압하는 새로운 방법을 가져올 수 있다”라는 스티븐 호킹 박사의 주장(Kharpal)이나, 슈퍼컴퓨터와 인공지능이 “우리가 절대 벗어날 수 없는 불멸의 독재자”가 될 것이라는 일론 머스크의 말(Browne)은 걷잡을 수 없이 빠른 속도로 발전하는 인공지능 기술을 속수무책으로 목격하는 사회구성원 대다수가 느끼고 있는 불안과 공포를 대변한다. 이러한 두려움의 근간에는 인간과 유사한 로봇의 등장으로 인해 인간이 느끼는 존재론적 불안, 이들에게 어떤 법적·도덕적 지위를 부여하고 어떤 관계를 맺어야 하는가에 대한 고민, 이들이 가져올 사회적 혼란에 대한 두려움 등 다양한 Ethics적 이슈들이 있다[1],[2].
또한, 정책·연구 분야에서는 글로벌 경쟁에서 뒤처지지 않으면서 기술 발전과 규제의 균형을 적절히 유지하려는 외줄 타기가 계속되는 가운데 이러한 우려를 의식하듯 AI(Artificial Intelligence) Ethics에 관한 논의도 지속해서 이루어지고 있다. 이러한 논의는 Ethics 규범을 마련하거나 규제 거버넌스 구조를 구축하는 방향으로 수렴하고 있다(고학수, 박도현, 이나래, 2020)[3]. 국내에서는 2007년 ‘로봇Ethics헌장’ 초안을 시작으로 2020년 과학기술정보통신부에서 공개한 국가 인공지능 Ethics기준안까지 다양한 주체들에서 Ethics 기준을 내놓고 있으며, 국제적으로는 2014년부터 2019년까지 5년간 인공지능 Ethics원칙 또는 지침이 포함된 문서가 84개로 확인되었다[4]. 2019년에는 인공지능에 관한 가치기반적 원칙들을 언급하고 있는 최초의 국제적 협약인 OECD(Organization of Economic Cooperaton Development) AI 권고안까지 등장하면서(변순용, 이연희), 이러한 Ethics 지침은 이제는 단순히 선언적 의미를 넘어서 Ethics인증이나 표준화의 문제와 더불어 법적, 경제적으로 중요해지고 있다[5].
그러나 이러한 인공지능에 대한 규제와 Ethics 가이드라인은 실행의 측면에서 여전히 현실과 유리되어 있으며, AI Ethics의 중요성을 언급하면서도 AI Ethics가 구체적으로 무엇인지를 정의하지 않아 AI Ethics 논의 및 실천에 참여하는 주체들에게 이해의 어려움과 혼란을 가져다주고 있다. 김영환도 “인공지능은 일종의 선재적(先在的) 개념이라기보다는 기술의 발전에 따른 프로그램 또는 로봇, 그리고 광의적으로는 이를 다루는 학문의 분야를 추후적으로 말하는 개념이기 때문(김형주)”에 그 개념이 무엇인지를 밝히는 것은 그 속성상 쉽지 않을뿐더러, 계속 변화하는 과정을 볼 때 갈수록 아주 힘들어지고 있다고 지적하고 있다[6],[7].
본 연구에서는 인공지능이 시시각각 가공할 만한 속도로 발달함에 따른 문화 지체(culture lag)가 예상되는 현시점에서 AI Ethics 연구의 동향을 살펴봄으로써 인공지능이라는 전에 없던 기술이 우리 사회에 미치는 도덕적·Ethics적 파장을 이해하고 설명하기 위해, 필요한 기반을 제공하려고 한다. 또한, 이러한 AI Ethics에 관한 연구의 관심이 어느 방향으로 수렴되고 있는지에 대한 정보를 제공함으로써 후속 연구의 방향을 제시할 것이다.
이를 위해 국내 학술연구정보서비스(Research Information Sharing Service: RISS)에서 초록과 연구 주제어 모두에 ‘AI Ethics(AI ethics)’가 포함된 연구물들을 검색하고 키워드들을 추출하였다. 이들을 빈도로만 분석하는 것은 한계가 있기에, 키워드들을 클러스터화하여 각 키워드가 맥락 속에서 어떤 다른 키워드들과 어떤 관계를 맺는지 살펴볼 필요가 있다. 따라서 본 연구에서는 네트워크 텍스트 분석(Network Text Analysis; NTA)을 활용하여 많은 연구물이 제시하는 키워드들을 토대로 이들 간의 관계를 지도화하여 현재 연구의 주제어 간의 경향을 파악하고, 이 키워드들이 어떤 하위요소들로 구성되어 있으며 그 내부 논리가 무엇인지를 파악하였다. 구체적인 연구 문제는 AI Ethics 관련 국내 연구물들에서는 2021년 전후로 연도별 문헌 수, 연구 주제어별 빈도수를 기초로 이 키워드의 네트워크 텍스트 분석 결과가 어떻게 변화하는지 그 경향성을 파악하고 향후 관련 연구에 도움이 되는 시사점을 도출하는 것이다.
본 논문은 이를 위해 다음에 논의될 이론적 배경, 연구방법, 연구 결과 그리고 결론 및 제언의 순으로 구성하였다.
Ⅱ. 이론적 배경
2-1 AI Ethics 이슈와 AI Ethics의 성격
AI Ethics의 개념을 국내 연구물들에서는 어떻게 바라보고 있는가? 여러 연구가 지적하듯 AI Ethics에 대한 명시적 규정이나 합의 된 정의는 아직 찾아보기 힘들다. 허유선 등은Ethics는 인공지능 연구, 개발, 적용, 폐기 등과 관련한 인공지능 기술의 전체 단계에서 인공지능을 둘러싼 규범적 문제를 연구하며, 근본적인 가치, 방향성, 원칙의 문제와 더불어, 인공지능이 사회에서 Ethics적으로 활용되는 것을 보장하기 위한 응용Ethics적 논의 등 다양한 층위의 Ethics적 연구를 포함한다. 또한 실천적 측면에서, AI Ethics는 사회에 미치는 Ethics적 영향, 인간의 기본권 및 근본적 자유와 관련된 함의를 다루고, 설명틀(framework)과 가이드라인을 제시하는데 초점을 맞추고 있다고 했다[8].
박휴용는 AI Ethics는 AI라는 기술적 산물의 등장에 따라 발생하게 된 Ethics적 문제를 다룬다는 의미이고, 그러므로 인공지능의 본질인 ‘컴퓨터로 구현된 알고리즘’의 성격과 역할을 어떻게 규정하느냐에 따라 AI Ethics의 이론적 및 실천적 범주가 달라지기에, AI Ethics는 보다 고차원적 수준의 알고리즘을 장착한 기계가 사회적으로 보급됨으로써 발생하는 Ethics적 문제에 관심을 두는 것이고 하였다[9].
변순용은 인공지능로봇을 예로 들어 AI 관련 Ethics의 특이성을 강조했다. 인공지능로봇 Ethics는 아직 일어나지 않는 그러나 일어날 징조를 충분히 예측해 볼 수 있는 그런 상황에서 제기되고 있다는 점이다. 즉, 기존의 다른 실천 Ethics 분야가 ‘뒷북 치는 Ethics’라고 한다면, 인공지능로봇 Ethics는 ‘앞 북 치는 Ethics’라는 특성이 있으며, 인공지능로봇 Ethics가 Ethics 학자들 사이에서 먼저 나온 것이 아니라 그 필요성이 Ethics의 바깥에서 제기되었다. 따라서 인공지능로봇의 연구, 제작, 관리, 사용의 측면에서 여러 Ethics적 이슈를 제기할 것으로 예상되고, 인공지능로봇의 행위성(agency)을 결정하기 위한 행위결정모듈의 Ethics가 필요함을 강조하였다[10].
2-2 AI Ethics 가이드라인 관련 연구
AI Ethics 가이드라인 관련 연구도 활발한데, 이러한 연구들은 국내외 다양한 주체들에서 발표한 AI Ethics 가이드라인을 기술적으로 분석하거나(남문희; 박기갑; 고학수 등; 김명주) 비판적·대안적 관점에서 접근하며 AI Ethics의 방향성을 제시하고 있다(이향연; 박기갑; 이희옥)[11]-[15].
한편 많은 연구에서 공통적으로 언급하고 있는 AI Ethics 가이드라인의 문제점은 인공지능을 개발·유통·사용하는 주체들의 의사결정에 있어 실질적으로 큰 영향력을 가지지 못한다는 것이다. 이향연은 그 이유로 AI Ethics 가이드라인 항목의 중복성, 가치의 문제에 대한 단순 수학적 접근, 주요 Ethics 문제 누락과 같은 한계점을 가지고 있기 때문임을 지적한다[16]. 또한 기업은 Ethics 원칙을 발표하고 Ethics 위원회를 구성하기도 하지만 이들이 실제로 Ethics 가이드라인을 어떻게 실천하고 있는지, 어떤 과정을 거쳐 어떤 점을 문제 삼아 대응책을 정하게 되는지 공중에게 투명하게 드러나지 않으며, 이들을 감시하고 관리할 실행력 있거나 독립적인 기관도 없어 오히려 이러한 Ethics 원칙 및 권고안들이 특히 기술 기업에게 일종의 면피적 장치로 기능할 위험도 있다는 지적도 있다(허유선 등)[8].
2-3 AI Ethics 메타 연구
임미가는 체계적 문헌 고찰을 통하여 2006년부터 2021년 9월까지 발표된 AI Ethics 관련 181편의 국내 연구들의 연도별 출판 빈도와 연구 분야, 분야별 내용을 검토하고 AI Ethics 관련 연구들이 매년 1.5~2배 가량의 양적 성장을 보이고 있음을 밝혔다. 이를 바탕으로 규범 Ethics학 분야의 AI Ethics 연구에 더욱 관심을 기울이고 보다 광범위한 영역에서 융합적 관점으로 AI Ethics를 연구할 필요가 있음을 제안하였다[17].
허유선, 이연희, 심지원은 AI Ethics 원리, 권고안 등 현실적으로 영향력이 있는 28편의 국내외 AI Ethics의 주요 문헌을 메타 분석했다. 그 결과 현재의 AI Ethics 논의가 ㈀ AI Ethics 논의에서 용어의 중복 및 혼란, ㈁ AI Ethics 논의 주체의 제한성, 다양성 결여, ㈂ AI Ethics의 수단화, ㈃ 면죄부로 작용하는 AI Ethics 실효성 우려, ㈄ Ethics의 제한적 이해, ㈅ 거시적, 추상적 원리의 한계, ㈆ 학술적 논의의 부족과 같은 일곱 가지 경향과 특징을 고찰하였다[8].
김미영과 박선주는 2016년부터 2022년 8월까지 발표된 143편의 AI Ethics 관련 논문을 대상으로 텍스트 마이닝을 실시해 ‘기술, 연구, 교육, 문제, 사회, 로봇, 책임’ 등의 단어의 출현 빈도가 가장 높다고 제시했다[18]. 김연후와 김하연은 연구 발행 기간 관계없이 추출한 216편의 연구물(검색 키워드 : 도덕적 인공지능, Ethics적 인공지능, 인공적 도덕 행위자, 인공지능 Ethics, 로봇 Ethics)을 대상으로 토픽 모델링과 키워드 네트워크 분석을 실시한 결과 ㈀책임, 자율, 행위, 데이터, 정보, 규제, 활용, 개발, 주체’ 등의 단어의 출현 빈도가 가장 높으며 ㈁ ‘도덕적 주체로서 인공지능의 존재와 그들이 갖는 지위’, ㈂ ‘도덕적 인공지능의 자율과 책임 문제, 도덕적 인공지능을 개발하고 그것을 Ethics적으로 활용하기 위한 규제 및 가이드라인’, ㈃ ‘군사, 의료 등 도덕적 인공지능의 분야별 도입과 활용’, ㈄ ‘도덕적 인공지능의 개발 및 제반 교육에 관한 이슈’, ㈅ ‘도덕적 인공지능이 되기 위한 데이터 활용 및 법적 시스템 마련’의 6개 토픽을 중심으로 논의가 진행되고 있음을 밝혔다. 하지만 전체 텍스트 네크워크가 어떤 경향성을 갖는지 그리고 그 하위요소들이 무엇이며 기간별 어떤지에 대한 논의는 없었다[19].
이러한 연구들은 연구 주제와 방법론적 측면에서 본 논문과 일부 유사하다고 할 수 있겠으나, 본 연구는 많은 연구물이 제시하는 키워드들을 토대로 이들 간의 관계를 지도화하여 현재 연구의 주제어 간의 전체적인 경향을 파악하고, 이 키워드들이 어떤 하위요소들로 구성되어 있으며 그 내부 논리가 무엇인지를 파악하기 좋은 방법인 텍스트 네트워크 분석을 사용한 차이가 있다. 또한 전체 기간의 네트워크 분석을 토대로, 2021년을 전후한 네트워크들을 추가로 분석하여 그 차이를 규명한 것도 선행연구들과는 뚜렷한 차이점이다.
Ⅲ. 연구방법
3-1 연구대상
분석대상이 된 자료는 다음과 같은 방법으로 확보하였다. 먼저 국내 연구물들의 경우 학술연구정보서비스(RISS)에서 검색을 통해 국문 초록과 연구 주제어에 모두 ‘AI Ethics’ 혹은 ‘인공지능 Ethics’가 포함된 논문들을 찾은 뒤 학위 논문을 제외하고 KCI(Korea Citation Index) 등재 후보 이상의 학술지에서 발행된 원문이 있는 한국어 논문들만 확보하였다. 이렇게 검색된 논문들은 RISS의 내보내기 기능을 통해 엑셀 파일로 다운로드하여 중복된 연구물 및 해외 연구물의 국문 번역본, AI Ethics와 연관이 없는 연구들은 제외하였다.
3-2 연구절차
본 연구는 표 1의 구성요소를 만족하는 논문의 주요 주제어를 선정하고 이들을 빈도수 분석과 함께 네트워크 텍스트 분석(Network Text Analysis)을 하였다. 이때 적용한 구체적 절차는 다음과 같다.
Exclusion criteria[17]
첫째, Excel로 분석 대상 논문 463편의 내용을 제목, 저자명, 연도, 주제어, 초록으로 재분류하였다. 이렇게 하면, 다른 연구나 후속 연구에도 재사용할 수 있고 자료 검증에도 효과적이기 때문이다(김영환)[20]. 둘째, 가공 결과물의 내용을 분석하여 편당 5개의 주요 주제어를 선정하였다. 주요 주제어 선정은 1) 제목에 있는 용어, 2) 저자가 제시한 주제어에 있는 용어, 3) 초록에서 반복적으로 언급된 용어의 순이었으며, 용어가 통일되지 않은 경우, 본 연구의 취지에 더욱 적절하다고 판단되는 용어로 통일하였다. 키워드는 교육공학 교수 1인과 박사 1인의 검토를 거쳐 확정되었다. 셋째, 박한우와 Leydesdorff가 개발한 한국어 텍스트 분석 소프트웨어 KrKwic(Korean Key Words in Context)을 활용해 주제어 빈도수를 파악하였다[21]. 넷째, 공출현 빈도(co-occurrence) 파악을 위해 빈도수 2 이상인 주제어들을 대상으로 krtitle.exe를 실행해 coocc.dbf 파일을 도출하였다. 다섯째, 이 파일을 Excel로 변환 후 NodeXL 프로그램을 이용하여 빈도수 상위 주제어 간의 상관관계를 시각화하였다.
Ⅳ. 연구결과
4-1 연도별 AI Ethics 관련 문헌 수 변화
AI 윤리 관련 국내 연구는 2006년 1편(0.5%)을 시작으로 꾸준히 증가하고 있다. 2023년에는 10월까지 총 39편(20.2%)의 관련 연구들이 발표되어 전체 기간 중 가장 높은 비중을 차지하였는데, 이는 인공지능 및 AI 윤리에 대해 사회적 관심이 지속해서 증가하고 있음을 반영하고 있다.
Number of papers by year
Number of papers by year
4-2 전체 기간 AI Ethics 관련 연구 동향
전체 연구 193편에서 추출된 총 965개의 빈도는 표 3과 같다. 분석의 용이성 및 결과의 유의미성을 높이기 위해 빈도수 6 이상의 주제어만을 정리하였다.
AI Ethics research keywords frequency
전 기간에 발표된 AI Ethics 관련 국내 연구 주제어 빈도 분석 결과 및 네트워크 분석 결과에서 가장 상위 노드는 ‘책임(22회)’이었다. 이와 관련한 연구들은 인공 지능에게 책임을 물을 수 있는지, 즉 인공지능의 법적·도덕적 지위에 관한 내용(김광연; 김명식; 박욱주; 송승현), 인공지능 사용에 대한 법적 책임 귀속의 문제에 관한 내용(장재옥; 최문기) 등이 있다[22]-[27]. 이외에도 빈도 분석 결과와 네트워크 분석 결과 상위 노드의 순위는 대체로 일치하나, ‘규제(14회)’, ‘AMA(Artificial Moral Agent, 15회)’는 빈도수 순위에 비해 중심성 지표가 비교적 낮았다.
AI Ethics 원칙의 경우 ‘책임(22회)’, ‘설명가능성(10회)’, ‘프라이버시(5회)’, ‘투명성(3회)’, ‘공정성(3회)’, ‘책무성(3회)’ 순이었고, 이들 중 중심성 상위 18개 주제어에 든 것은 ‘책임’과 ‘설명가능성’이었다. 그림 2의 네트워크 지도에서도 ‘책임’과 ‘설명가능성’은 지도의 중앙에서 다양한 노드들과 강한 연결성을 가지고 있는 것을 확인할 수 있다.
keywords network map(entire period)
4-3 2021년 이전 AI Ethics 관련 연구 동향
2021년 이전까지 발표된 AI Ethics 관련 국내 연구 주제어 총 435개의 빈도를 분석한 결과는 표 4와 같다.
Keyword frequency(before 2021)
10회 이상 언급된 주제어로는 ‘로봇(17회)’, ‘책임(16회)’, ‘로봇 윤리(12회)’, ‘AMA(10회)’가 있었다.
공출현빈도를 바탕으로 2021년 이전까지 발표된 AI Ethics 관련 국내 연구 빈도수 상위 주제어(빈도수 2 이상)의 중심성 지표는 표 5, 네트워크 지도는 그림 3과 같다.
Keywords centrality before 2021
Keywords network map before 2021
2021년 이전 AI Ethics 관련 국내 연구 주제어 빈도 분석 및 네트워크 분석 결과 가장 상위 주제어는 모두 ‘로봇(17회)’이었으며, ‘로봇윤리(12회)’, ‘AMA(10회)’ 등의 주제어가 그 뒤를 이어 상위에 있는 것으로 미루어 이 시기의 AI Ethics 관련 국내 연구는 ‘도덕적으로 행동하는 로봇으로서의 인공지능’(맹주만; 정채연; 한희원)에 많은 관심이 있었었던 것으로 보인다[28]-[30].
4-4 2021 이후 AI Ethics 관련 연구 동향
2021년 이후 나온 AI Ethics 관련 연구 106편에서 추출된 총 530개 키워드 빈도 분석 결과는 표 6과 같다.
AI Ethics keywords frequency after 2021
2021년 이후 AI Ethics 관련 국내 연구 주제어 빈도 분석 및 네트워크 분석 결과 ‘AI ethics education(23회)’이 공히 가장 상위에 있었다. 이는 2021년 교육부가 ‘초·중등 교원양성대학 인공지능(AI) 교육 강화 지원 사업’을 발표하고 2020년 9월부터 5년간 매년 1,000명 내외의 현직 교사를 선발하여 교육대학원 석사 학위 과정을 통해 AI 융합교육에 대한 교사들의 전문성을 향상시키기 위한 재교육 사업을 실시(전용주, 김자미, 안성훈, 정인기, 박정호)한 것과 유의미한 상관관계가 있을 것으로 보인다. 이외에도 ‘AI교육(6회)’, ‘교육(6회)’, ‘초등학생(6회)’, ‘교육프로그램(5회)’ 등 교육과 관련한 주제어들이 빈도 분석 및 네트워크 분석 결과에서 상위에 있는 것이 표 6과 표 7에서 보인다[31].
Keywords centrality after 2021
AI Ethics keywords network map after 2021
AI Ethics 원칙의 경우 ‘책임(6회)’과 ‘설명가능성(6회)’이 같은 빈도수로 등장하고 있으나 중심성 분석 결과에서는 ‘설명가능성’이 네 개의 지표 모두에서 ‘책임’을 앞서 전체 기간 및 2021년 이전에 ‘책임’이 가장 중요한 주제어였던 것과 다른 양상을 확인할 수 있었다. 또한 ‘챗GPT(5회)’, ‘생성형AI(4회)’와 같은 2021년 이전에 볼 수 없었던 주제어들이 새로이 등장한 것 역시 주목할 만하다.
연구 결과를 요약하면, 첫째, AI Ethics관련 연구물의 숫자는 늘었으나, 실제로 AI Ethics의 실용적·실천적 측면에 초점을 맞춘 연구는 다소 부족했다. 둘째, 교육 내용 및 방법과 관련해 더욱 심도 있는 연구가 부족했다. 셋째, 인공지능 기술이 사회 불평등 구조에 어떻게 이바지하는지 또한 그것을 어떻게 제지할 수 있을 것인지에 대한 다양한 분야에서의 연구가 부족한 것으로 파악되었다.
Ⅴ. 결론 및 제언
5-1 결론
본 연구는 AI Ethics 연구의 향후 방향성을 제시하기 위해 2021년 전후 국내 AI Ethics의 연구 동향을 분석했다. 이를 토대로 한 국내 AI Ethics 연구 관련 시사점은 다음과 같다.
첫째, AI Ethics와 관련한 연구의 수는 양적으로 지속적인 상승세를 보이고 있으나 외국 연구와 비교하였을 때 AI Ethics의 실용적·실천적 측면에 초점을 맞춘 연구는 다소 부족하다. 예를 들면, 외국에서는 AI Ethics 정책(Slimi와 Carballido; Erkkilä) 혹은 AI Ethics 원칙과 실제의 간극(principles to practice gap)을 좁히기 위한 다양한 연구(Stix Tidjon와 Khomh; Bleher와 Braun; Borg)들이 있지만, 국내 연구물들에서는 그와 관련한 언급이 상대적으로 적었다[32]-[37].
노민주 역시 ‘국가 인공지능 Ethics 기준’이 의미 있게 활용되기 위해서는 가장 먼저 의료, 법률, 국방, 회계, 교육 등 다양한 산업계 및 학계에서 이를 직접적·실질적으로 적용한 연구가 진행될 필요가 있음을 지적하였다. AI Ethics 가이드라인이 인공지능을 개발·유통·사용하는 주체들의 의사결정에 있어 실질적으로 큰 영향력을 가지지 못한다는 지적(이향연; 허유선 등)들이 있었음을 고려할 때 AI Ethics의 실천력 제고를 위한 후속 연구들이 필요한 시점이다[38]-[40].
둘째, ‘AI ethics education’ 및 교육과 관련한 주제어가 2021년 이후 많이 증가하는 추세를 보이고 있으나 무엇을 어떻게 가르칠 것인가, 즉 교육 내용 및 방법과 관련한 측면에서 더욱 심도 있는 논의가 필요하다. 인공지능과 같은 신기술의 개발과 연구의 방향은 정부 정책에 큰 영향을 받는다. 국내 연구에서 ‘AI교육’, ‘AI ethics education’ 등의 빈도수 및 중심성이 이처럼 많이 증가한 것은 디지털 기반 교육혁신을 시도하고자 하는 우리 정부 정책의 영향으로 보인다. 교육부와 교육청 그리고 전국의 38개 교육대학원이 향후 5년간 인공지능융합교육 석사과정을 통해 5,000여 명의 현직 교사들 재교육에 2020년 9월부터 50%의 장학금을 국가 지원을 투입해 교육하고 있고(김영환), 교육부가 2025년부터 인공지능 기술을 적용한 ‘인공지능 디지털 교과서’를 도입하기로 한 것(박현진) 등이다[41],[42].
5-2 제언
이상의 결론을 토대로 향후 AI관련 연구를 위한 제언은 다음과 같다. 첫째, 위에서 언급했던 ‘인공지능융학교육 석사과정’의 설치와 운영 그리고 ‘인공지는 디지털 교과서’의 도입 등이, 과연 인공지능 기술 및 AI Ethics에 관한 명확한 비전과 철학적 토대를 기반으로 한 것인지는 반문해 볼 필요가 있다. 김영환은 네트워크 텍스트 분석을 통해 2012년부터 2021년 10월까지 발표된 논문 중 276편의 인공지능 교육 관련 연구를 분석하고 그 결과 인공지능과 융합에 관련된 개념, 철학, 원리, 비전 등과 같은 키워드들이 전혀 나타나고 있지 않음을 지적한 바 있다[41].
김미영과 박선주 역시 텍스트 마이닝을 활용한 AI Ethics 연구 동향 분석에서 국내 AI Ethics 연구가 아직 초기 단계에 지나지 않으며, 대부분의 연구가 AI Ethics 자체에 대한 성찰이나 탐구보다는 특정 인공지능 기술을 활용하는 과정에서 생기는 부정적 면을 해소하기 위한 일종의 해결책을 제시하는 방향으로 진행되었음을 제시하였다. AI 교육, AI Ethics 교육과 관련된 주제어들이 양적으로는 증가한 것처럼 보이더라도, 이러한 논의들이 단순히 정부 사업 차원에서의 일회적·표면적 성과가 아닌 정말로 유의미한 교육적 가치를 위해서는 교육 내용과 방법에 대한 보다 근본적인 고찰이 필요하다[44].
또한, 인공지능 기술의 발달이 사회 불평등 구조를 심화시킬 수 있다는 문제의식이 꾸준히 제기되어 왔음에도 불구하고 예컨대 소득, 지역, 계층 및 교육 격차, 불평등, 지배 구조와 관련된 주제어가 없었다는 것은 매우 안타깝다.
인공지능 기술의 급격한 발달로 우리 사회는 기존에 생각지 못했거나 생각할 필요가 없었던 새로운 Ethics적 문제들에 의한 도전에 매일매일 직면하고 있다. 이러한 문제들은 현대 사회의 많은 문제가 그러하듯 다양한 이해관계 및 간학문적 관점들이 얽혀있어 그 복잡함에 자칫 호도되기 쉽다. 본 연구에서는 그러한 관점의 교차 지점에서 한 발짝 벗어나 국내 AI Ethics 관련 연구의 주제어를 바탕으로 객관적인 시선에서 연구 동향을 파악하고자 하였기에, 본 연구의 결과가 AI Ethics라는 미지의 영역을 탐사해 나갈 이후 연구들이 방향성을 설정하는 데 작으나마 기여할 수 있기를 바란다.
향후, 같은 주제에 관한 국제적 동향에 대한 분석 및 국내동향과 국제동향을 비교하여 국내외의 연구동향이 어떻게 다르고 또 어떻게 유사한지에 대한 비교연구가 요망된다. 그리고 이를 토대로, 그 이유에 대한 것도 분석이 요청된다.
Acknowledgments
본 논문은 황경림(2024)의 석사논문을 요약한 것임을 밝힙니다.
References
- A. Kharpal, Stephen Hawking Says A.I. Could Be ‘Worst Event in the History of Our Civilization’, CNBC, 2017. Available: https://www.cnbc.com/2017/11/06/stephen-hawking-ai-could-be-worst-event-in-civilization.html
- R. Browne, Elon Musk Warns A.I. Could Create an ‘Immortal Dictator from Which We Can Never Escape’, CNBC, 2018. Available: https://www.cnbc.com/2018/04/06/elon-musk-warns-ai-could-create-immortal-dictator-in-documentary.html
-
H. S. Ko, D. H. Park, and N. R. Lee, “Challenges of Establishing Ethics Principles and a Governance Regime for Artificial Intelligence,” Journal of Korean Law, Vol. 13, No. 1, pp. 7-36, 2020.
[https://doi.org/10.22732/CeLPU.2020.13.1.7]
-
A. Jobin, M. Ienca, and E. Vayena, “The Global Landscape of AI Ethics Guidelines,” Nature Machine Intelligence, Vol. 1, pp. 389-399, 2019.
[https://doi.org/10.1038/s42256-019-0088-2]
- S. Y. Byun and Y. H. Lee, AI Ethics, Seoul: Amunhaksa, 2020.
-
Y. H. Kim, “Research Subject Trend Analysis on AI Education with Network Text Analysis on Korean Journals,” Journal of Educational Innovation Research, Vol. 31, No. 4, pp. 197-217, 2021.
[https://doi.org/10.21024/pnuedi.31.4.202112.197]
- H. J. Kim, “Artificial Intelligence and Human Intelligence-With Emphasis on Intelligence-Concept in MacCarthy and Kant,” Philosophical Investigation, Vol. 43, pp. 160-190, 2016.
-
E. S. Heo, Y. H. Lee, and J. W. Shim, “Why Ethics Is: A Landscape of Modern AI Ethics Debate, Its Features and Limitations,” Human Beings, Environment and Their Future, No. 24, pp. 165-209, 2020.
[https://doi.org/10.34162/hefins.2020..24.006]
-
H. Y. Park, “What Is Post-humanistic AI Ethics?: Focusing on the Term of ‘Ethical AI’,” The Journal of Korean Association of Computer Education, Vol. 25, No. 6, pp. 83-95, 2022.
[https://doi.org/10.32431/kace.2022.25.6.006]
-
S. Y. Byun, “A Study on the Artificial Intelligence Citizenship Education,” Korean Elementary Moral Education Society, Vol. 67, pp. 427-445, 2022.
[https://doi.org/10.17282/ethics.2020..67.427]
-
M. H. Nam, “A Study on How to Set up a Standard Framework for AI Ethics and Regulation,” Journal of the Korea Convergence Society, Vol. 13, No. 4, pp. 7-15, April 2022.
[https://doi.org/0.15207/JKCS.2022.13.04.007]
- G. K. Park, “Research on a Possible International Framework Treaty on the “Ethics of Artificial Intelligence” Based on the Analysis of Existing Relevant Recommendations and Guidelines,” The Korean Journal of International Law, Vol. 67, No. 4, pp. 121-152, 2022.
-
H. S. Gho, D. H. Park, and N. R. Lee, “Challenges of Establishing Ethics Principles and a Governance Regime for Artificial Intelligence,” Journal of Law and Economic Control, Vol. 13, No. 1, pp. 7-36, 2020.
[https://doi.org/10.22732/CeLPU.2020.13.1.7]
- M. J. Kim, “The Necessity of AI Ethics and the International and Domestic Research Trends,” Journal of the Korean Institute of Communication Sciences, Vol. 34, No. 10, pp. 45-54, 2017.
- H. O. Lee, “Ethical Guidelines for Controlling Bias of Artificial Intelligence Chatbots,” Public Law, Vol. 51, No. 3, pp. 715-744, 2023.
- H. Y. Lee, “Analyzing the Direction of AI Ethics and the Alternative Approach,” Journal of Korean Philosophical Society, Vol. 160, pp. 141-162, 2021.
-
M. K. Lim, “A Systematic Literature Review of Research on Artificial Intelligence Ethics,” Ethics Research, No. 135, pp. 47-66, 2021.
[https://doi.org/10.15801/je.1.135.202112.47]
- M. Y. Kim and S. J. Park, “Analysis of AI Ethics Research Trends Using Text Mining,” Journal of the Korean Association of Information education, Vol. 27, No. 1, pp. 23-33, 2023.
- Y. H. Kim and A. H. Kim, “Analysis of Moral Artificial Intelligence Research Trends Using Topic Modeling and Keyword Network Analysis,” The Journal of Moral Education, Vol. 33, No. 4, pp. 115-141, 2021.
-
Y. H. Kim, “Research Subject Trend Analysis on Educational Innovation with Utilizing ICT Focusing on Government Differences: With Network Text Analysis of the Last 18 Years,” Journal of Educational Innovation Research, Vol. 28, No. 4, pp. 239-264, 2018.
[https://doi.org/10.21024/pnuedi.28.4.201812.239]
- H. W. Park and L. Leydesdorff, “Understanding the KrKwic: A Computer Program for the Analysis of Korean Text,” Journal of the Korean Data Analysis Society, Vol. 6, No. 5, pp. 1377-1387, 2004.
- K. Y. Kim, “Ethical Controversies and Requests for Normative Ethics in the Artificial Intelligence and Cyber-human Age,” The Journal of Humanities Studies, Vol. 57, No. 2, pp. 55-77, 2018.
-
M. S. Kim, “Artificial Intelligence and Environmental Ethics - Moral, Legal Right of Artificial Intelligence,” The Korean Society for the Study of Environmental Philosophy, No. 25, pp. 5-30, 2018.
[https://doi.org/10.35146/jecoph.2018..25.001]
-
U. J. Park, “The Informational Beingness and Moral Subjectivity of Artificial Agents ― Artificial Intelligence’s Personhood in Floridi’s Philosophy of Information and Kant’s Philosophy of Law,” Korean Journal of Legal Philosophy, Vol. 23, No. 1, pp. 209-234, 2020.
[https://doi.org/10.22286/kjlp.2020.23.1.006]
-
S. H. Song, “Die künstliche Intelligenz und die Moralität,” Lawyers Association Journal, Vol. 67, No. 6, pp. 267-341, 2018.
[https://doi.org/10.17007/klaj.2018.67.6.006]
-
Y. Byun and J. O. Chang, “A Study of Civil Liability with Artificial Intelligence,” The Journal of Sports and Entertainment Law, Vol. 23, No. 3, pp. 133-157, 2020.
[https://doi.org/10.19051/kasel.2020.23.3.133]
-
M. G. Choi, “A Critical Study on Autonomous AI Responsibility,” Journal of Ethics, No. 135, pp. 23-45, 2021.
[https://doi.org/10.15801/je.1.135.202112.23]
- J. M. Maeng, “AI, Moral Machine, Good Man,” Philosophical Investigation, Vol. 59, pp. 213-242, 2020.
-
C. Y. Chung, “Building an Ethical Intelligent Robot in the Intelligent Information Society: Alternative Approaches towards a Postmodern Reconstruction of Ethics,” East North Law Study, Vol. 12, No. 1, pp. 87-121, May 2015.
[https://doi.org/10.19035/nal.2018.12.1.4]
- H. W. Han, “A Basic Study on Legal and Ethical Issues on the Lethal Autonomous Weapons Based on Artificial Intelligence, So Called Killer Robots!,” Journal of National Intelligence Studies, Vol. 12, No. 1, pp. 141-193, 2019.
- Y. J. Jeon, J. M. Kim, S. H. Ahn, I. K. Jeong, and J. H. Park, “Fundamental Study for Improvement of the Curriculum of AI Convergence Education Major in the Graduate School of Education,” in Proceedings of the Conference of the Korean Association of Computer Education, Vol. 25, pp. 101-104, 2021.
- Z. Slimi and B. V. Carballido, “Navigating the Ethical Challenges of Artificial Intelligence in Higher Education: An Analysis of Seven Global AI Ethics Policies,” TEM Journal, Vol. 12, No. 2, pp. 590-602, December 2023.
-
T. Erkkilä, “Global Indicators and AI Policy: Metrics, Policy Scripts, and Narratives,” Review of Policy Research, Vol. 40, No. 5, pp. 811-839, September 2023.
[https://doi.org/10.1111/ropr.12556]
-
C. Stix, “Actionable Principles for Artificial Intelligence Policy: Three Pathways,” Science and Engineering Ethics, Vol. 27, 15, 2021.
[https://doi.org/10.1007/s11948-020-00277-3]
-
L. Tidjon and F. Khomh, “The Different Faces of AI Ethics Across the World: A Principle-to-Practice Gap Analysis,” IEEE Transactions on Artificial Intelligence, Vol. 4, No. 4, pp. 820-839, August 2023.
[https://doi.org/10.1109/TAI.2022.3225132]
-
H. Bleher and M. Braun, “Reflections on Putting AI Ethics into Practice: How Three AI Ethics Approaches Conceptualize Theory and Practice,” Science and Engineering Ethics, Vol. 29, 21, 2023.
[https://doi.org/10.1007/s11948-023-00443-3]
-
J. Schaich Borg, “Four Investment Areas for Ethical AI: Transdisciplinary Opportunities to Close the Publication-to-Practice Gap,” Big Data & Society, Vol. 8, No. 2, 2021.
[https://doi.org/10.1177/20539517211040197]
-
H. Y. Lee, “Analysis on AI Ethics Guidelines and the Alternative Approaches for them,” Journal of Korean philosophical society, Vol. 160, pp. 141-162, November 2021.
[https://doi.org/10.20293/jokps.2021.160.141]
- H. Y. Lee, “Analysis of Trends in ‘AI Ethics’ Research Using Text Mining Techniques: Before and After the Announcement of National Artificial Intelligence Ethics Standards(draft), Focusing on Domestic Journals,” Journal of Artificial Intelligence Ethics, Vol. 1, pp. 72-97, 2022.
-
E. S. Heo, Y. H. Lee, and J. W. Shim, “Why Ethics Is: A Landscape of Modern AI Ethics Debate, Its Features and Limitations,” Human Beings, Environment and Their Future, No. 24, pp. 165-209, 2020.
[https://doi.org/10.34162/hefins.2020..24.006]
-
Y. H. Kim, “Research Subject Trend Analysis on AI Education with Network Text Analysis on Korean Journals,” Journal of Educational Innovation Research, Vol. 31, No. 4, pp. 197-217, 2021.
[https://doi.org/10.21024/pnuedi.31.4.202112.197]
- H. J. Park, “Legal Status of AI Digital Textbook,” Artificial Intelligence Times, October 2023. Available: https://www.aitimes.kr/news/articleView.html?idxno=29134
-
Y. H. Kim, “Research Subject Trend Analysis on AI Education with Network Text Analysis on Korean Journals,” Journal of Educational Innovation Research, Vol. 31, No. 4, pp. 197-217, 2021.
[https://doi.org/10.21024/pnuedi.31.4.202112.197]
- M. Y. Kim and S. J. Park, “Analysis of AI Ethics Research Trends Using Text Mining,” Journal of the Korean Association of Information Education, Vol. 27, No. 1, pp. 23-33, 2023.
저자소개
1987년：부산대학교(교육학, 학사)
1989년：미국 Ohio State University(교육공학 석사)
1994년：미국 Indiana University(교육공학 박사)
1994년～1995년: 미국 Agency for Instructional Technology(AIT) 선임연구원
2000년～2016년: (사)APEC국제교육협력원장
2003년～2006년: APEC Cyber Education Cooperation(ACEC) Consortium, Chair
2007년～2010년: APEC EDNET, Coordinator
2011년～2015년: APEC HRDWG, Lead Shepherd
1995년～현재: 부산대학교 사대 교육학과 교수
※관심분야：AI융합교육, AI국제학습공동체, Deschooling
2018년：한국교원대학교(영어교육, 학사)
2023년：부산대학교(AI융합교육, 석사)
2019년～현재: 부산 명지중학교 교사
※관심분야：AI융합교육, AI국제학습공동체, AI윤리, AI윤리교육