생성형 인공지능의 환각 공개가 사용자 신뢰에 미치는 영향: 버추얼 휴먼 인터페이스의 조절 효과

2-1 생성형 인공지능과 환각 현상: 커뮤니케이션 현상으로서의 재해석

최근 생성형 인공지능은 자연어 처리와 콘텐츠 생성 기술의 발전을 기반으로 다양한 디지털 환경에서 핵심적인 역할을 수행하고 있다. 특히 대규모 언어 모델은 인간과 유사한 수준의 자연어 텍스트를 생성함으로써 인간–AI 상호작용을 보다 자연스럽고 사회적인 형태로 변화시키고 있다. 이러한 특성은 인공지능 시스템이 단순한 정보 처리 도구를 넘어 사용자에 의해 사회적 행위자(social actor)로 인식될 수 있음을 시사하며, 이는 Media Equation 및 CASA(Computers as Social Actors) 연구 흐름과도 연결된다[1],[7].

이러한 맥락에서 생성형 AI의 환각은 단순한 기술적 오류를 넘어 인간–AI 커뮤니케이션 과정에서 발생하는 중요한 현상으로 이해될 필요가 있다. 기존 연구에서는 환각을 사실적으로 부정확하거나 검증되지 않은 정보를 그럴듯하게 생성하는 현상으로 정의하며, 이는 언어 모델이 의미 이해보다는 확률적 패턴에 기반하여 텍스트를 생성하기 때문에 발생한다고 설명한다[8],[9]. 또한 최근 연구에서는 환각을 인공지능이 생성하는 왜곡된 정보 유형으로 분류하고, 그 발생 메커니즘과 유형을 체계적으로 분석하고 있다[10].

그러나 이러한 정의는 환각을 기술적 관점에서 설명하는 데 그치며, 사용자 인식과 상호작용 맥락에서의 의미를 충분히 설명하지 못하는 한계를 가진다. 실제로 생성형 AI는 매우 자연스럽고 설득력 있는 형태로 정보를 제시하기 때문에 사용자는 정보의 정확성보다는 표현 방식과 맥락에 기반하여 신뢰를 형성할 가능성이 높다. 이러한 특성은 환각이 단순한 정보 오류가 아니라, 사용자의 인식과 신뢰 형성 과정을 왜곡할 수 있는 커뮤니케이션 현상임을 시사한다.

특히 환각은 정보의 사실 여부와 관계없이 인지된 신뢰성(perceived credibility)과 지각된 능력(perceived competence)에 영향을 미칠 수 있으며, 이는 인간–AI 상호작용에서 중요한 평가 기준으로 작용한다[11]. 따라서 환각 문제는 기술적 정확성의 문제를 넘어, 정보가 어떻게 전달되고 해석되는가라는 커뮤니케이션 차원에서 접근될 필요가 있다.

그럼에도 불구하고 기존 연구는 환각 문제를 주로 모델 개선이나 기술적 해결 방안에 초점을 맞추어 왔으며, 사용자 인식과 신뢰 형성 과정에서의 영향을 충분히 고려하지 못한 한계를 보인다. 최근 일부 연구에서 AI의 투명성이나 오류 가능성 공개가 사용자 평가에 영향을 미칠 수 있음이 제시되고 있으나, 이러한 효과가 신뢰와 능력 평가에 어떠한 방식으로 작용하는지에 대한 체계적인 분석은 여전히 부족한 상황이다.

따라서 본 연구는 환각을 단순한 기술적 오류가 아닌 커뮤니케이션 전략의 문제로 재정의하고, AI가 자신의 오류 가능성을 사전에 공개하는 경우 이러한 정보 제공 방식이 사용자 인식과 신뢰 형성에 어떠한 영향을 미치는지를 분석하고자 한다.

2-2 AI 투명성과 신뢰

인공지능 시스템이 다양한 사회적 영역에서 활용됨에 따라AI에 대한 사용자 신뢰(trust in AI)는 인간–AI 상호작용 연구에서 핵심적인 연구 주제로 자리 잡고 있다. 신뢰는 사용자가 기술 시스템을 수용하고 지속적으로 활용하는 데 중요한 요인으로 작용하며, 특히 인공지능과 같이 복잡한 알고리즘 기반 시스템에서는 사용자가 시스템의 작동 원리를 완전히 이해하기 어렵기 때문에 신뢰 형성 과정이 더욱 중요하게 논의된다[12]. 기존 연구에서는AI에 대한 신뢰가 단순한 기술적 성능뿐 아니라 사용자 경험과 인지적 평가에 의해 형성된다는 점이 강조되고 있으며, 다양한 요인이 신뢰 형성에 영향을 미칠 수 있음이 메타분석 연구를 통해 확인된 바 있다[13].

이러한 맥락에서 투명성(transparency)은 AI 신뢰 형성의 중요한 결정 요인으로 제시된다. 인공지능 시스템이 자신의 작동 방식이나 의사결정 과정을 사용자에게 이해 가능한 형태로 제공할 경우, 사용자는 시스템을 보다 예측 가능하고 신뢰할 수 있는 대상으로 인식하게 된다[12]. 특히 최근 연구에서는 설계 수준에서의 투명성이 인간–AI 상호작용 상황에서 신뢰 형성과 정보 공유 행동에 긍정적인 영향을 미칠 수 있음이 실증적으로 확인되고 있다[14]. 또한 국내 연구에서도 생성형 AI 환경에서 투명성과 설명 가능성이 사용자 신뢰 인식에 중요한 영향을 미칠 수 있음이 제시된 바 있다[11].

그러나 인간–AI 상호작용에서 사용자의 평가는 단순한 기술적 정보에만 기반하지 않는다. Sundar[1]는 사용자가 인공지능 시스템을 평가할 때 실제 성능보다 인터페이스 특성이나 기계 단서(machine cues)에 의존하는 경향이 있음을 지적하며, 이를 machine heuristic 개념으로 설명하였다. 또한 인간은 인공지능을 의인화하여 인식하는 경향이 있으며, 이러한 인식은 신뢰 형성에 영향을 미칠 수 있다[15]. 이러한 관점에서 AI가 어떠한 방식으로 정보를 전달하는지, 특히 자신의 한계나 불확실성을 어떻게 표현하는지는 사용자 인식에 중요한 영향을 미치는 요소로 작용한다.

한편, 최근 연구에서는 AI 투명성이 항상 긍정적인 효과를 가져오는 것은 아니라는 점이 제기되고 있다. 인공지능 시스템이 자신의 불확실성이나 오류 가능성을 강조할 경우, 사용자는 해당 시스템의 능력(perceived competence)을 낮게 평가할 수 있으며, 이는 신뢰 감소로 이어질 가능성이 있다[16]. 또한 인간과 유사한 시스템에서 나타나는 불편감이나 거부감 역시 기술 평가에 영향을 미칠 수 있으며, 이는 언캐니 밸리(uncanny valley)와 같은 현상으로 설명된다[17]. 이러한 결과는 기술 시스템 평가에서 능력 인식과 정서적 반응이 중요한 역할을 한다는 점을 보여준다.

이와 같이 AI 투명성은 한편으로는 시스템의 이해 가능성과 신뢰성을 강화하는 긍정적 기능을 수행하는 동시에, 다른 한편으로는 능력에 대한 인식을 약화시키거나 부정적 정서 반응을 유발할 수 있는 양면적 특성을 가진다. 이러한 상반된 효과는 AI 커뮤니케이션 설계에서 중요한 이론적 문제로 제기되며, 특히 생성형 AI와 같이 불확실성을 내포한 정보 생성 환경에서 더욱 중요하게 작용할 수 있다.

따라서 본 연구는 AI 시스템이 환각 가능성을 사전에 공개하는 커뮤니케이션 전략이 사용자 신뢰 형성에 어떠한 영향을 미치는지를 분석하고자 한다. 특히 이러한 정보 공개가 투명성 인식과 능력 평가에 미치는 상반된 영향을 동시에 고려함으로써, 생성형 AI 환경에서의 신뢰 형성 메커니즘을 보다 정교하게 설명하고자 한다.

2-3 AI 커뮤니케이션에서의 투명성 역설

AI 시스템의 투명성은 전통적으로 사용자 신뢰를 강화하는 핵심 요인으로 이해되어 왔다. 시스템의 작동 방식이나 의사결정 과정, 그리고 잠재적 한계를 사용자에게 명시적으로 제시하는 것은 정보 비대칭을 완화하고 사용자가 기술을 보다 합리적으로 평가할 수 있도록 한다[12],[14]. 이러한 관점에서 투명성은 기술 수용과 신뢰 형성을 촉진하는 중요한 설계 원칙으로 간주되어 왔다.

그러나 최근 인간–AI 상호작용 연구에서는 투명성이 항상 신뢰를 증가시키는 것은 아니라는 점이 강조되고 있다. 사용자는 인공지능 시스템을 평가할 때 단순히 제공되는 정보의 양이나 설명 수준에만 의존하는 것이 아니라, 시스템의 능력과 신뢰성을 동시에 판단한다[13]. 특히 AI가 자신의 한계나 불확실성을 명시적으로 표현할 경우, 사용자는 이를 시스템의 낮은 능력에 대한 단서로 해석할 가능성이 있으며, 이는 신뢰 감소로 이어질 수 있다[16].

이와 같은 상반된 효과는 투명성 역설(transparency paradox)로 설명될 수 있다. 투명성 역설은 시스템이 자신의 작동 방식이나 한계를 공개할수록 사용자가 이를 더 신뢰할 것이라는 일반적인 가정과 달리, 특정 상황에서는 이러한 정보 공개가 오히려 신뢰 감소로 이어질 수 있음을 의미한다. 이는 사용자가 기술 시스템을 평가할 때 이해 가능성뿐 아니라 능력 단서와 정서적 반응을 동시에 고려하기 때문이며, 특히 인간과 유사한 특성을 지닌 시스템에서는 이러한 평가가 더욱 민감하게 나타날 수 있다[17].

또한 인간은 인공지능을 단순한 도구가 아니라 인간과 유사한 존재로 인식하는 경향이 있으며, 이러한 의인화(anthropomorphism)는 AI에 대한 신뢰 형성 과정에 중요한 영향을 미친다[18]. 의인화된 시스템에서는 사용자가 AI의 행동을 인간과 유사한 기준으로 해석하기 때문에, 시스템이 자신의 한계나 오류 가능성을 공개하는 경우 이러한 정보가 기술적 특성의 표현이 아니라 사회적 신호로 인식될 가능성이 존재한다. 본 연구에서 ‘AI의 한계 공개’는 AI 시스템이 자신의 정보 생성 과정에서 발생할 수 있는 오류 가능성, 즉 환각(hallucination)의 가능성을 사전에 사용자에게 명시적으로 안내하는 커뮤니케이션 전략으로 정의하였다.

이러한 맥락에서 생성형 AI의 환각 문제는 투명성 역설을 설명하는 중요한 사례를 제공한다. 생성형 AI는 자연스럽고 설득력 있는 정보를 생성할 수 있지만 동시에 사실과 다른 정보를 생성할 가능성을 내포하고 있다[8],[9]. 따라서 AI 시스템이 환각 가능성을 사전에 공개하는 경우, 사용자 인식은 상반된 방향으로 변화할 수 있다. 한편으로는 이러한 정보 공개가 시스템의 정직성과 투명성을 강화하여 신뢰 형성에 긍정적인 영향을 미칠 수 있으며, 다른 한편으로는 시스템의 능력에 대한 의문을 증가시켜 신뢰를 약화시킬 가능성도 존재한다.

따라서 생성형 AI 환경에서의 환각 공개 전략은 단순한 정보 제공을 넘어 사용자 신뢰 형성 과정에서 복합적인 영향을 미치는 커뮤니케이션 전략으로 이해될 필요가 있다. 특히 이러한 효과는 AI 시스템의 인터페이스 특성이나 인간 유사성 수준에 따라 달라질 수 있으며, 이러한 관점에서 투명성 역설을 실증적으로 검증하는 연구가 요구된다.

2-4 버추얼 휴먼과 의인화된 인터페이스

최근 인공지능 인터페이스는 단순한 텍스트 기반 챗봇을 넘어 인간과 유사한 외형과 행동을 갖는 버추얼 휴먼(virtual human) 형태로 발전하고 있다. 버추얼 휴먼은 인간과 유사한 얼굴, 음성, 표정, 제스처 등을 통해 사용자와 상호작용하는 디지털 에이전트를 의미하며, 최근 디지털 콘텐츠, 고객 서비스, 교육, 관광 서비스 등 다양한 영역에서 활용되고 있다[19],[20]. 이러한 인터페이스의 확장은 인간–AI 상호작용을 단순한 정보 전달 과정에서 사회적 상호작용으로 변화시키는 중요한 특징을 가진다. 특히 최근 연구에서는 버추얼 휴먼이 단순한 기술적 인터페이스를 넘어 사회적·윤리적 의미를 동반하는 존재로 인식될 수 있음이 제시되고 있으며[6], 이는 사용자가 AI를 보다 사회적 행위자로 해석하는 경향을 강화할 수 있음을 시사한다.

인간이 컴퓨터나 인공지능 시스템을 사회적 존재로 인식하는 현상은 Media Equation theory를 통해 설명될 수 있다. Nass와 Moon은 사람들이 컴퓨터와 상호작용할 때 실제 인간과 유사한 사회적 규범을 적용하는 경향이 있음을 지적하였다. 즉 사용자는 인공지능 시스템에 대해 예의, 신뢰, 협력과 같은 사회적 반응을 보일 수 있으며, 이러한 현상은 인간–컴퓨터 상호작용 연구에서 중요한 이론적 기반으로 활용되어 왔다[7].

또한 최근 연구에서는 인공지능 인터페이스의 의인화 수준이 사용자 인식과 행동에 중요한 영향을 미칠 수 있다는 점이 강조되고 있다. 의인화는 인간이 비인간 대상에 인간적 특성이나 의도를 부여하는 심리적 경향을 의미하며, 인공지능 시스템이 인간과 유사한 외형이나 행동을 제공할 경우 사용자는 해당 시스템을 보다 사회적 존재로 인식할 가능성이 높아진다[18]. 이러한 인식은 인공지능을 단순한 기술이 아니라 사회적 행위자(social actor)로 이해하게 만들며, 사용자 태도와 신뢰 형성에 중요한 영향을 미친다.

특히 의인화된 인터페이스에서는 사용자가 인공지능의 행동을 인간과 유사한 기준으로 해석하는 경향이 강화된다. Waytz 등은 인공지능 시스템에 인간적 특성이 부여될 경우 사용자가 해당 시스템에 대해 더 높은 수준의 신뢰를 형성할 수 있음을 보여주었다[15]. 또한 가상 환경에서 구현된 디지털 인간은 사용자에게 사회적 존재감(social presence)을 제공하며, 이는 사용자와 시스템 간 관계 형성에 중요한 역할을 한다[6].

이러한 관점에서 인공지능 인터페이스의 인간 유사성은 단순한 외형적 특성을 넘어, 사용자 인식과 신뢰 형성 메커니즘을 변화시키는 핵심 요인으로 작용할 수 있다. 특히 생성형 AI와 같이 불확실성이 내재된 정보 환경에서는 동일한 정보라도 인터페이스 유형에 따라 사용자의 해석과 평가가 달라질 가능성이 존재한다. 예를 들어 동일한 환각 가능성 정보라도 텍스트 기반 챗봇이 전달하는 경우와 인간과 유사한 버추얼 휴먼이 전달하는 경우, 사용자의 신뢰 평가와 능력 인식은 서로 다르게 나타날 수 있다.

따라서 본 연구는 AI가 환각 가능성을 사전에 공개하는 커뮤니케이션 전략이 사용자 신뢰 형성에 미치는 영향을 분석함과 동시에, 이러한 효과가 인터페이스 유형(버추얼 휴먼 vs 텍스트 기반 챗봇)에 따라 어떻게 달라지는지를 비교 분석하고자 한다. 이를 통해 인공지능 인터페이스의 의인화 수준이 AI 커뮤니케이션 전략의 효과를 조절하는 메커니즘을 규명하고자 한다.

3-1 환각 가능성 공개와 지각된 투명성

AI 시스템이 자신의 정보 생성 과정에서 발생할 수 있는 오류 가능성을 사용자에게 사전에 공개하는 경우, 사용자는 해당 시스템을 보다 투명하고 이해 가능한 기술로 인식할 가능성이 있다. 기존 연구에 따르면 기술 시스템이 자신의 작동 방식이나 한계를 명시적으로 설명할 경우, 사용자는 시스템의 의사결정 과정을 보다 쉽게 이해할 수 있으며, 이러한 정보 제공은 투명성 인식을 증가시킬 수 있다[12],[14]. 특히 AI 시스템이 자신의 불확실성을 명시적으로 전달하는 경우 이는 시스템의 정직성과 책임성을 나타내는 신호로 해석될 수 있다. 따라서 다음과 같은 가설을 설정하였다.

H1. AI가 환각 가능성을 사전에 공개할 경우 사용자가 인식하는 AI의 투명성은 증가할 것이다.

3-2 환각 가능성 공개와 지각된 능력

한편, AI 시스템이 자신의 오류 가능성을 강조하는 경우 이는 사용자에게 시스템의 한계를 부각시키는 신호로 작용할 수 있다. 자동화 시스템 연구에서는 사용자가 기술을 평가할 때 정확성과 능력을 중요한 판단 기준으로 활용하며, 시스템이 불확실성을 표현할 경우 사용자는 해당 시스템을 덜 유능한 기술로 인식할 가능성이 있다[13],[16]. 이러한 관점에서환각 가능성 공개는 사용자로 하여금 AI의 정보 처리 능력에 대해 보다 보수적인 평가를 내리도록 만들 수 있다. 따라서 다음과 같은 가설을 설정하였다.

H2. AI가 환각 가능성을 사전에 공개할 경우 사용자가 인식하는 AI의 능력 평가는 낮아질 것이다.

3-3 지각된 투명성과 신뢰

AI 시스템의 투명성은 사용자 신뢰 형성에 중요한 영향을 미치는 요인으로 알려져 있다. 시스템이 자신의 작동 방식이나 정보 처리 과정을 사용자에게 이해 가능한 형태로 제공할 경우, 사용자는 해당 시스템을 보다 정직하고 신뢰할 수 있는 대상으로 인식할 가능성이 높다[12],[14]. 따라서 투명성에 대한 인식은 AI 신뢰 형성에 긍정적인 영향을 미칠 것으로 예상된다. 이에 다음과 같은 가설을 설정하였다.

H3. 사용자가 인식하는 AI의 투명성은 AI에 대한 신뢰에 긍정적인 영향을 미칠 것이다.

3-4 지각된 능력과 신뢰

기술 시스템의 능력에 대한 인식은 신뢰 형성의 핵심 요인 중 하나이다. 사용자는 시스템이 정확하고 유능하다고 판단할 때 해당 기술을 보다 신뢰하고 의존하는 경향을 보인다[13]. 따라서 AI의 능력에 대한 인식은 사용자 신뢰 형성에 중요한 영향을 미칠 것으로 예상된다. 따라서 다음과 같은 가설을 설정하였다.

H4. 사용자가 인식하는 AI의 능력 평가는 AI에 대한 신뢰에 긍정적인 영향을 미칠 것이다.

3-5 환각 가능성 공개와 신뢰: 투명성 역설 관점

AI 시스템이 자신의 정보 생성 과정에서 발생할 수 있는 오류 가능성, 즉 환각(hallucination) 가능성을 사전에 공개하는 행위는 사용자 신뢰 형성에 복합적인 영향을 미칠 수 있다. 한편으로 이러한 정보 공개는 시스템의 정직성과 투명성을 강화하여 사용자 신뢰를 증가시키는 긍정적 요인으로 작용할 수 있다. 다른 한편으로는 시스템의 불확실성을 명시적으로 드러냄으로써 사용자가 해당 시스템의 능력에 대해 의문을 갖게 하고, 결과적으로 신뢰를 약화시키는 요인으로 작용할 가능성도 존재한다.

이러한 상반된 효과는 투명성 역설(transparency paradox)의 관점에서 설명될 수 있으며, AI의 정보 공개는 신뢰에 대해 단일 방향의 효과를 가지기보다는 서로 다른 인지적 평가 경로를 통해 복합적으로 작용할 가능성이 있다. 특히 환각 가능성 공개는 지각된 투명성과 지각된 능력을 동시에 변화시키며, 이러한 변화는 궁극적으로 신뢰 형성에 영향을 미칠 수 있다.

그럼에도 불구하고, 기술 시스템이 자신의 한계를 명시적으로 설명하는 경우 사용자는 이를 정직성과 책임성의 신호로 해석할 수 있으며, 이는 신뢰 형성에 긍정적인 영향을 미칠 가능성이 있다. 따라서 본 연구에서는 환각 가능성 공개가 신뢰에 직접적인 영향을 미칠 가능성을 가정한다.

H5. 환각 가능성 공개는 사용자 신뢰에 직접적인 영향을 미칠 것이다.

3-6 인터페이스 유형의 조절 효과

인공지능 인터페이스의 인간 유사성은 사용자 인식과 해석 방식에 중요한 영향을 미칠 수 있다. 특히 버추얼 휴먼과 같은 의인화된 인터페이스는 사용자가 AI를 사회적 존재로 인식하도록 만들며, 이러한 인식은 AI의 행동과 메시지를 보다 사회적 맥락에서 해석하도록 유도할 수 있다[18],[20].

이러한 관점에서 동일한 환각 가능성 공개 정보라도 인터페이스 유형에 따라 사용자에게 다르게 해석될 가능성이 존재한다. 특히 의인화된 인터페이스에서는 AI의 환각 가능성 공개가 단순한 기술적 설명이 아니라 정직성과 책임성을 나타내는 사회적 신호로 해석될 가능성이 높다. 반면 텍스트 기반 인터페이스에서는 동일한 정보가 보다 기능적이고 기술적인 설명으로 인식될 수 있다.

따라서 인터페이스 유형은 환각 가능성 공개가 사용자 인식에 미치는 영향을 조절할 것으로 예상되며, 특히 환각 가능성 공개와 지각된 투명성 간의 관계에서 조절 효과가 나타날 것으로 예상된다.

H6. 인터페이스 유형(버추얼 휴먼 vs. 텍스트 챗봇)은 환각 가능성 공개와 지각된 투명성 간의 관계를 조절할 것이다.

5-1 연구 설계 및 표본 규모 산정

본 연구는 생성형 AI의 환각 가능성 공개가 사용자 인식과 신뢰 형성 과정에 미치는 영향을 검증하기 위해 2 × 2 요인 간 실험 설계(between-subjects factorial design)를 적용하였다.

독립변수는 환각 가능성 공개와 인터페이스 유형(Agent Type)으로 구성되었다. 환각 가능성 공개는 AI 시스템이 정보 생성 과정에서 발생할 수 있는 오류 가능성을 사전에 사용자에게 안내하는 조건과 안내하지 않는 조건으로 조작하였다. 인터페이스 유형은 인터페이스 형태에 따라 버추얼 휴먼과 텍스트 기반 챗봇 조건으로 구분하였다.

이에 따라 실험 조건은 다음과 같이 총 네 가지로 구성되었으며 각 참여자는 네 가지 조건 중 하나에 무작위로 할당되었다.

• 1. 버추얼 휴먼 +환각 공개
• 2. 버추얼 휴먼 +환각 비공개
• 3. 텍스트 챗봇 인터페이스 +환각 공개
• 4. 텍스트 챗봇 인터페이스 +환각 비공개

표본 규모 산정을 위해 G*Power 3.1을 활용한 사전 검정력 분석(a priori power analysis)을 수행하였다. Cohen[21]이 제시한 중간 효과 크기(effect size, f = 0.25), 유의수준(α) = .05, 검정력(power) = .80을 기준으로 설정하였으며, 4개의 집단을 고려한 분석 결과 최소 필요 표본 수는 128명으로 산출되었다. 이에 본 연구에서는 총 130명의 참여자를 확보하여 통계적 검정력을 충족하였다.

이와 같은 실험 설계를 통해 환각 공개 여부와 인터페이스 유형이 사용자 인식(지각된 투명성, 지각된 능력) 및 신뢰 형성에 미치는 영향을 체계적으로 비교 분석하였다.

5-2 실험 자극 제작

본 연구에서는 AI 인터페이스 유형에 따른 사용자 인식 차이를 분석하기 위해 두 가지 형태의 실험 자극을 제작하였다.

먼저 버추얼 휴먼 조건에서는 AI 기반 가상 인간 생성 플랫폼인 AI Studio PERSO를 활용하여 디지털 캐릭터 형태의 AI 인터페이스를 제작하였다. PERSO는 인공지능 기반 음성 합성과 얼굴 애니메이션 기술을 활용하여 인간과 유사한 외형과 음성 표현을 생성할 수 있는 플랫폼으로, 실제 대화 상황과 유사한 인터페이스를 구현할 수 있다. 본 연구에서는 약 30초 분량의 설명 영상 형태로 버추얼 휴먼이 정보를 전달하도록 구성하였으며, 중립적인 표정과 안정적인 음성을 사용하여 불필요한 감정적 요소가 결과에 영향을 미치지 않도록 통제하였다.

한편 텍스트 챗봇 인터페이스 조건에서는 네이버 클라우드에서 제공하는 챗봇 개발 플랫폼인 CLOVA Chatbot을 활용하여 텍스트 기반 대화 인터페이스를 구현하였다. CLOVA Chatbot은 자연어 이해(NLU) 기술을 기반으로 사용자 입력을 분석하고 적절한 응답을 제공하는 시스템으로, 본 연구에서는 버추얼 휴먼 조건과 동일한 정보 내용을 단일 메시지 형태의 텍스트 응답으로 제시하도록 구성하였다.

본 연구에서는 인터페이스 유형 이외의 영향을 최소화하기 위해 두 조건에서 동일한 대화 스크립트를 사용하였다. 해당 스크립트는 스마트홈 기술의 작동 원리에 대한 설명으로 구성되었으며, 정보 내용, 문장 구조, 설명 순서, 응답 길이를 동일하게 유지하였다. 예를 들어 “스마트홈 기술은 다양한 가전기기를 네트워크로 연결하여 자동으로 제어할 수 있는 시스템으로⋯”와 같이 기술의 정의, 작동 방식, 활용 예시를 포함한 약 3~4문장 분량으로 구성하였다. 이러한 설계는 정보 내용의 차이에 따른 영향을 배제하고 인터페이스 유형의 효과만을 검증하기 위한 통제 전략이다.

또한 AI 환각(환각) 가능성 공개 조건에서는 AI 시스템이 정보 제공 이전에 자신의 정보 생성 과정에서 오류가 발생할 수 있음을 사용자에게 사전에 안내하도록 설정하였다. 구체적으로 AI 인터페이스는 다음과 같은 메시지를 제시하였다.

“저는 인공지능 기반 시스템으로 학습된 데이터를 바탕으로 정보를 제공합니다. 그러나 경우에 따라 부정확한 정보가 생성될 수 있으므로 제공되는 정보는 참고용으로 활용해 주시기 바랍니다.”

반면 비공개 조건에서는 해당 메시지를 제시하지 않고 동일한 설명이 바로 제공되도록 구성하였다.

실험 자극의 이해 가능성과 자연스러움을 검증하기 위해 파일럿 테스트(pilot test)를 실시하였다. 파일럿 테스트는 대학원생 및 일반 사용자 10명을 대상으로 수행되었으며, 자극의 이해도와 자연스러움에 대한 평가를 바탕으로 문장 표현과 길이를 최종적으로 수정하였다.

5-3 연구 절차

본 연구는 온라인 기반 실험 방식으로 진행되었다. 참여자는 실험에 참여하기에 앞서 연구 목적과 절차에 대한 안내를 받았으며, 연구 참여에 대한 자발적 동의를 확인한 후 실험에 참여하였다. 동의 절차 이후 참여자는 무작위 배정을 통해 네 가지 실험 조건 중 하나에 할당되었다. 각 참여자는 하나의 조건에만 노출되는 between-subjects 설계에 따라 실험이 진행되었다.

참여자는 배정된 조건에 따라 버추얼 휴먼 또는 텍스트 챗봇 인터페이스 형태의 AI 인터페이스 자극을 확인하였다. 버추얼 휴먼 조건에서는 AI 인터페이스가 특정 정보를 설명하는 영상 자극이 제시되었으며, 텍스트 챗봇 인터페이스 조건에서는 동일한 정보 내용이 텍스트 기반 대화 형태로 제공되었다. 또한 환각 공개 조건에서는 AI 시스템이 정보 제공 이전에 오류 가능성을 안내하는 메시지가 제시되었으며, 비공개 조건에서는 해당 메시지가 제공되지 않았다. 참여자는 자극 노출 이후 설문 문항에 응답하였다. 설문은 지각된 투명성, 지각된 능력, 그리고 AI에 대한 신뢰를 측정하기 위한 항목으로 구성되었다.

5-4 측정 변수

본 연구에서는 연구모형에 포함된 주요 변수들을 측정하기 위해 선행연구에서 검증된 척도를 바탕으로 설문 문항을 구성하였다. 모든 문항은 7점 Likert 척도(1 = 전혀 그렇지 않다, 7 = 매우 그렇다)를 사용하여 측정하였다. 문항은 기존 연구를 참고하여 번역 후 의미의 정확성을 확보하기 위해 검토 과정을 거쳐 구성하였다.

또한 각 구성개념의 Cronbach’s α 값은 0.80 이상으로 나타나 내적 일관성이 확보된 것으로 확인되었다. 구성개념 간 상관분석 결과에서도 변수 간 상관계수가 과도하게 높지 않은 것으로 나타나 판별타당성이 확보된 것으로 판단된다.

지각된 투명성(perceived transparency)은 AI 시스템이 자신의 작동 방식과 한계를 얼마나 명확하고 솔직하게 설명한다고 인식되는지를 의미한다. 이를 측정하기 위해 “AI 시스템은 자신의 한계를 명확하게 설명한다”, “AI 시스템은 정보 제공 과정이 투명하다”, “AI 시스템은 자신의 기능을 솔직하게 설명한다” 등의 총 3문항을 사용하였다[12].

지각된 능력(perceived competence)은 AI 시스템이 얼마나 유능하고 정확한 정보를 제공할 수 있다고 인식되는지를 의미한다. 이를 측정하기 위해 “AI 시스템은 유능하다”, “AI 시스템은 신뢰할 수 있는 정보를 제공한다”, “AI 시스템은 충분한 전문성을 갖추고 있다” 등의 총 3문항을 사용하였다[11],[13].

신뢰(trust)는 사용자가 AI 시스템을 얼마나 신뢰하고 의존할 의향이 있는지를 의미한다. 이를 측정하기 위해 “나는 이 AI 시스템을 신뢰한다”, “이 AI 시스템은 전반적으로 신뢰할 수 있다”, “나는 정보를 찾을 때 이 AI 시스템을 의존할 의향이 있다” 등의 총 3문항을 활용하였다[11],[12].

5-5 분석 방법

본 연구에서는 가설 검증을 위해 단계적인 분석 절차를 수행하였다. 먼저 측정 변수의 신뢰도를 검증하기 위해Cronbach’s α 계수를 활용한 신뢰도 분석을 실시하였다. 이를 통해 각 구성개념의 내적 일관성을 확인하였다. 다음으로 실험 조작의 효과를 검증하기 위해 조작 점검을 수행하고, 실험 조건 간 차이를 확인하기 위해 분산분석(ANOVA)을 실시하였다. 이를 통해 환각 공개 여부와 인터페이스 유형에 따른 집단 간 차이를 검증하였다. 이후 연구모형에서 제시된 변수 간 관계를 검증하기 위해 회귀분석 기반의 매개효과 분석을 수행하였다. 지각된 투명성과 지각된 능력이 환각 공개와 신뢰 간의 관계를 매개하는지를 검증하기 위해 간접효과를 분석하였다.

또한 인터페이스 유형의 조절효과를 검증하기 위해 조절회귀분석을 실시하였다. 특히 환각 공개와 지각된 투명성 간의 관계에서 인터페이스 유형의 상호작용 효과를 검증하였다. 모든 통계 분석은 SPSS 통계 프로그램을 활용하여 수행하였으며, 유의수준은 p < .05를 기준으로 설정하였다.

6-1 표본 특성

초기 수집된 표본 중 응답이 불완전하거나 분석 기준에 부합하지 않는 데이터를 제외한 총 130명의 자료를 최종 분석에 활용하였다. 참여자는 무작위로 네 개의 실험 조건에 배정되었으며, 각 조건별 참여자 수는 비교적 균등하게 분포하였다. 구체적으로, 버추얼 휴먼+ 환각 공개 조건은 33명, 버추얼 휴먼+ 비공개 조건은 32명, 텍스트 챗봇 인터페이스+ 공개 조건은 33명, 텍스트 챗봇 인터페이스+ 비공개 조건은 32명으로 구성되었다.

참여자의 성별은 남성과 여성 각각 65명으로 동일하게 구성되었으며, 평균 연령은 29.4세(SD = 4.8)로 나타났다. 이러한 표본 구성은 성별과 연령 측면에서 비교적 균형 잡힌 분포를 보이며, 집단 간 비교 분석에 적합한 특성을 갖는 것으로 판단된다.

6-2 신뢰도 분석

측정 변수의 내적 일관성을 검증하기 위해 Cronbach’s α를 활용한 신뢰도 분석을 실시하였다. 분석 결과, 지각된 투명성의 Cronbach’s α 값은 0.86, 지각된 능력은 0.88, 신뢰는0.90으로 나타났다. 이는 일반적으로 권장되는 기준값인 0.70을 상회하는 수준으로, 본 연구에서 사용된 측정 척도가 높은 신뢰도를 확보하고 있음을 의미한다. 이에 따라 각 구성개념은 해당 문항들의 평균값을 산출하여 단일 지표로 구성한 후 이후 분석에 활용하였다.

주요 변수들의 기술통계 분석 결과는 표 1에 제시하였다. 분석 결과, 지각된 투명성(Mean = 5.03, SD = 0.98), 지각된 능력(Mean = 5.04, SD = 0.91), 그리고 신뢰(Mean = 5.18, SD = 0.95) 모두 중간값(4점)보다 높은 수준으로 나타나, 전반적으로 참여자들이 AI 시스템에 대해 비교적 긍정적인 평가를 내린 것으로 확인되었다.

Table 1.

Descriptive statistics and reliability(N = 130)

6-3 조작점검

본 연구에서는 독립변수의 조작이 적절하게 수행되었는지를 확인하기 위해 조작점검을 표 2와 같이 실시하였다. 조작점검은 환각 가능성 공개 조건과 인터페이스 유형 조건에 대해 각각 수행되었다.

Table 2.

Manipulation check results

먼저 환각 가능성 공개 조작의 적절성을 검증하기 위해 참여자들에게 “AI 시스템이 정보 생성 과정에서 오류가 발생할 수 있다는 안내를 제공했는지”에 대한 인식 정도를 측정하였다. 분석 결과 환각 가능성 공개 조건(M = 5.68, SD = 0.84)이 비공개 조건(M = 3.12, SD = 1.01)보다 유의미하게 높게 나타났으며, 이러한 차이는 통계적으로 유의미하였다 (t(128) = 16.42, p < .001). 이는 참여자들이 환각 가능성 공개 여부를 명확하게 인식했음을 의미한다.

다음으로 인터페이스 유형 조작의 적절성을 검증하기 위해 사회적 존재감(social presence) 및 의인화 인식 정도를 측정하였다. 분석 결과 버추얼 휴먼 조건(M = 5.41, SD = 0.92)이 텍스트 챗봇 인터페이스 조건(M = 4.02, SD = 1.03)보다 유의미하게 높게 나타났으며, 이러한 차이는 통계적으로 유의미하였다 (t(128) = 8.17, p < .001). 이는 버추얼 휴먼 인터페이스가 텍스트 챗봇 인터페이스보다 더 높은 사회적 존재감과 의인화 인식을 유도했음을 의미한다.

따라서 본 연구에서 설정한 두 독립변수의 조작은 모두 적절하게 이루어진 것으로 확인되었다.

6-4 환각 가능성 공개 효과 검증

환각 가능성 공개가 사용자 인식에 미치는 영향을 검증하기 위해 분산분석(ANOVA)을 실시하였다. 분석 결과, 환각 가능성 공개 조건에서 참여자들은 AI 시스템을 더 투명하게 인식하는 것으로 나타났다. 구체적으로, 환각 가능성 공개 조건의 지각된 투명성 평균은 5.42, 비공개 조건은 4.63으로 나타났으며, 이러한 차이는 통계적으로 유의미하였다(F(1,128) = 14.37, p < .001, η² = .10). 이는 AI가 자신의 오류 가능성을 사전에 공개할 경우 사용자가 해당 시스템을 보다 투명한 기술로 인식함을 의미한다. 따라서 가설 H1은 지지되었다.

반면, 환각 가능성 공개는 AI 시스템의 능력 평가에는 부정적인 영향을 미치는 것으로 나타났다. 환각 가능성 공개 조건의 지각된 능력 평균은 4.87, 비공개 조건은 5.21로 나타났으며, 이러한 차이는 통계적으로 유의미하였다(F(1,128) = 6.12, p = .015, η² = .05). 이는 AI가 자신의 불확실성을 명시적으로 표현할 경우 사용자가 해당 시스템의 능력을 낮게 평가할 수 있음을 시사한다. 따라서 가설 H2는 지지되었다.

이러한 결과는 AI의 정보 공개가 지각된 투명성과 지각된 능력에 상반된 영향을 미친다는 점을 보여주며, 투명성 역설(transparency paradox)의 가능성을 경험적으로 뒷받침하는 결과로 해석될 수 있다. 관련 분석 결과는 표 3에 제시하였다.

Table 3.

ANOVA results for hallucination disclosure

6-5 매개 및 조절 효과 분석

환각 가능성 공개가 신뢰 형성에 미치는 과정에서 지각된 투명성과 지각된 능력의 매개 역할을 검증하기 위해 회귀분석과 PROCESS macro(Hayes, Model 7)를 활용한 분석을 실시하였다. 회귀분석 결과를 살펴보면, 전체 모형은 통계적으로 유의미한 설명력을 가지는 것으로 나타났으며(R2 = .48, Adj. R2 = .46), 지각된 능력에는 유의미한 부(-)의 영향을 미치는 것으로 나타났다(β = -.28, p = .015). 또한 지각된 투명성과 지각된 능력은 각각 신뢰에 유의미한 영향을 미치는 것으로 확인되었다(β = .41, p < .001; β = .36, p < .001). 또한 다중공선성 검증 결과 모든 변수의 VIF 값은 2.5 이하로 나타나 다중공선성 문제는 없는 것으로 확인되었다. 이러한 경로 분석 결과는 표 4에 제시하였다.

Table 4.

Regression results for mediation and moderation

한편 환각 가능성 공개가 신뢰에 미치는 직접 효과는 통계적으로 유의미하지 않은 것으로 나타났다(β = .09, p = .18). 이는 환각 가능성 공개가 신뢰에 직접적으로 영향을 미치기보다는 지각된 투명성과 지각된 능력을 통해 간접적으로 영향을 미칠 가능성을 시사한다. 따라서 가설 H5는 지지되지 않았다.

이후 매개 효과를 보다 엄밀하게 검증하기 위해 PROCESS macro를 활용한 부트스트랩 분석(5,000 resamples)을 실시하였다. 분석 결과, 환각 가능성 공개가 신뢰에 미치는 간접효과는 모두 통계적으로 유의미한 것으로 나타났다. 구체적으로 지각된 투명성을 통한 간접효과는 β = .17 (SE = .05), 95% CI [.09, .27]로 나타났으며, 지각된 능력을 통한 간접효과는 β = -.10 (SE = .04), 95% CI [-.19, -.02]로 나타났다. 이는 두 간접효과의 신뢰구간이 모두 0을 포함하지 않아 통계적으로 유의미함을 의미한다. 이러한 결과는 환각 가능성 공개가 신뢰에 미치는 영향이 단일 방향이 아닌, 투명성 경로를 통한 긍정적 효과와 능력 경로를 통한 부정적 효과가 동시에 작용하는 매개 구조임을 보여준다. 관련 결과는 표 5에 제시하였다.

Table 5.

Bootstrap results for mediation and moderated mediation effects

또한 인터페이스 유형의 조절 효과를 검증하기 위해 상호작용 항을 포함한 회귀분석을 실시한 결과, 환각 가능성 공개와 인터페이스 유형 간의 상호작용 효과가 유의미하게 나타났다(β = .21, p = .03). 단순기울기(simple slope) 분석 결과, 버추얼 휴먼 조건에서는 환각 가능성 공개가 지각된 투명성에 유의미한 영향을 미치는 것으로 나타났으며(β = .53, p < .001), 텍스트 챗봇 인터페이스 조건에서는 상대적으로 약한 효과가 나타났다(β = .29, p < .05). 이에 따라 조건부 간접효과를 분석한 결과, 버추얼 휴먼 조건에서의 간접효과는 β = .23 (SE = .06), 95% CI [.12, .36]로 나타났으며, 텍스트 챗봇 인터페이스 조건에서는 β = .12 (SE = .04), 95% CI [.04, .21]로 나타났다. 이는 환각 가능성 공개의 효과가 버추얼 휴먼 인터페이스에서 더 강하게 나타남을 의미한다.

마지막으로 조절된 매개의 지표(index of moderated mediation)를 검증한 결과, 해당 값은 β = .08 (SE = .03), 95% CI [.02, .16]로 나타났으며, 신뢰구간이 0을 포함하지 않아 통계적으로 유의미한 것으로 확인되었다. 이는 인터페이스 유형이 환각 가능성 공개와 지각된 투명성 간의 관계를 조절할 뿐 아니라, 이러한 조절이 신뢰에 대한 간접효과에도 영향을 미친다는 것을 의미한다.

종합적으로 본 연구 결과는 환각 가능성 공개가 신뢰에 미치는 영향이 직접적인 효과가 아니라 지각된 투명성과 지각된 능력을 통한 간접 효과를 중심으로 작용하며, 이러한 과정이 인터페이스 유형에 의해 조절되는 조절된 매개 구조로 해석될 수 있는 경향을 보여준다.

6-6 조절 효과 시각화

인터페이스 유형의 조절 효과를 보다 직관적으로 확인하기 위해 상호작용 효과를 시각화한 결과를 그림 2에 제시하였다. 앞선 회귀분석에서 환각 가능성 공개와 인터페이스 유형 간 상호작용 효과가 유의미하게 나타났으며(β = .21, p = .03), 이를 바탕으로 조건별 평균값을 시각적으로 비교하였다.

Fig. 2.

Moderating effect of agent type on perceived transparency

그림 2에서 확인할 수 있듯이, 환각 가능성 공개 조건에서 지각된 투명성은 전반적으로 증가하는 경향을 보였다. 그러나 이러한 증가 효과는 인터페이스 유형에 따라 차이를 보였다. 구체적으로, 버추얼 휴먼 인터페이스 조건에서는 환각 가능성 공개에 따른 지각된 투명성 증가 폭이 상대적으로 크게 나타났지만, 텍스트 챗봇 인터페이스 조건에서는 그 증가 폭이 비교적 완만하게 나타났다.

이러한 결과는 동일한 정보 공개라도 인터페이스 유형에 따라 사용자 인식이 다르게 형성될 수 있음을 보여준다. 특히 버추얼 휴먼과 같은 의인화된 인터페이스에서는 AI의 한계나 오류 가능성에 대한 설명이 단순한 기술적 정보가 아니라 정직성과 책임성을 나타내는 사회적 신호로 해석될 가능성이 크다. 반면 텍스트 기반 인터페이스에서는 동일한 정보가 더 기능적이고 기술적인 설명으로 인식될 수 있다.

이와 같은 결과는 의인화 이론과 Media Equation 관점에서 설명될 수 있다. 인간과 유사한 인터페이스는 사용자가 AI를 사회적 행위자로 인식하도록 만들며, 이로 인해 정보의 해석 방식이 변화하게 된다. 따라서 버추얼 휴먼 인터페이스는 환각 공개가 가지는 긍정적 효과를 강화하는 요인으로 작용할 수 있다. 즉 본 연구 결과는 AI 커뮤니케이션에서 정보의 내용뿐 아니라 전달 방식, 즉 인터페이스 특성이 사용자 인식 형성 과정에서 중요한 역할을 한다는 점을 시사한다.