대화형 AI 생성 정보에 대한 의심이 소비자 정보검증 행동에 미치는 영향 = The Impact of Suspicion Toward Conversational AI?Generated Information on Consumers’ Information Verification Behavior|RISS 상세보기

다국어 초록 (Multilingual Abstract)

Recent advances in conversational artificial intelligence(AI), represented by systems such as ChatGPT, Perplexity, and Claude, have fundamentally transformed how consumers search for information by enabling natural language–based interactions. However, due to the probabilistic prediction mechanisms of large language models(LLM), these systems frequently generate plausible yet incorrect responses—commonly referred to as hallucinations—which may lead consumers to erroneous judgments and decision-making. Against this backdrop, the present study examines the structural relationships among uncertainty of conversational AI information services(accuracy, integrity, and transparency), consumer information-processing styles(heuristic and systematic processing), suspicion, and information verification behavior in the context of conversational AI.
An online survey was conducted with 300 adult consumers aged 19 and above who had used conversational AI within the past six months. Descriptive statistics and one-way ANOVAs were used to assess overall variable levels and differences according to conversational AI usage characteristics. Partial least squares structural equation modeling(PLS-SEM) was then employed to analyze the structural relationships among uncertainty of conversational AI information services, information-processing styles, suspicion, and verification behavior.
The key findings are as follows. First, major variables related to conversational AI appeared at mid-to-high levels overall, with significant differences observed in information verification behavior depending on information-search purposes. Specifically, consumers who used conversational AI for educational purposes exhibited higher levels of information verification, whereas those who used it for practical convenience or leisure purposes showed relatively lower verification tendencies. No significant differences were found across usage time patterns, suggesting that the contextual purpose of use, rather than the frequency or duration of use, plays a more critical role in explaining consumers’ verification behavior.
Second, perceived uncertainty regarding accuracy and integrity significantly increased suspicion, which in turn facilitated information verification behavior. This finding highlights suspicion as a psychological trigger that encourages consumers to verify AI-generated information rather than accept it uncritically. In contrast, uncertainty related to transparency did not significantly predict suspicion or verification behavior, indicating that consumers may already perceive AI information-generation processes as relatively transparent, thereby limiting the role of transparency uncertainty in activating verification.
Third, systematic processing exerted both direct and indirect positive effects on verification behavior, confirming partial mediation through suspicion. This suggests that when consumers engage in analytical information processing, suspicion functions as an additional motivational force that promotes verification. Conversely, heuristic processing showed only a negative direct effect on verification behavior, with no significant indirect effect through suspicion. This indicates that intuitive and experience-based processing of AI responses reduces consumers’ likelihood of engaging in rigorous evaluation, as suspicion is insufficiently activated to trigger verification efforts.
This study makes several contributions. First, it foregrounds information verification—an aspect relatively overlooked in prior consumer research—within the emerging context of conversational AI. Second, by structuring uncertainty of conversational AI information services into three dimensions—accuracy, integrity, and transparency—this study refines a previously broad concept into a framework that is better suited to the AI context. Third, it examines heuristic and systematic processing as independent influences on verification behavior, acknowledging that the two modes may operate concurrently depending on usage context. Finally, it identifies suspicion as a central mediating mechanism that activates verification behavior, reframing suspicion not as a merely negative response but as a protective cognitive strategy in AI-driven information environments.

번역하기

국문 초록 (Abstract)

최근 ChatGPT, Perplexity, Claude 등으로 대표되는 대화형 인공지능(Conversational AI)은 자연어 기반 상호작용을 통해 소비자의 정보 탐색 방식을 근본적으로 변화시키고 있다. 그러나 대규모 언어모델(LLM)의 확률적 예측 구조로 인해 사실이 아닌 정보를 그럴듯하게 생성하는 환각(hallucination) 문제가 지속적으로 발생하고 있으며, 이는 소비자의 잘못된 판단과 의사결정 오류를 유발할 수 있다는 점에서 정보검증의 중요성을 더욱 부각시키고 있다. 본 연구는 이러한 환경에서 소비자가 대화형 AI 정보 제공 서비스에 대해 느끼는 불확실성(정확성, 진실성, 투명성), 소비자 인지 처리 특성(휴리스틱 처리, 체계적 처리), 의심, 정보검증 행동 간의 구조적 관계를 규명하고자 하였다.
본 연구는 최근 6개월 이내 대화형 AI를 사용한 경험이 있는 만 19세 이상 성인 소비자 300명을 대상으로 온라인 설문조사를 실시하였다. 기술통계와 일원분산분석을 통해 주요 변수 수준 및 대화형 AI 이용 경험에 따른 주요 변수 차이를 살펴본 뒤, 부분최소제곱 구조방정식모형(PLS-SEM)을 활용하여 대화형 AI 정보 제공 서비스 불확실성, 소비자 인지 처리 특성, 의심, 정보검증 행동 간의 구조적 관계를 분석하였다.
주요 연구 결과는 다음과 같다. 첫째, 대화형 AI 관련 주요 변수들은 전반적으로 중간 이상 수준을 보였으며, 정보 검색 목적에 따라 정보검증 행동 수준에 차이가 나타났다. 구체적으로, 대화형 AI를 교육적 목적으로 활용하는 소비자는 정보검증 수준이 높았던 반면, 실용 및 여가의 목적으로 활용하는 소비자는 그 수준이 상대적으로 낮았다. 이용 시간 유형에 따라서는 어떠한 주요 변수 차이도 유의하게 나타나지 않았다는 점을 고려하였을 때, 이는 대화형 AI 이용의 빈도나 강도 자체보다는 이용 목적이라는 맥락적 요인이 소비자의 정보검증 행동을 보다 효과적으로 설명하는 변수일 가능성을 시사한다.
둘째, 정확성과 진실성에 대한 불확실성은 의심을 유의하게 증가시키며, 의심은 다시 정보검증 행동을 촉진하는 매개 역할을 수행하는 것으로 나타났다. 이는 대화형 AI 및 대화형 AI가 생성한 정보에 대하여 소비자가 의문을 가질수록, 정보를 그대로 수용하지 않고 추가적인 확인 과정에 나서려는 경향이 강화됨을 시사한다. 반면 투명성에 대한 불확실성은 의심 및 정보검증에 유의한 영향을 미치지 않았는데, 이는 응답자들이 이미 AI의 정보 제공 과정이 비교적 개방적이라고 인식하고 있어 투명성이 검증 행동을 유발하는 핵심 요인으로 작동하지 않았을 가능성을 보여준다.
셋째, 체계적 처리는 정보검증 행동에 정(+)의 직접효과와 간접효과를 모두 보여 부분 매개가 확인되었으며, 이는 사용자가 정보를 분석적으로 이해하려는 사고 과정에서 의심이 추가적 검증 동기로 작용함을 의미한다. 반면 휴리스틱 처리는 정보검증 행동을 감소시키는 방향으로만 작용하였으며, 의심을 매개로 한 간접효과는 유의하지 않았다. 이는 사용자가 AI의 답변을 기존 지식이나 직관에 기반해 빠르게 처리할수록 정보에 대한 정교한 평가 과정이 생략되고, 그 결과 의심이 검증 행동을 촉발할 만큼 충분히 활성화되지 않는다는 점을 시사한다.
본 연구는 다음과 같은 의의를 지닌다. 첫째, 기존 소비자 연구에서 상대적으로 간과되어 온 정보검증 행동을 대화형 AI 환경이라는 새로운 맥락에서 분석했다는 점에서 학문적 기여가 있다. 둘째, 정보 제공 서비스 불확실성을 대화형 AI의 맥락에서 정확성, 진실성, 투명성이라는 세 차원으로 구조화해 제시함으로써, 포괄적이었던 기존의 개념을 AI 맥락에 적합한 틀로 구체화하였다. 셋째, 소비자의 인지 처리 방식을 정보검증 행동에 영향을 미치는 독립적 요인으로 설정하고, 두 방식이 상황에 따라 병렬적으로 작동할 수 있음을 반영하여 분석하였다. 넷째, 의심을 정보검증 행동을 활성화하는 핵심 매개 요인으로 규명하여, 의심을 단순한 부정적 정서가 아닌 소비자 보호적 기능을 수행하는 인지 전략으로 재해석하였다.

번역하기

최근 ChatGPT, Perplexity, Claude 등으로 대표되는 대화형 인공지능(Conversational AI)은 자연어 기반 상호작용을 통해 소비자의 정보 탐색 방식을 근본적으로 변화시키고 있다. 그러나 대규모 언어모...

목차 (Table of Contents)