현대 자유의지 논쟁을 통해 본 AI 창작 주체성의 긍정 가능성 = The Affirmative Possibility of AI Creative Agency Through Contemporary Free Will Debates|RISS 상세보기

다국어 초록 (Multilingual Abstract)

In recent years, AI-based generative systems have produced creative outputs that are increasingly difficult to distinguish from those of human artists. Cases in which such outputs become objects of institutional endorsement and controversy-competition awards, copyright disputes, and transactions in the art market-are rapidly accumulating. This development raises questions that go beyond the technical issue of whether AI can generate creative products. It instead presses a set of foundational normative questions: who should count as the agent of artistic creation, and under what conditions praise and blame-as well as the attribution of responsibility-can be justified. Rather than confining the debate to a binary choice between AI as a mere tool and AI as a creative agent, this dissertation investigates the affirmative possibility of recognizing AI as a creative agent, by analyzing the philosophical conditions under which creative action can be responsibly attributed and the extent to which AI can satisfy those conditions. To do so, it adopts the debate on free will as its primary framework, since that debate has long examined the conditions of action-attribution and responsibility.

Chapter I clarifies the concept of agency presupposed in dominant discussions of creativity and argues that standard approaches-taxonomies of creativity, cognitive-scientific models, and neuroscientific explanations-remain insufficient to normatively justify AI creative agency. While these approaches can provide descriptive accounts of creative processes, they do not supply criteria for deciding whose action an output should count as, or who is an appropriate target of praise and blame, reward and sanction. The dissertation therefore reframes the problem of AI creative agency in terms of action attribution and the conditions of responsibility, and argues that the free-will debate provides philosophically fruitful resources for analyzing AI-generated artistic action. It then offers an overview of major positions in the free-will debate-libertarianism, determinism, and compatibilism. On this basis, it rejects libertarianism insofar as it explains creation and responsibility by appeal to a transcendent self-origination (causa sui), thereby narrowing the criteria required for real artistic practice and institutional design. It instead adopts compatibilism as the basic standpoint for analyzing creative agency, since compatibilist accounts aim to explain and secure substantive freedom and responsibility even in a deterministic world.

Chapter II analyzes the capacity conditions of free will with a focus on Daniel Dennett’s compatibilism. Dennett famously reconstructs free will as the “free will worth wanting,” rejecting the demand for a transcendent self-origination and emphasizing a naturalistic account of agency. On this view, freedom is not a mysterious metaphysical power but a complex of capacities-centrally including self-control and reasons-responsiveness-that enable agents to govern their conduct in socially and institutionally embedded contexts. Dennett also emphasizes the gradual, developmental character of agency through bootstrapping, a process by which agents “bootstrap” themselves into increasingly robust forms of responsibility and self-governance. Drawing on this framework, the dissertation examines skeptical challenges often posed to compatibilism, including the manipulation argument and the problem of luck, and argues that Dennett’s compatibilism can still provide a substantive account of an agent’s freedom and responsibility within deterministic causal structures.

The dissertation then applies these capacity conditions to AI creative systems. It argues that current AI can implement limited self-control insofar as it can modulate output tendencies through feedback and interaction. It further contends that, with respect to reasons-responsiveness, AI can partially instantiate functional structures that register normatively relevant considerations and adjust outputs accordingly. From the perspective of Dennettian bootstrapping, AI autonomy may be understood not as a fixed property but as a practical capacity trained and developed within sociocultural contexts. Nonetheless, at the present stage, AI lacks robust metacognitive self-monitoring and faces clear limits as an agent that can autonomously form and articulate normative reasons. Even so, the dissertation argues that where self-control and reasons-responsiveness are structurally implemented above a certain threshold, there is room to recognize partial (rather than full) creative agency in AI-generated artistic action.

Chapter III extends the free-will discussion to the problem of desert and responsibility. According to Dennett, responsibility is not justified by basic desert-the idea that an agent deserves praise or blame simply in virtue of having performed the action-but rather by forward-looking functions that sustain trust, cooperation, and the practical regulation of social life within moral, legal, and institutional practices. Building on Dennett’s notion of non-basic desert and its forward-looking justification, the dissertation analyzes how praise and blame, reward and sanction can be justified in artistic contexts. Through concrete cases-competition awards, copyright registration and cancellation, and disputes over stylistic appropriation-it shows how the single premise that “AI is merely a tool” generates institutional inconsistency and responsibility gaps. It then proposes that a more coherent approach is to recognize AI creative agency as partial and conditional, depending on the scope and level to which relevant capacity conditions are satisfied, and to attribute credit and responsibility within that bounded range in ways that are practically and institutionally more consistent.

Finally, in the latter part of Chapter III, the dissertation examines the free-will skeptic’s concept of answerability as a complementary device. Free-will skepticism rejects responsibility grounded in basic desert and reconceives responsibility as a dialogical structure consisting of demands for reasons, responses to those demands, and subsequent normative improvement. On the influential forward-looking articulation of answerability, responsibility practices are grounded not in desert but in three non-desert-invoking moral desiderata: protection, reconciliation, and moral formation. This forward-looking answerability-responsibility offers practical insight by showing that, even without granting AI metaphysical standing, AI can be incorporated into practices of explanation, justification, and correction, thereby sustaining responsibility practices. However, while acknowledging the significance of an answerability-based practical model of responsibility, the dissertation argues that a wholesale abandonment of desert discourse risks weakening the norm-forming role of praise and blame in artistic communities and leaves little room to treat AI as an agent to whom creative credit can be attributed.

In conclusion, this dissertation retains compatibilism as the basic framework for explaining AI agency, while proposing a hybrid approach for transitional circumstances: depending on the extent to which AI satisfies relevant capacity conditions, the skeptic’s concept of answerability should be introduced as a supplementary device for responsibility allocation and institutional design. This proposal is grounded in the judgment that current AI does not yet sufficiently satisfy the capacity conditions of self-control and reasons-responsiveness. Nevertheless, if AI systems gradually develop to satisfy capacity conditions comparable to those of human creators, there may be greater room to attribute responsibility to AI on the basis of non-basic desert. Ultimately, the central issue is not the absolute metaphysical question of whether AI truly has free will, but the normative question of under what capacity conditions and within what institutional contexts it is justified to treat AI as a creative agent-a question that should stand at the center of contemporary art institutions and policy design.

번역하기

국문 초록 (Abstract)

오늘날 AI 기반 생성 시스템이 인간 예술가의 작품과 구별하기 어려운 수준의 창의적 결과물을 산출하며, 공모전 수상, 저작권 분쟁, 미술 시장 거래와 같은 제도적 승인과 논쟁의 대상이 되는 사례가 빠르게 축적되고 있다. 이러한 현상은 “AI가 창의적 결과물을 만들 수 있는가”라는 기술적 질문을 넘어, “예술 창작의 주체를 누구로 볼 것인가”, 그리고 “그 주체에게 어떤 방식으로 찬사·비난과 같은 평가와 책임을 정당하게 귀속할 것인가”라는 근본적인 물음을 제기한다. 본 논문은 이러한 논쟁을 단순히 AI가 도구인지, 창작 주체인지를 묻는 양자택일적 구도에 국한하지 않고, 창작 행위를 책임 있게 귀속할 수 있는 철학적 조건이 무엇인지, 그리고 그 조건을 AI가 어느 정도 충족할 수 있는지를 분석함으로써 AI의 창작 주체성에 대한 긍정 가능성을 탐구한다. 이를 위해 특히 행위 귀속과 책임의 조건을 면밀하게 검토해 온 자유의지(free will) 논의를 기본 틀로 삼는다.

먼저 I장에서는 창의성 논의에서 전제되어 온 주체성 개념을 검토하고, 기존의 창의성 분류, 인지과학, 신경과학적 설명이 AI 창작 주체성을 규범적으로 정당화하기에는 불충분하다는 점을 밝힌다. 창의성 유형을 분류하거나 인지 메커니즘을 분석하는 접근은 산출과정에 대한 기술적(descriptive) 설명은 제공하나, 그 산출을 누구의 행위로 간주해야 하는지, 누가 찬사와 비난, 상과 벌의 적절한 대상인지에 대한 판단 기준을 제시하지 못한다. 이에 본 논문은 창작 주체성의 문제를 행위의 귀속과 책임의 조건이라는 관점에서 정리하고, 자유의지 논쟁이 AI 창작 행위를 분석하는 데 유효한 철학적 자원을 제공한다고 주장한다. 이어 자유의지 논쟁의 역사와 주요 입장들-형이상학적 자유의지론(libertarianism), 결정론(determinism), 양립주의(compatibilism)-을 검토한다. 이 검토를 바탕으로 본 논문은 초월적 자기기원성(causa sui)에 기대어 창작과 책임을 설명하는 형이상학적 자유의지론은 현실의 예술적 실천과 제도 설계에 필요한 판정 기준을 협소화한다는 이유로 배제하고, 결정론적 세계 내에서도 실질적 자유와 책임을 설명·확보하려는 양립주의를 창작 주체성 분석의 기본 입장으로 채택한다.

II장에서는 대니얼 데닛(Daniel Dennett)의 양립주의를 중심으로 자유의지의 능력 조건을 분석한다. 데닛은 자유의지를 초월적 자기기원성이 아니라 “원할 가치가 있는 자유”(free will worth wanting)로 재규정하면서, 이를 자기통제(self-control)와 이유 반응성(reason-responsiveness)이라는 능력들의 복합적 구조로 파악한다. 그리고 이러한 능력들이 사회적·제도적 맥락 속에서 점진적으로 형성되는 자기구축(bootstrapping)의 과정이라는 점에 주목한다. 이러한 데닛의 틀을 바탕으로, 조작 논증(manipulation argument)과 운(luck) 문제 등 자유의지 회의론자들이 제기하는 비판을 검토하면서, 그의 양립주의가 결정론적 인과 구조 속에서도 행위자의 자유와 책임을 실질적으로 설명할 수 있음을 논증한다.

이어 이 능력 조건을 AI 창작 시스템에 적용해, 현행 AI가 피드백과 상호작용을 통해 산출 경향을 조정하는 방식으로 제한적 자기통제를 구현할 수 있으며, 이유 반응성의 측면에서도 규범적 이유를 감지하고 산출을 조정하는 기능 구조를 부분적으로 갖출 수 있음을 보인다. 나아가 데닛이 강조하는 자기구축 과정의 관점에서, AI의 자율성은 고정된 속성이 아니라 사회문화적 맥락에서 훈련되고 발달하는 실천적 능력으로 이해된다. 다만, 현 단계의 AI는 메타인지적 자기감독을 결여하고 있으며, 규범적 이유를 스스로 형성하고 설명하는 주체로 보기에는 한계가 있다. 그럼에도 본 논문은 이러한 분석을 토대로 자기통제와 이유 반응성이 일정 수준 이상 구조적으로 구현된 체계라면 AI의 창작 행위에 대해 전면적으로는 아니더라도 부분적으로 창작 주체성을 인정할 여지가 있음을 주장한다.

III장에서는 자유의지 논의를 응분(desert)과 책임(responsibility)의 문제로 확장한다. 데닛에 따르면, 책임은 행위자가 단지 그 행위를 했다는 사실만으로 칭찬이나 비난을 마땅히 받을 자격인 ‘기본적 응분’(basic desert)에 근거하기보다는, 도덕·법·제도가 신뢰와 협동을 유지하기 위해 필요로 하는 ‘전망적’(forward-looking) 기능에 의해 정당화된다. 본 논문은 데닛이 제안하는 ‘비기본적 응분’(non-basic desert)과 그에 대한 전망적 정당화를 토대로, 예술적 맥락에서의 찬사·비난 및 상·벌이 어떤 방식으로 정당화될 수 있는지 분석한다. 이 과정에서 공모전 수상, 저작권 등록·취소, 스타일 도용 논쟁 등 구체적 사례를 통해 “AI는 도구”라는 단일 전제가 초래하는 제도적 불일치와 책임 공백을 드러내고, 능력 조건의 충족 범위에 따라 부분적·조건부로 창작 주체성을 인정하며, 그 범위 안에서 공로와 책임을 귀속하는 방안이 실천적·제도적으로 보다 정합적임을 제시한다.

마지막으로, III장 후반부에서는 자유의지 회의주의의 응답가능성(answerability) 개념을 보완적 장치로 검토한다. 회의주의는 기본적 응분에 근거한 책임을 배제하고, 책임을 이유 제시 요구와 그에 대한 응답, 그리고 규범 개선으로 이어지는 대화적 구조로 재규정한다. 응답가능성 개념은 AI에게 형이상학적 자격을 부여하지 않더라도, AI를 설명·정당화·교정 절차의 대상으로 편입함으로써 책임 실천을 정당화할 수 있다는 점에서 실천적 통찰을 제공한다. 그러나 본고는 이러한 회의주의적 관점이 응답가능성에 기반한 실천적 책임 모델을 제시한다는 의의를 인정하면서도, 응분 언어의 전면적 폐기는 예술 공동체에서의 칭찬과 비난을 통한 규범 형성 구조를 약화시키며, AI를 창작의 공로를 인정받는 주체로 다룰 여지를 남겨두지 않는 한계를 지닌다고 평가한다.

결론적으로, 본고는 양립주의를 AI 주체성 설명의 기본 틀로 유지하되, 현재와 같은 과도기적 상황에서는 AI 능력 조건의 충족 수준에 따라 회의주의적 응답가능성 개념을 책임 배분과 제도 설계의 보완 장치로 도입하는 절충적 접근을 제안한다. 이는 현행 AI가 자기통제와 이유 반응성을 아직 충분히 충족하지 못한다는 판단에 근거한다. 다만 AI 시스템이 점진적 발전을 통해 인간 창작자와 유사한 수준의 능력 조건을 충족하게 된다면, 비기본적 응분에 근거하여 AI에게 책임을 귀속시킬 여지가 생긴다. 궁극적으로 중요한 것은 AI가 진정으로 자유의지를 갖는가라는 형이상학적 질문이 아니라, 어떤 능력 조건과 어떤 제도적 맥락에서 AI를 창작 주체로 다루는 것이 정당한가라는 규범적 질문이 현대 예술 제도와 정책 설계의 중심이 되어야 한다는 점이다.

번역하기

오늘날 AI 기반 생성 시스템이 인간 예술가의 작품과 구별하기 어려운 수준의 창의적 결과물을 산출하며, 공모전 수상, 저작권 분쟁, 미술 시장 거래와 같은 제도적 승인과 논쟁의 대상이 되...

목차 (Table of Contents)