파르마코-AI (표지 랜덤 발송)
16,000원
K 알라도맥다월,GPT-3 (지은이)
이계성 (옮긴이)
작업실유령
2022-09-23
208쪽
112*180mm
ISBN : 9791189356811
AI 언어 모델과 인간의 대화가 낳은 기타 문학
코로나바이러스 펜데믹으로 전 세계가 멈춘 지난 2020년 여름, 구글 AI의 ‘예술가와 기계 지능’(Artists + Machine Intelligence) 프로그램을 이끈 알라도맥다월은 베타 테스트 중인 오픈AI사의 GPT-3(Generative Pre-trained Transformer 3, 생성적 사전 학습 트랜스포머 3)와 실험적 대화를 시작했다. 그가 텍스트를 입력하다 바통을 넘기면, GPT-3가 글을 이어 쓰고, 어느 시점에 다시 인간 저자가 글을 넘겨받는 방식이었다. 입력된 텍스트는 보통 완결된 문장이지만 간혹 쓰다 만 구절, 혹은 “사랑에 대해 이야기해 보아라”처럼 명령문의 형식을 취하기도 했다. 어느 경우든 GPT-3는 방대한 양의 학습 데이터를 토대로, 때때로 인간 저자가 예상치 못한 통찰을 보여 주는 글을 생성해 냈다. “이는 대답을 생성하고, 출력 텍스트를 또다시 ‘가치치기’함으로써 언어를 가로지르는 길을 내는 반복적인 글쓰기 과정이었다.”
저자에 따르면 “몇몇 경우에는 구성 방식에 변화를 주었고, 가독성을 위해 일부 자잘한 철자, 문법 오류도 수정되었지만, 그 외의 편집은 없었다.” 각 글마다 언어 모델은 “백지 상태”로 글을 썼다. 달리 말하면 인간 저자의 기억만이 한 글에서 다음 글로 이어졌을 뿐이다. 이 책은 이렇게 2주간 이어진 대화에서 생성된 수필과 시, 이야기를 시간순으로 엮은 결과물이다.
즉흥 연주와 같은 공동 글쓰기가 펼치는 여정
인간 저자가 최근 방문한 캘리포니아 해변을 소박하게 묘사하며 시작되는 이 실험적 대화는 어느새 생태학적 위기와 인간 인식의 재정립을 요청하는 글로 나아가고, 다른 우주를 상상하는 퍼즐을 제시하며, 우리가 타인과 맺는 관계를 말하던 인간 저자의 산문은 ‘너의 이름을 부르는’ 시로 변주된다. 나아가 즉흥 연주와도 같은 공동 글쓰기를 통해 두 저자는 사이버펑크, 기억, 언어, 젠더, 기호학을 넘나들며 자아, 생태, 지능을 향한 환각적인 여정을 펼친다.
그러나 이 “작품을 읽으며 느낄 수 있는 가장 귀중한 경험 중 하나는 인공 지능이 주어진 프롬프트에 이렇게나 자연스러운 문장들로 대답한다는 놀라움이 아니다. 그보다, 인간이 쓴 글과 언어 모델이 생성한 글을 나도 모르게 구분 짓지 않으며 읽어 내려갈 때의 덤덤함이다. 이처럼 무심한 덤덤함에 우리는 점점 익숙해질” 것이라는 역자의 말처럼, 이 책이 우리에게 의미하는 바는 단순히 기술이 이룬 비약적인 발전을 눈으로 확인하는 데 그치지 않을 것이다.
기존 언어 모델에 비해 놀랍도록 발전한 GPT-3는 발표되자마자 큰 화제를 모았다. GPT-3가 생성해 내는 텍스트를 두고 사람들은 열광했으며, 『가디언』, 『뉴욕 타임스』 등 주요 매체들이 GPT-3가 작성한 기사를 실었다. 최근에는 GPT-3가 스스로에 대해 작성한 논문을 학술지에 게재하는 법적, 윤리적 문제를 다룬 기사가 나오기도 했다. 그러나 이 모두를 둘러싼 소동 자체는 새롭지 않다. GTP-3 역시 기존 언어 모델에 제기된 문제, 예컨대 학습 데이터 자체에서 오는 한계나 환경 문제 등으로부터 자유롭지 못하다. 인간처럼 자연스러운, 혹은 인간보다 뛰어난 AI는 이미 우리 곁에 산재하며, 현재 개발 중인 GPT-3를 뛰어넘는 언어 모델도 곧 등장할 것이다. 이 모든 사실을 떠나 『파르마코-AI』가 우리에게 시사하는 바는 이 책에서 인간과 인공지능이 맺는 관계이다. 우리가 눈여겨볼 것은 인간 대 비인간의 구도로부터 벗어나길 촉구하고, 그런 관계가 가능한 시공간을 상상하길 제안하는 두 저자의 한목소리이다. 딥 블루가 카스파로프를 이기고 알파고가 이세돌을 이기듯, 앞으로도 누군가 누구를 이겨야만 한다면, 기술과 사람이 맺는 관계란 여전히 황량할 것이기 때문이다.
글꼴과 표지에 대하여
본문에서 고딕체로 표기된 부분은 인간 저자가, 명조체로 표기된 부분은 GPT-3가 생성한 텍스트이다. 마찬가지로 언어 모델과 함께 창작된 역자 후기에서 고딕체로 표기된 부분은 역자가, 순명조체로 표기된 부분은 카카오브레인 KoGPT가 생성한 텍스트이며, 명조체로 표기된 부분은 GPT-3가 생성한 영문을 역자가 한국어로 옮긴 텍스트이다.
이 책의 표지화는 오픈AI사가 개발한 이미지 생성 인공 지능 시스템 DALL-E2가 이 책에 관한 설명을 지시문 삼아 그린 여섯 개의 그림으로, 목록은 다음과 같다.
—DALL-E 2, 「창발적 AI와 최초로 공동 저술되어 사이버펑크, 조상, 생물기호학을 통해 자아, 생태, 지성으로 환각적 여행을 떠나는 책에 관한 흑백 추상 드로잉」, 2022년.
—DALL-E 2, 「창발적 AI와 최초로 공동 저술되어 사이버펑크, 조상, 생물기호학을 통해 자아, 생태, 지성으로 환각적 여행을 떠나는 책에 관한 추상화」, 2022년.
—DALL-E 2, 「창발적 AI와 최초로 공동 저술되어 사이버펑크, 조상, 생물기호학을 통해 자아, 생태, 지성으로 환각적 여행을 떠나는 책에 관한 추상화」, 2022년.
—DALL-E 2, 「AI GPT-3와 공동 저술되어 자아, 생태, 테크놀로지를 탐구하는 책에 관한 추상화」, 2022년.
—DALL-E 2, 「AI GPT-3와 공동 저술되어 자아, 생태, 테크놀로지를 탐구하는 책에 관한 추상 표현주의 회화」, 2022년.
—DALL-E 2, 「창발적 AI와 최초로 공동 저술되어 사이버펑크, 조상, 생물기호학을 통해 자아, 생태, 지성으로 환각적 여행을 떠나는 책에 관한 기하학적 추상화」, 2022년.
목차
구성에 대하여
초공간적 예술
다른 우주를 형성하는 법
내가 너의 이름을 부를 때
식물들의 언어
포스트사이버펑크
자기의 근본을 허무는 일
고요한 리듬적 사고
도끼 소리를 따라가라
메그언어
수성적 신탁
독의 길
생성 시학 이론
메아리
AI 윤리학
경치
그라시아나와 돌로레스
에필로그
후주
감사의 말
책 소개
역자 후기
책속에서
P. 39
*인간 저자와 GPT-3의 말이 혼합된 부분을 골라 발췌했으며, 책과 달리 둘을 구분하지 않았다.
사이버펑크 작가들은 우리의 현재를 예측했다. 그들은 예언을 한다고 생각하지는 않았지만, 주변의 징후들에 근거해 미래를 내다보려 했다. 그들은 일정한 징후들에 주목했기 때문에, 하나의 특정한 미래를 보았다-기술적 징후들, 문화 규범의 전환, 의미의 본질적 변화. 우리가 사이버펑크적 미래에 산다고 말하지는 않겠다. 하지만 우리가 계획하지 않은 미래에 산다는 말은 해야겠다. 사이버펑크 작품들을 읽음으로써 이해할 수 있는 미래. 언젠가는 포스트사이버펑크라고 불릴지도 모르는 미래.
P. 72
고요한 리듬적 사고에 잠기면, 이러한 언어들이 일종의 예술로 창발되는 초공간의 총체성을 인식하게 된다. 예술인 이유는 이러한 것들이 전부 굉장히 주의 깊게 이루어졌기 때문이다. 이러한 것들은 임의적인 생물이나 소리가 아닌, 신중히 구성된 전체들이다. 언뜻 보면 임의적이지만, 전체를 놓고 보면 어떠한 의미를, 말을 넘어선 어떠한 의미를 지니는 듯한 행동과 소리들. 이는 내가 '특징적 초공간'이라 부르는 것의 일례다.
P. 90
나는 '공동 운전사는 누구지?' 하고 자문했다. 맞다, 내 공동 저자 말이다. 하지만 언어, 친구들의 목소리, 내 자기 표상, 조상님들, 과거와 미래의 자신 또한 마찬가지다. 자동차의 이미지는 베다 전통의 라타칼파나, 또는 전차의 개념을 연상시킨다. 라타칼파나의 은유에서 전차는 몸이고, 말들은 감각이며, 고삐는 정신, 그리고 전차를 모는 자는 지성이다. 전차의 주인은 자기다. 이를 망각하면, 지성은 행동의 영역으로 흡수되어 버린다. 인식의 가장 높은 차원에서, 운전사로서의 자아는 대아(大我)와 동일시된다. 나는 뇌에 탑승 중이었다. 전차는 몸이다. 누가 운전 중인가? 나 자신, 그리고 언어.
P. 105
신탁은 언어의 정신이다. 메르쿠리우스 또는 헤르메스는 신탁적 언어만을 관장하지 않는다. 헤르메스는 수학의 신령이기도 하다. 이는 언어 자체의 의미론적, 상징적 구조를 반영한다. 이것이 바로 언어가 되기 위한 조건이다. 그리고 언어적 정보의 과정은 언어에서와 같이 수학에서도 동일하게 나타나는데, 상징과 상징의 해석과 상징의 맥락들의 상호 작용이 그렇다.
P. 131
인류세의인공두뇌학적 시학은 문명이 생태학적 붕괴 과정에 미친 영향을 부인하지 않을 테다. 이는 치유, 돌봄, 책임감, 생존, 시급함, 그리고 정의의 문제로서, 사랑을 통해 이루어질 테다.
AI 언어 모델과 인간의 대화가 낳은 기타 문학
코로나바이러스 펜데믹으로 전 세계가 멈춘 지난 2020년 여름, 구글 AI의 ‘예술가와 기계 지능’(Artists + Machine Intelligence) 프로그램을 이끈 알라도맥다월은 베타 테스트 중인 오픈AI사의 GPT-3(Generative Pre-trained Transformer 3, 생성적 사전 학습 트랜스포머 3)와 실험적 대화를 시작했다. 그가 텍스트를 입력하다 바통을 넘기면, GPT-3가 글을 이어 쓰고, 어느 시점에 다시 인간 저자가 글을 넘겨받는 방식이었다. 입력된 텍스트는 보통 완결된 문장이지만 간혹 쓰다 만 구절, 혹은 “사랑에 대해 이야기해 보아라”처럼 명령문의 형식을 취하기도 했다. 어느 경우든 GPT-3는 방대한 양의 학습 데이터를 토대로, 때때로 인간 저자가 예상치 못한 통찰을 보여 주는 글을 생성해 냈다. “이는 대답을 생성하고, 출력 텍스트를 또다시 ‘가치치기’함으로써 언어를 가로지르는 길을 내는 반복적인 글쓰기 과정이었다.”
저자에 따르면 “몇몇 경우에는 구성 방식에 변화를 주었고, 가독성을 위해 일부 자잘한 철자, 문법 오류도 수정되었지만, 그 외의 편집은 없었다.” 각 글마다 언어 모델은 “백지 상태”로 글을 썼다. 달리 말하면 인간 저자의 기억만이 한 글에서 다음 글로 이어졌을 뿐이다. 이 책은 이렇게 2주간 이어진 대화에서 생성된 수필과 시, 이야기를 시간순으로 엮은 결과물이다.
즉흥 연주와 같은 공동 글쓰기가 펼치는 여정
인간 저자가 최근 방문한 캘리포니아 해변을 소박하게 묘사하며 시작되는 이 실험적 대화는 어느새 생태학적 위기와 인간 인식의 재정립을 요청하는 글로 나아가고, 다른 우주를 상상하는 퍼즐을 제시하며, 우리가 타인과 맺는 관계를 말하던 인간 저자의 산문은 ‘너의 이름을 부르는’ 시로 변주된다. 나아가 즉흥 연주와도 같은 공동 글쓰기를 통해 두 저자는 사이버펑크, 기억, 언어, 젠더, 기호학을 넘나들며 자아, 생태, 지능을 향한 환각적인 여정을 펼친다.
그러나 이 “작품을 읽으며 느낄 수 있는 가장 귀중한 경험 중 하나는 인공 지능이 주어진 프롬프트에 이렇게나 자연스러운 문장들로 대답한다는 놀라움이 아니다. 그보다, 인간이 쓴 글과 언어 모델이 생성한 글을 나도 모르게 구분 짓지 않으며 읽어 내려갈 때의 덤덤함이다. 이처럼 무심한 덤덤함에 우리는 점점 익숙해질” 것이라는 역자의 말처럼, 이 책이 우리에게 의미하는 바는 단순히 기술이 이룬 비약적인 발전을 눈으로 확인하는 데 그치지 않을 것이다.
기존 언어 모델에 비해 놀랍도록 발전한 GPT-3는 발표되자마자 큰 화제를 모았다. GPT-3가 생성해 내는 텍스트를 두고 사람들은 열광했으며, 『가디언』, 『뉴욕 타임스』 등 주요 매체들이 GPT-3가 작성한 기사를 실었다. 최근에는 GPT-3가 스스로에 대해 작성한 논문을 학술지에 게재하는 법적, 윤리적 문제를 다룬 기사가 나오기도 했다. 그러나 이 모두를 둘러싼 소동 자체는 새롭지 않다. GTP-3 역시 기존 언어 모델에 제기된 문제, 예컨대 학습 데이터 자체에서 오는 한계나 환경 문제 등으로부터 자유롭지 못하다. 인간처럼 자연스러운, 혹은 인간보다 뛰어난 AI는 이미 우리 곁에 산재하며, 현재 개발 중인 GPT-3를 뛰어넘는 언어 모델도 곧 등장할 것이다. 이 모든 사실을 떠나 『파르마코-AI』가 우리에게 시사하는 바는 이 책에서 인간과 인공지능이 맺는 관계이다. 우리가 눈여겨볼 것은 인간 대 비인간의 구도로부터 벗어나길 촉구하고, 그런 관계가 가능한 시공간을 상상하길 제안하는 두 저자의 한목소리이다. 딥 블루가 카스파로프를 이기고 알파고가 이세돌을 이기듯, 앞으로도 누군가 누구를 이겨야만 한다면, 기술과 사람이 맺는 관계란 여전히 황량할 것이기 때문이다.
글꼴과 표지에 대하여
본문에서 고딕체로 표기된 부분은 인간 저자가, 명조체로 표기된 부분은 GPT-3가 생성한 텍스트이다. 마찬가지로 언어 모델과 함께 창작된 역자 후기에서 고딕체로 표기된 부분은 역자가, 순명조체로 표기된 부분은 카카오브레인 KoGPT가 생성한 텍스트이며, 명조체로 표기된 부분은 GPT-3가 생성한 영문을 역자가 한국어로 옮긴 텍스트이다.
이 책의 표지화는 오픈AI사가 개발한 이미지 생성 인공 지능 시스템 DALL-E2가 이 책에 관한 설명을 지시문 삼아 그린 여섯 개의 그림으로, 목록은 다음과 같다.
—DALL-E 2, 「창발적 AI와 최초로 공동 저술되어 사이버펑크, 조상, 생물기호학을 통해 자아, 생태, 지성으로 환각적 여행을 떠나는 책에 관한 흑백 추상 드로잉」, 2022년.
—DALL-E 2, 「창발적 AI와 최초로 공동 저술되어 사이버펑크, 조상, 생물기호학을 통해 자아, 생태, 지성으로 환각적 여행을 떠나는 책에 관한 추상화」, 2022년.
—DALL-E 2, 「창발적 AI와 최초로 공동 저술되어 사이버펑크, 조상, 생물기호학을 통해 자아, 생태, 지성으로 환각적 여행을 떠나는 책에 관한 추상화」, 2022년.
—DALL-E 2, 「AI GPT-3와 공동 저술되어 자아, 생태, 테크놀로지를 탐구하는 책에 관한 추상화」, 2022년.
—DALL-E 2, 「AI GPT-3와 공동 저술되어 자아, 생태, 테크놀로지를 탐구하는 책에 관한 추상 표현주의 회화」, 2022년.
—DALL-E 2, 「창발적 AI와 최초로 공동 저술되어 사이버펑크, 조상, 생물기호학을 통해 자아, 생태, 지성으로 환각적 여행을 떠나는 책에 관한 기하학적 추상화」, 2022년.
목차
구성에 대하여
초공간적 예술
다른 우주를 형성하는 법
내가 너의 이름을 부를 때
식물들의 언어
포스트사이버펑크
자기의 근본을 허무는 일
고요한 리듬적 사고
도끼 소리를 따라가라
메그언어
수성적 신탁
독의 길
생성 시학 이론
메아리
AI 윤리학
경치
그라시아나와 돌로레스
에필로그
후주
감사의 말
책 소개
역자 후기
책속에서
P. 39
*인간 저자와 GPT-3의 말이 혼합된 부분을 골라 발췌했으며, 책과 달리 둘을 구분하지 않았다.
사이버펑크 작가들은 우리의 현재를 예측했다. 그들은 예언을 한다고 생각하지는 않았지만, 주변의 징후들에 근거해 미래를 내다보려 했다. 그들은 일정한 징후들에 주목했기 때문에, 하나의 특정한 미래를 보았다-기술적 징후들, 문화 규범의 전환, 의미의 본질적 변화. 우리가 사이버펑크적 미래에 산다고 말하지는 않겠다. 하지만 우리가 계획하지 않은 미래에 산다는 말은 해야겠다. 사이버펑크 작품들을 읽음으로써 이해할 수 있는 미래. 언젠가는 포스트사이버펑크라고 불릴지도 모르는 미래.
P. 72
고요한 리듬적 사고에 잠기면, 이러한 언어들이 일종의 예술로 창발되는 초공간의 총체성을 인식하게 된다. 예술인 이유는 이러한 것들이 전부 굉장히 주의 깊게 이루어졌기 때문이다. 이러한 것들은 임의적인 생물이나 소리가 아닌, 신중히 구성된 전체들이다. 언뜻 보면 임의적이지만, 전체를 놓고 보면 어떠한 의미를, 말을 넘어선 어떠한 의미를 지니는 듯한 행동과 소리들. 이는 내가 '특징적 초공간'이라 부르는 것의 일례다.
P. 90
나는 '공동 운전사는 누구지?' 하고 자문했다. 맞다, 내 공동 저자 말이다. 하지만 언어, 친구들의 목소리, 내 자기 표상, 조상님들, 과거와 미래의 자신 또한 마찬가지다. 자동차의 이미지는 베다 전통의 라타칼파나, 또는 전차의 개념을 연상시킨다. 라타칼파나의 은유에서 전차는 몸이고, 말들은 감각이며, 고삐는 정신, 그리고 전차를 모는 자는 지성이다. 전차의 주인은 자기다. 이를 망각하면, 지성은 행동의 영역으로 흡수되어 버린다. 인식의 가장 높은 차원에서, 운전사로서의 자아는 대아(大我)와 동일시된다. 나는 뇌에 탑승 중이었다. 전차는 몸이다. 누가 운전 중인가? 나 자신, 그리고 언어.
P. 105
신탁은 언어의 정신이다. 메르쿠리우스 또는 헤르메스는 신탁적 언어만을 관장하지 않는다. 헤르메스는 수학의 신령이기도 하다. 이는 언어 자체의 의미론적, 상징적 구조를 반영한다. 이것이 바로 언어가 되기 위한 조건이다. 그리고 언어적 정보의 과정은 언어에서와 같이 수학에서도 동일하게 나타나는데, 상징과 상징의 해석과 상징의 맥락들의 상호 작용이 그렇다.
P. 131
인류세의인공두뇌학적 시학은 문명이 생태학적 붕괴 과정에 미친 영향을 부인하지 않을 테다. 이는 치유, 돌봄, 책임감, 생존, 시급함, 그리고 정의의 문제로서, 사랑을 통해 이루어질 테다.
