사회 거의 모든 곳에서 인공지능과의 협업이 중요한 이슈로 떠오르고 있는 지금, 인공지능은 그 발전 속도가 너무 빠른 나머지 인간의 정신적 노동의 상당 부분을 이미 대체했다. 이로 인해 인간의 잉여화·사회의 양극화에 대한 우려는 더욱 커지고 있다. 게다가 인간의 가장 고차원적 행위인 정치에 인공지능 알고리즘이 개입하고 있다. 이러한 현실은 인간이 한 번도 경험해 본 적 없는 것이지만 우리는 과거의 관습에 따라 무책임하게 대응하고 있을 뿐이다.

이 책은 이러한 현실에 경각심을 불러일으키고 인공지능과 공존하는 디지털 사회에 대해 정치적으로 고찰한다. 특히 디지털 시대와 인권 문제, 정치적 위협에 대해 진지하게 고민한 책은 국내에서 가히 최초라 할 만하다. 새롭게 맞이한 디지털 시대라는 국면에서 정치적인 해답을 찾고자 하는 사람들, 인공지능과 함께 민주주의 시대를 살아가야 하는 지금의 우리들에게 이 책은 더 이상 선택지가 아닌 필독서다.

한국어판 저자 서문

머리말
일러두기

1. 들어가며 - 인류 역사와 디지털 세계
2. 아미시에서 배우기 - 디지털 시대, 기술철학으로서의 정치철학
3. 인공지능과 민주주의의 과거, 현재 그리고 미래
4. 진리는 우리를 자유케 하지 않는다: 진리에 대한 권리는 존재하는가? - 라이프 2.0에서 공적 이성의 역할
5. 알게 되는 것과 알려지는 것 - 디지털 세계의 인식적 자격
6. 포르노와 불신을 넘어 - 딥페이크 기술의 인식론적 가능성과 위험성
7. 4세대 인권 - 라이프 2.0과 라이프 3.0의 인식적 권리
8. 감시 자본주의, 도구적 권력 그리고 사회물리학에 대하여 - 디지털 세계를 위한 계몽
9. 사회적 사실로서의 데이터 - 분배정의와 빅데이터의 만남
10. 신, 골렘 그리고 기계 숭배 - 디지털 시대에서 삶의 의미
11. 도덕적 지위와 정치적 소속감 - 라이프 3.0을 위한 정치이론

에필로그
옮긴이 후기

후주
참고문헌
찾아보기

생성형 AI와 디지털 네이티브의 시대,
정치철학과 기술철학은 필연적으로 교차한다

한 번도 경험한 적 없는 세계

인공지능이 민주주의를 위협하고 있다. 인공지능이 정치에 끼어들기 시작한 것이다. 인간이 아닌 존재가 인간의 가장 고차원적 행위인 정치에 개입하는 사건은 인류가 경험한 적 없는 일이다. 인공지능은 유권자들의 정치 성향을 분석해 맞춤형 광고를 보내거나, 투표를 포기하도록 정치혐오를 조장하는 등 선거에까지 영향을 미친다. 나아가 유튜브 알고리즘은 각각의 시민들이 관심을 가질 만한 동영상을 추천해 가며 사회 대립을 더욱 극단화한다. 누군가 경고한 것처럼, 우리 사회는 인공지능 알고리즘에 의해 내전에 가까운 분열 상태로 치닫는 중이다.

이제 인공지능은 너무나 정치적인 것이 되었다. 더 이상 단순한 도구나 컴퓨터 프로그램에 그치지 않는다. 그런데 우리는 인공지능의 정치성에 어떻게 대응해야 하는지 아무것도 모르고 있다. 이는 우리가 이전까지 한 번도 겪어본 적 없는, 그러나 분명한 민주주의에 대한 위협이다.

인공지능은 어떻게 정치적 존재가 되는가?
기술 발전이 민주주의에 끼치는 영향들을 톺아보는 책

이러한 상황 속에서 인공지능을 정치적으로 바라보는 한 권의 책이 출간됐다. 프린스턴 대학에서 박사 학위를 받고, 하버드 대학에서 강의하는 마티아스 리스 교수의 『AI 시대의 정치이론』이 바로 그것이다. 이 책은 인공지능과 같은 초지능적 존재와 빅데이터 시대를 정치적인 관점에서 고찰하며, 디지털 시대에 접어들면서 우리 사회가 마주하게 되는 다양한 현상들을 정치적 질문과 연결하여 우리 시대에 새로운 화두를 던진다. 초지능의 출현에 따른 다양한 시나리오를 검토하고 인류가 이에 대해 어떤 정치적 대응을 할 수 있는지 살펴보고 있다.

특히 권력과 인권이라는 관점에서 인공지능을 비판적으로 바라본다. 빅데이터 시대 데이터의 소유권 문제가 권력과 밀접한 연관을 맺기에 이것이 현대 정치의 핵심 문제라는 점을 지적하고 이에 대한 혜안을 제시한다. 데이터의 주인은 자신의 의지에 따라 정보를 생산하고 지식을 독점할 수 있기 때문이다. 이외에도 24시간 감시 체제가 되어 버린 사회에서 인권이란 무엇인지 묻고, 현대인을 인식하는 존재인 동시에 인식되는 존재로 규정하며 이들이 인간답게 살기 위해 가져야 할 권리를, 즉 3세대 인권 너머의 4세대 인권을 내다보고 그 안에 어떤 내용이 담겨야 할지 제안한다.

또한 민주주의와 기술과의 관계를 역사적으로 탐구하여 민주주의를 위해 우리가 인공지능을 어떻게 설계해야 하는지 점검하기도 하며, 기계에 삶의 통제권을 넘기는 기계 숭배 현상 등 기술로 인해 변화하는 우리 삶의 의미를 여러 각도에서 조명한다. 나아가 최근 논의되는 트랜스휴먼, 포스트휴먼의 관점들을 검토함으로써 기계나 인공지능이 인간과 같은 도덕적 지위나 정치적 소속감을 가질 수 있는지 살펴보기도 한다.

우리는 디스토피아로 갈 수밖에 없는가?

2023년 겨울, 챗-GPT를 비롯한 다양한 생성형 인공지능이 출현했다. 그리고 이것은 우리 사회를 총체적으로 변화시키는 중이다. 이제 학교와 회사를 비롯하여 예술, 학문의 현장 등 사회 거의 모든 곳에서 인공지능과의 협업이 중요한 이슈로 떠오르고 있다. 그 속도가 너무 빠른 나머지, 인간의 정신적 노동의 상당 부분을 인공지능이 이미 대체하기도 했다. 이로 인해 인간의 잉여화·사회의 양극화에 대한 우려는 더욱 커지고 있으며 일반 인공지능이 출현하게 되면 우리는 이러한 형태의 새로운 삶에 적응해야 할 것이다.

이러한 현실 속에서 정치는, 그리고 우리가 최선의 정치체제라고 믿고 있는 민주주의는 새로운 국면에 진입할 수밖에 없다. 앞서 말했듯 인공지능은 이미 정치에 개입하기 시작했다. 문제는 우리 사회가 디스토피아적 시나리오처럼 흘러가지 않을 것이라는 그 어떤 증거나 보장도 없다는 것이다. 즉, 우리가 통제권을 잃고 인공지능이 우리의 생존을 결정하는 순간이 찾아오지 않으리라는 증거가 없는 상황이다. 영화에나 나올 허무맹랑한 이야기로 치부할 것이 아니라 생존과 생명이 결부된 심각한 문제로 받아들이고 숙고해야 한다. 그러나 우리는 한 번도 경험해 보지 못한 일들에, 과거의 관습에 따라 무책임하게 대응하고 있을 뿐이다.

이 책은 이러한 현실에 경각심을 불러일으키고 인공지능과 공존하는 디지털 사회에 대해 정치적으로 고찰한다. 특히 디지털 시대와 인권 문제, 정치적 위협에 대해 진지하게 고민한 책은 국내에서 가히 최초라 할 만하다. 따라서 이 책은 새롭게 맞이한 디지털 시대라는 국면에서 정치적인 해답을 찾고자 하는 사람들, 인공지능과 함께 민주주의 시대를 살아가야 하는 지금의 우리들에게 더 이상 선택지가 아닌 필독서다.