AI 리터러시, 인공지능 기술과 윤리를 이해하는 능력!

바야흐로 인공지능과 일상을 함께하는 시대가 됐다. 배달의 민족으로 음식을 주문하고, 유튜브로 새로운 소식을 알며, 인스타그램으로 소통하고, 챗GTP의 도움을 받아 어려운 과제를 해결하기도 한다. 그러나 더 편해지고, 더 빨라지고, 효율성이 높아진 만큼 더 안전해진 것 같지 않아서 불안하다. 챗봇 이루다 사건에서도 보았듯이 인공지능이 낳고 있는 사회적 문제들 앞에서 인간의 삶은 요동친다. 인간의 지능 수준을 훨씬 뛰어넘는 초지능의 출현을 예측하는 이즈음, 인공지능 기술은 정말 인간의 삶이 좋아지도록 도움을 줄까? 전 세계 여러 나라의 정부와 거대 기업들이 앞다퉈 ‘인공지능 윤리’를 말하며 실천에 나서고 있는 이유는 뭘까?

이 책은 인공지능 기술이 인간의 삶과 사회에 어떤 영향을 미치는지 구체적으로 톺아보는 한편 인공지능 시대에서 우리가 반드시 던져야 할 10가지 질문을 통해 올바른 방향과 해법을 제시한다. 인공지능 윤리 분야의 전문가답게 저자의 설명은 철학적 깊이가 있고 구성안은 알찬 지식으로 촘촘하다. 청소년부터 읽을 수 있도록 쉬운 말로 풀어썼고, 교육 현장에서 서로의 생각을 나눠 볼 수 있게 주제별로 다채로운 토론 거리를 실었다. 독자들은 인공지능의 개념과 역사를 정확히 파악하면서, ‘기술’의 등장은 그로 인해 비롯되는 사회의 변화를 항상 동반한다는 사실을 깨닫게 된다. 인공지능 윤리(AI Ethics)의 주요 논제들과 구체적인 사례를 연결할 수 있고, 그게 왜 문제가 되는지 분명히 말할 수 있게 된다. 인공지능 기술의 개발과 활용에는 반드시 ‘가치’를 고려해야 함을, 기술과 삶, 사회, 가치는 서로 불가분의 관계임을 이해하게 된다.

머리글 - 인공지능 시대, 우리 모두의 고민이 필요해

1. 인공지능, 넌 누구?
2. 인공지능 윤리는 왜 필요할까?
3. 인공지능 스피커, 내 고민을 팔았다고?
4. 인공지능이 심사하면 더 공정할까?
5. 인공지능이 우리의 일자리를 대체할까?
6. 인공지능이 민주주의를 위험에 빠뜨릴까?
7. 인공지능의 결정에 반대할 수 있을까?
8. 인공지능 자율주행차에 운전을 맡겨도 될까?
9. 인공지능이 기후 위기를 악화시킬까?
10. 미래의 인공지능, 어떤 관계를 맺을까?

인공지능 시대, 우리가 반드시 던져야 할 10가지 질문

인공지능의 활용은 더욱 활성화될 전망이다. 이제 인공지능은 도구로서가 아니라 우리 삶의 ‘환경’과도 같은 존재가 되어 가는 중이다. 하지만 그에 비해 우리가 인공지능 기술과 사회적 영향에 대해 잘 알거나 충분히 대비하고 있는 것 같지는 않다. 인공지능은 연예인에 대한 악의적인 딥페이크 영상을 만들기도 하고, 가짜 정치 뉴스를 만들어 퍼뜨리기도 한다. 인공지능 면접 시스템이 문제가 되어 소송까지 간 사례도 있고, 인공지능 알고리즘이 소득 수준에 따라 학생들의 점수를 차별해서 격렬한 시위가 벌어지기도 했다. 만약 무기나 의료 분야 인공지능에 문제가 생긴다면 그 영향력은 엄청나게 커질 수 있다. 인공지능의 자율성이 인간을 더 큰 위험에 빠뜨리지는 않을지, 이 책에서도 10가지 질문을 통해 인공지능 시대의 윤리를 특별히 강조하는 이유다.

1장 〈인공지능, 넌 누구?〉에서는 ‘컴퓨터가 생각할 수 있을까?’라는 질문과 상상으로 시작된 인공지능의 역사를 짚어보며 인공지능의 정확한 개념을 알아본다. 2장 〈인공지능 윤리는 왜 필요할까?〉에서는 인공지능 윤리란 무엇이며 왜 하필 인공지능 분야에는 윤리가 중요시되는지, 인간의 삶과 사회에 유익한 인공지능을 만들고 활용하기 위해서는 어떤 원칙을 세워야 하는지 이야기한다. 3장 〈인공지능 스피커, 내 고민을 팔았다고?〉에서는 인공지능 스피커의 데이터 수집 문제를 통해 개인 정보와 프라이버시의 중요성, 심각성을 다룬다. 4장 〈인공지능이 심사하면 더 공정할까?〉에서는 데이터 편향성, 알고리즘 편향성이라는 개념을 중심으로 인공지능과 차별의 재생산 문제를 깊이 있게 들여다본다. 5장 〈인공지능이 우리의 일자리를 대체할까?〉에서는 인공지능 기술의 등장으로 변화해 온 노동의 현실을 서술하면서 ‘대체’가 아닌 ‘변화’를 읽을 수 있는 실마리를 제공한다. 6장 〈인공지능이 민주주의를 위험에 빠뜨릴까?〉에서는 2018년에 일어난 ‘케임브릿지 아날리티카 스캔들’을 상세히 전하며 알고리즘에 의해 변질된 허위정보와 딥페이크 문제를 정면으로 다룬다. 7장 〈인공지능의 결정에 반대할 수 있을까?〉에서는 투명성, 이해 가능성, 설명 가능성 개념을 서술하며 인공지능이 내린 결정의 논리적 이유가 분명히 제시되어야 함을 강조한다. 8장 〈인공지능 자율주행차에 운전을 맡겨도 될까?〉에서는 ‘트롤리 딜레마’ 생각 실험을 통해 인공지능이 사고를 내면 누가 책임져야 할지, 책임을 다하는 최선의 선택이란 어떤 것이어야 할지 생각해본다. 9장 〈인공지능이 기후 위기를 악화시킬까?〉에서는 인공지능이 기후변화에 나쁜 영향을 미치는 원인을 살펴보면서 기술이 우리에게 주는 편리함의 정체가 무엇인지 되돌아본다. 10장 〈미래의 인공지능, 어떤 관계를 맺을까?〉에서는 챗GPT의 등장을 주시하고 초지능의 출현을 예측하면서 우리가 궁극적으로 추구해야 할 인공지능의 모습은 어떤 것이어야 할지 바람직한 미래상을 조망한다.

인간성의 나쁜 측면을 인공지능이 그대로 반복한다면?

이 책은 인공지능과도 친구가 될 수 있을지 친근하게 질문하며 시작한다. 이제 인공지능은 우리 삶과 떼려야 뗄 수 없는 존재가 되어 가는 중이기에, 인간과 인공지능이 이만큼이나 긴밀한 관계를 맺는다면 어떻게든 좋은 관계를 지향하는 것이 우리에게도 바람직하기 때문이다. 친구가 된다는 것은 서로를 존중하고 이해하며 서로에게 유익한 관계를 맺어나가는 것이다. 인간이 아닌 인공지능을 존중한다는 말은 얼핏 이상하게 들린다. 하지만 인간을 존중한다는 것의 의미가 인간으로서의 잠재능력을 꽃피우며 살아갈 수 있도록 대하는 것임을 생각하면, 인공지능에 대한 존중은 목적에 맞는 가능성을 개발하고 제대로 작동하게 하는 것 정도면 충분하다. 그러기 위해서는 ‘인공지능 기술과 윤리’에 대한 철저한 이해가 반드시 선행되어야 한다고 저자는 목소리를 높인다. 인공지능은 고도로 자동화된 시스템이며, 학습 과정이 인간의 방식과 전혀 다르기 때문에 인간이 작동 과정이나 결과를 충분히 이해하기 어렵다. 이해하기 어려운 존재를 무작정 가까이하기도, 그런 존재가 우리에게 정말 유익할 것인지 확신하기도 힘들다.

그래서 인공지능에 대한 이해는 거꾸로 우리 자신에 대한 이해를 요청한다는 것이 이 책에 담긴 철학적 메시지의 핵심이다. 인간성의 나쁜 측면을 인공지능이 그대로 반복할 수도 있기 때문이다. 이를 생각하기 위해서는 우리에게 좋은 것, 모두가 바랄 만한 좋은 삶이나 좋은 사회가 무엇인지 먼저 고민할 필요가 있다. 그러므로 인공지능을 이해하는 더욱 쉽고 안전한 길은 처음부터 우리가 바라는 것이 무엇인지 알고, 인공지능이 할 수 있는 것과 없는 것은 어떤 것인지 확인하고, 우리가 충분히 이해할 수 있는 방식으로 인공지능을 만드는 것이다. 지금 우리가 무엇을 고민하고, 어떤 선택을 하며, 어떤 실천을 하는지가 그래서 매우 중요하다. 그로부터 미래의 인공지능도, 우리 삶의 미래 환경도, 인공지능과 우리의 관계도 새롭게 만들어질 것이기 때문이다.