프로젝트 소식

민주주의 에세이민주주의의 새로운 위협, 테크놀로지 | 박상현

2022년 말, 챗GPT라는 이름으로 우리를 불쑥 찾아온 인공지능(AI)의 열풍이 전 세계를 흥분시키고 있다. 새로운 기술 하나가 이렇게 많은 사람의 관심과 기대를 모으는 것을 마지막으로 본 때가 언제인지 가물가물하다.  1990년대 인터넷의 확산, 2010년을 전후한 스마트폰의 보급이 그렇게 사람들을 들뜨게 했었다. 그런데 인터넷, 스마트폰 때와 달리 AI에 대한 기대는 심각한 우려의 목소리가 함께 나오고 있다. 챗GPT를 비롯한 생성(generative) AI로 인한 피해가 발생했다는 뉴스를 들어본 적이 없는데도 사람들은 기대 반, 걱정 반이다. 왜 그럴까?


첫 번째 스마트폰 혁명, 아랍의 봄

인류사회는 지난 10년 동안 테크놀로지, 특히 디지털 테크놀로지를 보는 눈이 크게 바뀌었다. 2010년부터 약 2년 동안 중동과 북아프리카 국가들을 휩쓴 '아랍의 봄'을 떠올려 보자. 부패한 독재 정권, 경제 침체와 실직, 기근 등의 요인이 혁명의 원인이었다면, 시위 현장의 상황을 방송국의 편집 없이 전 세계에 퍼뜨린 트위터를 비롯한 소셜미디어와 스마트폰이 시위를 국경 너머 다른 나라들로 빠르게 확산시킨 중요한 수단이었다. 


그런 이유로 언론에서는 아랍의 봄을 “첫 번째 스마트폰 혁명"이라고 부른다. 디지털 기술을 통한 정치적 혁명으로 치면 한국만큼 할 말이 많은 나라도 드물다. 2002년 대선에서 패색이 짙었던 노무현 후보가 인터넷을 통해 결집한 유권자들이 아니었으면 당선될 수 있었을까? 언론이 그를 "세계 첫 인터넷 대통령"이라고 부른 것에 동의하지 않는 사람들은 드물다.


만약 챗GPT와 같은 기술이 과거와 같은 희망적인 분위기, 즉 ‘기술은 사회를 긍정적으로 바꿀 수 있다'는 분위기에서 등장했다면 사람들은 걱정하지 않았을 것이다. 하지만 불행하게도 우리는 지난 10년 동안 디지털 테크놀로지가 얼마나 엄청난 파괴력을 가지고 있는지 목격했다. 한때 전 세계에 민주주의를 수출한다고 자부하던 미국이 소셜미디어와 가짜 뉴스로 무장한 세력 앞에 속수무책으로 당하는 것을 봤다. 전 세계 권위주의 정권들이 AI로 무장하고 시민을 감시하거나, 미국의 예를 따라 선전 선동과 허위 정보 확산에 소셜미디어를 사용하는 모습도 목격했다. 이제는 대중의 상상력, 혹은 이해력을 뛰어넘는 기술의 등장을 마음 편하게 반기기는 힘들다.


이건 대중의 기우라고 보기 힘들다. 팬데믹이 본격화되기 직전인 2020년 2월, 미국의 퓨 리서치 센터(Pew Research Center)에서 테크 전문가들의 의견을 조사한 결과에 따르면, 앞으로 10년 동안 우리가 사용하는 테크놀로지가 민주주의를 약화할 것을 전망하는 사람들이 절반을 차지했다.  이 조사는 팬데믹 기간에 걷잡을 수 없이 확산된 허위 정보, 트럼프 대통령의 대선 승리 주장과 이를 믿은 지지자들의 의회 습격을 목격하기 전에 이뤄진 것이다. 이 모든 것을 경험한 후, 사람이 쓴 것과 구분하기 힘든 글을 사람보다 훨씬 빠른 속도로 쏟아내는 AI의 등장을 보는 사람들의 마음속에 걱정이 들지 않는다면 오히려 이상한 일일 것이다.


ChatGPT가 어떻게 민주주의를 파괴할 수 있는가
하버드 대학교의 브루스 슈나이어(Bruce Schneier)는 최근 뉴욕타임스에 기고한 칼럼에서 챗GPT가 어떻게 민주주의를 파괴할 수 있는지 설명한다. 민주주의 제도의 핵심은 국민의 의견을 모으고 이를 정책에 반영하는 것이고, 따라서 민의를 얼마나 정확하게 파악하느냐가 이 제도에 대한 국민의 신뢰를 좌우한다. 민의는 몇 년에 한 번 있는 투표로만 전달되지 않는다. 정부와 국회는 국민들이 쏟아내는 의견을 다양한 방법으로 듣고 이를 바탕으로 정책을 결정한다. 그런데 만약 사람과 구분이 되지 않는 AI의 말이 이런 의사소통 채널에 섞여 들어간다면?


러시아는 2016년에 미국의 소셜미디어에 침투해서 트럼프의 당선을 돕는 공작을 한 것으로 유명하다. 하지만 이제는 수백 명의 인력과 많은 예산을 들여서 했던 작업을 생성 AI를 잘 다룰 수 있는 한 사람이 할 수 있게 됐다. 만약 여러 사람이 덤벼들어서 기존의 채널에 AI가 만들어 낸 주장을 퍼붓는다면, 앞으로는 민의를 확인하는 작업 자체가 불가능해지거나 이를 포기할 수밖에 없다.


온라인에서 사람들을 속이고 의견을 바꾸기 위해 아주 정교한 작업이 필요한 것도 아니다. 얼마 전 하얀색의 패딩을 입은 교황의 사진이 온라인에서 화제가 되었을 때, 대부분 사람들은 그저 '교황이 저런 패딩을 입는구나'하고 지나쳤다. 만약 그들에게 이 사진이 진짜냐, 아니냐를 물었다면 자세히 들여다봤을 것이고, 어색한 부분을 금방 찾아내어 가짜임을 알았을 것이다. 하지만 정보가 넘쳐나는 세상에서 모든 정보의 진위를 그렇게 열심히 살펴볼 여유가 있는 사람은 많지 않다. 그런 사람들 전부가 아닌 일부의 생각만 바꿀 수 있어도 팽팽한 선거의 결과를 바꿀 수 있다.


그러나 이것도 민주주의와 언론의 자유가 어느 정도 정착한 나라에서 하는 고민이다. 중국, 러시아를 비롯한 전 세계의 권위주의 정권들은 소셜미디어부터 AI까지 디지털 테크놀로지가 자신의 권력을 위해 봉사하도록 철저하게 관리하고 있다. 중국은 발전된 안면인식 AI 기술을 자국민 감시에 사용하고 있고, 사우디아라비아에서는 정권에 유리한 의견을 소셜미디어에 쏟아 넣기 위해 봇(bot)을 사용한다. 이는 권위주의 국가들이 그동안 자국에서 해왔던 일을 더 효율적, 효과적으로 할 수 있게 되었다는 것에서 끝나지 않는다. 디지털 기술의 특성상 다른 나라에 침투해 위협하거나 알지 못하는 사이에 영향력을 행사하기 쉽기 때문이다. 결국 민주 국가의 시민이 대처해야 하는 위협은 국경을 초월한다. 


2016년 이후로 미국에서 일어난 일을 통해 알 수 있듯 국내에서 민주주의 제도를 전복하려는 세력이 소셜미디어와 AI 등의 디지털 기술을 사용하는가 하면, 같은 기술을 다른 국가들이 민주주의 국가의 체제를 흔드는 데 사용한다. ‘디지털 기술은 민주주의를 강화하고 확산하는 데 유리하다’는 믿음은 이제 ‘디지털 기술은 권위주의를 강화하고 민주주의를 공격하는 데 유리하다'라는 우려로 변한 것이다. 



민주주의는 '유지비'가 많이 든다

그렇지만 이는 새로운 상황이 아니다. 민주주의는 원래 취약점이 많고, 노출되어 있는 제도다. 인류는 역사의 대부분을 권위주의 체제로 살아왔기에 여전히 권위주의에 익숙하다. 따라서 어느 사회나 노력하지 않으면 되돌아가는 기본값은 권위주의다. 이를 잘 아는 권위주의 국가들은 민주주의 국가들에 향한 공격을 끊임없이 시도해 왔고, 앞으로도 그럴 것이다. 


그리고 그런 공격을 받을 때 가장 먼저 희생되는 것은 민주인권이다. 종교적 권위주의 세력이 여성의 인권을 축소하고, 인종주의자들이 타인종의 인권을 무시하고, 기업가들이 여론의 분열로 민주주의 정치를 마비시켜 경제적 불평등을 수정할 동력을 없애는 일은 과거에도 있었고 지금도 일어나고 있다. 


이런 공격에도 불구하고 정치 선진국들이 민주주의를 지켜낸 것은 민주주의 자체가 굳건한 제도라서가 아니라, 이 제도를 수호하려는 사람들의 의지와 노력이 있었기 때문이다. 민주주의는 유지비가 많이 들어가는 제도라는 것을 잊으면 안 된다.

챗 GPT가 어떻게 민주주의를 파괴할 수 있는가


하버드 대학교의 브루스 슈나이어(Bruce Schneier)는 최근 뉴욕타임스에 기고한 칼럼에서 챗GPT가 어떻게 민주주의를 파괴할 수 있는지 설명한다. 민주주의 제도의 핵심은 국민의 의견을 모으고 이를 정책에 반영하는 것이고, 따라서 민의를 얼마나 정확하게 파악하느냐가 이 제도에 대한 국민의 신뢰를 좌우한다. 


민의는 몇 년에 한 번 있는 투표로만 전달되지 않는다. 정부와 국회는 국민들이 쏟아내는 의견을 다양한 방법으로 듣고 이를 바탕으로 정책을 결정한다. 그런데 만약 사람과 구분이 되지 않는 AI의 말이 이런 의사소통 채널에 섞여 들어간다면?


러시아는 2016년에 미국의 소셜미디어에 침투해서 트럼프의 당선을 돕는 공작을 한 것으로 유명하다. 하지만 이제는 수백 명의 인력과 많은 예산을 들여서 했던 작업을 생성 AI를 잘 다룰 수 있는 한 사람이 할 수 있게 됐다. 만약 여러 사람이 덤벼들어서 기존의 채널에 AI가 만들어 낸 주장을 퍼붓는다면, 앞으로는 민의를 확인하는 작업 자체가 불가능해지거나 이를 포기할 수밖에 없다.


온라인에서 사람들을 속이고 의견을 바꾸기 위해 아주 정교한 작업이 필요한 것도 아니다. 얼마 전 하얀색의 패딩을 입은 교황의 사진이 온라인에서 화제가 되었을 때, 대부분 사람들은 그저 '교황이 저런 패딩을 입는구나'하고 지나쳤다. 만약 그들에게 이 사진이 진짜냐, 아니냐를 물었다면 자세히 들여다봤을 것이고, 어색한 부분을 금방 찾아내어 가짜임을 알았을 것이다. 


하지만 정보가 넘쳐나는 세상에서 모든 정보의 진위를 그렇게 열심히 살펴볼 여유가 있는 사람은 많지 않다. 그런 사람들 전부가 아닌 일부의 생각만 바꿀 수 있어도 팽팽한 선거의 결과를 바꿀 수 있다.


그러나 이것도 민주주의와 언론의 자유가 어느 정도 정착한 나라에서 하는 고민이다. 중국, 러시아를 비롯한 전 세계의 권위주의 정권들은 소셜미디어부터 AI까지 디지털 테크놀로지가 자신의 권력을 위해 봉사하도록 철저하게 관리하고 있다. 중국은 발전된 안면인식 AI 기술을 자국민 감시에 사용하고 있고, 사우디아라비아에서는 정권에 유리한 의견을 소셜미디어에 쏟아 넣기 위해 봇(bot)을 사용한다.


이는 권위주의 국가들이 그동안 자국에서 해왔던 일을 더 효율적, 효과적으로 할 수 있게 되었다는 것에서 끝나지 않는다. 디지털 기술의 특성상 다른 나라에 침투해 위협하거나 알지 못하는 사이에 영향력을 행사하기 쉽기 때문이다. 결국 민주 국가의 시민이 대처해야 하는 위협은 국경을 초월한다. 


2016년 이후로 미국에서 일어난 일을 통해 알 수 있듯 국내에서 민주주의 제도를 전복하려는 세력이 소셜미디어와 AI 등의 디지털 기술을 사용하는가 하면, 같은 기술을 다른 국가들이 민주주의 국가의 체제를 흔드는 데 사용한다. ‘디지털 기술은 민주주의를 강화하고 확산하는 데 유리하다’는 믿음은 이제 ‘디지털 기술은 권위주의를 강화하고 민주주의를 공격하는 데 유리하다'라는 우려로 변한 것이다. 



어느 사회나 노력하지 않으면 되돌아가는 기본값은 권위주의다


그렇지만 이는 새로운 상황이 아니다. 민주주의는 원래 취약점이 많고, 노출되어 있는 제도다. 인류는 역사의 대부분을 권위주의 체제로 살아왔기에 여전히 권위주의에 익숙하다. 따라서 어느 사회나 노력하지 않으면 되돌아가는 기본값은 권위주의다. 이를 잘 아는 권위주의 국가들은 민주주의 국가들에 향한 공격을 끊임없이 시도해 왔고, 앞으로도 그럴 것이다. 


그리고 그런 공격을 받을 때 가장 먼저 희생되는 것은 민주인권이다. 종교적 권위주의 세력이 여성의 인권을 축소하고, 인종주의자들이 타인종의 인권을 무시하고, 기업가들이 여론의 분열로 민주주의 정치를 마비시켜 경제적 불평등을 수정할 동력을 없애는 일은 과거에도 있었고 지금도 일어나고 있다. 


이런 공격에도 불구하고 정치 선진국들이 민주주의를 지켜낸 것은 민주주의 자체가 굳건한 제도라서가 아니라, 이 제도를 수호하려는 사람들의 의지와 노력이 있었기 때문이다. 민주주의는 유지비가 많이 들어가는 제도라는 것을 잊으면 안 된다.



글 : 박상현 


'오터레터' 발행인으로, 테크, 국제 정치와 관련한 글을 쓰고 있다. 『도시는 다정한 미술관』, 『나의 팬데믹 일기』를 펴냈고, 『우크라이나에서 온 메시지』, 『라스트 캠페인』, 『미디어는 어떻게 허위정보에 속았는가』, 『생각을 빼앗긴 세계』, 『아날로그의 반격』 등의 책을 번역했다.


* 해당 원고의 의견은 필자 개인의 의견으로, 민주인권기념관의 공식 의견과는 차이가 있을 수 있습니다.