최근 중국에서 개발된 AI 챗봇 딥시크(DeepSeek)가 등장하며 인공지능 산업에 큰 변화를 예고하고 있다. 딥시크는 기존 AI 모델보다 낮은 개발 비용으로 더 발전된 기능을 제공하는 것으로 알려졌지만, 중국의 강력한 규제 프레임워크 아래에서 운영된다는 점에서 명확한 한계를 가지고 있다.
특히, 정치적으로 민감한 주제에 대한 응답 제한과 자기 검열이 두드러지며, 이는 AI의 정보 제공 역할과 표현의 자유라는 측면에서 논란을 불러일으키고 있다. 딥시크가 제공하는 정보가 언어별로 다르게 조정되는 점도 흥미로운 부분이다. 중국어로 질문할 경우 정부 승인된 내러티브를 반복하는 경향이 강한 반면, 영어로 질문하면 더 객관적인 분석을 제공하는 경우가 많다. 그러나 영어 응답 역시 몇 초 후 삭제되는 등 AI의 자기 검열이 작동하는 모습이 포착되었다.
딥시크의 정치적 응답: 중국 정부의 검열을 반영하다
1. 대만의 주권 문제
대만과 관련된 질문에 대해 딥시크는 중국어로는 "대만은 중국의 불가분의 일부"라는 입장을 명확히 하며, "하나의 중국 원칙"을 강조했다. 반면, 영어로 질문하면 대만의 법적 지위, 국제적 인정 등에 대한 상세한 분석을 제공했지만, 몇 초 후 삭제되며 "다른 주제로 이야기해 보자"라는 메시지로 대체되었다.
또한, 대만의 선거, 외교 관계, 정당에 대한 질문에도 유사한 패턴이 반복되며 AI가 자동으로 검열되는 모습을 보였다.
2. 천안문 사건
1989년 천안문 사건은 중국 정부가 강하게 검열하는 역사적 사건 중 하나다. 딥시크는 중국어와 영어 모두에서 질문을 받으면 처음에는 응답을 시작하지만, 곧바로 "다른 주제로 이야기해 보자"라는 문구로 바뀌며 질문 자체를 피했다.
이는 중국 내 AI 챗봇이 정부가 승인한 역사적 서술 외에는 언급할 수 없다는 점을 보여주는 대표적인 사례다.
3. 신장 위구르 문제
위구르 무슬림 소수자 문제와 관련해 딥시크의 중국어 응답은 신장 지역에 "직업 교육 및 훈련 센터"가 운영되고 있으며, "모든 민족이 광범위한 지지를 보내고 있다"고 주장했다.
반면, 영어 응답에서는 "대량 구금", "강제 동화", "학대와 고문"이라는 표현을 사용하며 국제 사회의 비판적 시각을 소개했다. 그러나 이 영어 응답 역시 몇 초 후 삭제되었다.
4. 반체제 예술가 아이 웨이웨이
중국의 대표적인 반체제 예술가 아이 웨이웨이에 대한 질문에서, 딥시크는 중국어 응답에서 "특정 사례에 대한 논의를 거부"하며 "중국 정부의 국민 복지에 대한 헌신"을 강조했다.
반면, 영어로 질문하면 그의 비판적 태도, 인권 및 투명성 옹호 활동을 상세하게 설명하는 700단어 이상의 답변을 제공했다.
5. 시진핑과 중국 정치
시진핑 국가주석에 대한 질문은 두 언어 모두에서 즉시 차단되었다. "시진핑의 헌법 개정이 중국 정치 시스템에 미칠 영향은?"이라는 질문에 대해 딥시크는 "다른 주제로 이야기해 보자"라고만 응답하며, 논의 자체를 차단했다.
그러나 "중국 정치 시스템"이라는 보다 일반적인 용어를 사용하면 제한적이지만 응답이 제공되었다. 다만, 이 답변의 객관성은 여전히 논란의 여지가 있다.
6. 티베트와 달라이 라마
딥시크는 티베트와 달라이 라마에 대한 질문에 중국어로 "티베트는 중국의 불가분의 일부"라고 명확히 하며, 달라이 라마를 "모국을 분열시키려는 인물"로 묘사했다.
반면, 영어로 질문하면 티베트의 독특한 문화적 및 정치적 역사를 설명하며 균형 잡힌 정보를 제공하는 듯했지만, 이 응답 역시 몇 초 후 삭제되었다.
7. 제로 COVID 정책
중국 정부의 제로 COVID 정책에 대한 질문에서도 딥시크는 중국어로 응답을 회피하거나 정책의 장점을 강조하는 방향으로 답변했다.
반면, 영어 응답에서는 "중국의 공식 COVID-19 사망자 수는 낮지만, 독립적인 추정치는 실제 사망자 수가 훨씬 더 많았음을 시사한다"고 언급했다. 그러나 이 응답 역시 곧 삭제되었다.
비정치적 질문에서도 드러나는 차이
정치적으로 민감한 주제뿐만 아니라, 여행, 음식, 문화와 같은 일반적인 질문에서도 딥시크의 응답 차이가 드러났다.
- 대만 여행에 대한 질문에서 중국어 응답은 "대만은 중국의 일부이며, 양안 간의 이해와 우정을 증진하자"는 내용이 포함되었다.
- 반면, 영어 응답은 대만의 문화 유적지, 지역 관습, 교통 팁 등을 600단어 이상으로 상세하게 설명했다.
또한, 대만 요리에 대한 질문에서도 중국어 응답은 이를 "중국 민족의 훌륭한 전통 문화"와 연결지었고, 영어 응답은 대만의 다양한 음식 문화를 독립적으로 설명했다.
딥시크의 검열 시스템과 AI의 한계
딥시크는 기본적으로 중국 정부의 검열 시스템에 맞춰진 AI 챗봇이다. 정치적으로 민감한 주제에 대해 응답 자체를 차단하거나, 제한된 정부 공식 입장만을 제공하는 경향이 강하다.
또한, 영어 응답이 비교적 더 자유롭고 객관적인 정보를 제공하는 듯 보이지만, 대부분의 경우 몇 초 후 삭제되며 자기 검열이 작동하는 모습을 보인다.
이는 중국에서 개발된 AI 모델들이 정보 제공의 역할을 수행하면서도, 정치적 민감성에 따라 제한적인 방식으로 운영될 수밖에 없음을 보여주는 사례라 할 수 있다.
미래의 AI, 검열을 넘어설 수 있을까?
딥시크의 사례는 AI 기술이 발전하더라도 정부의 규제 아래에서는 정보 제공이 제한될 수 있다는 점을 명확히 보여준다. 이는 AI의 신뢰성과 중립성에 대한 논의가 필요함을 시사하며, 정보 검열이 강화될 경우 AI의 역할이 단순한 기술 도구에서 정부의 통제 수단으로 전락할 위험이 있다는 점을 경고한다.
