경북 수출지원 해외 서포터즈 / 임지연(중국)

미국, 유럽 등 인공지능(AI) 개발 선진국들과 경쟁을 벌이고 있는 중국이 최근 막대한 비용을 투자해 AI 산업의 성장률 견인을 호언장담하는 분위기다. 이미지·비디오·오디오·텍스트 등 콘텐츠들을 단순히 배우기만 하는 것이 아닌 데이터베이스를 기반으로 새로운 콘텐츠를 생산하는 챗GPT(Chat Generative Pre-trained Transformer) 등 생성형 인공지능(Artificial Intelligence, AI) 개발을 위해 정부가 대대적인 투자를 약속한 것인데, 한편으로는 세계 산업 환경의 거대한 변화를 주도하겠다는 중국이 AI 개발과 소비 영역 전반에서 ‘윤리’라는 모호한 기준을 들어 개입해, 정부 권력에 저항하는 내용의 콘텐츠를 차단하고 있다는 비판이 거세다. 이에 중국이 최근 AI 분야에 거액의 투자를 하면서도 일부 영역에 대해서만큼은 연구 및 개발과 소비를 차단하는 이분법적인 규제를 가하는 양상에 대해서 서술한다. 

 _{<2023년 5월 25일 개막해 5일간 진행됐던 2023 중관촌 포럼 전시회>}

베이징, 2025년까지 AI 산업 55조 원대로 키울 것

현재 중국 AI 개발 중심에는 수도 베이징이 선두에 있다. 베이징은 오는 2025년을 목표로 AI 산업의 혁신·발전에 집중하여 AI 산업 성장률을 연평균 10% 이상 유지하고 핵심 AI 산업의 규모를 3천억 위안(한화 약 55조 원)까지 증가시키겠다고 밝혀 화제다. 베이징 시 정부는 지난 5월 말 이 같은 투자 방침을 밝히고, 대규모 정부발(發) 투자가 중국 전체 경제에 무려 1조 1억 위안(한화 약 180조억 원) 이상의 경제적 파급효과를 낼 수 있을 것이라고 기대했다.

이 내용은 2023년 5월 시 정부가 공개한 ‘세계적인 영향력을 갖춘 AI 혁신 발원지 건설 실시 방안(2023~2025년)’과 ‘범용 AI의 혁신·발전을 촉진하기 위한 몇 가지 조치’에 실렸는데, 이때 발표된 정책들은 앞서 국무원이 발표했던 ‘AI 발전 계획과 과학기술부의 AI 윤리규범’을 골자로 했다. 

시 정부는 AI 분야에 종사하는 기업체 가운데 국내 선두자리를 유지하고 5~10개의 AI 관련 유니콘 기업 (기업가치가 10억 달러로 한화 약 1조 3천억 원) 이상의 스타트업

을 중점적으로 육성하는 것을 제1의 목표로 선정하고, 해당 기업체들을 통해 향후 미국과 유럽 등의 선진국들과 비견될 수 있는 생성형 AI를 개발하여 시 경제 발전을 이끌 기본 생태계 구축을 기대하는 것으로 보인다.

이를 위해 베이징시는 향후 2년간 베이징 중관촌에 일명 ‘AI 데이터 훈련 기지’를 건설하겠다는 방침도 동시에 공개했다. 베이징 서북 지역에 소재한 ‘중국의 실리콘 밸리’로 불리는 ‘중관촌 과학기술원’이 사업 전반을 지휘하고, AI 개발 사업에 대한 관리·감독을 지속적으로 강화할 뜻도 밝힌 상태다. 중관촌은 중국 전역에 소재한 총 18개 국가혁신발전시험지구 중 한 곳이자, 11곳에 달하는 국가AI혁신응용선도지구 중 대표적인 지역이다.

또한 시 정부는, 이 지역을 중심으로 △AI 데이터 양을 늘리고 질을 높이기 위한 목적의 AI 데이터 기초 제도 선행 시범지구를 건설 △시의 5개 핵심 구에 속하는 하이뎬구와 차오양구에 각각 AI 공공 연산 능력 센터와 AI 디지털 경제 연산 능력 센터를 건설 △의료·금융·자동차·도시행정 분야에서의 AI 적용을 시범적으로 운영키로 했다.

_{<베이징 서북쪽 하이덴취 중관촌 일대에서 운행 중인 보안 순찰 로봇>}

_{<베이징 서북쪽 중관촌 AI응용산업 단지 모습>}

베이징시는 전 세계 AI 열풍에 맞춰 이 같은 AI 산업의 혁신·발전을 촉진하기 위한 대규모 투자 계획을 밝히면서도, 한편으로는 해당 계획의 중심에 중앙 정부가 제시한 AI ‘윤리 규범과 안전예방’이라는 다소 모호한 자체 기준을 강조하면서 향후 정부가 AI와 AI 관련 서비스가 생성한 정보, 알고리즘 등 기초적인 AI 기술이 자체 기준에 부합하지 않을 시 강력히 규제할 가능성을 내비춰 지나친 정부 제재라는 비판도 동시에 받고 있다. 실제로 시 정부는 대규모 자금 투자 계획을 약속하는 것과 동시에 AI 산업에 대한 관리·감독 기준으로 ‘상시 지도 메커니즘’을 정부가 직접 구축하겠다는 입장을 여러 차례 밝혀왔다. 고도의 AI 기술이 반체제 여론을 형성해, 결과적으로 사회적 동원의 능력이 있는 AI가 등장해 반정부적인 내용을 온라인상에 확산시킬 것에 대한 우려를 조기에 차단하겠다는 정부 방침인 셈이다. 이를 방지하기 위해 중국은 AI 서비스가 생성한 인터넷상의 정보에 대한 상시 지도 메커니즘을 시 정부의 기준에 맞게 설계하고, 연구 개발 단계는 물론이고 소비 단계에서도 상시 개입해 지도할 것이라는 입장을 공공연히 밝혀오고 있는 상황이다. 

가장 먼저 개발을 위한 생산자 측면에서 정부는 시스템의 고장을 적시에 예방하고 법의 테두리 안에서 언제든지 시스템에 개입할 수 있도록 준비하라고 명시했으며, 소비자의 측면에서도 AI가 국가 안보를 위협하는 방식으로 소비되는 것을 금지, 소비자 스스로 AI 제품과 서비스로부터 일어날 수 있는 악영향을 충분히 이해해 국가 권력에 반하는 방향으로 AI 제품과 서비스 소비를 금지하는 등 AI 제품과 서비스의 부적절한 소비를 방지해야 한다고 명시했다. 만일 이 같은 기준에 어긋난 소비 사례가 적발될 시 정부는 공권력을 투입해 AI 제품과 서비스의 사용 과정에서 발견한 안전상의 취약점 등을 적시에 해결하도록 도모할 것이라고 규정했다.

문제는 정부가 AI 윤리 규범에 입각한 관리 감독을 실시할 것이라고는 했지만, 그 기준이 매우 모호한 ‘윤리’를 기준으로 했다는 점에서 사실상 AI의 개발 방향이 반정부, 반공산당적인 발언이나 연구 등으로 진행될 가능성을 미연에 방지하려는 계산이란 비판을 피하기 어려워 보인다. AI 규제 명분으로 ‘윤리’를 내세웠지만 사실상 중국이 걱정하는 것은 ‘체제’라는 것인데, AI가 정부 통제를 벗어나 체제를 위협하는 식으로 작동할 가능성을 조기에 차단하려 하고 있다는 지적이다. 다만, 시 정부는 이런 비판을 의식한 듯 AI 윤리 규범 공공 서비스 플랫폼을 설치해 기업들의 자율·자치 능력을 재고하겠다는 추가 방침을 밝혔다. 하지만 AI 윤리 규범 준수에 대한 심사와 평가, 교육 등은 여전히 시 정부가 제시하는 기준과 통솔에 의해 진행될 것이며, AI 산업 주체들의 윤리 의식 교육 프로그램을 운영하는 등의 방침을 강화해 나갈 것이라고 밝혔다.

이와 함께, AI를 개발, 운영하는 각 기업체를 대상으로 내부 데이터에 대한 전반적인 보안 책임과 사용자 개인정보 보호 강화를 이행하도록 했다. AI 분야 종사 기업체들은 일명 ‘데이터 안전 인증제’와 ‘개인정보보호 인증제’를 실시하고 해외 사이트로 대량의 데이터를 전송하는 등 국가 간 데이터 유출 방지를 위해 안전관리 시스템도 구축해야 할 의무를 부과한 것이다. 이 같은 AI 연구 개발과 소비에 대한 중국 정부의 확고한 방향성은 비단 베이징만의 현상이 아니다. 중국의 인터넷 감독 기구인 국가사이버정보판공실(CAC)은 지난 4월, ‘AI 기술로 만든 콘텐츠는 반드시 중국의 핵심 사회주의 가치를 반영하라’는 내용을 골자로 한 AI 서비스 관리 방안 초안을 발표했다. 해당 발표에는 ‘AI 서비스 이용 실명제’ 외에도 제품 출시 전 보안 검사 의무화와 AI의 부적절한 응답 시 3개월 내 재발 방지 조치 마련 의무화 등의 내용이 중점적으로 기술됐다. 중국의 검열 시스템을 AI에도 적용하려는 의도라는 비판이 뜨겁게 제기됐던 이유다.

AI 규제 ‘대원칙’ 국무원 지휘 하에 

사실상 AI 산업 전반을 대하는 중국 정부의 이 같은 ‘대원칙’은 지난 2017년 7월 중국 국무원이 발표한 일명 ‘차세대 AI 발전 계획’에 기반하고 있다 해도 과언이 아니다. 당시부터 지금까지 국무원은 자유로운 시장경쟁을 원칙으로 제시하되, 정부와 시장의 역할을 나누어 관련 윤리규범·법 제정과 안전예방 등 정부 관리·감독의 역할을 충분히 발휘할 것을 꾸준하게 강조하고 고수해오고 있기 때문이다.

특히 국무원은 AI 관련 미래 연구 방향에서 연구 개발자와 설계자의 윤리 규범과 이를 제재할 수 있는 법규 제정에 힘을 쏟아왔다. 실제로 국무원은 AI 연구 개발자와 설계자에 대한 윤리 평가 시스템을 여러 단계로 구축해 AI 연구 개발자와 설계자에 대한 윤리 규범과 행동수칙을 제정했으며, AI의 실생활 적용에 있어서 사생활 침해와 정보 유출 및 재산권 침해 등에 대한 민형사상 책임 소재를 명확히 규정했다. 또한, 일명 ‘AI 안전 모니터링’이라는 명목 하에 수시로 정부 소속 감독 기관을 AI 개발업체에 파견해 내부사항을 상세히 감독할 수 있는 전권을 부여했고, AI가 국가 안보에 미치는 영향을 주시할 것이라는 입장을 공공연하게 밝혀왔다. 더불어 정기적으로 AI가 중국 노동 시장에 미치는 영향을 주시, 장기적으로는 AI가 사회윤리에 미치는 영향성을 평가하겠다는 입장이다.

나아가 국무원은 이를 보다 효과적으로 감독하기 위해 중국 과학기술부 산하에 국가 차세대 AI 관리 전문위원회를 개설하고 AI 산업에서의 공정·공평·조화·안전의 촉진과 편견·차별·침해·유출의 회피를 위한 상세한 AI 윤리 규범을 제시했다. 사실상 AI 개발과 관련해 국무원은 정부 소속 관리자를 해당 업체에 파견해 전권을 휘두를 수 있는 막강한 권한을 부여한 것인데, 정부 소속 AI 관리자는 AI 개발 과정에서 윤리 규범 관리·감독을 명목으로 사실상 모든 과정에 주동적으로 개입할 수 있으며 AI 발전의 잠재적 위험성에 대한 감독 결과를 심사할 수 있는 셈이다.

그리고 업체가 연구개발을 진행하는 측면에서도 AI 연구 개발자는 자기 통제와 자체 검토를 강화하고 비윤리적인 AI 연구개발에 참여하지 못하도록 강제함으로써 데이터 수집·저장·사용·가공·전송·제공·공개 등 모든 단계에서 관련 윤리규범·법과 표준을 엄격히 준수하도록 했다. AI 연구 개발자는 알고리즘 개발과 설계 및 적용 등 모든 단계에서 발생할 수 있는 편견·차별을 자발적으로 회피해야 한다고 명시했다. 생산자들은 AI 시장으로의 진입과 AI 시장에서의 경쟁·거래 등과 관련된 법을 엄격히 준수해야 하며, 지적재산권 침해가 금지됐고 AI 제품과 서비스의 결함으로 인하여 생명과 재산의 안전, 그리고 사생활을 침해하지 못하도록 규정해 사실상 중국 정부가 지휘하는 AI 개발과 미래 전망은 중국 당국이 그어 놓은 선 안에서 제한적으로 개발될 것이라는 전망이 우세하다.

※ 위 원고는 현지 외부 전문가가 작성한 원고로, (사)경북PRIDE기업 CEO협회의 공식 의견이 아님을 알려드립니다.