감정 상태를 드러내기 위해 AI와 안면 인식을 사용하는 카메라 시스템이 신장의 위구르인들에게 테스트되었다고 BBC가 전했습니다. 한 소프트웨어 엔지니어는 지방의 경찰서에 이러한 시스템을 설치했다고 주장했습니다. 증거를 본 인권 옹호자는 충격적이라고 말했습니다. 런던 주재 중국 대사관은 이러한 주장에 대해 직접적인 답변을 내놓지 않았지만 모든 소수 민족의 정치적, 사회적 권리가 보장된다고 말했습니다. 신장에는 1,200만 명의 소수민족 위구르족이 거주하고 있으며 이들 중 대부분은 무슬림입니다. 지방의 시민들은 매일 감시를 받고 있습니다. 이 지역은 또한 인권 단체에 의해 보안 수준이 높은 수용소라고 불리는 매우 논란이 많은 "재교육 센터"가 있는 곳으로 백만 명 이상이 억류된 것으로 추정됩니다. 베이징은 항상 자신의 국가를 세우려는 분리주의자들이 테러 공격으로 수백 명의 사람들을 죽였다고 말했기 때문에 이 지역에서 감시가 필요하다고 주장해 왔습니다. 신장은 세계에서 가장 감시가 심한 지역 중 하나로 여겨집니다. 소프트웨어 엔지니어는 자신의 안전이 두렵기 때문에 익명을 조건으로 BBC의 파노라마 프로그램과 대화하기로 동의했습니다. 그가 근무한 회사도 공개되지 않았다. 그러나 그는 감정 인식 시스템이 테스트되었다고 주장하는 위구르 수감자들의 사진 5장을 파노라마로 보여주었다. 시스템의 데이터는 사람의 마음 상태를 나타내는 것으로 주장되며 빨간색은 부정적이거나 불안한 마음 상태를 나타냅니다. 그는 "중국 정부는 실험실에서 쥐를 사용하듯이 위구르족을 다양한 실험의 실험 대상으로 사용한다"라고 말했다. 그리고 그는 도내 경찰서에 카메라를 설치하는 데 자신의 역할을 설명했다. "우리는 감정 감지 카메라를 피사체로부터 3m 떨어진 곳에 배치했습니다.
거짓말 탐지기와 비슷하지만 훨씬 더 발전된 기술입니다."그는 경찰들이 중국 전역의 경찰서에 널리 설치된 "구속 의자"를 사용했다고 말했다."손목은 금속 구속으로 제자리에 고정되어 있으며 발목에도 동일하게 적용됩니다."그는 AI 시스템이 얼굴 표정과 피부 모공의 미세한 변화도 감지하고 분석하도록 훈련되는 방법에 대한 증거를 제시했습니다. 그의 주장에 따르면 이 소프트웨어는 파이 차트를 생성하며 빨간색 부분은 부정적이거나 불안한 마음 상태를 나타냅니다. 그는 소프트웨어가 "신뢰할 만한 증거가 없는 사전 판단"을 위한 것이라고 주장했습니다. 런던 주재 중국 대사관은 지방에서 감정 인식 소프트웨어 사용에 대한 질문에 답변하지 않았지만 "신장 자치구의 모든 소수 민족에 대한 정치적, 경제적, 사회적 권리와 종교 신앙의 자유는 완전히 보장된다"라고 말했다."사람들은 민족적 배경과 상관없이 조화롭게 살며 개인의 자유에 제한을 받지 않고 안정적이고 평화로운 삶을 즐깁니다."증거는 Human Rights Watch의 중국 국장인 Sophie Richardson에게 보였습니다."그것은 충격적인 자료입니다. 사람들이 원형 차트로 축소되고 있다는 것뿐만 아니라 매우 강압적인 상황에 처해 있고 엄청난 압력을 받고 있는 사람들이 이해할 수 있을 정도로 긴장하고 있으며 그것은 죄책감의 표시로 받아들여지고 있습니다. 문제가."콜로라도 대학교의 Darren Byler에 따르면 위구르인들은 정기적으로 현지 관리들에게 DNA 샘플을 제공하고 디지털 스캔을 받아야 하며 대부분은 연락처 목록과 문자 메시지를 포함한 데이터를 수집하는 정부 전화 앱을 다운로드해야 합니다."위구르인의 삶은 이제 데이터 생성에 관한 것입니다."라고 그는 말했습니다."스마트폰이 휴대해야 하는 물건이라는 것을 모두가 알고 있고, 휴대하지 않으면 구금될 수 있고, 스마트폰에 의해 추적되고 있다는 것을 알고 있습니다. 그리고 그들은 탈출구가 없다고 느낍니다."라고 그는 말했습니다. 대부분의 데이터는 통합 합동 작전 플랫폼(Integrated Joint Operations Platform)이라는 컴퓨터 시스템에 입력되며, Human Rights Watch는 의심스러운 행동을 표시한다고 주장합니다."이 시스템은 사람들이 앞문 대신 뒷문으로 나갔는지, 소유하지 않은 차에 주유를 넣었는지 등 완벽하게 합법적인 수십 가지 종류의 행동에 대한 정보를 수집하고 있습니다."라고 말했습니다."당국은 이제 누가 집에 있어야 하고 누가 없는지 쉽게 알 수 있도록 사람들의 집 문 밖에 QR 코드를 배치합니다."중국 기술 기업이 국가와 얼마나 밀접하게 연결되어 있는지에 대해 오랫동안 논쟁이 있어 왔습니다.
미국에 기반을 둔 연구 그룹 IPVM은 안면 인식 제품이 위구르인을 식별하기 위해 특별히 설계되었음을 암시하는 그러한 회사가 제출한 특허에서 증거를 발견했다고 주장합니다.Huawei와 China Academy of Sciences가 2018년 7월에 제출한 특허는 인종에 따라 사람을 식별할 수 있는 안면 인식 제품에 대해 설명합니다. 화웨이는 이에 대해 "커뮤니티 구성원을 차별하거나 억압하기 위해 기술을 사용하는 것을 용납하지 않았다"며 "어디에서 운영하든지 정부로부터 독립적"이라고 밝혔다. 이 그룹은 또한 회사가 소위 One Person, One File 시스템을 위한 기술을 개발하고 있음을 암시하는 것으로 보이는 문서를 발견했습니다. IPVM의 코너 힐리는 "각 개인에 대해 정부는 개인 정보, 정치적 활동, 관계 등 그 사람이 어떻게 행동하고 어떤 종류의 위협을 가할 수 있는지에 대한 통찰력을 제공할 수 있는 모든 것을 저장할 것"이라고 말했다. Hikvision은 카메라를 포함한 다양한 제품을 만듭니다. "그것은 어떤 종류의 반대도 잠재적으로 불가능하게 만들고 시민들의 행동에서 정부에 대한 진정한 예측 가능성을 만듭니다. 나는 [조지] 오웰이 정부가 이런 종류의 분석을 할 수 있다고 상상하지 못했을 것이라고 생각합니다."화웨이는 1인 1 파일 시스템(One Person, One File system) 기술 개발에 관여한 것에 대해 구체적으로 언급하지 않았지만 "화웨이는 인종 차별을 수행하기 위해 기술을 사용하는 것을 포함해 모든 유형의 차별에 반대한다"라고 말했다."비공개 회사인 Huawei는 우리가 사업을 운영하는 곳 어디에서나 정부로부터 독립적입니다.
우리는 어떤 커뮤니티 구성원을 차별하거나 억압하기 위해 기술을 사용하는 것을 용납하지 않습니다."런던 주재 중국 대사관은 이러한 프로그램에 대해 "아는 바가 없다"고 말했다. IPVM은 또한 위구르인을 탐지하는 AI 카메라를 광고하는 중국 회사 하이크비전(Hikvision)의 마케팅 자료와 위구르인을 식별할 수 있는 또 다른 기술 대기업인 다화(Dahua)가 개발한 소프트웨어 특허를 발견했다고 주장했습니다. Dahua는 자사의 특허가 중국에서 인정된 56개 민족 모두를 언급하며 의도적으로 그중 어느 하나를 표적으로 삼지 않았다고 말했습니다. 또한 "사람들의 안전을 지키는 데 도움이 되는 제품과 서비스"를 제공하고 영국을 포함해 자사가 운영하는 "모든 시장의 법률과 규정"을 준수한다고 덧붙였다. 하이크비전은 자사 웹사이트의 세부 정보가 정확하지 않고 "적절한 검토 없이 온라인에 업로드됐다"며 "소수자 인식 기능이나 분석 기술"을 자사 제품군에 판매하거나 포함하지 않았다고 덧붙였다. 중국 AI 거버넌스 국가위원회 위원장 Dr Lan Xue는 특허에 대해 알지 못한다고 말했습니다. 그는 BBC에 "중국 밖에서는 그런 종류의 혐의가 많다. 많은 것이 정확하지 않고 사실이 아니다"라고 말했다."나는 신장 지방 정부가 신장 사람들을 진정으로 보호할 책임이 있다고 생각합니다. 기술이 그러한 맥락에서 사용된다면 그것은 상당히 이해할 수 있습니다."라고 그는 말했습니다. 영국의 중국 대사관은 BBC에 "위구르 분석을 특징으로 하는 소위 안면 인식 기술은 전혀 없다"라고 말하면서 보다 강력한 방어를 했다.