빅 데이터와 프라이버시 컴퓨팅, 그리고 개인의 디지털/데이터 주권은 상호 공생 관계에 있습니다. 여기서 "빅 데이터"는 다음과 같이 현재 고도로 자동화된 세계에서 생산되는 고도로 개인화된 데이터를 의미합니다.

1. 사물인터넷으로 생성되는 데이터 등 사람과 가까운 센서

2. 인간 행동 및 상호 작용에 가까운 데이터

3. "빅 데이터"는 의료, 건강 및 행동과 같은 매우 사적인 데이터입니다. "해외 쇼핑" 및 "손 베기" 데이터가 Amazon 및 Taobao에서 수집 및 수익화(귀하에게 배포되지 않음)되는 것을 신경쓰지 않아도 됩니다. , 하지만 당신은 당신의 의료 및 건강 데이터가 수집될 것이라는 점을 확실히 염두에 두고 심지어 두려워할 것입니다.

"빅 데이터"에서 이러한 종류의 고도로 사적인 데이터를 "프라이버시가 많은" 데이터라고도 합니다. "프라이버시가 많은" 데이터의 특징 중 하나는 우리의 생물학적 특성과 높은 수준의 결합을 가지고 있다는 것입니다. 이는 또한 기술 진보에서 비롯됩니다. 왜냐하면 과거에는 기술적 한계로 인해 개인 데이터와 생물학적 특성의 결합 정도가 특성이 상대적으로 낮았기 때문에 그 시대의 개인 정보 보호는 오늘날처럼 시급하지 않았습니다. 아마존에서의 "해외 쇼핑" 기록, 인터넷 검색 기록 등과 같이 당사의 생체 인식과 결합도가 상대적으로 낮은 이러한 종류의 개인 정보는 "가벼운 개인 정보" 데이터라고 할 수 있습니다.

생체 인식과 밀접하게 결합된 "프라이버시가 많은" 데이터의 전형적인 예는 우리의 "얼굴"입니다.

이미지 설명

（Twitter：Humans have more facial muscles than any other animal on earth - 22 on each side of the face.）

인간의 얼굴에는 지구상의 다른 어떤 동물보다 더 많은 근육이 있습니다. 얼굴의 각 절반에는 22개의 "표정" 근육이 있습니다.

우리 인간이 진화시킨 놀라운 "사회 지능"은 우리의 "얼굴"을 사회적 도구로 만듭니다. 다른 사회적 도구인 음성/언어와 마찬가지로 얼굴은 "표현"의 매개체가 됩니다.

이미지 설명

예를 들어:

（HBO - Hall of Faces - Trump)

인터넷 시대에 우리의 "사회적" 표현은 직접 "소통"되는 것이 아니라 "데이터"를 통해 이루어지므로 데이터를 기술로 처리할 수 있다면 우리의 "얼굴"의 표현력은 비약될 것입니다. 최근 몇 년 동안 인공 지능 기술의 급속한 발전으로 우리의 "얼굴" 표현력이 크게 향상되었습니다.

이미지 설명

최근 중국에서 유행하고 있는 ZAO 얼굴변형 APP은 이 기술에서 파생된 오픈소스 소프트웨어 '딥페이크(Deepfake)'다.

이미지 설명

（Uncanny Valley graph - wiki)  

Masahiro Mori의 가설은 로봇과 인간이 외모와 행동이 비슷하기 때문에 인간도 로봇에 대해 긍정적인 감정을 갖게 되며 어느 정도까지는 반응이 갑자기 극도로 부정적이 될 것이라고 지적했습니다. 로봇과 인간은 약간의 차이만 있어도 눈에 띄고 눈부시게 빛날 것이고, 로봇 전체가 매우 뻣뻣하고 무섭게 보여 사람들이 마치 좀비를 마주하고 있는 듯한 느낌을 받을 것입니다. 그러나 로봇과 인간의 유사성이 일반인과 같은 유사성이 계속 상승하면 로봇에 대한 인간의 감정적 반응은 다시 긍정적으로 돌아와 인간과 인간의 공감으로 이어질 것입니다.

이미지 설명

(Uncanny Valley example - Left - Angelina Jolie in Beowulf)

"Uncanny Valley 예 - Right - Avatar"에서

2009년 블록버스터 영화 '아바타'는 모션 캡처에 더 많은 샘플링 포인트가 사용되었기 때문에 '언캐니 밸리'를 처음으로 넘은 영화였습니다.

현재 인공지능 기술인 '딥페이크(Deepfake)'는 방대한 양의 데이터를 '훈련'시켜 얻은 알고리즘으로 '불쾌한 골짜기'를 쉽게 돌파할 수 있다. 이것 또한 인공지능이 인간만이 만질 수 있었던 인지의 영역을 돌파했음을 보여주고 있습니다.우리가 살고 있는 시대는 정말 많이 다릅니다.

입소문이 나기 며칠 전, ZAO 얼굴 바꾸기 앱은 너무 충격적이고 재미있어서 인기 있는 화면 스와이프 앱이 되었습니다. 예전에는 연예인들만이 '영화보기'의 즐거움을 누렸다. 그러나 ZAO는 며칠 동안 뜨거웠고 많은 사람들이 회복되었고 갑자기 "매우 겁"을 느꼈습니다. "스타 얼굴"을 변경하는 데 도움이 될 수 있습니다. 내 얼굴을 사용하여 은행의 안면 인식 인증을 속일 수는 없습니까? 그럼 내 돈을 가져가? !

그제서야 우리는 기술의 발전이 실제로 "양날의 검"이라는 것을 깨달았습니다. 우리를 "점점 더 좋게" 만드는 기술이 우리의 사생활을 더 깊이 침범할 것입니다. 특히 우리의 생체 인식과 밀접하게 연결된 개인 정보가 많은 거대한 데이터입니다.

무엇을 해야 합니까?

현재 ZAO와 같은 AI "얼굴 바꾸기" 기술이 가져온 개인 정보 보호 및 보안 문제에 대한 일반적인 대답은 다음과 같습니다(주로 "얼굴 스와이핑" 인증을 사용하는 은행 및 기타 기관에서 제공됨). 이 기술은 현재 속이기에 충분하지 않습니다. 은행 및 기타 장소 얼굴 인식 소프트웨어. 실제로 은행의 얼굴 인식 앞에서 사진이 있는 컬러 레이저 인쇄 용지를 흔드는 것은 현재 작동하지 않을 수 있으며, 예를 들어 Apple 휴대폰의 얼굴 잠금 해제는 얼굴 이미지 데이터뿐만 아니라 얼굴 이미지도 수집합니다. 피부 표면층의 깊이 데이터와 모세혈관 데이터는 그렇게 쉽게 뚫리지 않습니다(일반적으로 쌍둥이는 잠금을 해제할 수 없다고 합니다).

That’s it?

이 대답은 분명히 우리를 안심시키지 못합니다. "Deepfake"와 같은 얼굴 변경 소프트웨어의 알고리즘이 어떻게 얻어지는지 아십니까? Deepfake는 현재 "딥 러닝"이라고 불리는 인공 신경망 지능 알고리즘, 특히 이 스탠포드 대학 학생인 Ian Good Fellow가 제안한 "Generation Adversarial Network"(GAN — Generative Adversarial Network)라는 일종의 알고리즘을 기반으로 합니다.

이것은 뇌를 여는 알고리즘입니다. 진화하는 가상 환경을 만들고 기계가 게임을 위한 두 개의 상반되는 알고리즘을 생성하도록 합니다. 하나는 시뮬레이션용이고 다른 하나는 식별용입니다.

이 이미지가 진짜라고 생각합니까, 아니면 내가 가짜를 만들고 있습니까?
당신은 너무 좌절, 당신은 전혀 그렇게 보이지 않습니다! 당신은 패배!
이건 어때?
같지 않은! 다시
이건 어때?
글쎄요. . .
하하, 틀렸어! 난 여전히 가짜야, 넌 졌어!

이런 식으로 게임의 양측은 당신이 믿을 수 없을 정도로 "진짜"인 이미지를 만들 때까지 대결에서 진화합니다.

분명히 위에서 언급한 진화 게임의 한쪽을 인간으로 대체하면 인간의 인지가 한계에 도달했을 때 다른 쪽의 인공 지능 프로그램이 인간을 능가할 것인가? 가능성이 매우 높다.

인간은 "높이 1피트, 마법 1피트, 인공 지능 1피트 5"의 이 게임을 언제까지 고수할 수 있습니까? 머지않아 인간은 인간의 인지를 배제하고 인공지능이 인공지능을 처리하게 하는 것이 최고의 알고리즘임을 알게 될 것이다. 그러면 우리는 이것이 인공 지능 군비 경쟁이며 더 강력한 인공 지능 알고리즘을 개발할 자원이 있는 사람이 일시적으로 이길 수 있음을 알게 될 것입니다. 자원이 한정된 경제와 사회에서 결국 가장 많은 자원을 가진 독점만이 인공지능 군비 경쟁 게임을 할 수 있는 능력을 가질 수 있으며 자원이 없는 사람들, 즉 다수가 패자가 될 것입니다.

그러나 더 이상 경주에 속하지 않는 인간이 "인공 지능"에 의해 불필요한 것으로 간주될 수 있는 날이 온다면 그 날은 끔찍한 날이 될 것입니다.

따라서 현재의 자원 제약 경제는 인공 지능이 도래한 시대에 적합하지 않습니다.

프라이버시 보호에 대한 "얼굴 바꾸기"의 도전 문제로 돌아가서, 우리가 해야 할 일은 우리의 생각을 바꾸는 것입니다.

질문의 다른 측면으로 돌아가서, 인공 지능과의 진화 게임에서 이기고 싶지 않다면 경제 사회를 발전시킨 것과 같은 방식으로 시도할 수 있을까요?

"프라이버시가 많은" 거대 데이터의 특징 중 하나는 생체 인식과의 깊은 결합입니다. 우리는 "분리"의 방향으로 가려고 노력할 수 있습니다.

예를 들어, 하나의 방향은 우리의 전통적인 단일 "정체성"과 생물학적 특성을 "분리"하는 것입니다. 우리는 사회와 경제에서 단일 정체성의 역할에 대해 반성해야 합니다. 인터넷으로 시작된 정보혁명은 우리를 무한히 확장 가능한 가상현실로 이끌었다 우리의 현실세계는 이미 크게 확장되었다 우리의 미래는 무수한 가상공간이 만들어질 수 있는 인간의 사고공간을 담고 있는 세상이다 존재는 진정으로 자신의 운명을 통제하고 인공 지능과 공존할 것입니다. 인공 지능은 이 무한한 세계에서 생각하는 인간과 동등한 구성원이 될 것입니다. 이 세계는 충분히 크기 때문에 누구도 다른 사람을 노예로 만들 수 없습니다. 우리가 만드는 모든 공간에서 우리는 무수한 "아바타"를 가질 수 있고, 더 이상 하나의 "정체성"이 필요하지 않으며, "생물학적 특성"과 깊이 결합된 "단일 정체성"이 필요하지 않습니다.

(전문)

(전문)