아무도 믿지 마라. 무엇이 신경 네트워크를 위협하고, 포르노를 만드는가?

드미트리 커킨

가짜 포르노 비디오이번 주 웹에 출연 한 그녀의 형제와 섹스를 한 영화 "원더 우먼"갈 Gadot의 스타가 가짜가 아니라 인공 지능에 의해 생성 된 가짜 인 것으로 밝혀졌다.

Vice와의 인터뷰에서 별명 deepfakes로 reddit의 익명 사용자 인 비디오 제작자는 Gadot의 얼굴을 포르노 배우에게 "사진 찍기"위해 신경 네트워크를 사용했음을 확인했습니다. 가짜는 일반적으로 눈에 띄며 deepfakes는 돈을 벌려고하지 않는다고 그는 AI를 사용하여 얼마나 쉽게 만들 수 있는지 확인하기를 원했습니다. 그리고 그는 우리에게 나쁜 소식을 전합니다. 집에서 가짜 포르노를 만드는 것은 매우 쉽습니다.

문제는 일반적으로 포르노 피크 (pornofeaks) 자체에 있지 않습니다. 유명인과 같은 배우와 배우가 섹스를하고있는 사진과 비디오에 대한 요구는 주물과 감각적 인 연인들이었습니다. 포르노 산업계의 스타들과의 외면적 유사성에 대한 전체적인 경력이 형성되고 있습니다.이 현상은 심지어 "고든 램지 (Gordon Ramsay) 난쟁이 포르노 난쟁이가 오소리 구멍에서 죽은 것을 발견했습니다"라는 황색 보도의 탁월한 표제를 불러 일으켰습니다.

그러나 생산 전에 시간, 자원 및 일종의 기술이 필요하다면 얼굴을 이미지에 용접하도록 훈련 된 신경망이 작업을 크게 단순화합니다. 로봇은 사람이 아니라 막대기입니다. 로봇은 가끔씩 더 똑똑해지기 때문에 가짜가 점점 더 안정적으로 보일 것입니다. Deepfakes 사용자는 공개 소스 라이브러리에있는 스크랩 요소에서 인공 지능 소프트웨어를 수집했으며 공개 유출 및 YouTube와 같은 호스팅에서 사진과 비디오를 가져 왔다고 설명했습니다. 간단히 말해서, pornofeikov를 생성하는 모든 도구는 그와 함께뿐만 아니라 전 세계 수백만 명의 사람들의 코 밑에 있습니다.

그리고 이것은 엄밀히 말하면 뉴스조차도 아닙니다. 2003 년에 오레곤 보건 과학 대학 (Oregon Health and Science)의 전문가들은 오디오 사기가 "만들기 쉽고 판단하기 어렵다"고 경고했습니다. 2017 년에는 예측이 이루어졌으며 신경망에 의해 생성 된 가짜 음성 녹음은 실제 음성 녹음과 구별하기가 매우 어렵습니다. 오디오에 이어 비디오를 끌어 올렸습니다. 워싱턴 대학 직원의 발달은 사람의 얼굴 표정을 연설과 동기화합니다. 예를 들어 Barack Obama와 함께 비디오 클립에 오디오 만 표시되고 그림은 프로그램에서 생성됩니다. 하나를 다른 하나와 연결하십시오. 그리고 이제는 유명한 자유주의 정치인이 히틀러에 대한 동정심을 "고백"할 준비가 된 가짜 비디오가 있습니다.

트위터 트롤이 하루 안에 인종 차별 주의자로 변한 마이크로 소프트의 채팅 로봇은 인공 지능이 악용 될 수 있다는 것을 상상하기에 꽤 상상을 초월합니다. 그리고 물론, 포르노 피트의 기술은 Gal Gadot, Taylor Swift 또는 Jennifer Lawrence에 의해 주로 위협받지 않습니다. 그들은 가짜를 알아내는 IT 전문가 군대를 고용하기에 충분하고, 개인적인 이득을 위해 이러한 가짜를 사용하려고하는 사람을 고소 할 변호사들로 구성됩니다.

아니요, 간단한 필사자가 새로운 무해한 알고리즘의 희생자가 될 것입니다. 디지털 가짜는 포르노 그라피, 사이버 스토킹, 네트워크 괴롭힘, 협박 및 쉽게 암시가 가능하고 고급 기술 분야의 뉴스를 특별히 따르지 않는 사람들 ( "딸이 녹화되었습니다. 즉시 돈을 송금합니다. 그렇지 않으면 모든 것이 보입니다")에 의해 조작 될 수 있습니다. 그리고 우리는 포르노에 관해 반드시 이야기하는 것은 아닙니다. 가짜는 정치 선전과 증오에 대한 선전을 위해 네트워크에 착수 될 수 있습니다.

"하지만 이것은 괴물이다!" 예, 괴물, 그리고 그것은 비난 할 deepfakes 코더가 아니에요. 해커들이 돈을 훔치기 위해가 아니라 은행 시스템에 침입하여 사이버 방어 부서를 보안 구멍으로 안내하기 때문에 익명의 인공 지능 프로그래머가 발명했다. 디지털 위조의 시대는 반 유토피아 공포 이야기가 아니다. "블랙 미러", 그리고 오는 현실. 포르노피어는 현대 윤리 (다른 사람들의 사생활 침해로 간주 될 수 있습니까?) 또는 시행중인 법에 의해 아직 이해되지 않았습니다. 그러나 그녀는 우리가 어떻게 든 앞으로 몇 년 안에 살아야만합니다. 따라서 그러한 먹거리에 대한 해독제를 개발할 필요가 있습니다.

콜린스 사전 큐레이터는 "가짜 뉴스"라는 용어를 2017이라는 표현으로 불렀는데, 따라서 일반 사용자는 정보의 진위 여부를 확인하는 데 시간을 낭비하지 않으면서도 획기적인 헤드 라인을 클릭하고 다시 게시하는 데 중독됩니다. 한편, 가짜 뉴스는 선거와 국민 투표 결과에 영향을 줄 수 있습니다. 그리고 이것은 또한 우리가 이미 존재하고 덜 경박하다는 것을 배울 필요가있는 새로운 현실의 일부입니다.

소셜 네트워크는 이미 수백만 명의 사람들이 매일 당신의 삶을 볼 수있는 유리 벽으로 된 집을 만들었습니다. 이 집에는 문이 없다는 것이 확실합니다. 누구든지 AI를 사용하여 포르노 롤 또는 영화 "반지의 제왕"에 얼굴을 긁으면 자신의 개인 공간을 침범 할 수 있습니다. 프라이버시는 죽었지 만, Big Brother는 특별한 서비스와 글로벌 기업의 형태로이 문제에 유죄를 두지 않았습니다.

디지털 가짜의 세계가오고 있지만 이것이 공황, 편집증, 인터넷 사용을 거부하는 것 또는 신경 네트워크를 금지하는 요구 사항의 이유는 아닙니다. 이것은 네트워크 위생과 새로운 윤리에 대해 생각할 이유입니다.이 윤리는 일단 고쳐지고 다른 사람의 이미지를 사용하여 디지털 위조를 만드는 것은 가볍고 불법입니다. 사람들이 무조건적으로 TV에서 말하는 모든 것을 믿을 때 ( "레닌은 버섯"이라고해도) 시간이 지날수록 사라집니다. 같은 방식으로, 우리는 점차적으로 인터넷에 쓰여진 모든 것을 믿지 않도록 익숙해집니다.

표지 :워프 기록