일본 딥페이크 포르노 첫 적발 여성 연예인 합성 일본반응

일본 여성 연예인 합성 딥페이크 포르노 첫 적발 일본반응

 

인공지능(AI)을 활용해 여성 연예인의 가짜 포르노 동영상을 만들어 인터넷에 공개한 '딥페이크'(Deepfake) 사례가 일본에서 처음 적발됐습니다.

2일 교도통신에 따르면 도쿄도(都) 경찰본부인 경시청은 여성 연예인 딥페이크를 제작·공개한 혐의로 구마모토(熊本)현 거주 대학생인 하야시다 다쿠미(21)와 효고(兵庫)현에 사는 오쓰키 다카노부(47· 시스템 엔지니어)를 명예훼손 및 저작권법 위반 혐의로 체포했습니다.

두 사람은 AI를 활용해 포르노 비디오에 등장하는 여배우 이미지에 피해자가 된 여성 연예인을 교묘하게 합성하는 방법으로 딥페이크를 제작해 인터넷에 공개한 혐의를 받고 있습니다.

교도통신은 이런 유형의 딥페이크 사건이 일본에서 적발된 것은 처음이라고 전했습니다.

'심층학습'(deep learning)과 '가짜'(fake)라는 의미를 담은 딥페이크는 AI의 고급이미지 생성 기술을 사용해 합성 방식으로 만드는 진짜 같은 가짜 동영상을 뜻하는 신조어입니다.

유명 인사의 얼굴을 넣은 딥페이크 포르노 동영상이 2017년 처음 발견된 이후 인터넷 공간에서 세계적으로 확산하는 추세입니다.

네덜란드 사이버 보안기업 '딥 트레이스'가 발표한 보고서에 따르면 작년 한 해 동안 이 회사가 확인한 딥페이크는 1만4천678건으로, 전년 대비 84% 급증했습니다.

이 가운데 96%가 유명 할리우드 여배우 등의 얼굴을 정교하게 끼워 넣은 포르노물로 파악돼 연예인들이 딥페이크의 집중적인 타깃이 되는 것으로 나타났습니다.

 

ool *****
일반적으로 최근에는 버라이어티 프로그램에서 딥페이크 기술을 사용하여 교체해 원래 연예인은 누구냐? 같은 퀴즈를 하고 있었습니다만
정말 위화감 없죠. 이제 소리까지 재현돼버리면, 구별 못하게 돼버릴 겁니다.
기술은 점점 발달할 것이며, 범죄 영상 증거의 가치도 변해갈까요.
이번이 첫 체포인데 빨리 대책을 세우는 게 좋겠다고 생각합니다.


kaz *****
이것은 본보기라고 할까, 앞으로도 이렇게 마구 체포해서 전례를 쌓아가지 않으면 일반인에게 리벤지가 횡행할지도


kur *****
이 기술을 알았을 때 이런 문제가 일어날 거라고 생각했습니다. 본인이 하지 않았고, 말하지 않은 일을 한 것처럼 취급되는. 피해를 당한 연예인은 불편해서 참을 수 없을 것입니다. 인터넷에 유포되면 사라지기 힘들 듯하지만, 전부 찾아내 완벽하게 지워주셨으면 합니다.


gao *****
이 기술은 여러가지 범죄의 가능성이 있네요.
이번 건도 그렇습니다만, 장르에 따라 즉시 체포해야 합니다.
이 기술은 생각하면 여러가지 악용에 연결될 테니까요.


k_s *****
이런 새로운 기술에 대해 사법 및 경찰 조직이 완전히 늦어지고 있는 것 같다.
디지털청은 우선 디지털에 강한 법령을 만들어야 하지 않을까?


npu *****
어느새 모델들과 미남 얼굴의 성인 비디오나 음란 사진 등이 배달되는 일이 자주 있는 것 같다.
본인은 사회적인 오해를 받고나서야 주의받는 경우가 대부분이므로 발견도 매우 늦다.
이런 이미지 자체가 불법적이고, 단속해야 하는데 표면화되면 얼굴을 사용당한 쪽은 입은 피해가 크다.
미연에 방지할 방법은 없는 것일까.


cuk *****
이미 영국과 미국에서 문제가되고 있고, 영국에서는 이지메, 미국에서도 본인 사칭으로 피해를 호소하는 것 같은데 딥페이크 자체를 대상으로 한 처벌을 요구하는 목소리도 나오고 있습니다.
일본에서도 생각하는 것이 좋을지도 모릅니다.
게다가 지금 중국에서 수상한 딥페이크 응용 프로그램이 배포되고 있는 것 같아서 기술을 알고 있는 사람이 흥미 본위에 실행해버릴 수도 있지 않을까 생각합니다.


ss4 *****
인터넷 초기에는 무수정 사진에 연예인 얼굴을 합성한 게 나돌고 있었는데, 기술 진보는 대단하네. 문제 일으켜 체포된 탤런트가 출연하고 있는 드라마나 영화도 얼굴만 다른 탤런트로 교체할 수 있기 때문에, 이제는 새로 찍지 않아도 되나.


obi *****
파고 들면 나만 좋으면 된다는 것은 거의 모든 인간의 본심일지도 모르지만, 다른 사람을 다치게 하거나 이용해도 나만 좋으면 된다는 놈은 철저히 배제하지 않으면 안된다.


eod *****
그야말로 3학년 A조 페이크 동영상과 마찬가지.
그 드라마처럼 사실 무근 가짜 동영상으로 비방받은 사람이 자살에 몰릴지도.
그런 미래가 되지 않도록 페이크인지 아닌지를 확실하게 판정할 수 있는 기술이 필요한 거야.