AI로 사진 속 여성 옷 벗기는 앱이용 폭증…우려 커진 딥페이크

▲출처=게티이미지뱅크

미국에서 인공지능(AI)으로 사진 속 여성의 옷을 벗기는 딥페이크 애플리케이션(앱)과 웹사이트의 이용자가 폭증하면서 악용 우려가 커지고 있다.

10일(현지시간) 블룸버그통신은 서비스형 소프트웨어 기업 그래피카를 인용해 지난 9월 한 달 동안에만 2400만 명이 AI를 사용해 옷을 벗기는 딥페이크 웹사이트를 방문했다고 보도했다. 딥페이크는 딥러닝과 페이크(fake)의 합성어로 AI를 기반으로 얼굴 등을 실제처럼 조작한 이미지나 영상을 뜻한다.

그래피카에 따르면 올해 초보다 9월에 X(옛 트위터)와 레딧 등 사회관계망서비스(SNS)에서 AI 옷 벗기기 앱을 광고하는 링크 수가 2400% 늘었다. 외신은 유명인사는 물론이고 직장 동료나 같은 학교의 동급생, 지하철에 탄 낯선 사람, 어린이 등의 사진을 입력하면 클릭 몇 번만에 사진 속 인물의 옷을 제거할 수 있다고 설명했다.

구글인 이러한 문제에 대해 “성적으로 노골적인 콘텐츠는 허용하지 않고 있다. 문제가 된 광고를 검토했으며 우리 정책을 위반한 광고는 삭제하고 있다”고 밝혔다.

하지만 디지털 권리 옹호 단체인 일레트로닉 프론티어 재단의 에바 갈페린 사이버보안국장은 “일반인이 일반인을 대상으로 이런 행위를 하는 일이 많아지고 있다. 고등학생, 대학생들 사이에서 이런 일이 벌어지고 있다”고 지적했다.

한편 8일 유럽연합(EU) 집행위원회(EC)와 유럽의회, EU 27개 회원국 대표는 ‘AI 규제법’에 합의했다. 이 법은 사람의 기본권, 법치 등에 중대한 해악을 미칠 수 있는 AI를 고위험 AI로 분류하고 이들 AI 사용을 금지하는 내용을 담고 있다. 이를 어길 경우 글로벌 매출액의 최대 7%(매출이 적을 경우 최대 3500만 유로)에 해당하는 벌금이 부과될 수 있다.