[딥페이크 쇼크] 방치됐던 'AI 기본법' 국가인공지능委 출범으로 탄력받나

▲<YONHAP PHOTO-3958> 질문에 답하는 윤석열 대통령 (서울=연합뉴스) 진성철 기자 = 윤석열 대통령이 29일 오전 서울 용산 대통령실 청사에서 열린 '국정브리핑 및 기자회견'에서 질문에 답하고 있다. [e-mail]/2024-08-29 11:13:12/<저작권자 ⓒ 1980-2024 ㈜연합뉴스. 무단 전재 재배포 금지, AI 학습 및 활용 금지>

인공지능(AI) 기반 이미지 합성 기술인 딥페이크를 악용한 디지털 성범죄가 국가적 문제로 불거지면서 그동안 정쟁에 밀려 주목받지 못했던 ‘인공지능 기본법’ 제정에 탄력을 붙을 것으로 관측된다. 특히 이달 중 출범하는 대통령 직속 국가인공지능위원회가 기술 패권을 확보하기 위한 민관 협력 거버넌스로서 국가 전체의 AI 혁신을 도모할 수 있을지 주목된다.

2일 관련업계에 따르면 국회 과학기술정보통신위원회가 3일 첫 법안소위를 열고 AI 기본법에 대한 논의를 시작한다.

과방위는 22대 국회 개원 이후 20번 넘게 전체회의를 개최했지만 AI기본법 관련 논의는 시작도 하지 못했다.

세계 최초로 AI 법을 통과시킨 유럽연합(EU)뿐만 아니라 미국, 일본, 중국, 캐나다 등 각국은 앞다퉈 AI 국제표준 주도권을 선점하기 위한 입법 움직임에 속도가 붙고 있지만 우리나라는 여야가 정쟁에 매몰되면서 가장 시급한 AI 기본법이 국회에서 계류 중인 상황이다.

AI 산업 육성 및 안전성을 주요 골자로 하는 AI 기본법에는 딥페이크의 부작용을 예방하기 위해 AI가 생성한 콘텐츠에 워터마크 부착을 의무화하는 내용도 담을 예정이다.

워터마크 의무화는 근본적인 해결책은 아니지만 단기적인 측면에서 딥페이크 성범죄를 예방할 수 있는 대안으로 꼽힌다. 이 때문에 미국은 이미 지난해 10월 바이든 행정부 주도로 딥페이크 영상, 사진, 음향에 의무적으로 워터마크를 부착하는 행정명령을 시행했다. 미국의 경우 보완 차원에서 워터마크 표시를 지우는 행위에 대해서도 처벌할 수 있는 조항까지 만들었다. EU는 지난해 세계 최초로 AI 콘텐츠에 워터마크 부탁을 의무화했다.

업계 관계자는 “이미 우리나라는 빅테크와 격차가 크다. AI 진흥의 발판이 되는 기본법이 통과되지 못하면 골든타임을 놓치게 될 것”이라며 “이번 기회에 정쟁에 밀려 홀대받았던 AI 기본법을 비롯한 시급한 법안이 조속히 통과되기를 기대한다”고 했다.

이달 닻을 올리는 국가인공지능위원회는 AI와 관련 각 부처를 통합조정하는 컨트롤타워 역할을 하는 동시에 국가 AI 산업 혁신의 기폭제 역할을 할 것이라는 관측이 나온다. 국가인공지능위원회는 딥페이크 성범죄와 같은 AI 부작용에 대한 안전성과 신뢰성을 마련해야 할 뿐만 아니라 AI 연구개발 및 투자 전략 수립, 데이터센터 등 인프라 확충, 인공지능 윤리원칙 확산 등 국가 인공지능 정책 전반을 심의하고 조정하게 된다.

법무법인 세종의 AI 센터장인 장준영 변호사는 “AI 기본법을 추진하는 단계인 만큼 국가인공지능위원회에서 향후 정책 방향에 대해 논의하고 AI 기본법과 연계돼 제도화의 기폭제 역할을 할 것으로 기대한다”고 설명했다. 그러면서 “위원회는 국가 AI 정책이 전 부처 업무에 어떻게 반영해야 할지 등 의사결정에 큰 영향을 미치는 안건을 논의할 수 있는 만큼 위원회를 중심으로 AI의 신뢰성과 안정성을 담보하는 큰 틀의 논의가 추진될 것으로 보인”고 설명했다