국민의힘 딥페이크 디지털 성범죄 대응 특별위원회가 딥페이크 성 착취물 소지와 2차 가해 행위에 대한 처벌 방안을 마련하겠다고 밝혔다. 또 딥페이크 영상물에 대한 워터마크 표시 의무화가 시급하다고 강조했다.
특위 위원장인 안철수 의원은 11일 오전 국회에서 열린 특위 첫 회의에서 “딥페이크 범죄를 막기 위한 입법을 추진하고, 피해자 지원을 위한 실효성있는...
AI 생성물에 워터마크를 박는 등 기술적 방안도 논의되고 있지만 사진 한 장으로 딥페이크물을 손쉽게 만들 수 있는 상태에서 이미 만들어진 성착취물 확산을 기술적으로 완전하게 막는 건 불가능하다. 우선은 성착취물을 생성하고 유포하며 이를 방조하는 것이 명백하게 중범죄가 되는 처벌 기반을 마련하는 게 시급하겠지만 근본적으로는 성착취물이 오락이 되는...
△딥페이크 성범죄 영상물의 유통금지 △인공지능 (AI)을 통해 제작된 영상물에 전자적 표시 (디지털 워터마크) 의무화 △전자적 표시가 없는 불법 영상물에 대한 정보통신사업자(플랫폼)의 삭제 의무 부과 등을 추가하는 한편 가해자 처벌 강화를 추진하겠다는 방침이다.
이수정 경기대 범죄심리학과 교수도 3일 국회에서 열린 ‘딥페이크 디지털 성범죄 예방과 대응책...
AI 산업 육성 및 안전성을 주요 골자로 하는 AI 기본법에는 딥페이크의 부작용을 예방하기 위해 AI가 생성한 콘텐츠에 워터마크 부착을 의무화하는 내용도 담을 예정이다.
워터마크 의무화는 근본적인 해결책은 아니지만 단기적인 측면에서 딥페이크 성범죄를 예방할 수 있는 대안으로 꼽힌다. 이 때문에 미국은 이미 지난해 10월 바이든 행정부 주도로 딥페이크 영상...
27일(현지시간) 블룸버그통신에 따르면 오픈AI는 허위조작정보, 딥페이크 등 AI가 생성한 콘텐츠에 워터마크를 붙여 식별하도록 하는 캘리포니아 법안에 찬성 의지를 내비쳤다.
앞서 미국 캘리포니아주 하원은 '디지털 출처 표준법(AB 3211)'이라는 이름의 법안을 62대 0 만장일치로 통과시킨 바 있다. 이에 따라 현재 주 상원 전체 표결을 앞두고 있다. 캘리포니아주...
정부는 지난 5월 ‘새로운 디지털 질서 정립 추진 계획’으로 △딥페이크 가짜뉴스 근절을 위한 대응체계 구축 △디지털 위협에 철저히 대비하는 국가 대응체계확충 등을 뽑았다. 구체적인 방안 중 하나로 AI가 생성한 저작물에 워터마크 적용을 위한 가이드라인을 준비하고 있다. 과학기술정보통신부 관계자는 “100% 완벽한 워터마크는 기술적으로 존재하지...
구글은 이미지 생성의 오남용을 막기 위해 AI가 생성한 이미지에 디지털 워터마크를 부착하고 테일러 스위프트 등 유명 인사들의 이미지는 생성하지 않는다. 미 국회에서 AI로 특정인의 얼굴·음성을 재현하는 행위를 불법으로 규정하는 내용의 법안 발의된 만큼 AI 윤리 기준을 강화한 것으로 보인다.
이에 앞서 일론 머스크 테슬라 최고경영자(CEO)가 설립한 AI...
소버린 AI 모델 구축 방안을 논의했으며, 인텔과는 AI칩 소프트웨어 연구·개발 협력을 시작했다. 빅테크 기업들이 참여하는 개방형 컨소시엄 ‘MLCommons’에서 AI 안전 벤치마크 구축 작업에 기여했으며, AI 워터마크 기술 표준을 구축한 글로벌 연합체인 ‘C2PA’에도 국내 기업 최초로 가입하여 AI 생성 콘텐츠 탐지와 관련된 기술 연구도 공동으로 진행할 예정이다.
오픈AI 등은 정치인 관련 콘텐츠를 만들지 못하도록 제한하고, 콘텐츠에 AI를 식별하는 워터마크를 삽입하는 기술을 도입했다.
다만 AI 규제가 아직은 미비하다는 진단이 우세하다. 미디어 감시 단체인 디지털혐오대응센터(CCHD)가 생성 AI를 이용해 선거 관련 가짜 콘텐츠를 어디까지 만들 수 있는지 조사한 결과, 시도 횟수 중 40%가 규제와 상관없이 가짜 콘텐츠를...
일반 사용자들이 디지털 정보를 불법 복제해 정당한 대가나 허락 없이 상업용 혹은 기타 용도로 사용했을 때 원소유자는 자신의 워터마크를 추출해 자신의 소유임을 밝힐 수 있다. 이는 재산권 행사의 결정적인 증거가 된다. 원본의 출처를 밝히거나 누구에게 전달된 정보인지를 추적할 때도 사용되기 때문에 원천적인 복제 방지뿐 아니라 복제 경로를 추적하는 데도...
이를 위해 클린 데이터를 활용하고, AI 생성물에는 워터마크를 표시한다. 정 상무는 “마케팅 잘한다는 카드사나 리테일, 제조업 등 분야에서도 자사의 익시를 활용할 수 있냐는 문의가 많다”며 “익시 마케팅 솔루션으로 다른 브랜드도 고객과 깊게 소통할 수 있을 것”이라고 말했다.
딥페이크를 악용한 가짜뉴스에 대응하기 위해서는 관련 법령 제·개정을 통해 AI 생성물의 워터마크 표시를 의무화하는 등 가짜뉴스 생성·유통·확산 전주기 대응 체계를 구축한다. AI 저작권 실무반을 통해 AI 학습 이용 저작물에 대한 적정 이용 대가 산정방안 등 연구 결과를 종합하고, 연내 저작권 제도 정비 방안을 마련할 계획이다.
정부가 생성형 인공지능(AI)가 생산한 저작물에 워터마크 표시를 연내 의무화하는 등 AI·디지털 규범을 주도하기 위한 청사진을 내놨다. 이번 추진계획은 윤석열 대통령의 디지털 구상을 담은 디지털 권리장전을 구체적인 정책으로 구현하기 위한 범부처 계획으로서, 디지털 심화시대의 새로운 질서를 정립하고 디지털 심화 쟁점을 신속히 해결하기 위해 마련됐다....
카카오는 책임감 있는 AI 활용을 위해 카카오브레인의 이미지 생성형 모델인 ‘칼로(Karlo)’에 비가시성 워터마크를 도입했다. 이미지 생성 애플리케이션인 ‘비 디스커버에는 가시성 워터마크를 이미 도입한 바 있다.
비가시성 워터마크란 일반 사용자의 눈에는 보이지 않는 워터마크를 적용하는 기술로, 이미지 가시적 훼손 없이 칼로로 생성된 이미지라는 정보를 담을...
연대해 디지털 생태계를 조성해야 한다"고 강조했다.
저커버그 CEO도 "메타는 선거에 대한 부정행위를 막기 위해 적극적으로 노력하고 있다"는 취지로 이야기한 것으로 전해진다. 대통령실에 따르면 저커버그 CEO가 "워터마크나 레이블을 통해 영상이 AI 등에 의해 생성된 것인지 관련 정보를 제공, 투명성을 제고할 수 있다"는 취지로 말한...
특히 생성형 AI를 기반으로 만들어진 모든 이미지는, 이미지 그 자체와 메타데이터(Metadata, 속성정보) 모두에 '워터마크'가 표기됐다. 이미지를 확인하는 누구나 해당 이미지가 AI에 의해 생성 혹은 편집됐음을 쉽게 확인할 수 있어 불필요한 논란이 사전에 차단될 수 있게 했다.
갤럭시 AI는 영상 감상에서도 새로운 경험을 제공했다. 직접 촬영한 영상이든, 전송 받은...
미국도 입법은 아니지만, 지난해 10월 말 조 바이든 미국 대통령은 AI 학습 전 연방정부에 사전 보고와 AI 콘텐츠에 대한 워터마크 지침 마련 등을 골자로 한 ‘AI 행정명령’에 서명하면서 통제 장치를 마련했다.
업계에서는 한국이 올해 5월 열릴 AI 안전성 미니 정상회의의 공동 개최국인 만큼 대책 마련이 시급하다는 지적이 나온다. AI 발전 전개가 워낙 빨라...
이밖에도 '스냅태그(비가시성 워터마크 활용 AI보안)', '루카스메타(생성형AI 이미지)', '어메스(AI활용 자동차보험 보상)' 등 AI기술을 보유한 스타트업이 'KB스타터스'에 다수 포함됐다.
KB금융 관계자는 "올해 하반기 'KB스타터스'에는 AI기술을 접목해 비즈니스 모델 확장이 기대되는 스타트업이 다수 포함된 것이 특징"이라며 "이 스타트업들이 차세대...
참가한 지방의원들은 스마트폰을 활용한 프로필 사진, 배너 이미지, 워터마크, 썸네일 만들기와 숏츠 영상 제작하기 등 시민과의 소통을 강화할 수 있는 영상 편집 기술을 배우고, 다양한 영상을 제작하고 라이브 방송을 직접 실습해 보는 시간을 가졌다.
이어 둘째 날에는 디지털 글쓰기를 위한 체크리스트와 시민과 소통하는 열린 글쓰기 방법에 대한 교육이...
글로벌 화학기업 바스프가 플라스틱 순환경제 활성화를 위해 디지털 워터마크를 활용하는 데 동참한다.
바스프는 14일 디지털 워터마크 이니셔티브 '홀리그레일((HolyGrail) 2.0'에 참여한다고 밝혔다. 홀리그레일 2.0은 제품 포장재에 디지털 워터마크를 붙여 포장재로 쓰이는 플라스틱을 정밀 분류하고 고품질 재활용을 확대하는 활동이다.
바스프는...