워터마크 식별 방식으로 부정행위 탐지기술 악용 등 우려해 2년간 공개 논의
챗GPT 개발사 오픈AI가 과제나 논문에 챗GPT를 사용했는지 식별할 수 있는 기술을 개발했지만 공개하지 않고 있는 것으로 알려졌다.
4일(현지시간) 월스트리트저널(WSJ)은 익명의 소식틍을 인용해 해당 기술은 약 1년 전부터 출시될 준비가 되어 있었다고 보도했다. 그러면서 오픈AI...
소버린 AI 모델 구축 방안을 논의했으며, 인텔과는 AI칩 소프트웨어 연구·개발 협력을 시작했다. 빅테크 기업들이 참여하는 개방형 컨소시엄 ‘MLCommons’에서 AI 안전 벤치마크 구축 작업에 기여했으며, AI 워터마크 기술 표준을 구축한 글로벌 연합체인 ‘C2PA’에도 국내 기업 최초로 가입하여 AI 생성 콘텐츠 탐지와 관련된 기술 연구도 공동으로 진행할 예정이다.
오픈AI 등은 정치인 관련 콘텐츠를 만들지 못하도록 제한하고, 콘텐츠에 AI를 식별하는 워터마크를 삽입하는 기술을 도입했다.
다만 AI 규제가 아직은 미비하다는 진단이 우세하다. 미디어 감시 단체인 디지털혐오대응센터(CCHD)가 생성 AI를 이용해 선거 관련 가짜 콘텐츠를 어디까지 만들 수 있는지 조사한 결과, 시도 횟수 중 40%가 규제와 상관없이 가짜 콘텐츠를...
이어 “안테나는 아티스트 보호를 위해 앞으로도 계속해서 엄중 대응하겠다”라고 덧붙였다.
한편 최근 SNS를 비롯해 온라인상에서는 유재석의 이미지를 무단으로 이용한 제품 광고가 다수 발견됐다.
이는 다이어트 제품 광고로 ‘유재석이 모델로 나선다’라는 문구와 매체 워터마크가 박혀있기도 했다. 하지만 이는 유재석과 아무런 관련도 없는 브랜드로 확인됐다.
☆ 시사상식 / 워터마크(watermark)
텍스트, 이미지, 비디오, 오디오 등의 원본 데이터에 본래 소유주만이 아는 마크(Mark)를 육안이나 귀로는 구별할 수 없게 삽입하는 기술이다. 일반 사용자들이 디지털 정보를 불법 복제해 정당한 대가나 허락 없이 상업용 혹은 기타 용도로 사용했을 때 원소유자는 자신의 워터마크를 추출해 자신의 소유임을 밝힐 수 있다. 이는 재산권...
이를 위해 클린 데이터를 활용하고, AI 생성물에는 워터마크를 표시한다. 정 상무는 “마케팅 잘한다는 카드사나 리테일, 제조업 등 분야에서도 자사의 익시를 활용할 수 있냐는 문의가 많다”며 “익시 마케팅 솔루션으로 다른 브랜드도 고객과 깊게 소통할 수 있을 것”이라고 말했다.
딥페이크를 악용한 가짜뉴스에 대응하기 위해서는 관련 법령 제·개정을 통해 AI 생성물의 워터마크 표시를 의무화하는 등 가짜뉴스 생성·유통·확산 전주기 대응 체계를 구축한다. AI 저작권 실무반을 통해 AI 학습 이용 저작물에 대한 적정 이용 대가 산정방안 등 연구 결과를 종합하고, 연내 저작권 제도 정비 방안을 마련할 계획이다.
정부가 생성형 인공지능(AI)가 생산한 저작물에 워터마크 표시를 연내 의무화하는 등 AI·디지털 규범을 주도하기 위한 청사진을 내놨다. 이번 추진계획은 윤석열 대통령의 디지털 구상을 담은 디지털 권리장전을 구체적인 정책으로 구현하기 위한 범부처 계획으로서, 디지털 심화시대의 새로운 질서를 정립하고 디지털 심화 쟁점을 신속히 해결하기 위해 마련됐다....
카카오는 책임감 있는 AI 활용을 위해 카카오브레인의 이미지 생성형 모델인 ‘칼로(Karlo)’에 비가시성 워터마크를 도입했다. 이미지 생성 애플리케이션인 ‘비 디스커버에는 가시성 워터마크를 이미 도입한 바 있다.
비가시성 워터마크란 일반 사용자의 눈에는 보이지 않는 워터마크를 적용하는 기술로, 이미지 가시적 훼손 없이 칼로로 생성된 이미지라는 정보를 담을...
카카오는 생성형 AI로 작성한 기사에 대해 AI 기술 적용 사실을 표시하고, 생성형 AI 이미지 생성 모델 칼로에 ‘비가시성 워터마크를 부착하는 기술’ 도입을 준비하고 있다. SK커뮤니케이션즈는 AI를 이용한 이미지 생성 시 주요 정치인의 성명에 관한‘검색어 제한 조치’를 통해 선거 관련 딥페이크 제작을 방지한다.
앞서 뮌헨협약을 통해 기만적 AI 선거...
대통령실에 따르면 저커버그 CEO가 "워터마크나 레이블을 통해 영상이 AI 등에 의해 생성된 것인지 관련 정보를 제공, 투명성을 제고할 수 있다"는 취지로 말한 것으로 알려졌다.
한국 중앙선거관리위원회를 포함해 다른 나라 정부와 가짜 영상·정부 유포 제어 차원의 광범위한 협업 필요성도 나온 것으로 전해진다. 윤 대통령도 이와 관련 지난해 4월...
뮌헨 안보회의서 협력안 발표딥페이크 자동 검출·워터마크 표기 등 기술 협력하기로X·틱톡 등 플랫폼 기업들도 참여
‘챗GPT’로 생성형 인공지능(AI) 돌풍을 일으킨 오픈AI를 비롯해 마이크로소프트(MS), 구글 모회사 알파벳, 메타 등 AI 기술을 선도하는 빅테크 20개사가 딥페이크 등 AI 기술의 선거 악용 방지책을 마련하겠다고 약속했다.
17일(현지시간) CNN방송에...
이와 관련 정부는 딥페이크를 포함한 AI 콘텐츠에 대한 워터마크 표시를 의무화하는 법안도 준비 중이다.
국내에서도 ‘AI 산업 육성 및 신뢰 기반 조성 등에 관한 법률안(AI 기본법)’이 국회 과학기술정보방송통신위원회 법안소위를 통과한 지 1년 가까이 지났지만 여전히 과방위 전체회의에 계류 중이다. 정부는 AI 산업을 체계적으로 지원하면서 AI 편향성과...
특히 생성형 AI를 기반으로 만들어진 모든 이미지는, 이미지 그 자체와 메타데이터(Metadata, 속성정보) 모두에 '워터마크'가 표기됐다. 이미지를 확인하는 누구나 해당 이미지가 AI에 의해 생성 혹은 편집됐음을 쉽게 확인할 수 있어 불필요한 논란이 사전에 차단될 수 있게 했다.
갤럭시 AI는 영상 감상에서도 새로운 경험을 제공했다. 직접 촬영한 영상이든, 전송 받은...
특히 생성형 AI를 기반으로 만들어진 모든 이미지는, 이미지 그 자체와 메타데이터(Metadata, 속성정보) 모두에 '워터마크'가 표기됐다. 이미지를 확인하는 누구나 해당 이미지가 AI에 의해 생성 혹은 편집됐음을 쉽게 확인할 수 있어 불필요한 논란이 사전에 차단될 수 있게 했다.
갤럭시 AI는 영상 감상에서도 새로운 경험을 제공했다. 직접 촬영한 영상이든, 전송 받은...
미국도 입법은 아니지만, 지난해 10월 말 조 바이든 미국 대통령은 AI 학습 전 연방정부에 사전 보고와 AI 콘텐츠에 대한 워터마크 지침 마련 등을 골자로 한 ‘AI 행정명령’에 서명하면서 통제 장치를 마련했다.
업계에서는 한국이 올해 5월 열릴 AI 안전성 미니 정상회의의 공동 개최국인 만큼 대책 마련이 시급하다는 지적이 나온다. AI 발전 전개가 워낙 빨라...
개인정보 등을 마스킹 처리하거나 중요 문서에 대해서는 워터마크를 추가 적용할 수 있다. 화면 보호 솔루션 FSS는 화면상의 정보 유출을 방지하기 위한 스크린 워터마크 기술과 화면 캡처 방지 기능을 제공한다.
이강만 파수 부사장은 “고도화되는 사이버 보안 위협으로 제로트러스트 보안 기조가 확산되면서 중동 지역에서도 데이터 중심 보안의...
“딥페이크 막자”…AI 콘텐츠 식별 워터마크 도입 추진
바이든 대통령은 행정명령 후 “나도 내 것(딥페이크)을 본 적이 있는데, ‘내가 도대체 언제 저렇게 발언했지’라고 말할 정도”라고 언급했다. 이어 “AI는 우리 삶을 더 좋게 만들고 있지만 저작권 및 개인정보 침해, 가짜뉴스, 딥페이크 등 AI의 위험을 피하기 위해서는 관리해야 한다”고 목소리를 높였다....
이밖에도 '스냅태그(비가시성 워터마크 활용 AI보안)', '루카스메타(생성형AI 이미지)', '어메스(AI활용 자동차보험 보상)' 등 AI기술을 보유한 스타트업이 'KB스타터스'에 다수 포함됐다.
KB금융 관계자는 "올해 하반기 'KB스타터스'에는 AI기술을 접목해 비즈니스 모델 확장이 기대되는 스타트업이 다수 포함된 것이 특징"이라며 "이 스타트업들이 차세대...
참가한 지방의원들은 스마트폰을 활용한 프로필 사진, 배너 이미지, 워터마크, 썸네일 만들기와 숏츠 영상 제작하기 등 시민과의 소통을 강화할 수 있는 영상 편집 기술을 배우고, 다양한 영상을 제작하고 라이브 방송을 직접 실습해 보는 시간을 가졌다.
이어 둘째 날에는 디지털 글쓰기를 위한 체크리스트와 시민과 소통하는 열린 글쓰기 방법에 대한 교육이...