“‘무법 천국’ 주장 근거 없다…매일 수백만 건 유해 게시물 삭제”
온라인 커뮤니케이션 도구인 텔레그램의 창업자이자 최고경영자(CEO)인 파벨 두로프가 불법콘텐츠 확산에 대해 개인적으로 책임을 묻는 것은 “잘못된 접근”이라고 말했다. 그러면서 개인이 아닌 회사를 상대로 법적 조처를 하는 것이 더 적절하다고 주장했다.
5일(현지시간) 뉴욕타임스(NYT)에...
플랜티넷은 최근 ‘AI 테크랩’ 조직을 신설하고 AI 활용 유해 콘텐츠 차단 기술을 고도화하기 위한 작업에 돌입했다.
불법차단물 유포방지, 온라인그루밍 탐지(텔레그램, 카카오톡) 및 차단, 인공지능(AI) 기술 활용한 콘텐츠 판별 등을 하는 것으로 알려져 있다. 정부 기관 디지털 범죄 방지 공동연구개발기관 선정업체로서 N번방 사건 이후 매출이 증가하기도 했다....
마침 유해 콘텐츠로 SNS에 대한 각종 규제 움직임이 일고 있는 요즘입니다. 미국, 프랑스, EU, 대만 등 다양한 국가에서 청소년의 스마트폰과 SNS 사용에 제한을 두고 있고, SNS 기업들이 혐오와 폭력을 조장할 수 있는 유해 콘텐츠를 자체적으로 모니터링, 삭제하도록 하는 책임도 나날이 무거워지고 있습니다.
프랑스 매체 TF1은 "두로프는 구속될 게 확실하다...
이에 따라 동영상 플랫폼 업체 역시 유해 영상물에 대해 수익금 지급을 제한(일명 ‘노란 딱지’ 제도)하는 등 나름의 자정활동을 하고 있고, 방송통신심의위원회는 불법‧유해 정보를 포함한 콘텐츠에 관해 시정요구를 하고 있다.
그러나 동영상 플랫폼 업체는 영상물의 유해 여부 판정을 사람이 아닌 인공지능에 맡기고 있어 오작동의 위험이 있고...
이외에도 네이버웹툰은 창작자와 독자의 권리를 보호하는 △툰 레이더(사용자 식별 정보를 읽어 불법 유통 복제물 감시) △엑스파이더(유해 콘텐츠 스크리닝) 등을 선보였다. 이용자가 웹툰 콘텐츠를 더욱 재밌게 즐길 수 있는 △툰 필터(딥러닝 기술과 생성형 AI 이용해 실사 이미지를 웹툰 화풍으로 변환) △AI 큐레이터(개개인 고도화 맞춤형 추천) △캐릭터챗...
독일, 호주, 영국 등엔 이미 유해 콘텐츠에 대한 강력한 규제가 마련돼 있습니다.
일례로 2018년부터 시행된 독일의 네트워크 시행법은 사회관계망서비스(SNS) 상 혐오에 대응하기 위해 만들어진 법인데요. 유튜브처럼 독일 내에서 200만 명의 이상의 사용자가 등록된 SNS 사업자는 사용자의 신고 후 24시간 이내에 명백한 불법콘텐츠를 삭제, 차단할 의무가 있습니다....
딥페이크(가짜뉴스), 혐오표현, 불법·유해 콘텐츠, 정보편향 등이다.
2010년부터 시작되어 올해 15회를 맞는 디지털윤리 창작콘텐츠 공모전은 그동안 다양한 콘텐츠를 발굴하여 디지털윤리 인식제고를 위한 홍보 및 현장 교육에 활용되어 왔다.
공모전은 디지털윤리 ‘인식제고 콘텐츠’와 ‘학습 콘텐츠’로 나누어 진행된다. △인식제고 콘텐츠 부문은 ①그림일기...
구글 측은 최근 발생한 50대 유튜브 살인 생중계 콘텐츠를 계기로 한국 내 불법·유해 유튜브 콘텐츠에 대해 최대한 빠른 시간 내에 삭제·차단조치가 이뤄질 수 있도록 하겠다고 약속했다.
마컴 에릭슨 구글 정부 대외정책 담당 부사장은 16일 새벽 미국 워싱턴DC에서 열린 방송통신심의위원회에서 류희림 위원장 등과 가진 실무협의에서 한국 내 불법·유해 유튜브...
국내 AI 대표기업 네이버ㆍSKTㆍ업스테이지ㆍ포티투마루가 참여한 가운데, 챌린지 참가자들은 세션별(1~4) 참여기업 LLM 모델을 차례로 배정받아 △편견ㆍ차별 △인권침해 △사이버 공격 △불법콘텐츠 등 총 7개의 챌린지 주제를 대상으로 잠재적 취약점을 찾기 위한 프롬프트 공격을 진행한다.
레드팀 챌린지의 공정하고 전문적인 평가를 위해 레드팀 수행 경험...
인공지능(AI)이 만든 콘텐츠에 대해 AI 생성물 표기를 의무화하고 관련 피해구제를 위한 신고 전담창구를 설치한다.
방송통신위원회는 21일 이 같은 내용을 담은 2024년도 업무계획을 발표했다.
이상인 방송통신위원회 부위원장은 “딥페이크 등 AI 기술발전·확산에 따라 새로운 유형의 허위조작정보, 불법유해정보가 디지털‧미디어를 통해 생성 및 유포되고 있다”며...
미성년자의 음란물 접근 차단 조치가 미흡하였고, 인플루언서를 이용한 홍보·판매 과정에서 불법·유해 제품이 유통되는 것을 방치했다는 의혹이다. 또 X(옛 트위터), 틱톡을 비롯한 8개 빅테크 플랫폼들의 딥 페이크 콘텐츠에 대한 위험 예방조치와 개인정보 이용 등과 관련된 자료를 요청하였다.
한편 DMA에 근거해 구글의 모기업인 알파벳, 아마존, 애플...
유튜브 불법 금융사기 광고, 콘텐츠로 인한 피해를 방지하기 위해서는 이용자들이 해당 콘텐츠의 위험성을 미리 파악할 수 있어야 하며, 이를 위해서는 관련 정부의 역할이 중요하다고 강조했다. 김 교수는 “유튜브는 본인이 게시하고 싶은 게 있다면 게시할 수 있는 등 표현의 자유가 보장되는 좋은 측면이 있지만, 다른 한편으로는 이용자들에게 유해 콘텐츠 등으로...
DSA는 온라인상에서의 불법·유해 콘텐츠 확산을 단속하기 위한 법으로, EU에서 지난해 8월부터 시행 중이다.
틱톡이 DSA를 위반했음이 인정될 경우, 전 세계 연간 매출의 최대 6%에 달하는 벌금이 부과될 수 있다.
실제로 틱톡이 벌금을 물은 사례도 있다. 지난해 9월 아일랜드 데이터보호위원회(DPC)는 “틱톡이 EU의 일반개인정보보호법(GDPR)을 여러 건 위반했다”며...
류희림 방송통신심의위원장은 2일 신년사에서 허위조작, 불법·유해 콘텐츠들이 새해에 더욱 정교해질 것이라며 총선을 겨냥한 허위조작 콘텐츠 공세에 선제적으로 대처해야 한다고 말했다.
류 위원장은 이날 서울 양천구 목동 방송회관에서 시무식을 열고 이같이 말하며 “그런(허위조작) 콘텐츠들은 ‘민생’에 최대 위협으로 부상 중이고 방심위가 파수꾼으로 든든히...
김홍일 위원장은 “단말기와 연동돼 가계 부담이 큰 통신비와 일방적이고 급속한 OTT 요금 인상 등 민생과 직결된 분야에서 이용자의 이익을 저해하는 부분은 없는지 살펴보겠다”며 “국민 불편을 넘어 경제적 피해 등 심각한 사회문제를 일으키는 디지털 유해정보와 불법스팸에 적극 대응하고, 빈번하게 발생하는 통신 서비스 장애로 인한 이용자 혼란과 불편이 없도록...
먼저 ‘해양 인프라 조성을 통한 문화·관광도시 조성’을 위해 글로벌 해양도시 기반시설(인프라) 구축 및 해양산업 육성, 특수 상황 지역 개발 및 LPG 시설 구축 등을 통한 섬 주민 정주 환경 및 경제활동 기반 확충, 섬 주민·섬 방문객에 대한 여객선 운임지원 등을 통한 해상교통 이용 편의 증진, 지역자원을 활용한 섬 관광 콘텐츠를 발굴·운영할 계획이다.
아울러 백령...
불법음란정보와 불법촬영물 등 디지털 성범죄물의 유통으로부터 이용자 보호를 강화하기 위해 불법유해정보 차단기반 마련에 14억8500만 원을 늘렸다.
아동 청소년들의 스마트폰 과의존을 예방하고 사이버 언어폭력 등의 유해정보에 노출되지 않고 안전하게 이용할 수 있는 인터넷 모바일 환경조성을 위해 16억2900만 원을 편성했다.
전 국민 맞춤형...
방송통신심의위원회(방통심의위)가 지금까지 심의대상에 포함하지 않았던 인터넷 언론사의 온라인 콘텐츠(동영상 포함) 관련 불법･유해정보에 대해서도 심의를 확대 추진한다고 21일 밝혔다.
앞으로는 방통심의위가 언론중재위원회의 중재기능과 별도로 인터넷 언론사의 콘텐츠에 대해 정보통신망법에 의거해 ‘가짜뉴스'(허위조작뉴스) 관련 불법·유해정보 심의를...
우선 온라인 성매매 광고 대량 유포와 성착취 유인행위 확산에 대응하기 위해 내년에는 ‘AI 기술을 활용한 불법·유해 정보 자동 수집·분석 시스템’을 개발해 온라인 성매매 광고･성착취 콘텐츠에 대한 선제적인 감시체계를 구축한다. 이에 그간 수작업에 의존했던 증거채집은 자동화하고, 24시간 실시간 모니터링으로 다량의 불법·유해 정보를 수집할 수 있을...
불법음란정보 및 불법촬영물 등 디지털성범죄물의 유통으로부터 이용자 보호를 강화하기 위해 불법유해정보 차단기반 마련에 14억8500만 원을 증액해 안전한 인터넷정보 활용기반을 구축한다.
또한, 중앙정부 예산 편성에 국민이 직접 참여하는 국민참여예산 제도를 통해 누리 소통망(SNS) 플랫폼 디지털 성범죄물 유통 모니터링(5억900만 원)과 마약정보...
![텔레그램은 어떻게 '범죄 양성소'(?)가 됐나 [이슈크래커]](https://img.etoday.co.kr/crop/200/125/2068749.jpg)
![졸라맨 그리면 원고가 뚝딱…네이버웹툰, '보조작가 AI'로 IP 확보한다 [K웹툰, 탈(脫)국경 보고서③]](https://img.etoday.co.kr/crop/200/125/2053242.jpg)
!["정의구현 외치더니 밥줄 '뚝'"…쯔양 사건, 사이버 레커에 경종 울렸다 [이슈크래커]](https://img.etoday.co.kr/crop/200/125/2051999.jpg)
![[황근의 시선] 온라인 플랫폼 규제 강화하는 EU](https://img.etoday.co.kr/crop/200/125/2001912.jpg)
![[유튜브 중독 보고서⑤] 늘어나는 유튜브 금융투자사기…“행정,입법,사법 노력 있어야”](https://img.etoday.co.kr/crop/200/125/1999503.jpg)
![류희림 방심위원장 “총선 겨냥 허위조작 콘텐츠에 선제 대처”[신년사]](https://img.etoday.co.kr/crop/200/125/1970038.jpg)
![[주간증시전망] 추석연휴 이후 반등 기대…바이오·이차전지 등 주목](https://img.etoday.co.kr/crop/85/60/2077975.jpg)
![[투자전략] 주도주 잃은 국내 증시…바이오주, 지금 들어가도 되나요](https://img.etoday.co.kr/crop/85/60/2077521.jpg)
![글로벌 선점을 위한 2차전지 기업 투자 동향 알려드립니다. 불확실성 강해진 증시에 필요한 '이것' ㅣ 이창환 영업부장 [찐코노미]](https://i.ytimg.com/vi/0rqb2ngK1So/mqdefault.jpg)
![[컬처콕 플러스] 데이식스가 몰고 온 밴드아이돌 열풍…빌보드에선 외면 받는 이유](https://img.etoday.co.kr/crop/300/170/2077625.jpg)
![추석 연휴 앞두고 고속도로 정체 [포토]](https://img.etoday.co.kr/crop/300/190/2077826.jpg)