마침 유해 콘텐츠로 SNS에 대한 각종 규제 움직임이 일고 있는 요즘입니다. 미국, 프랑스, EU, 대만 등 다양한 국가에서 청소년의 스마트폰과 SNS 사용에 제한을 두고 있고, SNS 기업들이 혐오와 폭력을 조장할 수 있는 유해 콘텐츠를 자체적으로 모니터링, 삭제하도록 하는 책임도 나날이 무거워지고 있습니다.
프랑스 매체 TF1은 "두로프는 구속될 게 확실하다...
미성년자들이 이들 소셜미디어의 유해 콘텐츠에 노출되면서 목숨까지 잃는 사례가 빈번하게 발생하고 있다는 것이다.
특히 전 세계 약 20억 명의 사용자를 보유한 페이스북과 인스타그램을 운영하는 메타의 저커버그 CEO에 대한 질타가 집중됐다.
미국실종학대아동방지센터(NCMEC)에 따르면 온라인 플랫폼상 아동 성학대물 신고는 지난해 사상 최대치(3600만여 건)를...
DSA는 인터넷상에서 인종·성별·종교에 대한 혐오 발언이나 불법·유해 콘텐츠가 무차별적으로 확산하는 것을 막기 위해 도입됐다. 대형 플랫폼에 이러한 콘텐츠에 대한 관리 책임을 강화하겠다는 취지다. 이 법은 지난해 11월 발효됐으며, 8월 말부터 대상 기업에 적용된다.
19개 대상 플랫폼에는 애플, 아마존, 구글이 이름을 올렸다. 트위터, 틱톡, 페이스북...
이 법은 IT 업체들이 자사 플랫폼에서 특정 인종이나 성, 종교에 대한 편파적 발언, 허위 정보, 아동 성 학대 사진 등 불법·유해 콘텐츠를 즉시 삭제하지 않고 그냥 두거나 특정 콘텐츠를 클릭하도록 유도하는 기술을 쓰는 것을 금지한다. 특정 성적 지향이나 종교 등 개인정보를 근거로 한 맞춤형 광고나 온라인 광고로 미성년자를 타깃팅하는 것도 금지된다.
IT...
아마존의 제3자 판매자에 대한 대우, 구글의 광고사업 지배, 메타플랫폼(메타)의 페이스북·인스타그램 유해 콘텐츠 관리 문제로 의회는 빅테크 기업들에 칼날을 겨누고 있었지만, 애플은 상대적으로 비난의 대상에서 비켜나 있었다.
이와 관련해 미국 투자은행(IB) 코웬의 정책 애널리스트인 폴 갤런트는 "오랫동안 애플은 워싱턴의 논란에서 벗어나 있었다...
5일(현지시간) 뉴욕타임스(NYT) 등에 따르면 트위터는 “폭동 1년을 앞두고 관련 집회 정보가 포함된 유해 콘텐츠를 처리하기 위해 대응팀을 구성했다”고 밝혔다.
앞서 트위터와 페이스북 등 주요 소셜미디어는 지난해 1월 6일 도널드 트럼프 전 미국 대통령 지지자들이 주도한 의회 폭동의 빌미를 제공했다는 이유로 대중과 의회의 질타를 받았다. 폭력과 선동...
다만 틱톡의 인기만큼 우려의 목소리도 커지고 있다. WSJ는 “틱톡 역시 다른 소셜미디어와 마찬가지로 어두운 면이 있다“면서 틱톡의 알고리즘은 미성년자들을 성관계, 마약, 섭식장애 관련 동영상으로 유인할 수 있다”고 지적했다. 실제로 틱톡은 지난 16일 청소년에게 유해할 수 있는 콘텐츠 노출을 줄이도록 알고리즘을 조정하겠다고 밝혔다.
협력하고 있다”며 “최대한 많은 이들이 긍정적인 경험을 할 수 있도록 상업적, 도덕적 인센티브를 보유하고 있다”고 선을 그었다.
한편 메타는 올 초 페이스북 파일 시리즈를 통해 사용자들에게 유해한 콘텐츠를 의도적으로 노출했다는 지적을 받았다. 내부 고발자의 폭로 후 연방정부 조사에 이어 반독점 소송·규제·광고 보이콧 운동 등 고초를 겪고 있다.
도입한 회사의 조치가 모세리 CEO가 의회에서 직면하게 될 압박을 줄여주진 못할 것이라고 지적했다. 소비자보호소위원회 소속의 마샤 블랙번(테네시·공화당) 상원의원은 “메타(페이스북)는 이용자들에게 원래부터 있어야 할 부모의 이용 가이드, 콘텐츠 통제권 등에 대한 새로운 기능을 도입함으로써 회사 측의 잘못들에 집중되는 관심을 돌리려고 한다”고 꼬집었다.
공공정책 관련 임원들 상원 청문회 출석의회, 젊은층 피해 사례 언급하며 질타“마약·폭력 등 부적절 콘텐츠로 끌어들여”페이스북 저커버그에도 출석 요구 서한 보내
페이스북이 내부자 폭로로 청소년 안전성 문제에 대한 비난을 받는 가운데 틱톡과 스냅챗, 유튜브 등 주요 소셜미디어들도 미국에서 집중 타깃이 돼 지적을 받고 있다.
26일(현지시간) 월스트리트저널...
CNN은 페이스북이 자사 서비스가 인신매매에 악용됐다는 사실을 알면서 문제를 해결하지 못했다고 전했고, 워싱턴포스트(WP)는 저커버그가 베트남 공산당의 요청에 반정부 인사들의 콘텐츠 업로드를 제한했다고 지적했다.
페이스북 페이퍼에는 회사 성장에 대한 우려도 담겼다. 올해 3월 작성된 내부 문건에 따르면 미국 청소년의 페이스북 사용 시간은 전년 대비...
페이스북이 이러한 유해 콘텐츠 관리를 하지 않는 것은 아니다. 회사는 노골적인 인종·종교 혐오를 담은 글을 삭제하거나 해당 사용자의 계정을 정지시키는 등 정화 노력을 하고 있는데, 문제는 유해 콘텐츠 관리 비용 대부분이 미국을 비롯한 영미권에 집중돼 있다는 점이다.
블룸버그는 “페이스북이 자사 성장을 견인하는 인도, 브라질과 같은 신흥국 시장에서는...
이어 △네이버 16건 △카카오(다음) 10건 △페이스북 9건 △트위터 4건 순으로 나타났다.
양정숙 의원실에 따르면 유튜브의 경우 자체 콘텐츠 감시 시스템을 운영하지만, 2019년에 삭제된 영상 중 한국 영상은 약 1%에 불과해 실제 한국 콘텐츠의 관리 및 모니터링은 미흡했다.
양정숙 의원은 “총기 청정국가라는 우리나라에서 버젓이 총기가 제작ㆍ유통돼...
슈뢰퍼는 2008년 페이스북에 합류해 2013년부터 CTO를 맡아 페이스북 기술 분야 개발을 총괄해왔다. AI 전문가인 슈뢰퍼는 최근 몇 년간 AI를 활용해 유해 게시물을 차단하거나 콘텐츠를 활용 등 게시물을 관리하는 AI 알고리즘 개발을 주도한 인물이다.
슈뢰퍼의 사임 소식은 최근 페이스북이 10대 청소년의 정신건강에 자회사 인스타그램이 악영향을 주는 것을...
공개 서한은 “자녀들이 소셜미디어 계정 보유에 따른 과제에 대처할 능력을 갖추지 못했다”면서 “소셜미디어의 이용은 아이의 건강과 행복에 유해할 가능성이 있다”고 지적했다. 그러면서 “법무장관들은 우리의 가장 어린 시민을 보호하는 데 관심이 있다”며 “온라인상에서 13세 이하 어린이들의 콘텐츠 공유를 유도하는 플랫폼을 만들겠다는 페이스북의 계획은...
△인공지능 필터링 X-eye(네이버) △게시물 24시간 전수 모니터링(SK커뮤니케이션스) △이미지 필터링 프로그램(디시인사이드) △음란물 업로드 유저 영구정지(아프리카TV) △신고접수 시 자동 블라인드(세티즌) △프로필 사진 승인제(에이프릴세븐) △라이브 스트리밍 유해 콘텐츠 방지 기술(machine detection, 트위치) △콘텐츠검토 전문가 그룹 운영(트위치) △성인콘텐츠...
늘어난 사용시간에 발맞춰 소셜 플랫폼들은 △청소년 안전 △댓글 △유해 콘텐츠 관리에 집중하는 것으로 나타났다.
◇청소년 안전 정책 강화...DM 등 범죄 악용 가능성 차단한다 = 틱톡과 인스타그램은 지난해부터 청소년 안전 기능을 대폭 강화하고 있다.
틱톡은 청소년 보호를 위해 기본 설정을 변경 중이다. 지난 1월 전세계의 만 16세 미만 청소년 사용자들의 기본...
IT 대기업들의 의사당 난입과 관련한 유해 서비스 제재는 이날도 계속됐다. 페이스북은 대선 사기 등 트럼프 대통령의 입증되지 않은 주장을 지지하는 사람들 사이에서 인기 있는 문구인 ‘도둑질을 멈춰라’를 언급한 모든 콘텐츠를 삭제한다고 밝혔다. 아마존은 팔러에 이어 극우 음모론 집단인 큐어넌에 대해서도 제재에 들어갔다. 팔러 클라우드 사용 중단 하루 만에...
페이스북과 트위터는 그들 스스로를 ‘표현의 자유’와 ‘여론 형성’ 수호자로 위치시켜 왔다. 그러면서 말할 자유를 보장하는 게 공공의 이익에 부합된다고 강조했다.
그러나 잘못된 정보와 유해 콘텐츠는 표현의 자유와 거리가 멀다는 지적이 나온다. 조너선 그린블랫 반명예훼손연맹 대표는 “소셜미디어 기업들이 태만했다”면서 “표현의 자유는 폭력 선동의...
페이스북, 트위터, 구글 CEO 화상 출석공화당 “우리 지지자들에게만 검열 엄격” VS 민주당 “유해 게시물 차단 더 해야”CNN “쓸모없고 하찮은 청문회로 전락” 비판
미국 상원 상무위원회가 28일(현지시간) 페이스북과 트위터, 구글의 최고경영자(CEO)를 증인으로 불러 청문회를 열었다. 소셜미디어에 부여한 면책 특권을 논의하는 자리였지만, 정책 논의보다 정파...