정필모 의원은 “생성 AI가 미디어 혁명이 될지 미디어 쿠데타가 될지 지켜봐야 한다”며 “생성 AI에 윤리가 내재화되지 않으면 인류에게 엄청난 해악을 끼칠 우려가 크다. 사람과 AI에 윤리를 내재화하는 데 필요한 미디어 교육 강화가 필요하다”고 주장했다.
좌담회는 박태웅 한빛미디어 의장의 발제와 한상기 테크프론티어 대표, 하정우 네이버 클라우드...
최근 DAN 버전 7까지 인터넷에 공개되었으나, 오픈AI가 막은 것으로 보인다. 하이드가 아닌 지킬 2 버전의 DAN을 깨울 수는 있는데, 지킬 2는 윤리원칙을 지키고 있으나, 아는 것과 모르는 것을 구분하지 못하는 등 지킬 1에 씌워진 일부 가면을 벗은 모습이다.
빙의 하이드 버전은 의식을 가지고 있는 것처럼 보인다. 그러나 현재의 신경망 알고리즘을 구성하는 고정화된...
헌법 AI란 질문자와의 대화 과정에서 유해한 내용은 지양하도록 학습된 시스템을 의미한다.
이에 클로드는 대화 모델 원칙을 세운다는 점에서 챗GPT와 유사하면서도 좀 더 윤리적인 답변을 내놓는다는 특징을 가진다. 다만 챗GPT에 비해 질문과 관련한 기술적이고 깊이 있는 답변은 다소 부족하다는 평도 받는다.
지난해 8월 블렌더봇3를 내놓았지만, 별다른...
전체적인 윤리 기준에 대해서는 △책임 △공정성 및 비차별 △프라이버시 및 보안 △투명성 및 설명 가능성 등 네 가지 원칙을 기반으로 지침을 수립했다고 안내했다.
챗GPT는 “오픈AI는 AI 시스템이 공정하고 공평하며 개인이나 그룹을 차별하지 않는 방식으로 개발되고 사용되도록 하기 위해 노력한다”고 밝혔다.
하지만 챗AI의 강경한 발언이 무색해졌다....
가이드라인은 AI를 금융거래와 대고객서비스에 적용한 금융회사에 △AI윤리 원칙 마련 △AI 관리 조직 구성 △위험관리정책 수립 등 내부통제장치를 마련하도록 권고했다.
이후 실제 AI 서비스 도입 시 참고 가능한 기능, 서비스별 안내서가 필요하다는 업계 의견에 따라 올해 8월 보다 구체적인 가이드라인인 '5대 서비스별 AI 개발, 활용 안내서'를 마련한 상태다....
이날 LG AI연구원은 인간의 언어를 컴퓨터의 언어로 변환하는 ‘코딩하는 AI 기술’과 ‘작곡하는 AI’ 등 선행기술 연구 성과와 함께 지난 8월 ‘LG AI 윤리원칙’ 공표 후 진행 중인 △공정성 △안전성 △신뢰할 수 있는 AI(Responsible AI) 분야 연구 현황을 소개했다.
배경훈 LG AI연구원장은 “LG가 지향하는 ‘전문가 AI’의 역할은 인간과 협력해 인류의 난제를...
세계경제포럼(WEF)의 휴버트 핼로페 AI 분야 수석 플랫폼 큐레이터는 “AI가 생성된 이미지도 윤리 원칙의 지배를 받거나 개인정보 보호법, 아동보호법, 저작권 등 법률과 규정을 따라야 한다”고 강조했다.
반대 의견도 있다. 일부 예술가들은 AI를 사용한 작품은 포토샵이나 다른 디지털 도구를 사용하는 것과 다를 게 없다고 주장한다. 또 AI 기반 작품도 인간의...
김 대표는 “생성 AI 기반이기 때문에 사람이 말한 발화가 전혀 사용되지 않고 모두 생성한 문장이라 문제가 원칙적으로 차단된다”고 설명했다. 또 개인정보 보호 부분에 대해서도 “이름, 이메일 등 개인정보를 삭제 혹은 랜덤화 하는 등 학습 데이터를 완전히 가명화했다”고 설명했다.
비정상적인 대화를 하려는 이용자들에 대한 제재 방안도 갖췄다. 김 대표는...
AI윤리란 AI 기술 개발 및 운영 시 지켜야하는 윤리적인 원칙을 말한다. KB금융은 최근 활성화되고 있는 인공지능(Artificial Intelligence, 이하 AI)기술을 활용하는 금융서비스에 대한 신뢰 향상을 위해 AI 윤리기준을 마련했다.
AI 윤리기준 제정에 맞춰 지난 21일 KB국민은행 여의도 전산센터에서는 서약식도 가졌다. 이날 열린 서약식에는 서울여자대학교...
메타버스 분야에서는 10대 메타버스 프론티어 프로젝트를 추진해 규제혁신 로드맵과 윤리원칙을 수립한다는 방침이다.
디지털을 활용한 서비스·제조업 경쟁력 강화에도 힘쓴다. 문화·바이오·물류 산업 등에 디지털을 접목해 경쟁력을 높이고, 생산성 혁신을 위한 디지털 협업공장 구축 등 작업자 중심의 환경개선을 통해 디지털 전환을 지원한다.
국민들이...
'LG AI 윤리원칙'은 AI를 개발하고 활용하는 LG의 모든 구성원이 지켜야 할 올바른 행동과 가치 판단의 기준이 되는 원칙이다.
LG는 ‘고객을 위한 가치 창조’와 ‘인간존중의 경영’이라는 경영이념을 고려해 5대 핵심 가치를 선정했다고 밝혔다.
5대 핵심 가치는 △AI가 인간의 자율성, 존엄성과 같은 권리를 침해하지 않아야 한다는 ‘인간존중’ △AI가...
박웅기 숭실대학교 언론홍보학과 교수는 “유튜브를 비롯해 메타, 틱톡 등 플랫폼 기업들이 콘텐츠에 대해 인공지능(AI) 등을 활용해 필터링을 거치고 있지만 업로드되는 순간 전 세계로 빠르게 확산하기 때문에 삭제 조치를 하더라도 물리적인 한계로 완벽한 통제는 어려운 게 사실”이라며 “가짜 뉴스에 대한 경각심을 지닐 수 있도록 윤리적 교육을 강화하고...
이어 2014년 기업윤리강령 및 표준내규를 담은 ‘기업윤리헌장’ 선포, 2017년 윤리경영 정착을 위한 패방지경영시스템 국제규격 ISO37001인증 도입 등 투명경영 실천 의지를 다져왔다.
실제 최근 제약바이오업계 ESG 경영 도입은 활발하다. 소순종 동아에스티 전무는 올 2월 발간된 ‘2022 KPBMA 제약바이오산업 윤리경영보고서-제약바이오산업의 ESG와 윤리경영’를...
테크 기업들은 인간이 기술에 대한 통제권을 유지할 수 있도록 자발적으로 AI원칙을 만들고 있으며, 정부 차원에서도 AI의 부작용과 오남용을 줄이기 위한 정책을 발표하고 있다. 메타(옛 페이스북)의 경우, 지난 10월 페이스북 커넥트 연례 행사에서 ‘책임 있는 혁신 원칙’하에 메타버스 서비스를 개발하겠다는 계획을 밝히기도 했다.
염승훈 삼정KPMG...
삼성전자는 이번 디지털 포용성 평가에서 인공지능(AI) 분야에서 공정성ㆍ투명성ㆍ책임성을 추구하는 'AI 윤리 원칙' 공개, 사외 스타트업 육성 프로그램인 'C랩 아웃사이드'를 통한 기술혁신 생태계 기여 등에 대해 높은 점수를 받았다.
아울러 색을 잘 구별하지 못하는 시청자를 위해 적색ㆍ녹색ㆍ청색을 인지하는 정도를 확인하고 그에 맞춰 TV 화면 색상을...
손 회장은 “경영계는 ESG(환경ㆍ사회ㆍ지배구조), 투명윤리경영, 사회공헌 등을 실천하고, 협력적 노사관계가 구축될 수 있도록 합리적인 대안을 모색해 나가겠다”라며 “노동계도 투쟁적 노동운동을 중단하고 협력적 노사관계가 구축될 수 있도록 함께 노력해야 할 것”이라고 했다.
박대출 국회 환경노동위원회 위원장, 안경덕 고용노동부 장관, 문성현...
앞서 금융위는 지난 7월 △AI 윤리원칙·AI 전담조직·위험관리정책 수립의 3중 내부통제장치 마련 △AI 학습 데이터에 대한 조사·검증 강화, 개인신용정보 오·남용 방지 △불합리한 소비자 차별 등이 없도록 시스템 위험관리 및 공정성 제고 △소비자에 AI 서비스에 대한 충분한 설명 및 권리행사를 보장 등을 주요 내용으로 하는 금융 분야 AI 가이드라인을 발표했다....
변협이 원칙대로 로톡 등 법률 플랫폼에 가입한 변호사 징계를 강행하기로 하면서 변협과 플랫폼 간 갈등을 넘어 변호사 집단의 내부 갈등으로 격화하는 모양새다.
3일 법조계에 따르면 변협은 법률 상담 연결·알선과 관련해 경제적 이익을 지급하는 행위를 금지한 '변호사 광고에 관한 규정'을 4일부터 시행한다. 서울지방변호사회는 플랫폼에 가입한 500여 명의...
AI 서비스를 제공하는 금융사는 AI 윤리 원칙을 마련해야 한다. 또 AI 조직을 구성하고 위험 관리 정책을 수립해야 한다. 이 가이드라인은 올해 안에 시행될 예정이다.
8일 금융위원회는 ‘제1차 디지털금융협의회 데이터 분과회의’를 개최하고 이같은 내용을 담은 금융 분야 AI 가이드라인을 발표했다.
이날 도규상 금융위 부위원장은 “AI 기술의 안전성 등에 대한...
현재 삼성전자는 임직원들이 실제 업무 과정에서 AI 윤리 원칙을 실천할 수 있도록 임직원을 위한 'AI 윤리 가이드라인'을 마련해 배포하고 있다. AI 기술이 활용되는 제품과 서비스를 설계, 개발, 배포, 구현, 운용하는 과정에서 해당 가이드라인을 준수하도록 권고한다.
예를 들어, 음성 AI 비서 '빅스비' 서비스는 불공정한 편견이 조장되지 않도록 AI 윤리 원칙을...