최근 다자 회의에서 강조한 '디지털 윤리 규범' 정립과 관련, 윤 대통령은 내년 중 '인공지능(AI) 글로벌 포럼' 개최 추진 사실을 밝히며, APEC 회원국에 'AI 거버넌스에 대해 함께 논의하자'고 제안할 예정이다.
이밖에 APEC 기간인 15일 미중 정상회담이 열리면서, 시진핑 중국 국가주석과 윤 대통령 간 회담 성사 여부도 관심이다. 다만 임수석 외교부 대변인은...
핵심 AI 윤리원칙을 발표했다.
주재걸 카이스트 AI대학원 교수는 “AI 자체로는 가치 중립적이지만 현재 인간이 컨트롤하기 어려울 정도의 규모로 데이터를 자동적으로 수집하고 있고, 그렇게 수집된 데이터들이 완벽하지 않은 필터링을 거쳐 학습되다 보니 여러 윤리적인 문제들이 발생하고 있다”며 “기업들은 기술 개발뿐만 아니라 AI 윤리성을...
지자체 최초로 기획된 ‘서울시 생성형 AI 윤리가이드라인’은 3대 기본원칙 9대 핵심요건으로 구성된다.
내년 10월 서울 코엑스에서 열리는 SSCE는 서울시의 이 같은 우수 정책 및 노하우를 공유하는 자리가 될 전망이다. 100개가 넘는 해외 도시에서 2만 명 이상이 참가하는 국제행사가 될 것으로 보인다. 강요식 서울디지털재단 이사장은 “지자체 최초로...
글로벌 AI 기업들은 다양한 노력을 하고 있다
IBM은 2018년 'AI 윤리 원칙’을 발표했다. 이 원칙은 ‘AI는 인간의 가치와 권리를 존중하고 보호해야 한다’, ‘AI는 투명하고 설명 가능해야 한다’, ‘AI는 신뢰할 수 있고 안전하며 책임감 있게 개발되고 운영돼야 한다’ 등으로 구성돼 있다. IBM은 이 원칙을 실천하기 위해 AI 시스템의 편향성, 설명 가능성, 안전성...
해외와는 달리 인공지능(AI) 중심의 논의를 넘어 리터러시 향상, 격차 해소 등 디지털 전반의 이슈를 포괄했으며 윤리·규범적 논의 외에도 디지털 혁신을 강조하고 국제 연대·협력을 통한 인류 후생의 증진 등 차별화된 원칙과 권리를 규정하였다는 특징이 있다.
기본원칙은 △디지털 환경에서의 자유와 권리 보장 △디지털에 대한 공정한 접근과 기회의 균등 △안전하고...
디지털 권리장전은 디지털 공동번영사회를 위한 기본원칙과 그 실현을 위해 보장돼야 할 시민의 권리, 주체별 책무를 규정한 것이다.
인공지능 윤리·신뢰성도 강화한다. 기술의 급속한 발전에 따른 잠재적 위험성·부작용에 선제적으로 대응하기 위해서다. 이 장관은 “치안, 생성형 AI 기반 서비스 등을 중심으로 ‘분야별 특화 자율점검표·개발안내서’를 개발...
AI 설명가능성, 공정성 개선을 위한 핵심기술 개발과 함께, 그럴 듯한 거짓답변(Hallucination), 편향성, 비윤리・유해성 표현 등 초거대 AI 한계 극복을 위한 기술개발도 내년부터 신규 추진한다.
이종호 장관은 “치열한 디지털 경쟁에서 승리하기 위해서는 인공지능 기술・산업 경쟁력과 사회적 수용성을 함께 높여 나가는 것이 중요하다”며 “인공지능 혜택을 국민과...
이와 관련 윤 대통령은 올해 6월 프랑스 파리 소르본 대학교에서 디지털 윤리 원칙을 구체적으로 제시한 바 있다. 최근 동남아시아국가연합(아세안) 관련 정상회의와 주요 20개국(G20) 정상회의 참석차 인도네시아ㆍ인도 순방 기간에도 윤 대통령은 한ㆍ아세안 AI 유스 페스타를 통해 AI 공동개발 및 활용역량 강화 등 글로벌 연대에 대해 약속한 바 있다.
윤 대통령...
이후 올해 6월 '파리 이니셔티브' 발표와 함께 디지털 윤리 규범 마련 차원의 국제기구 설립을 제안했다.
윤 대통령은 AI(인공지능), 디지털 기술 이면에 자리 잡은 여러 부작용에 대해서 어떤 윤리, 도덕적인 규범을 마련할 필요가 있을지에 대해 문제를 제기하고, 이번 G20 정상회의를 계기로 국제사회에 호응을 촉구했다.
그러면서 G20 뉴델리 정상회의 계기에 AI에 대한 국제 거버넌스를 마련하기 위해 협력하기로 합의한 점에 대해 언급한 뒤 "대한민국은 디지털 선도국으로서 디지털 윤리 원칙과 규범을 마련하기 위한 국제사회의 논의를 계속 이끌어 나갈 것"이라고 강조했다.
한편 윤 대통령은 8일 오후 북아프리카 모로코 서남부에서 규모 6.8 지진이 발생, 2000명이 넘는...
아울러 인공지능(AI) 등 4차 산업혁명시대에 걸맞은 변혁도 모색할 필요가 있다.
자유민주주의, 시장경제 원칙의 중요성을 알리고 법제적 개선을 도모해야 하는 역사적 책무도 엄존하고 있다. 우리나라는 두 헌법적 원칙을 토대로 피땀을 흘려 단기간에 선진국 반열에 올라선 국가다. 그런 나라에서 반시장, 반자유 색채의 선동이 난무하고 포퓰리즘 깃발이 나부끼고...
LG AI연구원은 앞으로도 저작권, 신뢰성 등 AI 윤리 원칙을 준수하며 데이터 학습을 진행할 계획이다.
LG AI연구원은 현존하는 전문 지식 데이터의 상당수가 영어로 되어 있는 점을 고려해 '엑사원 2.0'을 한국어와 영어를 동시에 이해하고 답변할 수 있는 이중 언어(Bilingual) 모델로 개발했다. 학습 데이터양도 기존 모델 대비 4배 이상 늘렸다.
또, 초거대...
2023년 KT ESG 보고서는 국제 지속가능성 보고 지침인 ‘GRI(Global Reporting Initiative) Standards 2021’을 준수했으며, 유엔글로벌콤팩트 원칙과 ISO 26000의
주요 아젠다, 지속가능 회계기준 위원회(SASB), 기후 관련 재무 정보 공개 태스크포스(TCFD) 등 글로벌 가이드라인에 따라 작성됐다. 재무 성과는 한국채택국제회계기준(K-IFRS) 연결재무제표 기준을 따랐다. KT는...
인공지능 개발·활용에 관한 논의 활발
한국사회에서도 지난 3년간 인공지능 개발과 활용에 관한 원칙과 방향에 대해 다양한 논의가 이루어졌다. 2020년 12월 과학기술정보통신부 주재하에, 인공지능 개발 및 활용 과정에서 정부, 공공기관, 기업, 이용자 등 모든 사회구성원 참여의 중요성을 강조하는 ‘인공지능 윤리기준’을 발표했다. 지난 2월 국회...
한다는 원칙은 반드시 준수돼야 한다”고 강조했다.
이날 영국, 독일, 일본 등 주요국 감독기구 수장들은 AI 규율 필요성에 대해 공감했다. 존 에드워즈(John Edwards) 영국 개인정보 감독기구 위원장은 “이 자리에 모인 우리는 규제기관으로서 생성형 AI의 윤리적이고 책임 있는 사용을 보장하기 위해 노력해오고 있다”며 “이러한 기술이 프라이버시에 대한...
윤 대통령은 "무엇보다 디지털은 프랑스 혁명 사상과 마찬가지로 인간의 자유를 확대하는 데에 기여해야 하고, 자유를 억압하는 데 사용돼서는 안 된다는 윤리원칙을 가장 먼저 가지고 있어야 한다"며 "디지털의 개발과 사용에 있어 인간의 자유와 존엄성이 절대 가치로 존중되고, 나아가 인류의 후생을 확대하는데 기여해야 한다"고 설명했다....
제품 전 생애주기에 걸쳐 'AI 윤리 원칙' 준수 노력 인정
삼성전자는 생활가전사업부가 국내 최초로 국제표준 '인공지능(AI) 경영시스템(ISOㆍIEC 42001)'에 대한 인증을 받았다고 15일 밝혔다.
이번 인증은 AI 기반의 제품∙서비스를 개발하거나 제공할 때 기업이 AI 윤리나 신뢰성과 관련한 리스크 대응과 관리를 책임감 있게 수행하는지를 중점으로 평가한다....
인간 목표·윤리 원칙 따라 움직이도록 AI 조종연구자 수 부족…전 세계 100~200명 불과“연구 자금 늘리고 신규 연구자 유입 촉진해야”
“초지능 기계는 인간에게 필요한 마지막 발명품이다. 초지능 기계가 인간에게 자신을 통제하는 방법을 가르쳐 줄 정도로 유순하다면 말이다.”
영국의 통계학자이자 공상 과학 소설가인 어빙 존 굿은 60여 년 전 이런 말을 남겼다....
사회 영역에서는 국내 IT 기업 최초로 디지털 접근성 책임자(DAO, Digital Accessibility Officer)를 선임해 모두에게 제약 없는 서비스 환경을 체계적으로 추진하고, 국내 기업 최초로 ‘기술윤리위원회’를 신설해 서비스의 AI 윤리규정 준수 여부 점검 및 알고리즘 투명성 강화 업무 등을 수행하고 있다. 이 밖에도 사회와 함께하는 지속 가능 성장 방안을 발표하고...
농협은행은 이번 컨설팅을 통해 △ AI 윤리원칙 수립 및 제반 운영체계 마련 △ 금융위원회 금융분야 AI 가이드라인 및 금융분야 AI 개발·활용 안내서에 기반한 AI 서비스 현황 진단 △ 안전한 AI 사용을 위한 실무매뉴얼 제작 등 AI거버넌스 구축을 위한 토대를 확립했다.
농협은행은 생성형 AI를 포함한 AI활용 관련 고객보호 및 투명성을 강화하는데 유의미한...