전체기사

2026.04.30 (목)

  • 맑음동두천 22.1℃
  • 맑음강릉 21.2℃
  • 맑음서울 23.0℃
  • 구름많음대전 21.1℃
  • 흐림대구 20.2℃
  • 흐림울산 15.7℃
  • 흐림광주 18.9℃
  • 흐림부산 17.6℃
  • 흐림고창 17.5℃
  • 흐림제주 15.5℃
  • 맑음강화 19.9℃
  • 흐림보은 19.5℃
  • 흐림금산 19.3℃
  • 흐림강진군 18.3℃
  • 흐림경주시 16.8℃
  • 흐림거제 17.3℃
기상청 제공

사회

정원섭 교수 "소버린 AI 시대의 윤리적 과제 제시”

URL복사

"윤리 기준을 포함하는 주권 AI 개념 제시"
"편향·불평등·표현의 자유 등 핵심 윤리 문제 제시"

[시사뉴스 홍경의 기자] 한국학중앙연구원 AI사회연구소는 한국포스트휴먼학회, 경남대학교 교양교육연구소와 공동으로 11일 '한국 소버린 AI포럼' 제5회 콜로키움을 개최한다.

 

한국 소버린 AI 포럼에서 경남대학교 정원섭 교수는“소버린 AI 시대의 윤리적 쟁점”을 주제로 발표한다. 정 교수는 발표에서 소버린 AI(Sovereign AI)의 개념을 정의하고, 2015년 이후 인공지능 윤리 논의의 흐름과 함께 주권 기반 AI가 제기하는 윤리적 문제, 문화적 다양성 이슈 등을 분석한다. 그리고 한국소버린AI 6대 정책을 제시한다.

 

윤리 기준을 포함하는 주권 AI 개념 제시

정 교수는 먼저 “주권(Sovereignty)”을 “국가가 외부 간섭 없이 스스로 통치할 수 있는 권한”으로 규정하고, 소버린 AI를 특정 국가 또는 정치 단위의 통제하에 개발·배포·운영되는 인공지능으로 규정한다. 이러한 AI 시스템은 해당 국가의 법률, 언어, 데이터, 윤리 기준에 맞게 특화되며, 외국 기술에 대한 의존을 줄이고 국가 민감 데이터를 외부로부터 보호하는 것을 목표로 한다. 다시 말해, 소버린 AI는 AI 인프라와 의사결정 과정이 자국 관할권 안에서 이루어지도록 함으로써 디지털 주권을 확보하고 국가 전략에 부합하는 신뢰 가능한 AI를 구현하려는 접근이다.

 

이어 정 교수는 2015년 이후 AI 윤리 논의의 전개를 연도별로 짚는다. 2015~2017년에는 AI 안전성과 편향 문제가 부각되기 시작하여, 미국 사법부의 AI 판사 COMPAS 사례 등이 편견에 대한 인식을 높이는 계기가 됐다. 2018~2020년에는 GDPR 시행으로 대표되는 개인정보 보호 규정의 정립과 함께, 자율살상무기(AI Killer) 논쟁, 자율주행차 윤리 문제, 그리고 딥페이크 확산 등 AI의 사회적 영향에 대한 폭넓은 논의가 진행되었다.

 

2021~2022년 시기에는 글로벌 차원의 AI 윤리지침 수립이 본격화되어 UNESCO의 AI 윤리 권고안이 채택되었으며, 국내에서는 챗봇 “이루다” 사태를 통해 AI의 사회적 책임성과 편향 문제가 대두되었다. 또한 2022년 네이버 뉴스 알고리즘 개편을 둘러싸고 “개편인가 조작인가” 논쟁이 벌어지며 플랫폼 알고리즘의 투명성과 책임성이 화두에 올랐다. 2023년 이후 현재까지는 생성형 AI(Generative AI)와 피지컬 AI, 그리고 소버린 AI 개념이 부상하면서, 창작물의 권리, 허위정보, 데이터 주권, 환경 영향, 문화 다양성 등 새로운 윤리적 쟁점들이 대두되고 있다.

 

편향·불평등·표현의 자유 등 핵심 윤리 문제 제시

정 교수는 특히 소버린 AI가 직면한 윤리적 과제들을 다음과 같이 정리했다. 첫째, 편향과 문화적 상대주의 문제로, AI가 특정 문화권의 가치만을 반영하거나 다른 문화에 대한 편견을 가질 위험. 둘째, 데이터 프라이버시와 감시로, 국가가 AI 개발을 명분으로 과도한 데이터 수집과 시민 감시를 할 우려. 셋째, 글로벌 불평등의 심화 문제로, 기술적으로 앞선 국가와 뒤처진 국가 간 AI 격차가 윤리적 불균형 초래. 넷째, 표현의 자유 침해 가능성으로, 각국이 주권을 이유로 정보 검열이나 콘텐츠 제한을 강화할 우려. 다섯째, 책임성 문제로, 주권 AI 시스템의 결정에 대한 책임 소재를 명확히 하고 투명하게 거버넌스를 구축해야 할 필요성. 마지막으로 윤리 기준의 분화로, 국가별로 상이한 AI 윤리 기준이 생겨나 국제적 충돌이나 호환성 문제를 일으킬 가능성 등을 지적했다.

 

또한 AI에서의 문화적 다양성에 관한 논점도 심도 있게 다루어졌다. 정 교수는 전 지구화된 AI 개발이 특정 문화권 편향을 내포할 수 있음을 지적하며, 훈련 데이터의 편향과 언어 대표성 부족, 문화적 맥락 오해 등이 초래될 위험을 설명했다. 예를 들어 다언어 환경에서 일부 언어권이 AI 모델에 과소대표될 경우 그 문화에 대한 이해 부족이나 오역이 발생할 수 있다. 더불어 세계관의 차이를 간과한 자문화 중심적 설계와 디지털 식민주의 현상에 대한 우려도 표명되었다. 그는 AI 거버넌스에 다양한 문화권이 포용적으로 참여해야 함을 강조하면서, AI 기술 발전이 무형문화유산의 보존과 전승에 기여하도록 장려해야 한다고 밝혔다.

 

윤리의 시각에서 소버린AI 6대 정책 제언

마지막으로 정 교수는 이러한 논의를 바탕으로 한국을 위한 6대 소버린 AI 정책 제언을 제시했다. 그 주요 내용은 ▲국가 주권과 글로벌 조화의 균형 – 국가 차원의 AI 거버넌스 원칙(헌장)을 수립하면서도 국제 사회와 호환성을 유지하도록 표준을 정립할 것▲편향 완화와 문화적 포용성 강화 – 포용적 데이터셋을 구축하고 문화 다양성을 자문할 전문가 패널을 운영함으로써 AI 편향을 최소화할 것▲투명성과 책임성 제고 – 알고리즘 투명성 등록제 도입 및 공공 영향 평가를 시행하여 AI 결정 과정과 영향에 대한 공개성과 책임을 확보할 것▲과도한 폐쇄 방지 및 협력 촉진 – 국경 간 연구 교류를 활성화하고 주권 AI 분야의 윤리 준수 감사를 통해 지나치게 폐쇄적인 발전을 경계하며 국제 협력을 도모할 것▲설계 단계부터 문화적 다양성 고려 – AI 개발 전 과정에 문화적 다양성 원칙을 통합하고, 디지털 시대에 각 문화권의 무형 유산을 보호하는 방안을 마련할 것▲국제 표준 준수 – 글로벌 상호인정 협정 등을 추진하고 AI 상호운용성의 투명성을 높여 국제적인 신뢰 기반을 구축할 것  이상이 제시한 주요 내용이다. 

 

정원섭 교수는 발표를 마치며 “AI 개발에 있어 주권의 확보와 윤리적 책임은 상충되는 목표가 아니라 상호 보완적인 가치”임을 강조했다. 그는 한국이 주권 AI를 추구함에 있어 국제 사회의 보편 윤리 기준과 지역 문화의 고유 가치를 균형 있게 존중함으로써, 기술 주권과 인류 보편 가치를 함께 구현해 나가야 한다고 역설했다.

이번 포럼 발표를 통해 제시된 논의와 제언들은 향후 AI 정책 방향과 글로벌 협력 전략을 모색하는 데 중요한 시사점을 제공할 것으로 기대된다.

저작권자 Ⓒ시사뉴스
제보가 세상을 바꿉니다.
sisa3228@hanmail.net





커버&이슈

더보기

정치

더보기
이광재, ‘경기도 하남시갑’ 국회의원 보궐선거 출마 선언...“정치적 운명 걸겠다”
[시사뉴스 이광효 기자] 추미애 전 의원의 경기도지사 출마로 실시되는 ‘경기도 하남시갑’ 선거구 국회의원 보궐선거에 더불어민주당 후보자로 전략공천된 이광재 전 강원특별자치도지사가 출마를 공식 선언했다. 이광재 전 강원특별자치도지사는 30일 국회에서 기자회견을 해 “저는 하남갑 국회의원 재·보궐 선거에 도전하겠다. 저는 하남에 일을 하러 왔다”며 “하남의 성적표가 곧 정치인 이광재의 성적표가 될 것이다. 하남의 성공에 저의 정치적 운명을 걸겠다”고 말했다. 이광재 전 강원특별자치도지사는 “저 이광재는 하남과 함께 가겠다. 지역구는 표밭이 아니고 일터다. 말로만 하는 정치는 끝내야 한다”며 “사랑한다고 말하지만 능력이 없으면 사랑이 아니다. 지역의 현안부터 해결해 나가겠다”고 밝혔다. 이어 “하남의 철도와 교통 문제, 정말 오래됐다. 하남시 전체 면적의 무려 71%가 그린벨트로 묶여 있다. 하남의 학부모님들은 학군이 다르다는 이유로 길 건너 학교에 아이들을 보내지 못해 발을 구른다”며 “짧게는 5년, 길게는 10년, 20년 동안 같은 말이 되풀이되고 있다. 이제는 해결해야 할 때가 왔다. 문제를 해결하려면 실력이 있어야 한다”며 지지를 호소했다. 이에 앞서 더불

경제

더보기

사회

더보기

문화

더보기

오피니언

더보기
【박성태 칼럼】 삼성전자 총파업만은 안된다. 노사 손잡고 세계1위 기업 만들어 내길
대한민국 반도체 산업의 심장부인 삼성전자가 창사 이래 최대의 위기 국면에 직면했다. 오는 5월 21일부터 예고된 총파업은 단순히 노사 간의 임금 협상을 넘어, 글로벌 반도체 패권 경쟁이 격화되는 시점에서 국가 경제의 근간을 흔들 수 있는 중대한 변곡점이 되고 있다. 지난 23일 평택캠퍼스에 집결한 4만여 명의 조합원이 외친 성과급 제도 투명화와 상한제 폐지는 단순한 금전적 요구를 넘어선, 조직 내 뿌리 깊은 ‘불신’의 발로라는 점에서 사태의 엄중함이 크다. “사측에 무리하게 돈을 달라는 것이 아니라, 성과급이 어떻게 책정되는지 투명하게 알기를 원한다”는 노조의 핵심 요구사항은 공정한 보상 시스템에 대한 정당한 권리 주장이라는 측면에서 나름의 타당성을 지닌다. 특히 경쟁사인 SK하이닉스가 영업이익의 10%를 성과급 재원으로 고정하고 상한을 폐지하며 산정 기준을 단순화한 사례는 삼성전자 직원들에게 뼈아픈 상대적 박탈감을 안겨주었고 결국 노조 총파업이라는 강수를 두게 되었다. 하지만 파업이라는 수단이 가져올 결과는 노사 모두에게 가혹하다. 업계와 학계는 삼성전자 노조의 파업이 현실화될 경우 단순한 생산 차질을 넘어 글로벌 공급망과 시장 지위까지 흔들릴 수 있다는


배너