AI 생성 콘텐츠: 규제와 윤리, 현실을 넘어

인공지능 생성 콘텐츠에 대한 규율 필요성이 대두되고 있고 특히 해당 콘텐츠가 인공지능 기술을 통하여 제작한 콘텐츠라는 점을 표시함으로써, 사람이 제작한 콘텐츠와 구분할 수 있도록 해야 한다는 의견이 제기되고 있어요.

1. AI 생성 정보 표시 의무화 관련 법안 현황

국내에서는 「콘텐츠산업 진흥법」 일부 개정안이 국회 발의되어 상임위 계류 중입니다. 이 개정안은 인공지능 기술을 이용하여 제작된 콘텐츠에 대한 사실표시 의무를 부과하는 것으로, 인공지능 기술의 개념과 표시의 내용과 방법을 대통령령에 위임하고 있습니다. 이는 인공지능을 활용한 콘텐츠를 표시하도록 함으로써 이용자의 혼선을 방지하고 인공지능 콘텐츠의 신뢰성과 책임성을 강화하려는 취지로 긍정적인 측면이 있습니다. 다만, 인공지능 기술의 정의와 표시의무의 구체화, 표시의무 위반 시 제재방안 등에 대한 논의가 필요하다는 지적이 있으며, 「인공지능기본법」 차원에서 개정안이 논의되어야 한다는 주장도 있습니다.

「콘텐츠산업 진흥법」 개정안 신ㆍ구조문대비표

현 행	개 정 안
제26조(이용자 보호시책 등) ① ㆍ ② (생 략)	제26조(이용자 보호시책 등) ① ㆍ ② (현행과 같음)
<신 설>	③ 콘텐츠제작자는 대통령령으로 정하는 인공지능 기술을 이용하여 콘텐츠를 제작한 경우에는 해당 콘텐츠가 인공지능 기술을 이용하여 제작된 콘텐츠라는 사실을 표시하여야 한다.
<신 설>	④ 제3항에 따른 표시의 내용과 방법에 필요한 사항은 대통령령으로 정한다.
③ (생 략)	⑤ (현행 제3항과 같음)

<표 1> 「콘텐츠산업 진흥법」 개정안에 대한 부처(단체 의견)

부처(단체명)	의견 주요내용
과학기술정보통신부	인공지능 규율체계의 일관성과 안정성을 위해서는 추후 제정될 인공지능기본법 차원에서 논의되는 것이 바람직함
방송통신위원회	인공지능 기술 및 콘텐츠 유형, 표시 내용과 방법 등의 사항들을 모두 시행령에서 규정하도록 위임하고 있어 규제 예측성이 낮고 과도한 포괄입법의 우려가 있음
방송협회	인공지능에 대한 정의가 모호하고, 콘텐츠 제작 방식 및 기여도에 대한 고려가 선행되어야 함
TV조선	법 조항 신설이 시기상조이고, 기존 법 규정으로도 출처 명시 등의 문제를 다룰 수 있음
채널A	방송 콘텐츠는 이미 다양한 규제가 존재하고, 자체적으로 출처 명시 등의 가이드라인을 준수하고 있으므로 법 조항 신설 불필요
MBN	인공지능 기술을 이용하여 콘텐츠를 제작하는 경우라는 기준이 모호하고, 각 방송사업자별로 가이드라인 마련 등 자율적인 운영에 맡기는 것이 바람직한

자료 : 문화체육관광위원회, 「콘텐츠산업 진흥법 일부개정법률안 검토보고」(2023.9.) 참고 재작성

2. AI 생성 정보 표시 의무화 등 AI 관련 규제 국외 입법 동향

국외에서는 미국, 중국, EU 등에서 AI 관련 규제를 추진하고 있습니다.

 

미국 백악관은 2023년 7월, 구글, 메타, 마이크로소프트, 아마존, 오픈 AI 등 7개 주요 AI 기업이 AI로 만든 콘텐츠에 워터마크를 넣는 등 자발적인 안전 조치를 취하기로 했다고 발표했어요.

서약서에는 ▲가짜 뉴스와 딥페이크를 방지하기 위해 텍스트나 이미지, 사운드, 동영상 등 AI 생성 파일에 워터마크를 추가하는 것을 비롯, ▲AI 오남용 모니터링 외부 팀을 구성하고 ▲정부와 기업에 안전 정보를 공유하며 ▲사이버 보안에 투자하고 ▲보안 취약점 및 AI의 환각 및 편향성 문제를 보고하며 ▲최첨단 AI 모델을 활용해 기후변화와 신약 개발 등 사회 문제를 우선 해결하는 안 등이 포함됐습니다.

해당 발표는 지난 5월 백악관에 열린 주요 AI 기업 4곳과 카멀라 해리스 부통령과의 회의에 따른 후속 조치로, 법적 구속력은 없어요.

 

https://news.sbs.co.kr/news/endPage.do?news_id=N1007278537

구글 · 오픈 AI 등 미국 AI 기업, 생성 콘텐츠에 워터마크 넣기로

https://www.pillsburylaw.com/en/news-and-insights/ai-regulations-us-eu-uk-china.html

A Global Overview of Generative AI Regulations

또한 미국은 인공지능만으로 만들어진 저작물은 저작권의 보호를 받지 못하며,인공지능 시스템의 출력물은 창작물로 간주되지 않고 저작권의 보호를 받지 못해요.

https://builtin.com/artificial-intelligence/ai-copyright

AI-Generated Content and Copyright Law: What We Know

https://crsreports.congress.gov/product/pdf/LSB/LSB10922

 

미국의 현행 법률 본문은 AI에 의해 콘텐츠가 생성된 시점을 공개하도록 요구하고 있어요.

https://techpolicy.press/copyright-fair-use-regulatory-approaches-in-ai-content-generation/

 

또한 미국은 2019년 트럼프 전 대통령이 행정명령 제13859호로 발표한 "미국 인공지능 구상" 이후, 「생성적 적대 신경망 출력물 확인법」과 「국가 인공지능 구상법 2020」을 제정어요. 

https://www.itworld.co.kr/news/289363

“같은 듯 다른” 유럽과 미국의 생성형 AI 규제 동향과 시사점

AI 연구개발과 훈련 지원을 중심으로 한 명문 규정을 마련하고 전담조직으로 백악관 과학기술처에 국가인공지능구상실을 신설함

연방정부의 AI 사용에 대하여는 행정명령 제13960호, 「정부인공지능법 2020」, 「조달인력의 인공지능 역량강화법」, 「미국인공지능진흥법」 등의 법령을 두고 있어요.

 

미국은 디지털 신기술의 연구ㆍ개발ㆍ시장창출을 민간에서 주도하지만 AI의 경우 정부가 AI RMF(Risk Management Framework)와 같은 구체적인 가이드라인과 후속 조치들을 발표하며 적극적으로 위험관리 정책을 추진 중임(<표2> 참조)

<표 2> 미국의 AI 위험관리 정책 동향

자료 : 한국지능정보사회진흥원, 「美 NIST 「AI 위험관리 프레임워크(AI RMF) 1.0」 분석 및 시사점」, 2023.

 

7개의 하이테크 기업(구글, 마이크로소프트, 오픈AI, 스태빌리티 AI, 엔비디아, 허깅 페이스, 앤트로픽)은 백악관과의 협의를 통해 자발적으로 AI RMF1.0을 포함해 정부가 설정한 AI 위험관리 방향에 부합하는지 평가받을 예정이요.

THE WHITE HOUSE(’23.5), ACT SHEET: Biden-Harris Administration Announces New Actions to Promote Responsible AI Innovation that Protects Americans’ Rights and Safety

2020년에 제정된 ‘국가인공지능 이니셔티브법(National Artificial Intelligence InitiativeAct of 2020 (P.L. 116-283))’에 따른 미 의회의 지시로 AI RMF를 수립했어요.

 

중국은 AI기술을 이용한 콘텐츠 생성을 주로 다루는 임시 행정조치를 발표하였으며, Generative AI 서비스 제공자에게 서비스에 의해 생성된 콘텐츠를 모니터링 및 제어하는 것을 포함한 상당한 의무를 도입하였습니다. EU는 생성형 AI 플랫폼을 개발하는 업체에게 책임을 물을 수 있는 법안인 EU의 ‘인공지능법(AI 법)’을 진행 중입니다.

https://www.pillsburylaw.com/en/news-and-insights/ai-regulations-us-eu-uk-china.html

 

EU는 생성형 AI 플랫폼을 개발하는 업체에게 책임을 물을 수 있는 법안인 EU의 ‘인공지능법(AI 법)’을 진행 중이에요

https://www.itworld.co.kr/news/289363

“같은 듯 다른” 유럽과 미국의 생성형 AI 규제 동향과 시사점

해당 법안이 제정될 경우, 생성형 AI 개발 업체는 플랫폼이 제작하는 모든 종류의 콘텐츠에 사용된 저작권 보호 자료를 의무적으로 공시해야 하며, 콘텐츠 원작자는 자신의 콘텐츠가 생성형 AI 애플리케이션에 의해 사용된 결과로 발생하는 수익을 분배받을 수 있게되요.

EU 인공지능법안은 인간성 보호에 집중하면서 신뢰 가능한 인공지능의 이용 확산과 촉진을 도모하는 걸 목적으로 해요. 

이사회 및 의회는 EU 인공지능법안이 제출(‘21.4.21)된 이후 이루어진 인공지능 기술과 이용 발전을 반영한 수정안을 마련하였고 ’23말 ∼ ’24초에 「인공지능법」이 제정될 예정이에요)<표3> 참조).

 

<표 3> 금지되는 인공지능 관행

 

자료 : 한국지능정보사회진흥원, 「EU 인공지능법 입법추진 현황과 시사점」, 2023.

영국 과학‧혁신‧기술부(Department for Science, Innovation and Technology)는 인공지능 위험대응과 인공지능 혁신 도모를 위한 “親혁신적 인공지능 규제 접근”(A pro-innovation approach to AI regulation)(이하, ‘백서’) 정책보고서를 마련했어요(‘23.3.29).

https://assets.publishing.service.gov.uk/government/uploads/system/uploads/attachment_data/file/1176103/a-pro-innovation-approach-to-ai-regulation-amended-web-ready.pdf

백서는 혁신을 억제할 수 있는 강압적인 법안의 도입을 피하고, AI 규제에 적용 가능한 접근 방식을 취할 것이며, 새로운 단일 규제 기관을 만들어 전권을 부여하는 대신 기존 관련 기관이 상황별로 맞춤형 접근방식을 채택할 방침이라고 설명함

백서는 2022년 ‘親혁신 인공지능 규제 접근 수립’ 정책보고서에서 제안된 ‘인공지능 규제 프레임워크의 이행원칙, 이행방안 등을 구체화·상세화하고 있어요(<표4> 참조).

<표 4> 인공지능 프레임워크 이행 원칙 및 주요 내용

자료 : 지능화법제도센터, 「영국 인공지능 규제 백서 주요 내용 및 시사점」, 2023.

 

 

아울러 영국은 AI의 위험에 국제적으로 대처하기 위하여 2023년 말 첫 글로벌 AI 안전 정상회의(global AI safety summit)를 개최할 예정이며, 최근 국제 사회에서 논의되고 있는 국제 AI 감시기구를 런던에 유치하는 것도 추진 중이에요.

 

일본은 생성형 AI를 규제하기 위한 특정 법률은 없으며, 현시점에서 법률 제정의 움직임은 보이지 않아요.

2019년 내각부에서 "인간중심의 AI사회원칙"을 정한 이후 각 부처에서 실천적 내용의 가이드라인을 공표했어요.

생성형 AI의 진화 및 보급에 따라 내각부는 2023년 5월 AI 업계 지식인으로 구성된 "AI전략회의"를 발족하고, AI의 이용 및 리스크, 개발에 관한 논의를 진행 중이에요.

이와 유사한 조직으로서 관계부처의 실무자로 구성된 "AI전략팀"이 "AI전략회의"의 논의를 바탕으로 AI와 관련된 여러 과제에 대한 신속한 대응을 위하여 논의를 진행 중이고요.

https://www.itworld.co.kr/news/289363

“같은 듯 다른” 유럽과 미국의 생성형 AI 규제 동향과 시사점

그 외 국가들의 관련 규제 동향은 아래와 같아요 (<표5> 참조.)

 

<표 5> 국외 AI 규제 입법 동향

국가	주요내용	자료 출처 및 전담부처
대만	- 행정원이 국가과학기술위원회(NSTC), 국가방송통신위원회(NCC), 디지털부, 문화부 등과 부처 간 위원회를 구성하여 방송·통신·광고 등 관련 산업 전반에 걸쳐 AI 관련 규제에 대하여 검토 - 2023년 9월에 「인공지능 기본법」 법률안 초안을 완성할 예정 - 위원회는 법률안에 개인정보 보호, 데이터 거버넌스, 윤리 원칙 등을 포함할 것으로 전망	세계법제정보센터
러시아	- AI 분야의 관계를 규정하는 법적 근거나 법률은 없으나 현재 "2024년 AI 기술 및 로봇공학 분야의 규제 개발에 관한 구상"을 공식화하여 시행 중 - 이 구상은 신기술의 적극적인 개발, 세계에서 러시아의 선도적인 위치 보장, 국민 안전보장을 위한 목적성을 가지며 AI 시스템의 이용 시 법적책임, 정보의 보호, 개발자를 위한 재정지원과 관련한 내용을 담고 있음	세계법제정보센터
말레이시아	- "2021-2025 AI 로드맵(AI-RAMP)"을 발표하여 인재 개발, 연구 개발, 산업 채택 및 거버넌스라는 네 영역에 초점을 맞춰 말레이시아를 AI 지역 리더로 자리매김하는 것을 목표로 하고 있으며, AI의 책임에 공정성, 안전성, 윤리성 등을 포함 - 이와 더불어 지난 6월 7일 과학기술혁신부 장관은 AI 사용 규제를 위한 법적 제도 개발 계획 발표	세계법제정보센터
중국	- 중국은 국가발전 5개년 계획 “중국표준 2035”에 “중국형 과학기술표준의 세계화”를 장기목표로 명시, 중점과학기술에 AI 기술을 포함 - 이와 관련한 여러 법령을 정비하는 한편 「생성형 인공지능서비스 잠정 관리 방법」을 제정 - 해당 법령은 2023년 7월 10일 공포되었고 2023년 8월 15일부터 시행되며, AI를 사용하여 콘텐츠를 생성하는 기술의 허용 범위, 준수 의무, 위반 시 조치, 벌칙 등의 내용 포함	세계법제정보센터
캐나다	- 캐나다 정부는 「인공지능 및 데이터법(안)」을 포함한 법률안 제C-27호를 지난 2022년 6월 16일 의회 하원에 제출 - 법안의 주요 내용으로는 △AI의 위험을 파악하고 이를 완화할 수 있는 제도적 장치 마련 △AI 규제 전담 부서 신설 △AI와 관련한 불법 행위와 그에 대한 처벌 규정 등을 포함	캐나다 혁신과학경제개발부

자료 : 한국콘텐츠진흥원 제출자료(2023.9.25.) 참고 재작성

3. AI 규제 관련 국내 입법 및 정책 동향

과학기술정보통신부는 인공지능 윤리·신뢰성 확보를 위해 OECD, EU 등의 인공지능 권고안을 반영한 인공지능 윤리기준(’20.12)을 수립하였고 AI 확산에 따른 기존 규범의 합리적인 정비방안 등을 내용으로 하는 「인공지능 법·제도·규제 정비 로드맵」2.0을 수립할 예정(’23.12)이에요.

방송통신위원회는 디지털 미디어 이용자의 권익보호를 위해 ‘인공지능 기반 미디어 추천 서비스 이용자 보호 기본원칙’을 발표(’21.6)하였으며, 기본원칙의 사업자의 이해 및 이행력 제고를 위하여 ‘인공지능 기반 미디어 추천 서비스 이용자 보호 기본원칙 해설서’를 마련했어요(’22.4).

개인정보보호위원회는 인공지능(AI) 관련 프라이버시 현안(이슈)을 전담하는 '인공지능프라이버시팀'을 신설하는 내용의 개인정보보호위원회 직제 시행규칙을 공포했어요(’23.10).

 

국내 AI 관련 법안 발의 현황은 다음과 같아요(<표6> 참조)

<표 6> AI 관련 법안과 이에 대한 국회 상임위원회 전문위원 검토보고서 내용

상임위	법안명	국회 대수	발의 날짜	대표 발의자	대표발의자 소속 정당	법안 내용	검토보고서 내용
과학기술정보방송통신위원회	인공지능산업 육성 및 신뢰 확보에 관한법률제정안	21대	2022.12.07	윤두현 의원	국민의힘	인공지능 산업 발전을 위한 진흥법으로 인공지능 기술 연구개발, 인공지능 서비스 출시를 우선 허용하고 문제가 생기는 경우에 한해 규제하겠다는 우선 허용, 사후규제 원칙을 명문화, 고위험영역 인공지능에 대하여 사전고지의무와 신뢰성확보 조치 의무를 부과	미상정
	정보통신망 이용촉진 및 정보보호 등에 관한 법률 일부개정안	21대	2023.2.14	김홍걸 의원	더불어 민주당	인공지능 기반 추천서비스 제공 시 방통위에 신고하도록 함	개정안에서 규정하고 있는 신고대상 및 신고내용의 범위와 방송통신위원회의 신고내용 공개가 사업자에게 과도한 부담을 초래하고 산업 발전을 저해할 우려가 있는 것은 아닌지에 대한 심도 있고 신중한 논의가 필요해 보임
	인공지능책임법제정안	21대	2023.2.28	황희 의원	더불어 민주당	인공지능사업자의 의무, 고위험 인공지능 이용사업자의 책무를 규정	알고리즘 및 인공지능의 개발·활용 진흥 필요성과 저작권 보호 필요성을 균형 있게 고려하여, 알고리즘 및 인공지능의 개발·활용 목적의 저작물 이용 한도를 합리적으로 규정해야 할 것임
정무위원회	개인정보 보호법 일부개정법률안	21대	202312.09	김영배 의원	더불어 민주당	인공지능 회사의 알고리즘으로 개인정보가 유출된 경우 개인정보보호위원회가 알고리즘제출을 요구할 수 있도록 함	개정안은 알고리즘을 “개인정보를 처리하기 위한 일련의 순서적인 계산 또는 절차를 구현하는 방법”으로 알고리즘의 일반적인 의미보다 좁게 규정하고 있는데, ① 인공지능 알고리즘 중 개인정보 처리를 위한 부분을 다른 부분과 분리하기 어려울 수 있다는 점과 ② 개인정보를 처리할 목적이 아닌 알고리즘은 개인정보를 유출하더라도 제출요구 대상에서 제외되는 것으로 받아들여질 수 있다는 점을 고려할 필요가 있음
환경노동위원회	채용절차의 공정화에 관한 법률 일부개정법률안	21대	20233.22	한준호의원	더불어 민주당	기업이 채용에 인공지능 활용 시 피채용인에게 사전고지의무를 부여함	구인자가 공지하도록 하고 있는 인공지능 채용의 평가방식, 작동방법 등은 기술적인 부분으로 기업의 인사 자율권에 해당하는 부분으로 볼 수 있고, 이를 구직자에게 전부 고지하도록 할 경우 기업의 인사상 기밀이 노출될 수 있는 우려가 있다는 점 및 실제로 이를 수행할 AI 채용프로그램 전문업체의 알고리즘은 회사 핵심기술로 영업비밀에 해당하는 사항이라는 점에서 실제 고지가 필요한 가능 범위에 대하여는 논의가 필요할 것으로 보임
문화체육관광위원회	저작권법 일부개정법률안	21대	20236. 8	황보승희의원	무소속	컴퓨터를 이용한 자동화된 정보분석을 위한 저작물 이용에 대하여 명시적 기준을 마련하여 추후 인공지능 기술의 저작물 활용 시 허용되는 범위와 저작권 침해의 경계를 명확히 함	영리를 목적으로 하는 경우에도 정보분석을 위한 저작물의 복제·전송 등을 허용하는 것으로 규정함에 따라 권리자들의 반발이 예상됨
행정안전위원회	공직선거법 일부개정법률안	21대	20236.12	송석준의원	국민의 힘	인공지능을 이용하여 허위정보나 명령을 입력하는 방법으로 여론조사를 조작하여 얻은 결과를 선거운동을 위하여 전송하는 행위를 금지하고 이에 대한 논평 또는 보도하는 행위를 제한	인공지능 또는 인공지능을 이용한 프로그램에 허위의 정보나 명령 등을 입력하는 방법으로 여론조사를 조작하여 얻은 결과를 공표·보도·논평하는 경우에는 현행법으로도 처벌이 가능하므로, 여론조사 결과를 조작할 수 있는 여러 수단 중 인공지능을 이용한 방법으로 여론조사 결과를 조작하는 행위만을 「공직선거법」에서 제한하는 것이 적절한지에 대한 검토가 필요해 보임

자료 : 국회 의안정보시스템 참고 재작성

 

 

참고자료

지능화법제도센터, 「영국 인공지능 규제 백서 주요 내용 및 시사점」, 2023.

한국지능정보사회진흥원, 「미국, ‘알고리즘 책임법안(Algorithmic Accountability Act)’ 발의」, 2022.