생성형 인공지능(AI)을 이용한 콘텐츠가 증가하고 있어 저작권 침해 등 부작용이 우려된다. AI 기술 발전이 창작 활동 전반에서 폭넓게 응용되면서 결과물도 급속도로 확산하고 있다. 저작권 침해나 가짜뉴스, 딥페이크 같은 문제점도 다양하다. 챗GPT 등 AI를 활용한 콘텐츠 표기 의무가 필요하다.
지난해 12월 유럽연합(EU)은 세계 최초로 AI로 생성한 콘텐츠에 워터마크를 의무화했다. 국내에도 AI 콘텐츠 식별체계를 갖춰야 한다. 예측할 수 없는 AI 기술 발달로 창작자 권리 보호 필요성이 높아지고 있다. 생성형 AI 기술을 활용한 콘텐츠 증가로 저작권 침해 등에 대비가 필요하기 때문이다.
지난해 ‘콘텐츠산업 진흥법 일부 개정 법률안’이 발의됐다. AI 콘텐츠 부작용 등 예방 목적의 AI 활용 표기 의무 내용을 담은 내용이다. 대통령령으로 정하는 AI 기술을 이용한 콘텐츠는 AI 기술을 활용한 콘텐츠라는 사실을 표시하도록 하는 법안이다. 인간과 AI 콘텐츠를 분리하는 이 개정안은 국회 회기 만료로 자동 폐기가 될 것이다.
외국에서는 이미 가짜 정보를 규제하는 법률이 시행되고 있다. EU나 미국, 프랑스 등 여러 국가에서 AI 생성물임을 표시하도록 하는 법안이 발의됐다. 구글이나 틱톡, 메타 등 해외 기업도 AI 콘텐츠 가이드라인을 제정해 허위정보에 대응 중이다. 세계적으로 AI 콘텐츠의 표기 의무는 당연한 것으로 인식되고 있다.
AI 생성물은 AI와 관련된 투명성에 관한 문제로 매우 중요하다. 이용자를 속이거나 개인 프라이버시 침해 등을 예방하는 긍정적인 역할이 크다. 미표시된 AI 생성물은 이용자 등 일반 대중이 사람의 창작물로 오인해 구매나 소비 등 이용하게 된다. 가짜 이미지 등이 진짜인 것인 양 기망도 가능하다. 타인의 이미지나 목소리, 성명 등을 무단 사용해 당사자의 프라이버시나 명성을 침해할 수 있다.
AI 생성물은 표기 의무 범위를 적절하게 정해 적합하게 표기해야 한다. 표기 방법도 동영상이나 텍스트, 이미지 등의 다양한 유형에 따라 분리 적용이 요구된다. AI 생성물 표기 의무화는 생성형 AI로 발생할 수 있는 다양한 분쟁 방지를 위한 최소한의 안전장치로 창작자만을 위한 것이 아니다.
AI 생성물에 대한 표기가 없어 발생하는 가짜뉴스나 개인 프라이버시 침해, 질 낮은 AI 생성물의 범람 등 각종 부작용이 예상된다. 이런 부작용은 우리 사회를 혼란하게 하고 AI 산업 발전의 저해 요인으로 작용한다. 표기 의무 범위와 매체에 따른 표기 방법과 내용은 구분돼야 한다. 기술적 조작이나 삭제, 변경 방지 방안 등 추가적인 조치도 검토해야 한다.
AI 콘텐츠는 신뢰성과 책임성이 강화돼야 한다. AI 사용의 투명성을 강화하고 오남용도 예방해야 한다. AI의 개념 정의와 콘텐츠 종류별 표기 의무 여부도 명확히 해야 한다. 콘텐츠의 위험도와 사용 정도에 따른 표기 구분 등도 병행해야 한다. 진화하는 AI와 창작자들의 공생도 중요하다. 사회적 합의로 콘텐츠 창작자와 소비자 모두를 보호하는 법률 등 올바른 정책적 대안이 필요하다.
정순채 동국대학교 겸임교수, 서울디지털대학교·경희사이버대학교 객원교수, 법무법인 린 전문위원