정부, 딥페이크 가짜뉴스 막기 위해 AI 생성물 워터마크 표시 의무화 추진

정부는 딥페이크 가짜뉴스 대응의 일환으로 AI(인공지능) 생성물에 대해 워터마크 표시를 의무화하기로 했다. 이를 위해 관련 법령 제·개정도 추진한다.

주요 내용

• AI 생성물 워터마크 표시 의무화: 딥페이크 기술을 이용한 가짜 뉴스 유출을 방지하기 위해 AI 생성물에 제작자나 출처를 명시하는 워터마크 표시를 의무적으로 하기로 했다.
• AI 안전성 검증·연구 전담조직 설치: 아태지역의 AI 안전 허브로 육성하고자 AI 안전성을 검증·연구하는 전담조직을 설치할 예정이다.
• 디지털서비스 안전법 제정: 고도화·지능화되는 디지털 위협에 대비하기 위해 디지털서비스 안전법 제정을 추진한다.
• 비대면 진료 법적 근거 마련: 국민 건강 증진에 기여하기 위해 비대면 진료를 본격 제도화할 계획이다. 의료법 개정을 통해 비대면 진료의 법적 근거를 마련하고 규제특례를 받은 디지털 혁신기술과 서비스의 비대면 진료 연계를 강화한다.
• 연결되지 않을 권리 및 잊힐 권리 제도화: 아직 사회적 논의가 성숙되지 않았지만, 디지털 심화 시대에 더욱 중요해질 수 있는 '연결되지 않을 권리'와 '잊힐 권리'와 같은 개인의 디지털 권리 향상을 위한 노력도 본격 추진한다.

기대 효과

• 딥페이크 가짜뉴스 감소: AI 생성물에 워터마크 표시를 의무화하면 딥페이크 제작자를 식별하고 출처를 추적하는데 용이해져 딥페이크 가짜뉴스 제작 및 유출을 효과적으로 방지할 수 있을 것으로 기대된다.
• AI 안전성 확보: AI 안전성 검증·연구 전담조직 설치를 통해 AI 기술의 안전성을 검증하고 연구함으로써 AI 기술의 안전한 활용을 촉진하고 AI 관련 사고를 예방할 수 있을 것으로 기대된다.
• 디지털 서비스 안전 강화: 디지털서비스 안전법 제정을 통해 디지털 서비스 이용자를 보호하고 디지털 서비스의 안전성을 강화할 수 있을 것으로 기대된다.
• 국민 건강 증진: 비대면 진료를 본격 제도화하면 의료 접근성을 높이고 국민 건강 증진에 기여할 수 있을 것으로 기대된다.
• 개인 디지털 권리 보호: '연결되지 않을 권리'와 '잊힐 권리'를 제도화하면 개인이 자신의 디지털 정보를 보다 효과적으로 관리하고 통제할 수 있도록 돕고 개인의 프라이버시 보호를 강화할 수 있을 것으로 기대된다.

논란 및 과제

• 표현의 자유 침해 우려: 일부에서는 AI 생성물 워터마크 표시 의무화가 표현의 자유를 침해할 수 있다는 우려를 제기하고 있다.
• 기술적 어려움: AI 생성물을 정확하게 식별하고 워터마크를 표시하는 기술 개발에 어려움이 있을 수 있다.
• 사회적 합의 필요: '연결되지 않을 권리'와 '잊힐 권리' 등 새로운 개인 디지털 권리 제도화에는 사회적 합의가 필요하다.

정부는 이번 추진계획을 통해 디지털 시대의 사회 문제를 해결하고 국민의 삶의 질을 향상하는 것을 목표로 한다.

 

인스타 텔레그램 딥페이크 대처!

 

 

자녀 무료 해외 연수, 가능합니다!