딥페이크 가짜 의사 광고 막는 ‘AI 표시 훼손 금지법’

소비자 보호 효과는 분명…사업자 부담은 과제

- 국회입법조사처, '정보통신망법 개정안'에 대한 사전 입법영향분석 실시

- 법률안 시행될 경우, AI 표시 신뢰성 높여 온라인 광고 진위 파악 개선 기대

- 다만, 표시의 훼손 여부 판단 기준이 명확하지 않아 사업자 과잉규제 우려

- 법안 하위규정 보완 및 법률 시행 3년 후 사후분석을 통한 실증 점검 제안

(불탑뉴스=송행임기자) 최근 온라인상에 AI를 활용한 딥페이크 광고가 급증하면서, AI 생성물임을 알리는 고지·표시를 고의로 삭제하거나 조작해 유통하는 사례가 늘고 있다.

국회입법조사처(처장 이관후)는 12월 31일(수) '정보통신망 이용촉진 및 정보보호 등에 관한 법률 일부개정법률안* 입법영향분석-온라인 광고의 AI 생성물(딥페이크) 활용 고지ㆍ표시의 훼손 또는 위ㆍ변조 금지 의무' 보고서를 통해 개정안을 통해 실질적 피해 구제는 가능한지, 이로 인한 사업자 규제는 타당한지 알아봤다.

입법영향분석 보고서는 법률안이 시행될 경우 발생할 것으로 예상되는 전반적인 영향을 객관적이고 과학적인 방법으로 예측ㆍ분석한 것으로, 국내외 연구 논문, 헌재 판례, 국내외 입법례, 이해관계자 의견 등을 종합적으로 반영한다.

* '정보통신망 이용촉진 및 정보보호 등에 관한 법률 개정안' (의안번호 2213740) 제50조의9, 제76조의제1항제11호의3

현재 소비자는 광고의 진위와 신뢰성을 판단하기 어려워지고, 조작된 영상을 사실로 오인해 제품을 구매하는 등 실질적인 피해로 이어질 우려가 커지고 있다.

특히 식·의약품 분야에서는 특정 인물이나 신체 이미지를 합성한 광고가 높은 홍보 효과를 내는 점을 악용한 허위·과장 광고가 반복되고 있다.

가상의 이미지를 실제 의사나 전문가의 권고로 오인하는 피해는 물론, 건강 정보에 취약한 노년층이 거짓 의학 정보에 노출될 경우, 생명·신체에 대한 직접적인 위험으로 이어질 수 있다는 점에서 제도적 대응의 필요성이 크다.

이러한 문제를 해결하기 위해 AI 생성 광고의 표시를 훼손ㆍ변조하는 행위를 금지하고, 플랫폼 사업자에게 해당 광고의 삭제 의무를 부과하는 정보통신망법 개정안이 발의되었다.

이 법안에 대한 입법영향분석을 실시한 결과 입법조사처는 소비자 보호 측면의 효과는 분명하지만, 규제 기준의 모호성으로 인해 사업자 부담이 과도해질 우려가 있다고 밝혔다.

첫째, 소비자 보호 효과가 크다. 현행법은 AI 생성물 표시 의무를 규정하고 있으나, 표시를 고의로 삭제하거나 가리는 행위에 대한 제재는 충분하지 않다.

본 개정안은 이러한 입법 공백을 보완하여 소비자에게 정확한 정보를 제공하고, AI 표시의 신뢰성을 제고함으로써 소비자 오인에 따른 피해 확산을 예방하는 데 기여할 것으로 평가된다.

둘째, 광고 게시자의 표현의 자유 제한 우려가 있다.‘훼손’이나‘위·변조’의 개념이 명확하지 않을 경우, 단순 편집이나 저화질 변환 등 고의성이 없는 행위까지 규제 대상에 포함될 가능성이 있다.

이는 표현의 자유를 위축시킬 수 있으므로, 하위 법령을 통해 금지 행위의 범위를 구체화할 필요가 있다.

셋째, 정보통신서비스 제공자의 영업의 자유 제한 우려가 있다. 개정안은 정보통신서비스 제공자에게 표시가 훼손ㆍ조작된 광고에 대한‘지체 없는 삭제’의무를 부과하고 있으나, 이는 기존 정보통신망법상 불법정보 삭제 체계에 비해 사업자의 판단 부담을 크게 가중시킬 수 있다.

따라서 관련 입법례를 참고하여 불법정보 유통 규율 체계와의 정합성을 확보하는 방향으로의 보완 논의가 필요하다.

국회입법조사처는 입법영향분석 결과를 토대로 소비자 보호와 사업자에 대한 합리적 규제가 균형을 이룰 수 있는 입법적 논의 방안을 제안하였다.

또한, 입법적 논의ㆍ보완을 거쳐 본 법률안이 실제로 통과된다면, 법률 시행 3년 후 사후 입법영향분석을 실시하여 규제 효과와 사업자의 이행 상황을 재점검하는 절차도 제안하였다.