동영상 사전 필터링, 이미지로 확대..."7월 시행, 계도 6개월"
"기술 발전 맞춰 안전망 필요" VS "효과 없이 리스크만 커"

국내 인터넷 커뮤니티에 올리는 이미지도 인공지능(AI)으로 사전 검열하는 정책이 가시화됐다. 사회 안전망 필요성과 표현의 자유 침해 사이에서 여론은 엇갈린다.

'n번방 방지법'으로 불린 전기통신사업법 개정안은 2021년 시행됐다. AI를 이용해 SNS, 메신저, 커뮤니티 등지에 업로드하는 콘텐츠를 사전에 모니터링하고 대응하는 구조다. 그동안 동영상 파일에 한정됐으나, 곧 이미지 파일도 관리 대상에 포함된다는 사실이 알려지면서 혼란은 커졌다.

본격적으로 도마 위에 오른 계기는 커뮤니티 사이트 루리웹이 4월 30일 게시한 공지다. 루리웹 관리자는 "불법촬영물등의 유통방지를 위한 조치 대상이 이미지 파일까지 확대된다는 공문을 계속 받고 있다"면서, 2026년 7월 1일부터 시행되며 6개월 계도 기간을 가진다고 밝혔다.

이와 같은 조치는 온라인 커뮤니티를 운영하는 사업자 대부분에게 의무로 작용한다. 정부 데이터베이스에 등록된 불법촬영 및 의심 콘텐츠와 유사하다고 AI가 판단하면 업로드 시점에서 사전에 막는 구조다.

서비스 제공자는 필터링에 필요한 시스템과 서버를 직접 구축해야 한다. 현실적으로 자체 개발은 어렵고 필터링 서비스를 이용하게 되며, 대형 커뮤니티의 경우 방대한 이미지 업로드 리소스를 사전에 검사해야 하므로 시간 지연이나 업로드 제한이 발생할 수 있다는 지적이다.

관리자는 "불법촬영물에 걸려서 문제가 될 수준의 이미지나 영상은 의무 대상이 되는 사이트에 거의 올라오지 않으며, 법의 취지는 이해하나 그로 인해 불필요한 리소스가 엄청나게 들어갈 것"이라고 밝혔다.


■ "디지털 범죄 근절을 위한 필수 조치"

찬성 측은 기술의 발전 속도에 맞춰 실시간 대응도 발전해야 할 필요가 있다고 주장한다. 어떤 방향으로든 불법 촬영물이 한 순간 유포되면 확산 속도를 걷잡을 수 없기 때문이다. 사후 모니터링은 시간과 한계가 명확하고, 즉각적 사전 차단이 피해를 최소화할 수 있다는 것이 근거다.

커뮤니티 플랫폼 역시 사회적 책임을 갖춰야 한다는 주장도 존재한다. 대형 커뮤니티의 정보 및 여론 전파 속도와 파급력은 매년 급증하고 있으며, 앞으로는 더욱 절대적으로 작용할 전망이다. 그만큼 사회 안전을 위한 기술적 장치를 마련할 의무가 필요하다는 것이다.

일부 여초 커뮤니티에서도 찬성 여론은 굳건하다. "다수의 커뮤니티 이용 편의를 위해 혹시라도 피해자가 평생 정신적 고통을 받게 되는 일은 발생하지 말아야 한다"는 것이 골자다. 언제든 직접적 피해를 받을 수 있다는 공포 역시 찬성 의견에 불을 당긴다.

(후략)