[중앙뉴스라인, 한성영기자] 6월 3일 실시하는 제9회 지방선거에서 선거운동을 위해 허위의 딥페이크 영상을 AI로 제작한 후 SNS에 게시한 입후보예정자 A를,'공직선거법' 제250조(허위사실공표죄) 위반 혐의로 울산 남구선관위가 2월 9일 경찰에 고발했다.

이는 딥페이크영상등을 이용하여 허위사실을 공표하는 행위를 가중 처벌하는 규정이 2023년 12월 28일 신설된 후 최초로 고발한 사례로서, A는 ‘외국의 유명 시사 주간지에서 ○○의 발전을 이끌 인물로 A를 선정했다’ 등의 허위의 딥페이크 영상을 제작한 후, AI로 제작한 사실을 영상에 표시하지 않고 개인 SNS에 게시·유포한 혐의를 받고 있다.

법 제250조 제4항에 따르면 딥페이크 영상임을 표시하지 않고 당선될 목적으로 후보자나 후보자가 되고자 하는 자에게 유리한 허위사실을 공표한 사람은 5년 이하의 징역 또는 5천만원 이하의 벌금에 처해질 수 있다.

한편, 고발 조치와 별도로 위 영상에 AI 생성물임을 표시하지 않은 행위에 대하여 A에게 500만원의 과태료를 부과했다.

지난 1월 22일 강원 속초시선관위도 지방선거와 관련하여 AI 생성물임을 표시하지 않고 자신이 지지하는 입후보예정자를 위한 찬양 노래를 SNS에 게시한 사람에게 과태료 500만원을 부과했다.

최근 들어 이처럼 AI 생성물임을 표시하지 않아 조치 되는 사례가 발생하고 있으므로 AI를 이용한 선거운동 시 각별한 주의가 필요하다.

법 제82조의8(딥페이크영상등을 이용한 선거운동)은 누구든지 선거일 전 90일 전(3. 4.까지)에 선거운동을 위하여 인공지능 기술 등을 이용하여 만든 실제와 구분하기 어려운 가상의 음향·이미지·영상(이하 ‘딥페이크영상등’)을 제작·편집·유포·상영·게시하는 경우,

해당 정보가 인공지능 기술 등을 이용하여 만든 가상의 정보라는 사실을 명확하게 인식할 수 있도록 영상 등에 표시하여야 한다고 규정하고 있으며, 이를 위반하는 경우 법 제261조에 따라 1천만원 이하의 과태료가 부과될 수 있다.

중앙선관위는 지방선거를 앞두고 위법한 딥페이크 영상 등의 확산을 차단하기 위해 ‘딥페이크등 허위사실공표·비방 특별대응팀’을 운영하고 있다면서, 앞으로도 유권자의 올바른 판단을 저해하고 선거의 공정성을 훼손하는 딥페이크영상등 유포자에 대해 강력 대응할 방침이라고 밝혔다.