최근 국민의힘 선대위 출범식에 ‘AI 윤석열’이 등장했다.

‘AI 윤석열’은 딥러닝(신경망학습) 기술을 통해 학습 텍스트만 입력해도 마치 윤석열 국민의힘 대선 후보가 실제로 말하는 것처럼 구현하는 가상 캐릭터의 일종이다.

국민의힘은 ‘AI 윤석열’을 후보가 미처 갈 수 없는 지역이나 행사 등에 참석케하는 방식 등으로 선거운동에 활용한다는 방침이다. 

선거운동은 국민이 후보자에 관한 정보를 획득하는 과정이라는 점에서 후보자에 관한 정보가 허위나 과장 없이 제공돼야 한다는 지적이 제기되고 있다.

딥페이크 기술이 적용된 후보자 영상 등이 선거운동에 활용될 경우 실제 후보자와 구분이 불가능한 합성 영상물을 통해 후보자의 정보가 제공될 우려가 있다는 것이다. 

후보자에 관한 정보 습득 과정에서 혼란이 야기된다는 점에서 규제의 목소리가 높아지고 있다.

이미 2018년 해외에서는 히틀러와 비슷한 말투로 조작된 앙겔라 메르켈 전 독일 총리의 ‘악성 딥페이크’ 영상이 큰 논란을 불러일으킨 바 있다.

미국 캘리포니아주에서는 주법으로 선거 60일전부터 실제 정치인과 비슷하게 조작한 동영상‧이미지‧오디오 제작을 전면 금지하고 있다.      

우리나라에서는 이러한 ‘딥페이크’ 영상을 활용한 선거운동 시도가 처음 이뤄지다보니 중앙선거관리위원회에서도 명확한 입장을 내놓지 못 하고 있고, 관련 법령의 정비도 이루어지지 않은 실정이다.

20일 국회 행정안전위 소속 이해식 의원(더불어민주당, 서울 강동을)이 유권자 혼동을 유발하고 가짜뉴스 유포 위험이 큰 일명 ‘딥페이크 선거운동 금지법(공직선거법 개정안)’을 발의했다. 

이 의원은 “유권자가 공직 후보자를 선택함에 있어서는 실제 후보자의 모습을 통해 드러나는 여러 가지 태도와 자세에 대한 평가도 중요한 고려 요소”라며 “가상 캐릭터를 통해 선거운동이 이뤄진다면 이는 국민의 후보자 선택을 방해하는 것으로 유권자 기만과 다름없다”고 강조했다. 

이번 ‘공직선거법 일부개정법률안’에는 고민정, 고용진, 김경협, 김남국, 김두관, 김영배, 김정호, 김진표, 박정, 박홍근, 서삼석, 서영교, 서영석, 신정훈, 윤영찬, 윤준병, 이병훈, 임호선, 전용기, 전혜숙, 정필모, 조오섭, 천준호, 허영, 홍기원, 홍익표, 황운하 의원 등 총 28명의 의원이 공동발의로 참여했다.