악의적 선거 딥페이크 방지 비상…사전 차단 기술 개발이 관건
제22대 국회의원선거(이하 총선)를 앞두고 총선 특집 페이지를
오픈했다고 11일 밝혔다.(사진=카카오) *재판매 및 DB 금지
국내 포털 사이트 네이버와 다음이 4월 10일 치러지는 제22대 국회의원 선거를 앞두고 총선 특별 페이지를 오픈하며 총선 준비에 본격 돌입했다. 두 포털이 매 총선마다 공정성 시비에 휘말렸던 가운데 올해에는 생성형 AI(인공지능)를 활용한 가짜뉴스와 딥페이크 콘텐츠가 기승을 부릴 것으로 전망되면서 초비상이 걸렸다.
11일 포털 업계에 따르면 네이버는 지난 7일, 다음은 이날 ‘제22대 국회의원 선거 특별(특집) 페이지’를 오픈했다. 두 페이지 모두 선거 관련 뉴스, 정보, 지역별 뉴스 등을 모아볼 수 있는 게 공통점이다. 4월 10일 선거 당일에는 각각 특집 페이지를 통해 시간대별, 지역별 투표율 현황을 실시간으로 제공할 예정이다.
네이버의 제22대 국회의원 선거 특별 페이지는 ▲각 언론사가 직접 선택한 선거 섹션 기사를 모아서 볼 수 있는 ‘언론사 픽(PiCK)’ ▲중앙선관위에 등록된 언론사의 여론조사 결과, 분석 내용을 확인 가능한 ‘여론조사’ ▲토론회 영상 및 기사를 모아서 볼 수 있는 ‘토론회’ ▲숫자로 보는 선거, Q&A 선거 상식 등 다양한 정보를 제공하는 ‘아하! 선거’ 메뉴 등으로 구성된다.
다음의 총선 특집 페이지에는 ‘언론사 특집’과 ‘여론조사’ 탭을 마련했고 뉴스 탭에선 총선 관련 뉴스들을 모아볼 수 있다. 언론사의 심층기획 기사부터 각 정당의 공약∙정책 기사, 현장 민심을 담은 기사, 팩트체크 기사 모음까지 제공된다.
네이버와 다음 모두 총선 페이지에 지역 언론사의 지역별 기사 모음을 마련했다. 네이버는 ‘최신뉴스’ 코너에서 ‘지역 언론사 뉴스’를 선보였다. ‘내 선거지역’과 ‘내 관심후보’ 저장 기능을 활용하면 해당 선거 지역 후보자, 관심 후보 정보를 바로 확인할 수 있다. 다음은 입점 신청한 30개 언론사가 유권자와 후보자들에 지역 현안에 대한 소식을 전달한다.
양대 포털이 이번 총선에서 총력을 기울이는 것은 딥페이크, 가짜뉴스 대응이다. 딥페이크는 AI를 활용한 일종의 얼굴 조합 기술로, 기존에 있던 인물의 얼굴 혹은 신체 부위를 합성한 이미지와 비디오, 오디오, 허위정보 등을 총칭한다.
네이버는 지난달 28일부터 검색창에 딥페이크 관련 검색어를 입력할 경우 딥페이크 기술 활용에 대한 주의를 당부하는 안내 문구를 제공하고 있다. 뉴스도 언론사가 자동 로직으로 생성·전송한 기사의 경우 본문 상단과 하단에 "이 기사는 해당 언론사의 자동생성 알고리즘을 통해 작성됐습니다"라는 문구가 노출된다.
오픈하고 후보자 정보 관련 서비스 운영 원칙을 밝혔다.(사진=네이버)
*재판매 및 DB 금지
네이버 뉴스 댓글에 선거 관련 허위정보 등이 포함된 경우 신고할 수 있다. 실명 인증 계정에 한해 24시간 내 기사 댓글 20개 작성이 가능하다. 모니터링 강화를 통해 매크로 활동 발생 가능성을 정책적, 기술적으로 막는다는 방침이다.
네이버의 생성형 AI 서비스인 클로바 X와 CUE:(큐:) 서비스 대화창 하단에는 선거 관련 사용자 주의 안내 문구를 제공할 예정이다.
다음은 곳곳에 ‘허위사실 및 비방 게시물 신고’, ‘오보 및 권리침해 신고, ‘불공정 기사 모음’, ‘정정∙반론∙추후 보도 기사’ 배너를 게시한다. 또한 생성형 AI로 작성한 기사에 대해 AI 기술 적용 사실을 표시한다.
공동 대응도 힘쓴다. 한국인터넷기업협회 회원사인 네이버, 카카오, SK커뮤니케이션즈는 ‘악의적 선거 딥페이크 사용 방지를 위한 공동선언’을 채택했다. 악의적 선거 딥페이크의 위험을 낮추기 위한 탐지 및 신속한 조치 노력 기울이고, 대응 정책 공개 등을 통해 대응 투명성을 높이며, 확산 방지를 위한 지속적 논의와 정보 및 의견 교류를 활성화한다는 목표다.
두 포털은 선거 때마다 편파 논란이 제기되는 등 공정성 시비에 진땀을 흘리곤 했다. 이런 가운데 최근 악의적 딥페이크 영상이 일파만파 퍼지면서 발등의 불이 됐다. 딥페이크 콘텐츠가 허위 정보를 유포하고, 선거 결과에 직간접적으로 영향을 미칠 수 있다는 우려가 커졌기 때문이다.
정치권도 총선을 앞두고 가짜뉴스, 딥페이크 콘텐츠가 SNS 등에서 기승을 부리면서 최대 현안으로 떠올랐다. 지난해 말 '틱톡'을 비롯한 SNS에서 '윤석열 대통령 양심고백연설'이라는 제목의 딥페이크 영상이 유포된 것이 발단이 됐다. 이에 경찰은 영상을 올린 것으로 보이는 아이디를 확보해 수사 중인 것으로 전해졌다.
다만 현재로서는 네이버, 카카오 등 국내 플랫폼이 딥페이크 영상, 이미지 콘텐츠를 기술적으로 판별해 사전 필터링(차단)하는 것은 어렵다는 점은 한계로 지적된다.
이에 네이버는 콘텐츠의 출처 정보를 확인할 수 있는 ‘글로벌 기술 표준(C2PA) 채택 추진’과 ‘비가시성 메타 정보 피처 반영 및 생성 콘텐츠를 탐지하는 기술’을 연구개발하고 있다. 카카오는 자회사 카카오브레인의 생성형 AI 이미지 생성 모델 '칼로'에 ‘비가시성 워터마크를 부착하는 기술’ 도입을 준비하고 있다. 또 AI 콘텐츠 건강성 관련 연구 차원에서 허위정보 혹은 딥페이크를 검출하는 역할을 하는 방향으로 연구를 진행 중이다.
이성엽 고려대 기술경영전문대학원 교수는 "네이버, 카카오의 영상 콘텐츠보다는 검색, 뉴스가 메인 서비스이기 때문에 사후 차단 중심의 가짜뉴스 대응이 더욱 중요할 것"이라며 "뮌헨안보회의(MSC)에서 발표된 기술 협정에 합의한 구글(유튜브), 틱톡 등의 적극적인 딥페이크 대응이 필요하다"고 지적했다.
[서울=뉴시스]최은수 기자
