구글이 내년 미국 대선을 앞두고 가짜 뉴스로 생기는 여론을 방지하기 위해 인공지능으로 만든 선거 광고는 AI로 제작되었다는 사실을 명시하도록 규정하였습니다. 구글의 발표는 AI가 선거에 악용되는 것을 막지 위한 글로벌 빅테크 기업의 첫 조치입니다.

 구글은 자사 플랫폼을 이용하는 선거용 광고에 합성되거나 AI가 생성한 이미지, 동영상이 있는지 공개하도록 하였습니다. 미국 대선을 1년 앞둔 11월부터 모든 정치적 광고에 들어가는 동영상·사진·음성에서 생성형 AI를 사용한 경우 활용 사실을 '명확하고 눈에 띄게 명시'하도록 하는 규정이 적용됩니다. 시행되는 새로운 정책은 선거용 광고에만 적용이 되며, 일반 콘텐츠는 대상이 아니라고 밝혔습니다.  

✅기사 더 보러가기

 해외에서는 이미 생성형AI가 만들어 낸 가짜뉴스로 정치계는 골머리를 앓고 있습니다. 미국 공화당 유력 대선 후보인 론 디샌티스 플로리다 주지사 진영은 지난 6월 트럼프 전 대통령이 앤서비 파우치 전 국립 알레르기·전염병 연구소장을 끌어안는 모습을 게재했습니다. 이는 트럼프 전 대통령의 지지율을 깎아 내리기 위한 트릭이었죠. 

 

 또한 지난 5월 미국 국방부(펜타곤) 옆 건물이 불타는 '가짜 사진'이 유포되면서 뉴욕 증시가 요동치는 대혼란이 발생했습니다. 생성형 AI로 만들어진 이미지의 진위 여부는 육안으로 판별이 어려워 실제 선거의 판도를 바꾸는 경우도 발생합니다. 

 후보자의 이미지, 목소리 등 소스만 있으면 딥페이크 기술로 가짜 뉴스를 쉽게 만들수 있어 AI 가짜뉴스가 전 세계 선거판을 뒤흔들 것이라는 우려가 커지고 있으나 이를 막을 규제나 기술이 마땅치 않은 것이 현실입니다. 불법 콘텐츠 확산을 제한하는 법적 가이드라인이 필요합니다. 

✅기사 더 보러가기

3. 국내도 피할수 없다! 내년 총선 대비 특별 대응팀 운영  

 내년 총선을 앞두고 중앙선거관리위원회는 생성형AI로 만든 딥페이크 이미지와 가짜 뉴스 확산 방지를 위하여 '생성형 AI 신기술 도입에 따른 선거 규제 연구' 용역을 발주했습니다. 중앙선관위에 따르면 생성형 AI 기술이 세계 각국의 선거 환경에 어떤 영향을 줬고 각국 선거규제 입법 동향은 어떠한지 등에 대해 살펴보고 그 결과에 따라 내년 총선에 대한 규제방안을 구체적으로 마련한다는 계획입니다.

  "생성형 AI는 인터넷 상의 광범위한 데이터를 통해 자체적으로 생성물을 창작함에 따라 진위 판별과 저작권 등의 법적 책임이 불분명하다"며 "허위 사실이 포함된 콘텐츠를 누구나 쉽게 만들어 낼 수 있는 문제가 있어 법적 제제가 필요하다"고 설명했습니다. 

 아직까지 국내에서 생성형 AI 콘텐츠가 정치권에 큰 영향을 주지 않았지만 이미 해외 여러 국가에서 중대한 영향을 끼치고 있습니다. 딥페이크 이미지는 육안으로 진위 여부가 판단되지 않아 유권자들의 판단이 왜곡되지 않도록 '허위사실공표·비방 특별대응팀(AI 전담)'을 편성하여 운영할 계획을 밝혔습니다. 

 한국 방송통신위원회는 18일 전체 회의를 열고 가짜뉴스 근절 및 피해구제를 위한 방안을 발표했습니다. 긴급 재난 상황, 금융 시장이나 정치권 결과에 영향을 끼치는 허위 뉴스와 관련해 포털 사업자와 협의해 선제적으로 임시 삭제·차단 할 수 있는 방안을 추진 중입니다. 

 

 아직까지 글로벌 빅테크와 각 국의 정부들이 뾰족한 해결책을 마련하지 못한 상황입니다. 내년은 생성형 AI 등장 이후 대대적인 선거철이 예정되어 있습니다. 한국 총선을 비롯하여 미국 대, 유럽의회 선거, 인도, 영국, 대만, 멕시코, 이란 등 세계 인구의 절반에 해당하는 인원이 가짜뉴스에 영향을 받을 것이 우려되는 상황입니다. 앞으로 각 정부와 기업들의 해결 방향이 주목됩니다.

2023 에듀테크 코리아 페어
 구루미가 2023 에듀테크 코리아 페어에 참석합니다. 에듀테크 코리아 페어는 교육부와 산업통상자원부에서 주최하여 '에듀테크, 교육혁신을 이끌다' 의 슬로건으로 열리는 전시회입니다.  생성형AI, 기술&트렌드 등의 국내·외 에듀테크 열기를 느껴보세요. 

👧🏻세계에서 가장 큰 온라인 독서실 '구루미 캠스터디'

👩🏻‍🏫학원/학교 맞춤형 캠스터디 '구루미 올리고'

👨🏻‍💼여러분의 무한한 가능성을 확장시켜 주는 '구루미 AI SPACE'

✅일시: 23.09.21(목) 10:00 ~23.09.23(토) 17:00

✅장소: 코엑스 A홀 K24

대한민국 디지털 미래혁신대전 2023