홍콩 사우스차이나모닝포스트(SCMP)에 따르면 홍콩의 영국계 다국적기업 재무담당자가 딥페이크물에 속아 회삿돈 340억원을 송금하는 피해가 발생했다고 알렸습니다.

 1월 중순 중 해당 재무 직원은 영국 본사 최고재무책임자(CFO) 명의로 발송된 이메일을 수신하였고 '비밀거래가 필요하다'는 내용을 확인한 후 단순한 피싱 메일로 여겼습니다. 하지만 그룹 화상 회의를 통해 본사 직원과 본사 CFO가 참석한 것을 확인하고는 의심을 거두고 금액을 송금하였습니다. 피의자들은 온라인 상에 공개된 CFO의 영상과 음성을 통해 딥페이크 영상을 제작하였고 메신저, 이메일, 화상통화를 병행하여 수법을 다양화했습니다. 

 지난 달 테일러 스위프트의 이미지를 악의적으로 합성한 음란 딥페이크가 X(구 트위터)를 통해 퍼저나가며 세계를 경악하게 만들었습니다. 뉴욕타임즈에 따르면 허위정보 연구 회사인 '그래피카'는 유해성 온라인 커뮤니티 포챈(4chan)의 음란물 제작 챌린지로 시작되었다는 분석입니다. 그래피카는 포챈에서 오픈AI의 달리, 빙 이미지 크리에이터 등 이미지 생성AI의 안전장치를 피하기 위한 시도가 있었다고 보았습니다. 

 두 가지 사례만 보아도 이제 딥페이크로 인한 피해는 남의 이야기만은 아닐 것입니다. 지금까지는 딥페이크 희생자들이 유명인이 었다면 앞으로 일반인을 상대로한 피해도 상당할 것으로 예상됩니다. 딥페이크로 생성된 사기 및 허위 정보 유포를 막기 위해서는 AI 빅테크들과 소셜, 정부 등이 강력한 규제와 가이드라인을 정립해야 합니다. 

 생성형 인공지능이 만든 사진과 실제 사진의 경계가 모호해지며 허위 정보가 무분별하게 확산될 우려를 제기해 왔습니다. 따라서 글로벌 빅테크들은 생성형 AI가 만든 이미지에 워터마크를 적용해 나가며 대응책을 마련하고 있습니다. 

 🔹 메타는 6일(현지시간) 자사 블로그에 '페이스북과 인스타그램, 스레드에서 AI 생성 이미지에 라벨를 붙일 것'이라는 제목으로 새로운 정책을 게시했습니다. 메타의 최고정책 책임자인 닉 클레그는 현재 메타 AI 기능을 사용해 생성된 이미지에는 'Imagined with AI'라는 라벨이 적용되고 있다"며 "다른 회사의 도구로 생성된 콘텐츠에도 이 작업을 수행할 수 있도록 노력 중이다"라고 밝혔습니다. 또한 실제 사진과 유사한 이미지가 디지털 합성물임을 사용자에게 알리기 위해 몇 달내로 페이스북, 인스타그램, 스레드 서비스 내에서 AI로 생성된 콘텐츠에 라벨을 붙이는 기능을 탑재할 것이라고 밝혔다.  

  🔹오픈AI는 개인 정보 보호 및 정책을 갱신하며 자사의 이미지 생성 모델인 '달리3(DALL-E3)'에 콘텐츠 출처·진위 확인을 위한 연합(C2PA)의 워터마크를 적용한다고 발표했습니다. 따라서 챗GPT의 이미지 생성 기능과 달리3 API를 사용해 만든 이미지는 AI가 만든 이미지임을 구분하는 '비가시적 워터마크'가 포함됩니다.(*C2PA는 비가시적 워터마크로 분류됩니다.) 메타 데이터 형태로 워터마크를 확인할 수 있는 특정한 웹사이트나 프로그램을 통해서만 확인이 가능합니다. 

  2024년은 세계 76개 국에서 선거가 예정되어 있어 딥페이크로 만든 선거 운동에 대한 우려가 커져가고 있습니다. 딥페이크로 만든 선거 영상은 효율적인 비용과 흥미를 이끌어낸다는 점 등의 장점이 있지만 딥페이크 기술이 고도화되며 진짜와 가짜를 구분하기 어려워지고 있습니다.

 전문가들은 언론과 정당에 대한 불신이 높을 수록 딥페이크는 치명적인 영향을 끼친다고 말했습니다. 딥페이크로 조작된 가짜뉴스를 선택적으로 받아들이고 극단화된 의견에 갇혀버려 정치의 양극화는 더욱 악화되고 패배 진영은 불리한 정보가 조작되었다고 주장하며 불복하려 할 것입니다. 이는 민주주의를 혼탁하게 만들고 사람들에게 불신을 심어주는 시발점이 될 것입니다. 각 국의 정상들과 빅테크들은 서둘러 관련 법안와 보호장치를 만들어야 합니다.🔒