사람 음성을 학습해 모방하는 인공지능(AI) 도구 '보이스 엔진' 공개 다음 주 4월 10일은 대한민국 제22대 국회의원 선거를 앞두고 있습니다. 생성형 AI의 발전으로 '딥페이크(Deepfake)' 등 부작용이 드러나고 있으며 전세계는 대응책을 마련하기 위해 골머리를 썩고 있습니다.
지난 29일 오픈AI에서 음성 15초 파일만 있으면 음성 복제가 가능한 '보이스 엔진'을 공개했습니다. 음성 복제 기술은 오픈AI가 최초는 아니지만 전세계 사용자 1억 8000만 명을 보유한 챗GPT 개발사와 음성 복제의 결합은 파급력이 상당할 것이란 우려섞인 목소리가 나왔습니다.
올해 1월 조 바이든 대통령의 목소리를 사칭한 AI 딥페이크 음성이 유권자들에게 무작위 전화를 걸어 "투표하지 말라"고 권유하는 등 선거에 부정적인 영향을 주려고 시도했습니다. 유명인, 정치인의 음성과 영상을 결합하여 사칭한 허위 광고와 투자 권유 사기도 급증하고 있습니다. |
|
|
📢Today's topic
1. 오픈AI, 사람 음성을 학습해 모방하는 '보이스 엔진' 개발하여 공개
2. 딥페이크로 인한 피해사례 급증...오픈AI, 보이스엔진 당장은 출시 보류
3. 총선 앞두고 '딥페이크 뿌리 뽑기' 총력...그 결과는? |
|
|
1. 오픈AI, 사람 음성을 학습해 모방하는 '보이스 엔진' 개발하여 공개 |
|
|
|
다만 오픈AI는 보이스 엔진을 정식 출시하지 않을 것으로 밝혔습니다. "위험성을 감안하여 소수 개발자 그룹에게만 보이스엔진 기술을 공유할 것"으로 전하며 "인조 음성 기능의 오용 가능성으로 인해 더 광범위한 출시에 대해서는 조심스럽게 접근하고 있다."며 "현재로서는 미리보기(Preveiw)로 공개하되 널리 출시하지 않기로 했다."고 밝혔습니다.
특히 사람들의 목소리와 유사한 연설을 생성하는 것이 심각한 위험을 안고 있다는 것을 알고 있으며, 이는 선거 연도에 가장 중요한 문제임을 명시하였습니다. 오픈AI는 정부, 미디어, 엔터테인먼트, 교육, 시민 사회 등 다양한 분야의 미국 및 국제 파트너와 협력하여 구축 과정에 그들의 피드백을 반영할 예정입니다.
✅관련 기사
|
|
|
2. 딥페이크로 인한 피해사례 급증...오픈AI, 보이스엔진 당장은 출시 보류 |
|
|
<출처 -Venturebeat / openAI ChatGPT에서 DALL-E 3로 제작> |
|
|
오픈AI의 보이스엔진을 통해 다양한 분야에 긍정적인 기능으로 활용할 수 있다고 설명했습니다. 어린이 교육을 위한 음성 해설 콘텐츠나 실시간 개인 맞춤형 응답 기능, 팟캐스트와 같은 콘텐츠를 다양한 언어로 번역하여 전세계적으로 활용할 수 있습니다. 나아가 언어 기능에 영향을 주는 질환을 앓는 환자들을 위한 치료 어플리케이션이나 장애인을 위한 소통 기기에 지원된 사례되 있다고 전했습니다.
물론 긍정적인 기능의 활용으로 사회적인 이점도 많지만 최근 딥페이크로 인한 피해 사례가 증가하며 각 나라와 기업들은 조심스러운 입장입니다. 오픈AI는 현재 보이스 엔진을 테스트 중인 파트너들은 당사자의 동의나 법적 권리 없이 개인이나 단체를 사칭하는 것을 금지하는 사용 정책에 동의했다"며 "보이스 엔진에서 생성된 모든 음성의 출처를 추적하기 위한 워터마킹 등 일련의 안전 조치를 구현했다"고 밝혔습니다.
블룸버그 통신은 "오픈AI가 사람의 목소리를 흉내 낼 수 있는 기능을 공개하며 AI 기술의 새로운 지평을 열었다"며 "이는 딥페이크 위험에 대한 불안감도 일으키고 있다"고 전했습니다. |
|
|
3. 총선 앞두고 '딥페이크 뿌리 뽑기' 총력...그 결과는? |
|
|
<출처 -AFP연합뉴스 / AI법 표결하는 유럽의회 의원들> |
|
|
딥페이크 관련한 각 국의 규제는 전세계적으로 중요한 문제로 발제되어 왔습니다. 유럽연합은 지난 13일 본회의에서 '인공지능 법'을 통과 시키며 실존 인물에 대한 생성·조작된 정보는 별도로 표시하도록 의무화하도록 하였습니다. 미국은 지난 해 10월 AI 콘텐츠의 워터마크 표시 등 행정 명령을 공개하였습니다. 중국도 국가 차원의 AI 규제를 준비하고 있으며 자난해 8월 생성형 AI 서비스를 대상으로 하는 24개의 정부 발행 가이드라인을 발효했습니다. 일본 역시 'AI 전략회의'를 열어 AI 개발자를 겨냥한 규제 도입 필요성을 설명하고, 6월 마련할 경제 재정 운영 지침에 관련 내용을 넣을 방침이라고 설명했습니다.
업계에 따르면 대한민국 총선일이 다가오며 딥페이크 게시물은 점차 증가하는 추세입니다.
실제로 26일 기준 중앙선거관리위원회가 적발한 4·10 총선 관련한 딥페이크 게시물은 209건에 달한 것으로 집계되었습니다. 현행 선거법은 선거일 기준 90일 전부터 딥페이크 영상으로 제작된 가상의 선서운동 음향, 이미지, 영상을 제작·편집·유포·상영·게시하는 행위를 금지하고 있으며 위반할 경우 7년 이하 징역 또는 1000만원~5000만원의 벌금형에 처해집니다. 다만 관련 처벌 및 사전 규제 등의 필요성이 대두되지만 그렇다 할 논의는 진행되고 있지 않은 것으로 보입니다. 실제 국회에 10여개 AI 관련 법안이 발의됐으나 제대로 심의되지 못한 채 계류 중으로 총선을 앞두고 더 이상의 진전은 기대하기 힘든 상황입니다.
✅관련 기사
|
|
|
생성형 AI로 사람들의 음성을 복제하고 딥페이크 영상을 쉽게 제작할 수 있게 되며 편리함 보다는 부정적인 영향을 걱정하는 목소리가 높아져 가고 있습니다. 얼굴·음성을 복제·변조해 악용하는 신종 범죄가 국내에서도 현실화되고 있으며 외국에선 심각한 사회문제로 대두되고 있습니다.
기술의 비약적인 발전은 명과 암이 존재합니다. AI를 통한 음성 복제와 손쉬운 영상제작은 교육, 의료, 공공분야 등 활용이 높지만 인간이 보호받아야 하는 정체성을 침범하는 문제가 발생합니다. 많은 개발사들은 이러한 우려를 완화하기 위해 워터마크, 사용정책 등 가이드라인을 만들었지만 방어하지 못하는 것이 현실입니다. 오픈AI 역시 출시 여부를 신중하게 접근하겠다는 방침을 취할 것으로 공표했지만 이는 임시방편에 불과하죠. 기술의 발전으로 사용자들은 편리함을 이야기 하고 있지만 이면의 부작용도 함께 인지하고 스스로 대비하는 자세가 필요합니다. |
|
|
AI Weekly News (24.4월 1주차) |
|
|
💬 오늘의 뉴스레터는 어떠셨나요? 여러분의 소중한 의견을 남겨주세요!
구루미 AI Newsletter의 Next step을 위해 여러분의 피드백을 아낌없이 부탁드립니다.
작은 의견이라도 좋아요😉 작성해주신 내용은 꼼꼼히 확인하여 구독자 분들이 필요한 소식으로 전달하겠습니다. |
|
|
Gooroomee AI Newsletter📬
매주 수요일 오전 7시
출근하기 전 여러분의 앞으로 배달해드려요🐔 |
|
|
구루미marketing@gooroomee.com서울시 강남구 선릉로112길 34 HS빌딩 1833-9229수신거부 Unsubscribe |
|
|
|
|
