빅테크들의 기술 경쟁으로 빠른 속도로 신규 기능 출시..명과 암이 존재 "오픈AI, 동영상 생성 AI
소라(Sora) 공개💡
문제점은 없을까" |
오픈AI는 지난 15일(현지시간)에 자사 블로그를 통해 동영상 생성AI인 소라(Sora)를 공개했습니다. 현재 소라는 제한된 사용자에게만 접근이 허용되었으며, 블로그 예시를 통해 소라의 결과물을 확인할 수 있습니다.
경쟁사인 구글은 이에 질세라 '제미나이 프로 1.5'를 공개하며 오픈AI를 견제하고 나섰습니다. 지난 8일 최상위 모델 '울트라 1.0'을 공개한 지 일주일 만에 신규 업데이트 소식입니다.
빅테크들이 경쟁을 통해 신규 업데이트가 계속 될 수록 지난주에 다루었던 딥페이크 문제는 더 가속화될 것입니다. 오픈AI도 최근 딥페이크로 인한 문제점을 의식한 듯 안전성 테스트에 심혈을 기울이겠다고 밝혔지만 사용자들의 우려는 커질 것으로 전망합니다. |
|
|
📢Today's topic
1. 텍스트만 입력하면 고품질 60초 영상 제작, OpenAI 'Sora' 공개
2. 격렬한 초거대 AI 주도권 경쟁..구글 '제미나이 1.5 프로'
3. MS, Google, OpenAI 등 야심작 내 놓을 수록 '딥페이크' 우려 |
|
|
1. 텍스트만 입력하면 고품질 영상 뚝딱, OpenAI 'Sora' 공개 🎞️ |
|
|
오픈AI는 15일(현지시간) 자사 블로그를 통해 텍스트-비디오 모델인 인공지능 소라(Sora)를 공개했습니다. 소라는 사용자가 프롬프트를 통해 최대 1분 길이의 고화질 비디오를 생성할 수 있습니다. 기존 비디오 생성 AI가 4초 단위의 영상만 제작했던 것에 비해 생성 능력이 많이 향상되었습니다. 소라는 다양한 캐릭터, 특정 유형의 동작, 피사체와 배경의 정확한 세부 정보로 복잡한 장면을 생성할 수 있습니다.
소라는 오픈AI의 이미지 생성 도구 DALL-E 기반으로 작동되며 사용자가 프롬프트로 요청한 내용 뿐 아니라 내용의 맥락을 이해하고 있다고 말했습니다. 이 모델은 언어에 대한 깊은 이해를 갖추고 있어 프롬프트를 정확하게 해석하고 생생한 감정 표현을 하는 매력적인 캐릭터를 생성할 수 있다는 입장입니다. 블로그에 샘플 40여 편을 공개하며 AI가 빛과 물리법칙에 대해 깊이 이해하고 있다는 것을 보여주었습니다.
다만 오픈AI는 '소라가 복잡한 장면의 물리학을 정확하게 시뮬레이션하는 데 어려움을 겪을 수 있으며 원인과 결과의 특정사례를 이해하지 못하는 등 아직 완전한 제품은 아니다'라고 밝혔습니다. 또한 딥페이크 우려를 예상한 듯 잘못된 정보, 음란물, 범죄를 예방하기 위해 전문가들로 구성된 레드팀을 운영하여 안정성 테스트를 할 것이라고 밝혔습니다. 현재는 일부 영상 제작자, 시각 예술가 등에게 15초 분량을 만들 수 있는 서비스를 시범 제공하고 있습니다.(*X(트위터)에는 샘 올트먼의 계정에 사용자들이 요청한 프롬프트로 만든 소라(Sora)의 영상이 업로드되고 있습니다.)
✅관련 자료
|
|
|
2. 구글, '울트라 1.0'을 공개한 지 일주일 만에 '제미나이 1.5 프로' 공개 |
|
|
오픈AI의 신기능 공개를 견제하듯 구글은 차세대 모델인 제미나이(Gemini) 1.5를 발표했습니다. 제미나이 1.5 프로는 제미나이 1.0 프로를 업그레이드하여 대폭 향상된 성능을 제공합니다. 구글에 따르면 제미나이 1.5 프로는 구글의 최신 AI 모델인 제미나이 1.0 울트라와 비슷한 수준의 기능을 제공하며 텍스트, 이미지, 음성, 영상 생성 능력을 갖춘 모델입니다. |
|
|
제미나이 1.5 프로는 이전 모델 대비 정보 처리 능력이 크게 향상되어, 긴 문맥을 이해하는 역량이 뛰어납니다. 특히, 최대 100만 개의 토큰을 처리할 수 있는 능력을 갖추고 있어, 기존 1.0 프로가 수행하는 3만 2000개의 토큰 처리 규모를 훨씬 뛰어넘는다고 합니다. 이는 1시간 분량의 동영상과 11시간 분량의 음성 파일, 3만 줄 이상의 코드, 70만 단어 이상의 텍스트를 한 번에 처리할 수 있는 능력을 의미합니다.(*위 이미지 참고)
제미나이 1.5 프로는 '구글 AI스튜디오'와 '버텍스 AI'를 통해 개발자와 기업들에게 제한된 프리뷰 버전으로 제공되며, 이를 통해 더욱 발전된 AI 기술을 활용할 수 있는 기회를 제공할 예정입니다.
✅관련 자료
|
|
|
3. MS, Google, OpenAI 등 야심작 내 놓을 수록 '딥페이크' 우려 |
|
|
지난 주 뉴스레터는 전세계에서 선거철이 다가오며 대두되는 딥페이크에 대해 다루었습니다. 주요 외신에 따르면 구글, 오픈AI, 아마존, 메타 등 빅테크 20개 기업들이 16일(현지시간) 개막한 독일 뮌헨안보회의(MSC)에서 딥페이크 관련 합의문을 발표했습니다. 합의문에 따르면 빅테크 기업들은 딥페이크를 감지해 라벨(꼬리표)을 붙이는 등 조치를 취하기로 했습니다.
그럼에도 최근 오픈AI '소라'와 구글 '제미나이 1.5 프로' 등 딥페이크 콘텐츠를 쉽게 제작할 수 있는 기술들이 발전하며 우려는 커져가고 있습니다. 소라(Sora)가 공개한 기술이면 학습할 데이터가 많은 정치인, 유명인들의 가짜 영상을 만드는 것은 어렵지 않을 것이라는 평가가 일반적입니다.
CNBC 등 주요 외신은 “오픈AI의 비디오 AI 서비스는 생성형 AI 산업의 차세대 개척자가 될 수 있지만, 심각한 잘못된 정보 문제를 야기할 수 있다”고 언급했습니다. 특히 전 세계 주요 선거를 앞두고 이 같은 기술에 대한 우려는 더 커지고 있는 상황입니다. CNBC는 AI분석업체 클래리티의 데이터는 AI로 생성된 딥페이크 수가 전년 대비 900% 폭증했다고 전했습니다.
선관위에 따르면 지난 달 29일부터 3월 19일까지 22일간 딥페이크를 이용한 선거운동 게시물을 총 129건 적발하였습니다. 4월 10일 총선을 앞두고 90일 전부터 딥페이크를 이용한 선거운동을 금지하도록 공직선거법 개정안이 의결되었으나 무용지물인 상황입니다. (딥페이크를 이용한 선거운동을 할 경우, 7년 이하의 징역이나 최고 5000만원의 벌금형에 처해집니다.)
전세계적으로 딥페이크 문제가 대두되며 빅테크들과 각국의 정부는 대응방안을 내 놓고 있지만 기술 발전 속도에 비해 관련 규제와 가이드라인은 미흡한 수준으로 실효성에 대한 의문이 제기되고 있습니다.
✅관련 자료
|
|
|
지난주 오픈한 넷플릭스 드라마 '살인자ㅇ난감'의 장난감(손석구)의 어린시절 회상장면에서 손석구의 진짜 어린 시절 얼굴을 조합하여 만들어 낸 딥페이크 영상을 활용하여 놀람을 자아냈습니다. 또한 비비(BIBI)의 '밤양갱' 음원 출시와 함께 아이유, 악동뮤지션의 수현의 목소리로 AI 커버 음원이 만들어지며 "AI 커버라고 적혀있지 않으면 깜빡 속을 뻔했다"는 댓글이 쏟아졌습니다. 재미있는 볼거리임과 동시에 딥페이크는 윤리적, 법적인 문제를 안고 있습니다.
오픈AI, 구글, 마이크로소프트 등 경쟁으로 인한 기술 개발에 불이 붙으며 딥페이크 제작물도 더 정교하고 발전할 것에 대한 우려 섞인 시선들이 많아지고 있습니다. 최근 빅테크들은 자체적인 규칙을 만들고 AI 콘텐츠임을 표시하는 워터마크 도입에 앞장서고 있습니다. 하지만 이것이 딥페이크 악용을 막을 수 있을 지는 미지수인 상황입니다. |
|
|
AI Weekly News (24.2월 4주차) |
|
|
여러분의 소중한 의견을 남겨주세요!
구루미 AI Newsletter의 Next step을 위해 여러분의 소중한 의견을 남겨주세요.
작은 의견이라도 좋아요😉 작성하신 피드백을 꼼꼼히 확인하고 구독자 분들이 필요한 소식을 전달하겠습니다. |
|
|
Gooroomee AI Newsletter📬
매주 수요일 오전 7시
출근하기 전 여러분의 앞으로 배달해드려요🐔 |
|
|
구루미marketing@gooroomee.com서울시 강남구 선릉로112길 34 HS빌딩 1833-9229수신거부 Unsubscribe |
|
|
|
|
