이미지 생성기능 신뢰성 흠집, 구글과 메타 모두 도마위 올라🧑🏻‍🎨 #40호

구글 제미나이에 이어 메타까지 역사 속 인종 식별 오류 발생

2024. 3. 5.

구루미 AI Newsletter

이 메일이 잘 안보이시나요?

2024.03.06｜040호｜구독하기

"아인슈타인이 흑인👨🏽‍🔬?

구글 제미나이 오류 발생"

구글은 지난달 22일, 제미나이에 이미지 생성 기능을 추가한다고 밝힌지 20일 만에 서비스를 중단하였습니다. 역사적 인물에 대한 인종을 혼돈하여 이미지를 잘못 생성하였고 X(트위터)에는 구글 제미나이를 사용하여 백인 남성 이미지를 만들 수 없다면서 조롱 섞인 글들이 올라왔습니다.

이어 1일(현지시간) 미국 언론사 악시오스에 따르면 페이스북, 인스타그램 등에 삽입된 메타 AI 기반 이미지 생성 기능인 이매진도 구글과 비슷한 오류를 발생시켰다고 전했습니다.

생성형AI의 의존도가 높아지며 사소한 오류들은 사용자들에게 잘못된 정보와 편견을 심어줄 수 있어 무분별한 수용은 각별한 주의가 필요합니다. 이러한 이유로 각 기업들은 레드팀을 운영하여 생성형 AI의 취약점을 밝혀 오류를 사전에 찾아내고 방어하고 있습니다.

📢Today's topic

1. 역사 속 인물을 유색인종으로 표현.... 구글 이미지 AI 서비스 중단

2. 구글에 이어 메타까지? '이매진 위드 메타AI' 오류 발생

3. 국내외 기업 AI 시스템을 책임감있게 제공하기 위한 레드팀 운영 집중

1. 역사 속 인물을 유색인종으로 묘사 등 오류로 구글 제미나이 서비스 중단

<출처- X(twitter)>

구글은 제미나이의 이미지 생성 기능을 일시 중단한다고 발표했습니다. 제미나이는 텍스트와 이미지, 음성, 영상을 생성하는 구글의 멀티모달 기반 AI 모델입니다. 지난 1일 구글은 자사 블로그를 통해 최신 이미지 생성도구인 이마젠2를 공개했습니다. 하지만 최근 소셜미디어에 제미나이가 미국 역사적 인물을 유색인종으로 잘못 생성하며 논란은 야기되었습니다.

현재 제미나이의 이미지 생성 기능은 전명 중단된 상태로 "아직 이미지를 생성할 수 없기 때문에 도움을 드릴 수 없습니다"는 문장이 나옵니다. 구글은 크게 두가지 문제를 인정했습니다. 하나는 지나치게 다양성을 존중했다는 것이고, 둘째는 알고리즘이 보수화됐다는 것입니다. 구글의 라가반 수석부사장은 “제미나이가 다양한 사람들을 보여주도록 조정하는 과정에서 분명히 보여서는 안 될 경우들을 고려하지 못했다”면서 “시간이 지남에 따라 모델이 의도한 것보다 훨씬 더 조심스러워져, 일부 매우 평범한 프롬프트를 민감하게 잘못 해석하여 전혀 응답하지 않게 됐다”고 밝혔습니다.

26일(현지시간) 구글 딥마인드 최고경영자 데미스 하미스는 스페인 바르셀로나에서 열린 MWC2024에서 토론 세션 패널로 참석하여 "구글 AI 연구팀이 문제해결을 위해 최선을 다하고 있다며 몇 주안에 개선된 기능을 선보일 것"으로 말했습니다.

구글이 오류를 범한 것은 처음있는 일은 아닙니다. 지난 해 AI 챗봇인 바드 시연장에서도 오답을 뱉어내 주가가 하루에 9% 폭락하기도 했습니다. 구글의 반복된 오류에 순다르 피차이 CEO에 대한 사임 요구가 커지고 있다고 미국 경제 매체 인사이더는 보도했습니다. 이번 오류로 인해 구글이 생성형 AI 시장 선점 경쟁에서 뒤처지게 되었다는 분석도 나오고 있습니다.

✅관련 기사

“역사 속 인종 식별 오류?” 구글 AI ‘제미나이’, 생성 이미지 신뢰성 ‘흠집’ - 이뉴스투데이
'백인을 유색인종으로' 생성…구글 제미나이 이미지 기능 중단 - 연합뉴스

2. 메타 너 마저? '이매진 위드 메타 AI'에도 구글과 같은 오류 발생

<출처- Axios>

2일(현지시간) 외신에 따르면 메타의 이미지 생성형 AI '이메진'도 구글 제미나이와 같이 편향된 이미지를 생성했다고 보도했습니다. 보도에 따르면 페이스북, 인스타그램 등에 삽입된 메타의 AI 기반 이미지 생성 기능인 이메진은 여러 명의 교황을 그려달라는 요청에 흑인 교황 이미지를 생성해냈으며 미국 건국자의 이미지에도 유색인종을 여럿 포함하고 있었습니다. 오류 이미지는 SNS를 통해 확산 되었습니다.

메타는 이 같은 문의에 답변을 하지 않은 것으로 미국 언론 매체 악시오스는 전햇습니다. 이 같은 오류는 빅테크들이 생성형 AI 편향성 논란을 피하기 위해 인종과 성별 다양성에 대한 장치를 과하게 적용한 결과로 보입니다. 과거에는 AI의 편향된 학습이 편향된 결과를 낳는다고 여겼습니다. 빅테크 대부분이 미국 기업으로 AI는 영어나 영어권 문화 위주로 학습을 하였고 주로 고정관념이 반영된 결과물을 내놓았습니다. (블룸버그통신이 이미지 생성형 AI 스테이블디퓨전에 ‘패스트푸드 직원’ 키워드를 넣은 결과 70% 이상이 어두운 피부색의 인물을 그려낸 사례가 대표적)

이후 AI 편향성을 없애려는 노력을 시도해왔고 인종, 성별, 직업 등 편견을 없애기 위해 다양성을 극대화하는 학습을 지속해왔습니다. 이 과도한 다양성이 이제는 문제를 일으켜 '역사적 사실을 무시하고 다양성을 추구하는 결과'를 나타냈습니다.

✅관련 기사

교황이 흑인?...메타 '이메진'도 황당 이미지 생성 - 지디넷코리아
Meta AI creates ahistorical images, like Google Gemini - AXIOS

3. 국내외 빅테크들 AI 신뢰 및 안전성 확보에 집중..레드팀 운영

<출처 - OpenAI>

올해는 생성형 인공지능의 활용이 실질적으로 확대되며 AI 신뢰 및 안전성 문제가 단연 중요한 이슈로 떠오르고 있습니다. 생성형 AI가 예상치 못하게 만들어내는 결과물은 기업에게도 큰 타격을 입힐 수 있어 기업들은 자체적으로 내부 점검팀을 꾸려 신뢰성과 안정성을 확보하는 역할을 하고 있습니다. 오픈AI, 마이크로소프트(MS), 구글 등은 AI 레드팀을 운영하고 있습니다.

오픈AI도 최근 'AI 소라'를 공개하며 영화 제작사, 비주얼 아티스트, 디자이너 등이 합류한 '레드팀'과 함께 안전성 테스트를 거치고 있다고 밝힌 바 있습니다. 레드팀은 AI 시스템의 결함과 취약점을 찾기 위해 회사가 조직한 모의 적군으로 소프트웨어의 보안 강화에 기여합니다. 또한 구글은 인공지능(AI) 개발자와 연구자를 위한 초경량화 오픈 모델 '젬마(Gemma)'를 공개하며 위험성 방지를 위한 레드팀을 구성하였습니다. 레드팀은 자동화된 적대적 테스트, 위험 행동에 대한 모델 역량 평가 등 안전 평가를 진행합니다.

국내 기업들도 생성형 AI의 윤리성에 대해 내부적으로 지속 점검 중입니다. 지난해 8월 초대규모 AI '하이퍼클로바X'를 발표한 네이버는 올해 초 AI 안전성 연구를 전담하는 조직 '퓨처 AI 센터'를 신설했습니다. 센터에서는 AI 안전성을 높이기 위한 기술을 연구하고 AI윤리 정책을 수립할 예정입니다.

국내외 기업들이 생성형 AI 콘텐츠 관리를 위하여 다양한 정책을 선보이고 있지만 레드팀을 운영하고 있는 구글도 예상치 못한 오류를 피해가지 못했습니다. 생성형 AI에 대한 사용이 많아지며 오류에 따른 잘못된 정보 확산과 의도적인 딥페이크 등 가짜 정보에 잠식될 가능성이 높아지고 있습니다. 기업들의 레드팀 운영도 중요하지만 생성형 Ai 이용자들의 분별있는 정보 선택이 중요합니다.

마무리 인사👋🏻

치열한 AI 경쟁 속에서 기업들은 경쟁업체보다 더 새롭고 혁신적인 기능 서비스를 공개하려고 합니다. 구글은 두 번이나 치명적인 오류를 범하며 그 책임으로 순다르 피차이 CEO의 해임까지 거론되고 있습니다. 구글이 경쟁업체에 비해 생성형 AI 주도권 싸움에서 큰 타격을 입은 것으로 보여집니다.

많은 빅테크들이 자체 레드팀과 AI 규제 가이드라인을 앞세우며 생성형 AI 서비스를 공개하고 있지만 창작물의 현실 왜곡은 피할수 없어 보입니다. 생성형 AI는 기업, 정부, 교육기관 등 광범위하게 활용할 정도로 업무에 혁신을 가져다 주었습니다. 어떻게 해야 생성형 AI의 왜곡된 정보와 거짓 뉴스를 거르고 올바른 정보를 취할 수 있을까요?

AI Weekly News (24.3월 1주차)

앤스로픽, 최신 AI 모델 출시…오픈AI·구글과 경쟁 가속

엔스로픽(Anthropic), 자사의 최신 AI 모델인 '클로드 3' 출시 "학습량에 따라 가장 강력한 오푸스(Opus)와 소네트(Sonnet), 하이쿠(Haiku)의 3가지 버전으로 출시"
오픈AI에 소송 건 머스크 “비영리 계약 어겨” …오픈AI “회사 잘 되니 트집”

일론 머스크, 오픈AI가 회사 설립당시 계약을 위반했다며 오픈AI와 샘 올트먼 상대로 영리사업을 중단하고 인공지능(AI) 기술을 오픈소스로 공개하라고 고소
구글 이어 메타 AI도 이미지 생성 오류…교황을 흑인으로

메타의 이미지 생성기 ‘이매진 위드 메타 AI’에서 구글 제미나이와 같은 '미국 역사적 인물을 유색인종으로 바꿔 그리는' 오류 발생 "빅테크 업체들이 생성형 AI의 편향성 논란을 피하기 위해 인종·성별 다양성에 대한 장치를 과하게 적용한 결과"
이재용·저커버그 '승지원 회동'…'AI 반도체 동맹' 주목

메타 CEO 마크 저커버그, 한남동 승지원에서 삼성전자 이재용 회장 만나,,'AI 반도체 협력 방안 '메타의 대규모언어모델 라마3 구동을 위한 칩 위탁 생산 및 일반인공지능 관련 논의 이루어져'
방한 저커버그, LG전자와 'XR 동맹' 강화…AI 협업 논의도

저커버그 CEO는 서울 여의도 트윈타워에서 권봉석 COO 부회장, 조주완 CEO, 박형세 HE사업본부장(사장) 등과 오찬을 겸한 회동을 갖고 차세대 XR 디바이스 협업 방향과 AI 개발을 둘러싼 미래 협업 가능성 등 논의
고개 숙인 구글 CEO "제미나이 AI 오류, 용납 안 돼"

구글 피차이 CEO, 최근 발생한 자사의 인공지능(AI) 모델 제미나이의 이미지 생성 기능 오류
NYT에 반격한 오픈AI "NYT가 챗GPT 해킹…저작권 침해"

오픈AI “NYT가 누군가에게 돈을 주고 챗GPT 등 우리 제품을 해킹해 저작권 침해 사례 100건을 만들었다” 주장했다. 오픈AI가 언급한 '해킹'은 AI 신뢰·안전팀이나 윤리학자, 학계 및 기술 기업들이 AI 시스템의 취약점을 테스트하는 방법인 '레드 티밍'(Red Teaming)을 의미한다.
"애플, 10년 공들인 자율주행 애플카 포기…AI부서로 대거 이동"

10년간 공들여온 자율주행 전기차(EV)인 애플카 개발 포기 선언 ‘스페셜 프로젝트 그룹’ 해산할 예정
딥브레인AI, 텍스트 입력만으로 가상 인간 영상 구현
딥브레인AI, 텍스트를 자동으로 영상화하는 생성형 비디오 솔루션을 출시하고, 자사 AI 영상 합성 플랫폼 'AI Studios'에 탑재하여 텍스트 투 비디오'(Text-to-Video) 기술을 근간