메타 오픈소스 LLM '라마3' 출시... 인스타,페북 등 AI 챗봇 '메타AI' 나왔다📢 #47호

메타의 차세대 대규모 언어모델 라마3 공개!💫

2024. 4. 23.

구루미 AI Newsletter

이 메일이 잘 안보이시나요?

2024.04.24｜047호｜구독하기

"인스타그램, 페북에도 AI 챗봇 온다!

'메타AI' 공개"

18일(현지시간) 메타는 자사 블로그를 통해 생성형 인공지능 모델 라마3를 공개했습니다. 또한 자신의 SNS 플랫폼인 인스타그램, 페이스북, 왓츠앱 등에서 자시의 AI 챗봇 서비스인 '메타AI'를 무료로 이용할 수 있도록 출시한다고 밝혔습니다. 작년 9월 베타 버전으로 선보인지 7개월 만입니다.

메타의 오픈소스 대형언어모델 '라마3'는 3가지 버전으로 출시되어 이번은 소형 버전 2가지를 공개했습니다. 나머지 모델은 올 여름 공개할 가장 큰 버전으로 라마2의 매개변수에 최대 2배에 달하는 크기라고 합니다.

지난 12일 메타는 자체 개발한 2세대 AI 반도체 MTIA(Meta Training and Inference Accelerator)를 공개하며 엔비디아 등 외부 반도체 기업에 대한 의존도를 줄이고 인공지능을 강화한다는 목표를 세웠습니다. 메타는 MTIA의 대역폭을 기존보다 늘리고, 반도체가 들어가는 서버컴퓨터용 랙도 직접 개발했습니다. 또한 엔비디아의 소프트웨어 '쿠다(CUDA)'와 경쟁할 수 있는 자체 소프트웨어 생태계를 개발하는데 상당한 투자를 하고 있는 상황입니다.

메타의 적극적인 AI 확장은AI 생태계를 장악하고 있는 빅테크들에 어떤 영향력을 주게 될까요? 이번주 AI 기술주들의 1분기 실적 발표를 앞두고 어떤 결과를 맞이할 지 이목이 집중됩니다.

📢Today's topic

1. 메타 신형 오픈소스 LLM 라마3 공개

2. 인스타그램, 페북 등 AI 챗봇 '메타AI' 탑재..최신 라마3 기반

3. 메타와 손잡은 퀄컴, 스탭드래곤 기반 기기에 라마3 탑재

1. 메타 신형 오픈소스 LLM '라마3(Llama3)' 공개

<이미지- 메타>

메타는 18일(현지시간) 자사 블로그를 통해 '라마3' 시리즈를 공개했습니다. 라마3는 총 3가지 버전으로 이루어져 있으며 매개변수 80억 개와 700억 개 버전을 먼저 공개했습니다. 나머지 버전은 올 하반기 공개 예정이며 매개변수 4천억 개로 데이터 셋 훈련 중으로 밝혔습니다.

오픈소스인 라마3의 모델의 안전하고 책임감있는 개발과 사용을 위해 다양한 안전장치도 마련했습니다. 지시 미세조정된 모델은 전문가와 자동화된 도구를 활용한 레드팀 훈련을 통해 부적절한 답변의 가능성을 최소화하였으며, ‘라마 가드2(Llama Guard 2)’, ‘코드 쉴드(Code Shield)’, ‘사이버 보안 평가 기준2(CyberSec Eval 2)’와 같은 안전 장치와 더불어 새로운 안전 도구들도 도입했습니다.

<이미지- 메타>

메타는 블로그를 통해 대규모로 개발된 700억 개 모델은 수학·물리학·역사 등을 종합적으로 평가하는 MMLU(다중작업언어이해) 평가에서 79.5점을 기록해 구글의 '제미나이 프로 1.5'와 클로드3 소네트를 앞선 수준으로 밝혔습니다. 크리스 콕스 메타 최고제품책임자(CPO)는 “이 정도 크기의 모델에 대한 여러 벤치마크에서 AI 업계를 선도하고 있다”며 “메타는 더 이상 동급 최고 모델을 따라잡기 위해 노력하지 않는다”고 강조했습니다.

라마 3는 사전 훈련과 미세조정 과정을 한층 고도화 하면서 성능을 향상했습니다. 사전 훈련을 위해 데이터 셋의 양을 늘리고 필터링 과정을 거쳐 고품질 데이터만을 선별하였습니다. 라마3는 15조개 이상의 토큰이 사용되었으며 이 훈련 데이터셋은 라마 2에서 사용된 것보다 7배 더 많은 양입니다. 또한 라마3의 사전 훈련에는 일상적인 질문부터 과학, 기술, 공학, 수학(STEM) 분야, 코딩, 역사 지식에 이르기까지 다양한 분야의 데이터셋이 사용되었습니다. 라마 3는 언어를 훨씬 더 효율적으로 인코딩하는 12만8000개의 토큰 어휘가 포함된 토크나이저를 사용해 모델 성능을 크게 향상시켰다고 합니다.

라마3는 홈페이지에서 자유롭게 다운로드가 가능하며 AWS, 데이터브릭스, 구글 클라우드, 허깅페이스, 케글, IBM 왓슨X, 마이크로소프트 애저 등 다양한 플랫폼에서 공개될 예정입니다. 하드웨어 측면에서는 AMD,AWS,델,엔비디아, 퀄컴이 파트너로 함께 합니다.

✅관련 기사

2. 인스타그램, 페북 등 AI 챗봇 '메타AI' 탑재..최신 라마3 기반

<이미지 -메타>

메타는 18일(현지시간) '라마3' 공개와 더불어 인공지능 챗봇 '메타AI'를 자사 소셜네트워크서비스인 페이스북, 인스타그램, 왓츠앱에서 무료로 이용할 수 있도록 출시한다고 밝혔습니다. 작년 9월 베타 버전으로 공개한지 7개월 만입니다.

메타 AI는 자사 SNS 플랫폼 앱 검색창에 내장되어 이용자가 쉽게 질문하고 답을 얻을 수 있습니다. 예를들어 페이스북 메신저로 친구와 만날 장소를 정하고 메타AI에게 레스토랑 추천 등 아이디어를 얻을 수 있습니다. 메타 AI는 구글과 마이크로소프트와 제휴를 맺어 검색 결과를 조합해 가장 나은 답변을 제공합니다. 다만 이미지 생성 기능은 당분간 메타 AI 전용 웹페이지(meta.ai) 등에서 제한적으로 제공됩니다. 메타 AI는 최신 AI 모델인 라마3를 기반으로 이전보다 더 똑똑하고 빠르고 더 많은 재미를 제공한다고 설명했습니다.

현재는 미국과 캐나다, 뉴질랜드, 호주 등 12개국 영어권 사용자부터 서비스를 이용할 수 있습니다. 안타깝게도 한국 등 다른나라 출시 일정은 알려지지 않았습니다.

✅관련 자료

Meet Your New Assistant: Meta AI, Built With Llama 3 - Meta
Meta AI 소개 - Meta
페북·인스타도 'AI' 쓴다…메타, 최신 모델 탑재 '메타AI' 출시 - 한국경제

3. 메타와 손잡은 퀄컴, 스탭드래곤 기반 기기에 라마3 탑재

< 이미지 - 퀄컴 >

19일(현지시간) 퀄컴이 향후 출시하는 스냅드래곤 플랫폼 기반 기기에 메타의 라마3(Llama3)를 탑재한다고 밝혔습니다. 퀄컴은 지난 해 7월 라마2 최적화 지원에 이어 라마3도 스냅드래곤 기반 기기에 최적화할 예정입니다. 스냅드래곤 내장 퀄컴 AI엔진을 활용한 직접 구동으로 응답 속도 향상, 프라이버시 보호, 개인화 경험을 기대할 수 있습니다.퀄컴 기술, 기획 및 엣지 솔루션 부문 본부장 Durga Malladi는 “퀄컴은 라마3를 이용하여 개발자를 지원하고 AI혁신을 촉진하는 메타의 개방형 접근에 뜻을 같이 한다."고 밝혔습니다. 이어 "온디바이스 AI 분야 리더십을 통해 라마 생태계를 확대하고 고객과 개발자가 새로운 AI 경험을 창출할 수 있도록 지원하겠다”고 말했습니다.

퀄컴은 현재 100개 이상의 최적화 된 AI 모델을 제공하는 퀄컴 AI 허브를 통해 스냅드래곤 플랫폼에서 라마3를 실행하는 데 필요한 개발도구와 리소스를 제공합니다.

✅관련 기사

Qualcomm Enables Meta Llama 3 to Run on Devices Powered by Snapdragon - Qualcomn

마무리 인사👋🏻

xAI CEO 일론 머스크는 얀 르쿤 메타 AI 수석과학자가 X(트위터)에 공유한 라마3 출시 소식에 '나쁘지 않다'는 짧은 댓글을 남겼습니다. 머스크 CEO 역시 오픈소스를 추구하고 있기 때문입니다. 일론 머스크는 오픈AI가 기존 비영리 기업의 사명을 어기고 오픈소스로 공개하지 않는다며 고소하고 자신의 xAI 챗봇 '그록-1.0'을 오픈소스로 공개했습니다.

허깅페이스에 따르면 라마3는 공개 후 몇 시간만에 LLM 리더 보드 1위에 오르며 역대 가장 빠른 1위 달성 기록을 세웠습니다. 다만 라마3는 완전한 오픈소스는 아닙니다. 연구 및 상업용으로 사용할 수 있지만 개발자가 다른 생성형 모델을 훈련하기 위해 모델을 사용하는 것은 금하고 있습니다.

지금까지 오픈AI와 마이크로소프트의 시장 지배력은 깨지지 않고 견고한 수준입니다. 하지만 메타가 공격적으로 AI 생태계 확장을 위한 날개짓을 끊임없이 하며 성과가 나타나고 있습니다. 오픈소스로 공개한 메타와 공개하지 않고 꽁꽁싸멘 오픈AI! 누가 승리의 깃발을 가질수 있을까요?

AI Weekly News (24.4월 4주차)

[글로벌 뉴스]

사진 한 장으로 '충분'…MS, 말하고 노래하는 신규 AI 공개

마이크로소프트, 시각적 감정기술(VAS) AI모델 바사-1(VASA-1)을 공식 블로그 통해 공개..한 장의 사진만으로도 다양한 표정, 입 모양, 눈동자 움직임을 정교하게 구현할 수 있는 것이 특징
'토큰 3조개' 익힌 텐센트 AI, 챗GPT보다 학습속도 빨라

중국 최대IT 기업인 텐센트, 인공지능 대규모언어모델(LLM) 훈위안이 최근까지 3조개 토큰 학습...텐센트는 AI기술을 무기로 글로벌 진출 확장 계획 '최근엔 중남미 중동에 생태계 구축중'
구글, 딥마인드에 AI 개발 역량 집중..."허사비스에 힘 싣는다"

블룸버그는 18일(현지시간) 순다르 피차이 구글 CEO가 제미나이를 포함해 AI 모델을 연구하는 모든 팀을 허사비스가 이끄는 딥마인드 부서에 통합…기존에 딥마인드와 별도로 AI 모델 구축을 담당한 구글 리서치 팀과 AI를 안전하고 윤리적으로 개발하기 위한 규칙을 개발하는 책임있는 AI팀도 이동
美 MS, UAE AI 업체에 2조원 투자…“中 견제”

마이크로소프트, 아랍에미리트 국영 인공지능 업체 G42에 15억 달러 투자하여 중동지역에서 중국보다 우위 점하겠다는 의도"MS가 G42에 첨단 AI 칩을 사용한 MS 서비스의 판매 권한을 부여하는 게 이번 파트너십의 큰 골자" 다만 그간 G42가 중국 측으로 적지 않은 투자를 받아와 우려의 목소리 존재해 미국정부와 협상된 보안 협약도 맺을 예정
AMD, AI PC용 칩 출시…경쟁 본격화

미국 반도체기업 AMD가 인공지능(AI) 지원 PC에 탑재할 차세대 모바일용 AI PC 프로세서인 'AMD 라이젠 프로 8040' 시리즈와 데스크톱용인 'AMD 라이젠 프로 8000' 시리즈 프로세서 공개..엔비디아, 인텔과의 경쟁이 더욱 치열해질 전망
'AI 강자' MS, EU 칼날 피했다…규제 회피 전략 통했나

유럽집행위원회 경쟁총국, MS가 '챗GPT' 개발사인 오픈AI에 지분 투자를 한 것과 관련해 정식 조사에 나서지 않을 예정으로 양사의 파트너십이 M&A에 해당하지 않고, MS가 오픈AI의 경영을 통제하지 않는다는 판단

[국내 뉴스]

조주완 LG전자 CEO, 나델라 MS CEO와 ‘AI 협업’ 논의

LG전자 조주완 CEO, 미국 시애틀에서 열리는 '마이크로소프트 CEO 서밋'에 참석하여 나델라 CEO 만나 생성형 AI의 가전 탑재, AI를 활용한 생산성 제고 등 AI 분야를 중심으로 양사의 협력 방안을 논의할 예정
딥브레인AI, GPT스토어에 'AI 스튜디오스' 출시

국내 생성형 인공지능(AI) 전문 기업 딥브레인AI, 영상 합성 플랫폼 'AI 스튜디오스'를 인공지능판 앱스토어라고 할 수 있는 GPT스토어에 출시 "'텍스트 투 비디오'(Text-to-Video) 기술을 기반으로 가상 인간을 활용한 영상 제작·편집을 지원하는 생성형 비디오 솔루션"
삼성전자, 최고 속도 온디바이스 AI D램 'LPDDR5X' 개발

삼성전자, 10.7Gbps의 업계 최고 속도를 구현한 'LPDDR5X' D램 개발에 성공 '12나노급 LPDDR D램 가운데 가장 작은 칩이다. 저전력·고성능 메모리 솔루션으로 온디바이스 인공지능(AI)에 최적화'
업스테이지, 1000억원 시리즈B 투자 유치 "AI 예비 유니콘"

국내 AI 스타트업 업스테이지, 약 1000억 원 규모의 시리즈 B 투자를 유치.. 지난 2021년 316억 원 규모로 마무리한 시리즈 A 투자의 약 3배에 달하는 성과로 국내 AI 소프트웨어 기업 중 누적 투자금 최대 규모
SKT, 13개 언어 지원 AI 통역 솔루션 '트랜스 토커' 출시

‘트랜스 토커’는 투명한 LED 디스플레이, 마이크 앞 소리만 전달해 주위 소음을 최대한 제거하는 ‘지향성 마이크’, PC 등으로 구성되어 관광객이 투명 스크린 앞에 설치된 마이크에 본인 언어로 질문하면 한국어로 번역된 문장이 안내데스크 담당자 스크린에 표시...롯데백화점 에비뉴엘 잠실점과 롯데월드몰에 트렌스토커 설치
서울서 AI 표준 논의…ISO 'AI 국제표준화 총회' 개막

오는 26일까지 서울 중구 대한상공회의소에서 한국, 미국, 영국, 독일, 일본 등 40여개국, 270여명의 전문가가 온오프라인 방식으로 참석하여 국제표준화기구(ISO)와 국제전기기술위원회(IEC)가 공동으로 주최하는 'AI 국제표준화 총회(ISO/IEC JTC1/SC42)' 열려