AI 오남용 막기 위해 뭉쳤다🌏글로벌 정상회의 개최 #22호

영국이 주최한 AI Security Summit D-Day!🚩

2023. 10. 31.

이 메일이 잘 안보이시나요?

2023.11.01｜022호｜구독하기

"AI 규제를

집행하는 주도권은

어디가 될 것인가?🌏"

안녕하세요! 어느덧 11월로 들어서며 아침 저녁으로 확실히 쌀쌀한 날씨입니다.🍁🍂

챗GPT 출시로 일상 곳곳에 긍정적인 효과를 창출했는데요. 긍정적인 면과 동시에 Side-effect가 존재하겠죠? 최근 가짜뉴스, 보이스 피싱, 일자리 상실 등 부작용이 증가하며 AI 오남용에 대한 제제가 필요하다는 목소리가 커졌습니다.

👈🏻DALL-E3이 그려준 'AI 주도권 확보를 위한 경쟁'

오늘은 영국에서 진행되는 'AI Safety Summit'을 소개하며 생성형 AI를 바라보는 각 나라의 입장과 행동 강령을 다뤄보고자 합니다.

📢Today's topic

1. 영국 'AI Safety Summit 2023' 1일 개최, 국내 대표는 누구

2. G7, AI 기술 오용 가능성 차단을 위한 '국제 행동 강령'

3. 바이든, AI 위험 예방 위한 첫 AI 행정 명령에 서명

1. 영국 'AI Safety Summit 2023'에 네이버, 삼성전자 출격

<이미지-AI Safety Summit>

영국 정부는 'AI Safety Summit 2023 🔗'를 오는 1일,2일 개최합니다. G7을 비롯한 주요 국가 정부 고위 인사를 비롯해 주요 AI 기업 임원, 전문가가 참석합니다. 카멀라 해리스 미국 부통령, 사티아 나델라 마이크로소프트 CEO, 샘 올트먼 오픈AI CEO가 모여 AI 위험성을 공유하고 대책을 논할 예정입니다. 한국 대표로는 과학기술정보통신부와 네이버, 삼성전자까지 초대를 받아 참석할 예정입니다.

이번 정상회담은 '프론티어 AI'란 단어가 화두가 될 것으로 보입니다. 프론티어 AI는 올해 7월 AI 거버넌스 센터의 정책 책임자 마커스 안더융이 발표한 논문 🔗을 통해 주목 받았습니다. 해당 논문은 "기초 모델은 일종의 생성형 AI이며, 이러한 차세대 모델을 의도적으로 남발할 경우 심각한 신체적 피해 혹은 전 세계 규모의 사회 붕괴를 초래 할 수 있다"고 경고했습니다.

이번 정상회담의 목표는 아래 5가지🔗입니다.

'프론티어 AI'로 인한 위험과 조치의 필요성에 대한 이해를 공유
국가 및 국제 단위의 프레임워크를 지원하는 최선의 방법 등 프론테어 AI 안전에 대한 국제 협력 프로세스 제시
프론티어 AI 안전성을 높이기 위해 개별 조직이 취해야 할 적절한 조치
모델 기능 평가 및 거버넌스를 지원하기 위한 새로운 표준 개발을 포함하여 AI 안전 연구에 협력 가능한 분야 파악
AI의 안전한 개발을 보장해 AI가 전 세계적으로 어떻게 선한 목적으로 사용될 수 있는지 소개

이틀만에 완벽한 AI 규제안이 등장할 것이라 기대할 수는 없겠지만 각 국의 정상들과 전문가들이 모인만큼 앞으로 방향성에 기준점이 될 수 있을 것으로 봅니다.

2. G7, AI 기술 오용 가능성 차단을 위한 '국제 행동 강령' 제정

5월 19일 히로시마에서 열린 G7 정상회담 실무회의

<출처- Bloomberg>

지난 5월 일본 히로시마에서 캐나다, 프랑스, 독일, 이탈리아 일본, 영국, 미국과 유럽 연합으로 구성된 G7 정상회의를 계기로 추진해 온 '히로시마 AI 프로세스 🔗'에 따라 첨단 AI 개발 조직에 대한 국제 지침 및 행동강령이 30일(현지시간) 합의했다고 밝혔습니다.

로이터🔗에 따르면 11개 항목으로 구성된 행동강령은 "전 세계적으로 안전하고 신뢰할 수 있는 AI를 장려하는 것을 목표로 하며 가장 발전된 기반 모델 및 생성형 AI를 포함하여 가장 발전된 AI 시스템을 개발하는 기업에 대한 자발적인 지침을 제공할 것"으로 보도했습니다.

이번 G7의 행동 강령이 강제성과 구속력은 없지만 AI기업들의 운영과 각 국 정부 규제안의 기준이 될 것으로 보입니다. EU 집행위원회 디지털 책임자인 Vera Jourova는 이달 초 일본 교토에서 열린 인터넷 거버넌스 포럼에서 “행동 강령이 안전을 보장하는 강력한 기반이며 규제가 마련될 때까지 가교 역할을 할 것”이라고 말했습니다.

3. 바이든, AI 위험 예방 위한 첫 AI 행정 명령에 서명

<출처- UPI연합뉴스>

조 바이든 미국 대통령이 30일(현지시각) '안전하고 신뢰할 수 있는 AI에 대한 행정명령🔗'에 서명했습니다. 서명은 영국이 주최하는 'AI Safety Summit'에서 합의할 예정인 'AI 국제 행동 강령'이 나오기 직전에 이루어지며 미국이 AI 규제 논의 주도권을 잡기 위한 행보로 보인다는 평가입니다. 실제로 미국 부통령은 "우리가 국내에서 취하고 있는 조치가 국제적 조치의 모델이 될 것"이라고 말했습니다.

앞으로 미국 기업들은 AI 시스템 출시 전 미 상무부 산하 국립표준기술연구소(NIST)의 안전성 평가를 의무적으로 거쳐야 합니다. 이번 조치의 가장 강력한 점으로 모든 AI 서비스에 대해 출시 전부터 모든 과정을 정부가 개입해 관리 감독하겠다는 것입니다.

또한 가짜 정보의 확산 방지를 위한 AI 콘텐츠에 워터마크를 부착하여 AI로 생성된 콘텐츠를 식별하고 공식 콘텐츠를 인증하기 위한 표준을 수립하고 있습니다. 이외에도 국가안보, 개인정보보호, 노동력 대체 문제해결 등 다양한 사안을 포함하고 있습니다.

마무리 인사👋🏻👋🏻

그간 'AI 위험성'에 대해 국가 간의 온도차가 존재했습니다. 미국과 일본은 기업들의 기술 발전을 위해 상대적으로 간섭을 최소화하는 입장을, 유럽은 강력한 AI법을 통해 규제에 앞장서고자 했습니다. 최근 생성형 AI 사용으로 부작용이 심각해지며 강력한 규제에 대한 필요성에 무게가 실렸습니다.

미국, 영국 등 주요 국가가 AI 규제 도입에 앞다투어 나서며 규제 주도권을 잡기위한 선점 경쟁이 될 것이라는 전망입니다. AI 규제안을 빠르게 제정하는 것도 중요하지만 빠르게 성장하는 AI 기술력에 맞춘 국제적인 합의가 필요해 보입니다.

앞으로의 소식도 구루미 AI 뉴스레터가 전달드릴게요💡다음 주에 만나요🕊️

[다시보기] W3C TPAC 2023 톺아보기 웨비나 성료

지난 주 10월 26일(목) W3C TPAC 2023 톺아보기 행사를 성공적으로 마무리하였습니다.😊

W3C(World Wide Web Consortium) 웹 발전에 따른 표준안 제작 및 공유를 위해 설립된 국제 웹 표준화 기구로 세계 각 국의 웹 표준 전문가들이 모여 웹 기술의 표준에 대한 논의를 진행하고 있습니다. W3C TPAC의 생생한 인사이트와 웹 트렌드를 국내에 공유하기 위해 본 웨비나 자리를 마련하였습니다.

본 행사에 참여하지 못한 분들도 다시 보기 영상을 공유 드리오니, 인사이트 얻는 유익한 시간되시길 바랍니다. 감사합니다.

👉🏻웨비나 다시보기🔗