로이터 통신은 오픈AI 연구원들이 이사회에 '인류를 위협할 수 있는 인공지능을 발견했다' 며 경고 서한을 보낸 것이 샘 올트먼의 해임에 방아쇠를 당겼다고 보도하였습니다. 실제로 무라티 CTO는 최근 직원들에게 "Q*라는 획기적인 AI 개발에 대한 의견 대립이 이사회의 조치를 일으켰다"고 말한 것으로 알려졌습니다. 

 서한에 거론된 프로젝트는 Q*(큐스타)로 오픈AI 일부 직원들은 "인공일반지능(AGI·Artificial General Intelligence) 구현을 위한 돌파구가 될 수 있다고 믿고 있다"고 전했습니다. 오픈AI는 AGI를 인간보다 똑똑한 AI 시스템으로 정의하며 인간의 개입없이도 스스로 판단하는 AI를 의미합니다. LLM은 데이터 통계를 기반으로 단어를 예측하는 방식으로 문자를 생성한다면 AGI는 추가 데이터 학습없이 기존의 데이터 셋을 응용하여 문제를 이해하고 스스로 해결합니다. 

  <출처-일리야 수츠케버 X>

 이번 쿠데타(?)에서 가장 이해 되지않는 행보를 보인 인물은 '일리야 수츠케버'입니다. 오픈AI 창립멤버이자 수석개발자인 그는 샘 올트먼의 해임에도 주도적으로 나섰지만 샘 올트먼이 MS에 영입되고 직원들의 이탈이 우려되자 자신의 X 계정🔗에 선택을 후회하는 글을 올렸습니다.

 일리야 수츠케버는 딥러닝의 창시자인 AI 대부 '제프리 힌튼'의 수제자로 AI 기술의 위험성을 경고해왔습니다. 그는 2015년 구글을 떠나 오픈AI에 합류했습니다. 구글에서 오픈AI의 연봉 2배를 주겠다는 제안을 거절할 만큼 '인류에게 도움이 되는 AGI 개발'이 그에게 큰 사명이었죠. 

 일리야 수츠케버는 IT 비즈니스 전문매체 MIT테크놀로지리뷰🔗와 단독 인터뷰에서 오픈AI가 직면한 문제에 대해 언급하였습니다. AGI의 등장이 인간의 통제 범위에 벗어날 가능성에 대한 우려를 나타내왔고 오픈AI의 '슈퍼 얼라이먼트'🔗 팀리드를 통해 AI는 물론, 인간마저 뛰어넘는 ‘초지능’ AI를 개발하는데 발생할 수 있는 문제를 해결하고, 초지능을 감독 및 통제하기 위한 AI 기술을 연구해왔습니다.

 일론 머스크는 구글에서 승승장구하던 일리야 수츠케버를 영입한 인물입니다.일론 머스크는 일리야 수츠케버의 게시글에 "오픈AI가 인류에 잠재적인 위험을 만든다면 세계는 알아야 한다"며 일반인공지능(AGI)에 한걸음 다가간 큐스타(Q*)의 위험성에 대해 우려를 표했는데요. 일리야 수츠케버는 이번 사건으로 이사회 구성원은 아니지만 오픈AI에 남아 AGI 개발과 경고를 지속적으로 나타내는 역할을 하지 않을까 기대해봅니다. 

  <출처-OpenAI X>

 오픈AI가 샘 올트먼의 복귀와 함께 이사회 구성과 성격을 뒤바꾸는 작업이 시작되었습니다. 원래 오픈AI는 '비영리 기업'의 모체가 영리 사업부의 의사결정 권한을 지배하며 투자자의 의사와 관계없이 이사회 구성원을 해임, 선출할 수 있는 독점적 권한도 가지고 있었죠.(🔗지난 25호 뉴스레터) 기존 이사회가 '비영리' 성격이 강했다면 교체된 이사회는 오픈AI의 기술력으로 '수익 창출'에 무게를 심은듯 합니다. 

테일러는 실리콘벨리에서 화려한 이력을 자랑합니다. 구글, 페이스북, 트위터에서 근무하였으며 올해 1월까지 세일즈포스 공동CEO였습니다 세일즈포스가 협업 메신저 툴 '슬랙(Slack)'을 인수하는 과정에서 핵심적인 역할을 담당하였습니다. 세일즈포스를 떠난 이후 Google Labs 부사장인 Clay Bavor와 AI스타트업을 창업했습니다. 

 글로벌 AI시장 판도를 뒤 흔들고 있는 기업의 이사회 인원이 작다는 평가를 받아 기존 4명에서 9명으로 확대할 예정입니다. 최대 주주인 마이크로소프트도 이사회에 구성되길 희망하고 있으며 후보군으로 30명의 이름이 거론되고 있어 어떤 이사회 인원이 추가 될 지 궁금해집니다.

🔗더 자세히 알아보기 *클릭 시, 비즈니스 인사이더 기사로 이동합니다.

 오픈AI 샘 올트먼의 해임과 복귀는 우리에게 많은 고민을 남겨두었습니다. '인류의 발전을 위한 AI 기술에 속도를 내야하는가'와 '인류는 기술의 발전을 받아드릴 안전장치가 충분히 준비되었는가'에 대한 입장이 좁혀지지 않았고 그에 대한 결과물이 '샘 올트먼 해임'으로 나타났습니다. 

 각 국의 정부들도 AI 윤리 강령, 보안에 대한 정책들을 제시하고 있지만 기술 발전 속도에 비해 지지부진하고 있어보입니다. 인류에게 기술의 발전은 피할 수 없다면 정부와 기업, 사용자들은 어떻게 대비해야할까요?