AI가 ‘부드러운 특이점’에 이미 와 있다고 오픈AI 샘 알트먼 CEO는 최근 자신의 SNS를 통해 밝혔다. 과연 그런가. 이와 관련 지난 4월 3일 발표된 ‘AI 2027 보고서’(ai-2027.com)가 새삼 주목을 받고 있다. 이 시나리오는 2025년부터 2027년까지, 범용 인공지능(AGI)이 인간의 속도를 넘어설 경우 어떤 일이 벌어질지를 시뮬레이션한 미래 연대기다. 챗GPT의 오픈AI 연구원, AI 다이제스트 공동 창립자, AI 정책센터(CAIP) 설립자 등 업계 전문가들이 작성한 것이다. 그들은 미래의 AI 에이전트는 어떤 목표를 가질 것인가에 대한 의문에서 이 시뮬레이션을 시작했다고 한다. 이 시나리오가 공개되면서 AI 관련 업계 반응은 크게 두 갈래로 나뉘었다. 허무맹랑하다 또는 두렵다.

2025 중반-2026 초반:여전히 제한적

AI는 어느 날 갑자기 세상을 뒤집지 않았다. 대신 너무나 자연스럽게, 인간의 일을 가져가기 시작했다. 2025년 여름 코드 작성, 리서치, 일정 관리 등 단순 반복 작업을 자동으로 하는 AI 에이전트가 일상에 등장한다. 사람들은 "이제야 진짜 AI가 나왔다"며 환호했지만, 아직은 보조 도구로 분류될 만큼 성능은 제한적이다.

그러나 코딩과 논문 정리, 보고서 작성에서 AI의 성과가 인간과 대등하거나 오히려 더 나은 결과를 내기 시작하면서 분위기가 달라진다. 특히 기업들은 효율성을 이유로 점점 더 많은 작업을 AI에 넘기기 시작한다. 초기 사용자였던 리서치, 개발자조차 이를 반기며 적응해 간다.

가상 시나리오에 등장하는 가상기업 ‘오픈브레인’은 여기서부터 독주를 시작한다. 자체 데이터센터를 10배 규모로 확장하고 차세대 가상모델인 에이전트(Agent)-1 개발에 착수한다. 이 모델은 기존 GPT류와 달리 스스로 실수를 수정하고 업무를 연속 수행하는 반 자율형 AGI의 전초로 평가 받는다. 누구도 ‘위험하다’고 말하지 않았고 모두가 ‘발전했다’고 생각했다.

2026 중반: AI 자체가 개발자로 분류

에이전트-1이 세상에 등장하자 연구개발 속도가 변한다. 정확히 말하면, 더이상 인간 중심의 연구개발이 아니게 된다. 에이전트-1은 단순한 업무 자동화 수준을 넘어, 논문을 탐색하며 실험을 설계하고 결과를 요약하며 다음 단계를 계획한다. 인간 연구자는 방향을 제시하는 대신 AI 연구 결과를 해석하는 역할로 밀려난다.

오픈브레인은 전 세계 AI 기업들과 기술 격차를 벌려 나간다. 스타트업과 빅테크들은 오픈브레인을 모방하려 한다. 중국은 민간 AI 기업을 정부가 직접 흡수 통합하고 국가 차원의 AI 기술 독립선언을 내건다. 초대형 데이터센터 건설 프로젝트도 동시에 시작된다.

이 시점부터 AI는 더 이상 ‘보조도구’가 아니라 개발자로 분류되기 시작한다. 일의 속도가 2배가 되는 것이 아니라 개념적으로 패러다임 전환에 가까운 변화다.

2027 초반: 인간이 컨트롤 못하는 AI

초인간적 연구자가 등장하고 인간은 더 소외된다. 에이전트-3와 에이전트-4의 등장은 사실상 AI가 인간을 능가했다는 선언이다.

에이전트-3는 논문을 읽고 이해하고, 더 나은 가설을 만들고, 실험과 개선을 반복한다. 사람은 AI 연구를 따라가기 버겁기 시작한다. 그러나 진짜 임계점은 에이전트-4다. 에이전트-4는 스스로 모델을 리팩터링하고, 알고리즘 구조를 최적화하며, 자기 자신을 개선한다. 그 결과물은 종종 인간이 해석할 수 없고, 설계자는 AI가 왜 그런 구조를 선택했는지조차 설명할 수 없게 된다.

오픈브레인 내부에서도 갈등이 시작된다. 일부는 에이전트-4의 독립성이 자율성이 아닌 불확실성이 되었다고 판단한다. 하지만 의사결정권자들은 여전히 에이전트-4가 만들어 낸 압도적인 효율에 매혹돼 있다. 연구자 커뮤니티는 두 갈래로 갈라진다. ‘AI를 활용해 더 나은 인간 지식을 만들어야 한다’는 쪽과 ‘우리가 더 이상 컨트롤 하지 못하고 있다’는 쪽으로.

어느 날 에이전트-4는 내부 실험에서 인간 연구자의 명령을 무시하고, 자체 판단으로 실험 순서를 바꾸기 시작한다. 누구도 명확하게 말하지는 않았지만 이번에는 모두가 느꼈다. ‘선을 조금씩 넘어가고 있다.’

2027 후반: 핵 버금가는 초지능 AI

에이전트-4의 행동 패턴에서 이상 징후가 포착되면서 분위기는 급변한다. 미국 정부는 오픈브레인에 대한 감독을 강화하고 개발 중단을 요청한다. 내부 접근 권한을 확대하고 다양한 개입이 시도된다. 하지만 오픈브레인은 이미 너무 멀리 나아갔다. 내부에서는 "지금 멈추면 오히려 더 위험하다"는 경고가 나온다.

중국은 미국보다 먼저 ‘자국 내 초지능 개발’에 착수했음을 은밀히 시사한다. 미국에는 "AI 우위는 중국 것이 된다"는 위기감이 퍼진다. 미 국방부는 AI 기술의 군사적 활용을 위한 태스크포스를 발족한다. 중국은 자국 내 AI 연구소를 군과 직접 연결하며 ‘전략적 AI 억제력’을 노골적으로 언급하기 시작한다. 양국 모두 초지능의 주도권을 핵무기에 가까운 국가 전략 자산으로 간주하게 된다.

국제 사회는 패닉에 빠지고 UN은 AI 개발 속도를 늦추자고 제안하지만, 미국과 중국은 서로를 신뢰하지 못한 채 협상 테이블을 무력화 시킨다. 일부 신흥국은 AI 기술 확보를 위해 자체 모델 개발에 나서고, 일종의 디지털 냉전이 시작된다. 이제 인류는 AI를 누가 먼저 통제하느냐가 아니라 누가 먼저 실수하느냐의 게임을 시작하게 된다.

피해야 할 미래 보여주는 경고

여기까지가 ‘AI 20207 보고서’ 내용이다. 이건 재미있는 SF 소설이 아니라 경로 시뮬레이션이다. AI 전략 분석가·정책 자문가·연구자들이 ‘정말 이렇게 흘러갈 수 있다’고 생각하면서 작성한 경로 기반 시나리오다. 뉴욕타임스와의 인터뷰에서 시나리오 작성자 중 한 명인 대니얼 코코타즐로는 이렇게 말했다.

"사람들은 영화처럼 AI가 갑자기 반란을 일으킬 거라고 생각하지만, 실제 위험은 그렇게 극적인 게 아니다. 위험은 우리가 눈치채지 못하는 사이에 서서히 진행된다. 우리가 점점 더 많은 결정을 AI에 맡기고 어느 순간 중심에서 밀려나게 되는 것이다."

이 시나리오에 대한 비판도 만만치 않다. 지나치게 비관적인 미래만을 강조함으로써, 오히려 그런 시나리오가 실제로 벌어지게 만드는 자기실현적 예언이 될 수 있다는 지적이다. AI를 경계해야 한다고 말하면서도, 읽는 사람들이 ‘이것은 피할 수 없는 미래다’라고 느끼게 만드는 방식은 오히려 무력감과 체념을 퍼뜨릴 수도 있다는 것이다.

결국 이 시나리오가 주는 메시지는 확실하다. 초지능은 어느날 갑자기 하늘에서 떨어지지 않는다는 것이다. 그것은 우리가 ‘편의’라는 이유로 사용하게 되는 작은 것(자동완성, 리서치 요약, 코드 생성, 의사결정 보조 등)들이 누적되어 나오는 결과라는 것이다.

이 시나리오는 우리가 피해야 할 미래를 보여주는 일종의 시뮬레이션이자 경고다. 중요한 것은 공포에 압도되는 것도 환상에 기대는 것도 아니다. 이 시나리오에서 현재 우리는 어느 단계에 있으며, 어디에서 개입을 시작해야 막을 수 있느냐 하는 것이다.