AI는 생각한다, 고로 인간은 존재한다...두려운 인류의 미래

AI에 대한 인간의 의존도가 날로 높아지고 있다. 이제는 길고 어려운 논문을 단 몇 줄로 요약해 주고 심지어 동화처럼 읽기 쉽게 변환시켜 준다. 인간이 만든 AI가 인간의 생각하고 분석하고 판단하는 능력을 대신하고 있는 것이다. 그렇다면 ‘생각하는 고로 존재한다’는 데카르트적 인간의 가치는 어디서 찾을 것인가. AI 교과서까지 실행되고 있는 현 시점에서 한번 생각해볼 문제다.

어려운 논문 단 3줄 요약도

논문은 어떤 특정 주제에 대해 자신의 발견을 체계적으로 정리해서 올리는 글이다. 기본적으로 논문의 체계는 서론과 본론 그리고 결론으로 구성되어 있으며, 특유의 전문성으로 인해 어려운 전문 용어들을 숱하게 사용하게 된다.

해당 전공의 전문가가 아닌 이상 논문 한 편을 읽고 이해하는 데 평균 1시간에서 길게는 5시간 정도 소요된다. 특히 논문은 철저한 분량 압축을 위해 비슷한 실험 또는 결과는 길게 쓰지 않으며, 다른 논문을 인용 또는 참조 식으로 달아 놓는다. 그래서 보통 논문 하나를 읽는 데는 참고논문까지 포함해 평균 최소 3개에서 10개 정도의 논문을 읽게 된다.

위의 내용은 불과 몇 달 전까지 필자를 포함한 수많은 연구자들이 가지고 있던 상식이었다. 하지만 AI 에이전트가 발전함에 따라 논문처럼 순수하게 텍스트로 이루어진 문서들은 손쉬운 정복의 대상이 됐고, 지금은 완전히 정복 당했다.

실제로 틱톡이나 짧은 영상으로 ‘요즘 아이들이 논문 읽는 법’ 같은 영상들이 떠돌고 있다. 아무리 복잡한 논문이어도 1분에서 10분 내로 볼 수 있게 요약하는 기능과 이것도 너무 길다 싶은 사람들을 위한 3줄 요약 기능까지 있다. 이것조차 집중이 안되는 사람들을 위해서 유튜브 쇼츠처럼 1분짜리 영상과 내레이션으로 논문을 바꿔주는 AI도 있다. 1분짜리 쇼츠 영상 AI에도 경악했지만, 200페이지에 달하는 논문을 동화책처럼 바꿔주는 AI에는 두손 두발 다 들었다.

AI이용한 부정행위 늘어

위 기술들은 모두 미국에서 나온 것으로 AI 발전의 훌륭한 결과물로만 보였다. 하지만 학생들의 무분별한 AI 사용은 심각한 사회문제로 떠오르고 있다. 고등학교 및 대학 시험에서 객관식은 물론이고 주관식까지 AI를 사용해 답을 제출하는 부정행위가 속출하고 있다. AI를 통한 부정행위가 늘자 고대 그리스 철학자들의 토론 문화에서 유래한 구술시험을 부활시키는 학교들이 늘고 있다.

한국도 이런 AI의 영향에 자유롭지 못하다. 생성형 인공지능을 활용한 과제 제출에 고등학교는 물론 대학교에서도 대응방안을 마련하고 있다. 과제 제출 시 인공지능 활용 여부를 명확히 밝히게 하고, 인공지능이 생성한 결과물을 비판 없이 그대로 활용하지 않고, 인공지능 사용 여부를 교수와 학생이 상호 합의하는 내용 등이 있다.

그럼에도 불구하고 인공지능은 더 발달하고 종류도 많아지고 갈수록 정교해지고 있다. 사람이 작성한 것과의 구분이 더욱 힘들어지고 있다. 심지어 어떤 것들은 사람보다 내용과 질적인 면에서 압도적이기도 하다.

부모 교육수준·재산에 따라 격차

교육은 사람이 살아가는 데 필요한 지식이나 기술 등을 배우는 활동 아닌가. 그것을 AI에게 빼앗겨버린 학생들의 미래는 어떻게 되는 것인가.

단순히 ‘부정행위’에 대한 비판이 아니다. 미래를 책임질 세대들의 생각할 기회를 줄인다는 점이 문제다. 특히 초등학생이나 중고등학생들이 생성형 인공지능에 기대는 것은 상당히 많은 부분을 그들의 인생에서 빼앗는 것이다. 주제에 관해 생각하고 고민하는 과정 자체가 사라지면서 논리력과 비판적 사고력을 키우기 힘들어지기 때문이다.

이런 점은 챗GPT 개발사인 오픈AI도 충분히 인지하고 있으며 가이드라인에 따라 13세 미만 사용을 금지하고 있긴 하다. 18세 미만은 부모나 보호자의 관리가 필요하다고 명시하고 있지만, 얼마나 많은 사람들이 지키고 있는지는 모르겠다.

여기서도 격차가 생길 수 있다. 생성형 인공지능의 최신 버전들은 거의 유료여서 구독료를 내야 한다. 버전에 따라 내놓는 결과물의 차이도 크다. 기술에 대해 아는 부모와 모르는 부모 그리고 그 구독료를 내주는 부모와 안 내주는 부모 세대에 따라 격차가 발생하는 것이다.

‘챗GPT와 같은 즉답 AI가 보편화되면 저소득 계층의 지적 역량이 떨어질 수 있다’는 우려도 나왔다. 이는 AI가 보편화되지 않았던 과거의 조사 중에 경제력 하위권 가정의 자녀는 타이핑, 한글 프로그램, 파워포인트, 코딩, 사진 편집 등 컴퓨터 사용 능력이 상대적으로 떨어졌다는 조사 내용과 일맥상통했다.

2028년부터 전과목 AI교과서 도입

최근 대한민국 교육부에서는 2025년부터 시행될 맞춤형 AI 교과서를 내놓았다. AI를 활용해 초등학교 1학년과 2학년을 제외한 모든 학생별 능력과 수준에 맞게 맞춤형 학습자료, 학습 지원 등을 제공하는 교과서라고 한다. 학습 수준이 빠른 학생에게 심화학습 단계를, 학습 수준이 느린 학생에겐 기초학습 단계를 제시한다는 것이다. 지금은 빅3 과목인 수학 영어 국어에 AI 디지털 교과서를 도입하고 3년 후인 2028년까지 전 과목으로 확대하겠다는 계획이다.

사실 20년 전에 이미 대한민국에서는 비슷한 것을 실행했다. 학교와 유비쿼터스의 만남이라는 첨단교육시스템의 일환으로, 학생들에게 PDA를 보급해 개별화된 맞춤형 학습 서비스를 제공했다. 지금과 똑같은 디지털화 교육정책이었다. 당시 문근영 배우를 홍보대사로 점차 전국적으로 확대될 것이라고 했지만, 결과는 실패였다. 마침 당시 고등학생이던 필자는 그 프로그램의 실험군에 속한 학생이었다.

교육부에서 내놓은 맞춤형 AI 교과서는 도입한 지 한 달이 지나가고 있다. 디지털 장비를 이용해 온라인 접속, 동시에 수업을 받는 만큼 여러 아이들의 눈높이에 맞춘 프로그램이 있지만, AI 과도기에 생겨난 급조 시스템이 아닌가 우려도 된다.

인류의 평균 지능 하향화 우려

필자는 컴퓨터공학을 연구하고 기술의 진보를 찬성하는 쪽이지만, 학생들을 디지털 장비와 떨어뜨려 놓아야 한다고 생각하는 사람 중 하나다. 디지털 중독에 대한 우려가 크기 때문이다. 스위스·독일 등 유럽의 많은 국가들이 디지털 학습에서 다시 종이 교과서로 회귀하고 있는 것도 이런 이유 때문이다.

언어학자 나오미 배런은 ‘종이책으로 읽을 때 학생들이 더 깊고 정확하게 이해한다’며 디지털 읽기의 한계를 지적했다. 실제로 디지털 기기를 활용한 학습은 집중력을 떨어뜨리고, 내용을 대충 훑어보게 만든다는 연구 결과도 있다.

AI 시대는 분명 다가오고 있고 많은 변화가 올 거라 예상은 했지만, 이런 식은 환영하지 않았다. AI로 인해 인류의 평균 지능이 내려갈 것이라는 것은 알았지만, 10년 또는 20년 후라고 여겼지 이렇게 빠르고 직접적으로 실현될 것이라고는 생각지도 못했다.

우리가 두려워해야 할 것은 스스로 자각하고 인간 주인에게 반기를 드는 AI가 아니다. AI의 편안함에 기대어 적응해 버리는 지금의 우리를 더욱 두려워해야 할 것이다. 데카르트의 말처럼 ‘인간은 생각을 하기에 존재’하는 것이다. 이성적인 생각을 하고 논리를 펼치며 자신을 갈고 닦는 공부를 하는 것, 그것이 인간이다.