실리콘밸리는 한 단어를 신앙처럼 반복한다. AGI. 인공일반지능. 그러나 이 단어의 정의를 물으면 모두가 잠시 멈춘다. 어떤 이는 인간 수준의 추론이라고 말하고, 어떤 이는 경제적으로 유용한 자동화라고 말하며, 또 다른 이는 대부분의 지적 노동을 대체하는 시스템이라고 설명한다. OpenAI는 AGI를 ‘대부분의 경제적으로 가치 있는 일에서 인간을 능가하는 고도로 자율적인 시스템’으로 정의하지만, 이 표현만으로도 판단 기준은 여전히 넓다. 정의가 계속 바뀌는 목표는 과학적 좌표라기보다 투자 설명서에 가깝다.
지난 몇 년 동안 거대 언어모델의 성능은 분명히 향상됐다. 더 길게 쓰고, 더 자연스럽게 말하고, 더 복잡한 작업을 단계별로 처리한다. 2025년 AI Index도 까다로운 벤치마크에서 모델 성능이 빠르게 개선됐다고 기록한다. 하지만 그 발전은 곧바로 이해나 판단의 탄생을 뜻하지 않는다. 모델은 설득력 있는 문장을 만들수록, 자신이 모르는 것을 모른다고 말하는 일에도 더 정교한 연출을 덧입힌다. 사용자가 느끼는 지능의 상승과 시스템 내부에서 벌어지는 계산은 같은 사건이 아니다.
“우리는 기계가 생각하기 시작한 순간이 아니라, 우리가 생각하기를 멈춘 순간을 AGI라 부르게 될 것이다.”
벤치마크는 이 혼란을 더 키운다. 시험을 통과하도록 훈련된 학생에게 시험 점수를 묻는 일처럼, 점수는 시스템의 일부 능력을 보여주지만 사회적 판단을 대신하지 못한다. 실제 현장에서는 답이 맞는지보다 누가 그 답을 검토하고, 오류가 났을 때 누가 책임지며, 어떤 이해관계가 배치되는지가 더 중요하다. 연구자들이 AGI의 ‘단계’나 ‘인지 능력 분류’를 다시 제안하는 이유도 여기에 있다. 하나의 점수나 순위표만으로는 일반성, 자율성, 위험도를 함께 설명하기 어렵다. 더구나 기업이 공개하는 성능표는 대개 제품 발표와 함께 소비된다. 사용자는 숫자를 과학적 검증처럼 받아들이지만, 그 숫자가 어떤 데이터와 조건에서 나왔는지, 실제 업무 환경에서 같은 안정성을 보이는지는 별도의 검토가 필요하다. 진짜 질문은 모델이 얼마나 인간과 비슷한가가 아니라, 이 시스템이 누구의 이익을 위해 작동하는가다.
여기서 언론의 역할은 기술의 가능성을 축소하는 것이 아니라, 가능성과 검증 사이의 거리를 독자에게 정확히 보여주는 것이다. 새 모델이 수학 문제를 더 많이 맞혔다는 사실과, 그 모델을 병원·학교·법률 사무소·공공기관에 맡겨도 된다는 판단은 전혀 다른 층위에 있다. 전자는 실험 결과이고, 후자는 사회적 허가다. AGI라는 이름이 너무 빨리 붙으면 이 두 층위가 섞인다. 그래서 우리는 성능 지표를 읽을 때마다 질문을 덧붙여야 한다. 누구의 데이터로 훈련됐는가, 실패 사례는 얼마나 공개됐는가, 비용은 누가 부담하는가, 그리고 그 판단에서 배제된 사람은 누구인가.
진보라는 이름의 안개
기술 낙관론은 늘 비슷한 구조를 가진다. 곡선을 그리고, 그 곡선을 연장하고, 연장선이 닿는 지점에 유토피아를 그린다. 그러나 곡선은 약속이 아니다. 개발 속도, 전력 비용, 데이터 품질, 규제, 이용자의 신뢰가 함께 움직이지 않으면 그래프는 언제든 다른 방향으로 꺾인다. AI Index는 성능 개선과 함께 산업 경쟁, 전력 사용, 정책 대응, 책임 있는 AI 평가의 불균형도 함께 기록한다. AGI라는 단어가 모든 논쟁을 덮는 순간, 우리는 기술의 실제 성능보다 기술을 둘러싼 권력과 비용을 덜 보게 된다.
따라서 AGI 논쟁을 읽는 가장 좋은 방법은 ‘언제 오는가’를 묻는 데서 멈추지 않는 것이다. 누가 AGI라고 부를 권한을 갖는지, 그 명칭이 투자와 규제를 어떻게 움직이는지, 기업의 발표와 연구자의 측정이 어디에서 갈라지는지 함께 봐야 한다. 언론은 이 지점에서 속보보다 검증을 우선해야 한다. 모델 이름과 점수만 받아쓰면 독자는 기술의 현재 위치보다 기업의 기대치를 먼저 보게 된다. 모두잇이 이 매체를 시작한 이유가 여기에 있다. 우리는 AI를 미워하지도, 숭배하지도 않는다. 새 모델이 발표될 때마다 환호와 공포를 반복하기보다, 무엇이 실제로 달라졌고 무엇은 아직 검증되지 않았는지 분리해 읽으려 한다. 그것이 오늘 가장 급진적인 태도다.
