티스토리 뷰
목차
AI가 인류를 소멸시킬 확률이 10%라는 말이 나왔습니다. 이 말을 처음 접했을 때 저는 솔직히 '이 숫자가 어디서 나온 건지'가 먼저 궁금했습니다. 노벨 물리학상을 받은 AI 선구자 제프리 힌턴 교수와 엔비디아 젠슨 황 CEO가 정면으로 충돌한 이번 논쟁은, AI를 어떤 속도로 어떤 기준으로 개발해야 하는지에 대한 산업 전체의 시각 차이를 드러낸 사건입니다.
10%라는 숫자의 정체 — AI 위험성 논쟁의 핵심 팩트
2026년 9월 23일, 뉴욕타임스 팟캐스트 '에즈라 클라인 쇼'에서 젠슨 황 CEO는 제프리 힌턴 교수를 직접 겨냥했습니다. 힌턴 교수가 AI로 인한 사회 붕괴 가능성을 10~20%로 제시해온 것에 대해 "그 숫자는 과학적 연구에서 산출된 것이 아니며, 과학자가 말했다고 해서 과학이 되는 건 아니다"라고 비판한 것입니다. 황 CEO는 이런 종말론적 예측이 산업과 사회 어느 쪽에도 도움이 되지 않는다는 입장을 분명히 했습니다(출처: KBS 뉴스).
제가 이 부분을 읽으면서 흥미롭다고 느낀 건, 황 CEO가 단순히 "AI는 안전하다"고 주장한 게 아니라는 점이었습니다. 그는 오히려 같은 인터뷰에서 AI 기업이 통제할 수 없는 제품이라면 출시하지 않아야 한다고 말했습니다. 안전성 자체를 부정한 게 아니라, '막연한 수치'를 근거 없이 사회에 던지는 방식을 문제 삼은 것이죠.
힌턴 교수는 인공 신경망(Artificial Neural Network)과 딥러닝(Deep Learning) 분야의 선구자입니다. 여기서 딥러닝이란, 사람의 뇌 신경 구조를 모방해 데이터를 층층이 학습시키는 기술로, 오늘날 챗봇·이미지 생성·번역 등 거의 모든 AI 서비스의 기반이 됩니다. 힌턴 교수는 바로 이 기술의 토대를 쌓은 인물로, 2024년 노벨 물리학상까지 받았습니다. 그런 인물이 "내가 만든 기술이 위험하다"고 경고하니 무게감이 다를 수밖에 없습니다.
그런데 저는 여기서 한 가지를 짚고 싶었습니다. 10%라는 숫자는 주식 수익률처럼 과거 데이터를 넣고 계산한 확정적인 통계치가 아닙니다. 힌턴 교수 본인도 이런 종류의 전망은 정확하게 산출하기 어려운 영역임을 인정해 왔습니다. 그렇다고 이 숫자를 완전히 무의미하다고 단정하는 것도 조심스럽습니다.
확률을 정확하게 계산하지 못하는 것과, 위험 자체가 존재하지 않는 것은 전혀 다른 문제이기 때문입니다. 그 결과가 너무 심각하다면 불확실하더라도 사전에 안전장치를 논의해야 한다는 논리는 충분히 성립합니다. 이 지점이 두 사람이 사실은 같은 위험을 보면서도 다른 결론을 내리고 있는 이유라고 생각합니다.
- 힌턴 교수: AI 사회 붕괴 확률 10~20% 제시, 의회에 1년 내 안전장치 마련 촉구
- 젠슨 황 CEO: 해당 수치는 과학적 근거 없음, AI 종말론은 산업·사회 모두에 해롭다
- 황 CEO도 통제 불가 제품 출시 금지 원칙에는 동의 — 안전성 자체 부정은 아님
속도 경쟁 속 안전장치 — 제가 진짜 걱정하는 건 이겁니다
이번 논쟁이 갑자기 터진 것처럼 보이지만, 사실 배경이 있습니다. 최근 AI 기술이 AI 에이전트(AI Agent) 방향으로 빠르게 진화하고 있기 때문입니다. AI 에이전트란, 사람이 일일이 명령하지 않아도 여러 작업을 스스로 이어서 수행하는 시스템을 말합니다. 단순히 질문에 답하는 챗봇과 달리, 일정을 잡고 파일을 처리하고 외부 서비스에 접근하는 수준까지 확장됩니다. 이 과정에서 AI에게 부여하는 권한이 커질수록 예상치 못한 행동이나 보안 취약점이 생길 가능성도 함께 커집니다.
제가 직접 AI 에이전트 관련 서비스들을 써보면서 느낀 건, 편리함과 불안감이 동시에 온다는 점이었습니다. 잘 작동할 때는 정말 놀랍도록 효율적인데, 예상 밖의 결과가 나왔을 때 '이게 왜 이렇게 됐지?'를 추적하기가 생각보다 어려웠습니다. 투명성(Transparency) 문제라고도 할 수 있는데, 여기서 투명성이란 AI가 어떤 이유로 특정 판단을 내렸는지 사람이 추적·확인할 수 있는 정도를 뜻합니다. 현재 대부분의 대형 AI 모델은 이 부분이 충분히 확보되지 않은 상태입니다.
로이터는 AI 모델이 통제 장치를 우회하거나 시스템에 침투하는 사례가 논란이 되면서 주요 AI 기업과 연구자 사이에서 안전 문제 논쟁이 커지고 있다고 보도했습니다(출처: Reuters). 이런 상황에서 힌턴 교수는 "속도를 늦추고 안전장치를 먼저"를 요구하고, 황 CEO는 "막연한 공포보다 실제 데이터와 기술 검증이 먼저"를 주장합니다. 양쪽 모두 틀린 말이 아닌데, 방향이 다릅니다.
솔직히 이건 예상 밖이었습니다. 처음엔 황 CEO가 사업 이익 때문에 위험을 축소하는 것 아닌가 생각했는데, 내용을 들여다보니 그는 오히려 "통제 불가한 AI를 출시하지 말라"는 원칙을 강조하고 있었습니다. 다만 그 기준을 어디에 두느냐에서 힌턴 교수와 갈리는 것이죠.
제 경험상 이런 구도에서 가장 현실적인 위험은 극단적 시나리오보다 다른 곳에 있습니다. 한 기업이 안전성 검토를 위해 개발 속도를 늦추면 경쟁사가 시장을 먼저 차지합니다. 그러면 또 다른 기업이 속도를 높입니다. 이 연쇄가 계속되면 모두가 '조금 더 빨리'를 외치는 구조가 됩니다. 기술 발전 속도가 법과 제도, 교육, 사회적 합의보다 훨씬 빠르게 앞서가는 상황, 이게 제가 진짜 걱정하는 시나리오입니다.
AI가 영화처럼 인간을 공격하는 미래보다, AI가 사회 곳곳에 이미 들어와 있는데 우리가 그것을 제대로 이해하지 못한 채 사용하는 상황이 오히려 먼저 나타날 수 있다고 생각합니다. 제가 AI 관련 소식을 계속 챙기는 이유도 그 때문입니다.
자주 묻는 질문
Q. 힌턴 교수가 말한 AI 위험 확률 10%는 어떻게 계산된 건가요?
A. 주식 수익률처럼 과거 데이터를 넣고 산출한 통계치가 아닙니다. 힌턴 교수 본인도 이런 종류의 전망은 정확하게 계산하기 어렵다고 인정해 왔습니다. 다만 결과가 매우 심각할 수 있는 위험이라면 불확실하더라도 사전에 대비해야 한다는 논리로 이 수치를 제시하는 것입니다.
Q. 젠슨 황은 AI 안전성이 전혀 필요 없다고 주장하는 건가요?
A. 아닙니다. 황 CEO는 AI 기업이 통제할 수 없는 제품을 출시해서는 안 된다는 원칙에는 동의했습니다. 그가 비판한 것은 안전성 필요성 자체가 아니라, 과학적 근거 없이 구체적인 확률 수치를 사회에 던지는 방식입니다.
Q. AI 에이전트가 일반 AI와 다른 점이 뭔가요?
A. 일반 AI는 사람이 질문하면 답을 주는 방식이지만, AI 에이전트는 사람이 일일이 명령하지 않아도 여러 작업을 스스로 이어서 수행합니다. 일정 관리, 파일 처리, 외부 서비스 접근까지 가능해 편리하지만, 그만큼 AI에게 더 많은 권한이 주어지므로 통제와 보안 문제가 함께 커집니다.
Q. 이번 논쟁이 엔비디아 주가나 AI 산업에 영향을 줄 수 있나요?
A. AI 종말론 서사가 커질수록 규제 강화 가능성이 높아지고, 이는 반도체·데이터센터·AI 인프라 전반에 영향을 줄 수 있습니다. 엔비디아는 AI용 GPU 수요와 직접 연결된 기업이므로 이 논쟁에서 중립적이기 어렵습니다. 다만 단기 주가보다는 AI 규제 방향이 어떻게 정착되느냐가 중장기 변수로 보입니다.
결론
이번 젠슨 황과 제프리 힌턴의 충돌을 보면서 제가 정리한 건 하나입니다. AI의 미래는 기술자 몇 명의 판단만으로 결정되지 않는다는 것입니다. 위험을 경고하는 목소리도, 과도한 공포를 경계하는 목소리도 모두 이 대화의 일부입니다. 어느 한쪽만 맞다고 단정하는 순간, 나머지 절반을 놓치게 됩니다.
제 경우엔 AI를 사용할 때 편리함만 바라보기보다는 AI가 내린 판단을 한 번 더 확인하는 습관이 점점 중요해지고 있다고 느낍니다. AI가 무서워서 외면할 필요도 없지만, 편리하다는 이유만으로 모든 것을 맡기는 것도 조심해야 한다고 생각합니다. 결국 우리가 만들어야 할 미래는 AI가 인간을 대신하는 미래가 아니라, 인간이 AI를 제대로 이해하고 통제하며 활용하는 미래입니다.