티스토리 뷰
목차
샘 올트먼 오픈AI CEO가 IPO를 서두르지 않겠다고 밝혔습니다. 처음 이 뉴스를 봤을 때 솔직히 이건 예상 밖이었습니다. 기업이 성장하면 상장이 당연한 수순이라고 생각했는데, 오히려 AI 안전성 확보에 방해가 될 수 있다는 이유로 스스로 브레이크를 밟은 것입니다. AI 산업을 지켜보는 제 시각도 이번 발언 하나로 꽤 많이 바뀌었습니다.
IPO보다 AI 안전성을 선택한 이유
2026년 6월 29일, 샌프란시스코 포트메이슨센터에서 열린 오픈AI의 연례 개발자 행사 '데브데이 2026' 현장에서 샘 올트먼 CEO는 기자들 앞에서 이렇게 말했습니다. "복잡한 모델과 새로운 안전 요구사항을 적용하는 과정에서 IPO를 병행하는 것은 현명하지 못하다"고요.
제가 이 발언에서 가장 먼저 주목한 건 '단기 실적 압박'이라는 표현이었습니다. 기업이 증권거래소에 상장되면 매 분기마다 투자자들에게 실적을 보고해야 합니다. 매출이 얼마나 늘었는지, 이용자가 얼마나 증가했는지 같은 숫자로 평가받는 구조가 만들어지는 것입니다. 올트먼 CEO는 바로 이 구조가 AI 안전성 확보에 부정적인 영향을 줄 수 있다고 우려한 것입니다.
이 맥락에서 핵심 개념이 하나 등장합니다. 바로 AI 정렬(Alignment)입니다. 여기서 AI 정렬이란 AI 모델이 사람의 의도, 가치, 안전 기준에 맞게 행동하도록 방향을 잡아주는 작업을 의미합니다. AI가 아무리 뛰어난 성능을 갖추더라도, 인간이 의도하지 않은 방향으로 작동한다면 오히려 더 큰 위험을 초래할 수 있다는 것이 이 개념의 핵심입니다. 올트먼 CEO가 정렬 작업의 중요성이 그 어느 때보다 커졌다고 강조한 이유도 여기에 있습니다.
오픈AI는 모델의 능력이 크게 향상될 때마다 개발 자원을 정렬과 안정성 확보 쪽으로 재배치하는 방식을 내부적으로 도입했다고 밝혔습니다. 제가 이 부분을 읽으면서 자동차 비유가 떠올랐습니다. 엔진 출력이 올라갈수록 브레이크 성능도 함께 높여야 한다는 논리와 정확히 맞닿아 있기 때문입니다.
또 한 가지 짚어둘 개념이 있습니다. 월스트리트에서 흔히 말하는 분기 실적 압박(Quarterly Earnings Pressure)입니다. 이는 상장 기업이 3개월마다 주주와 시장에 성과를 증명해야 하는 구조적 압박을 가리킵니다. 장기적 투자가 필요한 안전성 연구와 단기 성과를 요구하는 시장 논리가 정면충돌할 수 있다는 점에서 올트먼 CEO의 우려는 근거가 없는 것이 아닙니다.
오픈AI의 이번 입장은 AI 거버넌스(AI Governance), 즉 AI 기술의 개발과 활용을 어떻게 통제하고 관리할 것인가라는 더 큰 논의와도 연결됩니다. 여기서 AI 거버넌스란 기업과 정부, 사회가 AI의 위험을 최소화하면서 기술의 혜택을 극대화하기 위해 만드는 규칙과 체계를 뜻합니다. 실제로 데브데이 행사장 앞에서는 AI 개발 속도를 늦추라는 피켓을 든 시위대가 목소리를 높이기도 했습니다(출처: KBS 뉴스). AI 안전성이 이미 일반 시민의 관심사로 번지고 있다는 신호라고 봤습니다.
- AI 정렬(Alignment): AI가 인간의 의도·가치에 맞게 행동하도록 방향을 잡는 작업
- 분기 실적 압박: 상장 기업이 매 분기 주주에게 성과를 증명해야 하는 구조적 압박
- AI 거버넌스: AI 기술의 위험을 통제하기 위해 기업·정부·사회가 만드는 규칙 체계
- 오픈AI의 방침: 모델 능력 향상 시마다 개발 자원을 정렬·안정성 확보로 재배치
기업 성장과 안전성, 정말 같이 갈 수 있을까
이번 뉴스를 접하고 제가 직접 고민해봤던 질문이 있습니다. "AI 기업이 자본을 많이 조달할수록 안전성 연구에도 더 많이 투자할 수 있지 않을까?" 하는 생각입니다.
물론 자금이 많으면 연구인력을 늘리고, 데이터센터와 반도체 인프라에도 더 투자할 수 있습니다. 그런데 제 경험상 이건 좀 다릅니다. 자금이 풍부하다고 해서 그 자금이 반드시 안전성 연구로 향하지는 않습니다. 상장 이후에는 주주와 시장이 어디에 쓸지를 함께 결정하는 구조가 되기 때문입니다.
올트먼 CEO도 이 점을 의식한 듯 "AI 개발을 멈추자는 것이 아니다"라는 말을 분명히 했습니다. AI 속도 조절론(AI Pacing)이란 개념이 여기서 등장합니다. AI 속도 조절론이란 기술 개발의 속도를 인위적으로 늦추자는 주장이 아니라, 기술 발전과 안전장치 마련의 속도를 서로 맞춰가야 한다는 접근법을 가리킵니다. 올트먼 CEO는 "더 많은 인력이 다음 단계를 안전하게 넘어가기 위한 작업에 투입되는 것"이 자신이 말하는 속도 조절이라고 설명했습니다.
이 발언이 저에게 인상적이었던 이유는 따로 있습니다. AI 업계에는 크게 두 가지 극단적 시각이 공존합니다. 하나는 "AI가 인류를 멸망시킬 것"이라는 공포론이고, 다른 하나는 "무조건 빠르게 개발해야 경쟁에서 이긴다"는 맹목적 질주론입니다. 올트먼 CEO는 두 입장 모두 마음에 들지 않는다고 잘라 말하며 중도 노선의 필요성을 역설했습니다. 제가 AI 관련 뉴스를 오래 지켜봐온 입장에서, 이렇게 양극단을 동시에 비판하는 발언은 꽤 드문 편입니다.
앞으로의 흐름을 생각해보면, AI 기업의 경쟁력은 단순히 '더 강한 모델을 먼저 내놓는 것'만으로 결정되지 않을 가능성이 높습니다. 예를 들어 AI 안전성 평가 전문기관인 AI Safety Institute(AISI)는 각국 정부 차원에서 AI 모델의 위험도를 평가하는 체계를 구축하고 있습니다(출처: 영국 AI Safety Institute). 이런 흐름이 이어진다면 기업이 얼마나 체계적으로 안전성을 관리하는지가 투자자와 규제 당국 모두에게 중요한 평가 기준이 될 수 있습니다.
제가 이 뉴스를 보며 가장 걱정되는 부분을 솔직히 털어놓자면, 기술 발전 속도와 안전 확보 속도의 격차입니다. AI 모델의 성능은 매달 새로운 버전이 출시될 만큼 빠르게 진화하고 있는데, 안전성 연구는 그 속도를 따라가기 쉽지 않습니다. 오픈AI가 아무리 좋은 의도를 갖고 있어도, 경쟁사들이 속도를 높이면 결국 시장 논리에 끌려갈 위험이 없다고 단언하기 어렵습니다. 그 점에서 이번 발언이 실제 행동으로 이어질지를 계속 지켜볼 생각입니다.
자주 묻는 질문
Q. 오픈AI는 왜 IPO를 안 하는 건가요?
A. 하지 않겠다는 것이 아니라 지금 당장은 서두르지 않겠다는 입장입니다. 샘 올트먼 CEO는 상장 이후 발생하는 분기 실적 압박이 AI 정렬과 안전성 확보 작업에 부정적인 영향을 줄 수 있다고 판단했습니다. AI 모델의 능력이 급격히 높아지는 현 시점에 추가적인 시장 압박을 감당하는 것이 적절하지 않다는 뜻입니다.
Q. AI 정렬(Alignment)이 뭔가요? 왜 중요한가요?
A. AI 정렬이란 AI가 사람의 의도와 가치, 안전 기준에 맞게 행동하도록 방향을 잡아주는 작업입니다. AI 모델의 성능이 높아질수록 사람이 예상하지 못한 방식으로 작동할 위험도 커지기 때문에, 기술이 발전할수록 정렬 연구의 중요성도 함께 커집니다. 올트먼 CEO는 이 작업이 지금 그 어느 때보다 중요한 단계에 있다고 강조했습니다.
Q. AI 속도를 늦추자는 주장 아닌가요?
A. 올트먼 CEO는 이 점을 명확히 부정했습니다. 그가 말하는 속도 조절은 개발을 멈추는 것이 아니라, 안전성을 확보하는 데 더 많은 인력과 자원을 투입하면서 발전을 이어가는 방식입니다. AI 기술의 진보는 계속하되, 그 속도에 맞춰 안전장치도 함께 고도화해야 한다는 중도적 입장입니다.
Q. 상장하면 AI 안전성 연구에 정말 악영향이 생기나요?
A. 직접적인 악영향이 반드시 생긴다고 단정하기는 어렵지만, 구조적 위험은 존재합니다. 상장 기업은 매 분기 주주와 시장에 성과를 보고해야 하는데, 안전성 연구는 단기적으로 비용을 늘리는 방향으로 작용할 수 있습니다. 이 구조적 압박이 장기적 안전 투자를 축소시킬 가능성을 올트먼 CEO가 우려한 것입니다.
결론
이번 뉴스를 처음 접했을 때 저는 'IPO를 왜 안 하지?'라는 단순한 궁금증에서 출발했습니다. 그런데 내용을 들여다볼수록 질문이 달라졌습니다. "AI가 이렇게 빠르게 강해지는 상황에서 우리는 얼마나 안전하게 쓸 수 있을까?"라는 물음으로 바뀐 것입니다.
오픈AI의 이번 결정이 옳은지 그른지를 지금 당장 판단하기는 이릅니다. 다만 AI 산업이 '누가 더 강한 모델을 먼저 만드느냐'의 경쟁을 넘어, 기술과 안전성을 함께 가져가야 한다는 논의를 공개적으로 시작했다는 점에서 의미 있는 신호라고 생각합니다. 앞으로 오픈AI의 실제 행보가 이 발언과 일치하는지를 계속 지켜보는 것이 AI를 사용하는 입장에서 해야 할 일이 아닐까 싶습니다.