검색어 입력폼

Nvidia 칩 성능 문제, OpenAI 불만족

주형석 입력 02.04.2026 07:40 AM 조회 2,953
OpenAI, “Nvidia 칩 속도 느려서 만족 못해”
사용자 질문에 답하는 추론 단계에서 너무 느려
Codex 처럼 복잡하고 빠른 답변 필요한 서비스 약점
외부 메모리 사용 Nvidia 칩의 구조적 한계 지적
Photo Credit: Radio Korea
인공지능, AI 업계의 두 거물인 오픈AI(OpenAI)와 엔비디아(Nvidia) 사이에 대단히 미묘한 기류가 흐르고 있다는 언론 보도가 나왔다.

ChatGPT 제조사인 오픈AI가 일부 엔비디아 칩의 성능에 대해 만족하지 못하고 있어, 그 대안을 찾고 있다는 소식이다.

사용자 질문에 대답하는 이른바 추론 단계에서 엔비디아 칩 속도가 너무 느려 서비스에 약점이 있다는 것으로 외부 메모리를 사용하는 엔비디아 칩의 구조적인 한계를 지적하는 내용이다.

주형석 기자입니다.   미국 내 테크 주식에 투자하는 많은 투자자들에게 엔비디아와 오픈AI는 그동안 '불패의 조합'처럼 여겨져 왔다.

그런데 이제는 그 공고한 동맹에 균열이 생길 수도 있다는 것이 드러났다.

오픈AI가 엔비디아의 독점에서 벗어나려는 움직임을 보이는 것인데 그것이 장기적으로 AI 하드웨어 시장의 다변화를 가져올 수 있다.

특히 소프트웨어 엔지니어링 분야에서는 속도가 생명인데 지금보다 더 빠른 응답 속도를 가진 새로운 칩의 등장이 업무 환경에 상당히 큰 변화를 줄 수 있어 주목된다.

오픈AI는 챗GPT가 사용자 질문에 답하는 과정인 이른바 '추론' 단계에서 엔비디아 칩의 응답 속도에 만족하지 못하고 있다.

특히 코딩 보조 도구인 '코덱스(Codex)'처럼 대단히 복잡하고 빠른 답변이 필요한 일부 서비스에서 엔비디아 하드웨어의 약점이 드러났다고 오픈AI 직원들은 지적한다.

이처럼 엔비디아 하드웨어 속도가 느린 것에는 이유가 있다.

엔비디아 칩은 외부 메모리를 사용하고 있는 것인데 바로 이 때문에 데이터를 가져오는 과정에서 시간이 지체되는 구조적 한계가 있다는 분석이다.

젠슨 황 엔비디아 CEO는 오픈AI와의 불화설에 대해서 "터무니없는 소리(Nonsense)"라며 일축했다.

엔비디아는 당초에 오픈AI 측에 약속했던 1,000억 달러 규모의 투자를 계속 추진한다는 계획이며, 자사 칩이 여전히 업계 최고의 가성비와 성능을 제공한다고 강조했다.

이같은 엔비디아 측의 입장에도 불구하고 오픈AI는 최근 스타트업 세레브라스(Cerebras)와 100억 달러 규모의 컴퓨팅 공급 계약을 전격적으로 체결했다.

세레브라스 칩은 메모리를 칩 안에 직접 때려 넣은 구조(SRAM)라 엔비디아 약점으로 꼽히는 추론 속도가 압도적으로 빠르다.

또 다른 유력 후보였던 그로크(Groq)와의 협상은 엔비디아가 크리스마스 이브에 그로크를 전격 인수하면서 중단된 상태인 것으로 알려졌다.

엔비디아는 그로크를 인수하면서 200억 달러 규모의 라이선스와 인력을 흡수했다.

오픈AI가 엔비디아 칩에 불만족을 나타냈다는 보도가 나간 후 상당한 논란이 계속되면서 파장이 커지자 오픈 AI 측이 수습에 나섰다.

샘 알트먼 오픈AI CEO는 자신의 X 계정에 올린 게시글에서 엔비디아가 세계 최고의 칩을 만든다고 언급했다.

샘 알트먼 CEO는 오랫동안 거대한 고객으로 남기를 희망한다고 엔비디아를 칭찬하는 글을 올리면서 일단 불화라는 의혹을 날려 버렸다.

결국 오픈AI는 엔비디아라는 든든한 파트너를 유지하면서도, '속도'라는 무기를 얻기 위해 양다리를 걸치는 전략을 택한 셈이다.

이번 사태가 엔비디아의 주가나 향후 AI 칩 시장의 판도에 얼마나 영향을 미칠지, 투자자들은 예의주시하고 있는 분위기다. 
댓글 0
0/300
※ 이 댓글에 대한 법적 책임은 작성자에게 귀속됩니다.
  • 댓글이 없습니다