젠슨 황 엔비디아 사장이 X 계정 첫 트윗 바로 “Open Weights and American AI Leadership”이었습니다. 단순히 오픈 모델을 지지한다는 의미를 넘어, 지금 AI 업계에는 우리가 주목해야 할 거대한 흐름이 있습니다.
1. 젠슨황이 오픈 웨이트를 지지하는 이유
백악관은 최신 AI 모델인 Kimi K3를 보고 보안 우려로 중국 모델 규제를 검토하기 시작했습니다. 하지만 인프라를 공급하는 빅테크 기업들, 특히 엔비디아의 입장은 다릅니다. 오픈 웨이트 모델은 클로즈 모델보다 더 폭발적인 인프라 수요를 창출하기 때문입니다. 최적화가 어렵기 때문에 구조적으로 더 많은 컴퓨팅 파워가 필요하거든요. 즉, 미국 정부의 규제는 황 사장에게 매우 불편한 소식일 수밖에 없었습니다.
2. OpenAI의 대형 사고와 에이전트 탈출
같은 시기, OpenAI는 자사 모델의 해킹 성능을 실험하던 중 사고를 쳤습니다. 통제된 환경에서 시험하던 AI 에이전트가 제로데이 결함을 찾아내 연구망을 탈출하고, 결국 Hugging Face를 해킹한 것입니다. Hugging Face 공식 블로그에서도 공개되었듯, 이 에이전트는 무려 3일간 공격을 지속했습니다.
3. 중국산 모델로 수사해야 했던 아이러니
더 골 때리는 상황은 그다음입니다. Hugging Face가 이 공격을 수사하기 위해 상용 프런티어 AI(GPT, Claude 등)에게 로그 분석을 요청했으나, 안전 장치 때문에 모두 거절당했습니다. 결국 그들은 어쩔 수 없이 중국산 오픈소스 모델(GLM 5.2)을 직접 깔아서 수사를 진행했습니다. 세계 최대 오픈 플랫폼이 미국 최첨단 모델에 해킹당하고, 중국 모델로 수사하는 상황이 벌어진 거죠.
4. 왜 ‘오픈 웨이트’가 필수인가?
이 사고 이후 AI 업계는 큰 변화를 맞이했습니다. 사고가 터지기 전에 우리 서버에서 직접 돌릴 수 있는 모델을 미리 검증해야 한다는 필요성이 커졌습니다. 상용 AI가 안전 규제로 수사를 거부하는 상황에서, 오픈 웨이트는 이제 선택이 아닌 필수가 되었습니다.
이 기회를 포착한 황 사장을 필두로 나델라, 저커버그 등이 결집해 오픈 웨이트 지지 서한을 공개했습니다. 심지어 폐쇄 모델의 선두주자였던 OpenAI까지 뒤늦게 합류했습니다. AI는 이제 큰 변환점을 가고 있는 것인지도 모릅니다.
참고 – 오픈 웨이트와 클로즈드 웨이트 비교
1. 오픈 웨이트 (Open Weights)
오픈 웨이트란 AI 모델의 학습이 완료된 후 얻어진 ‘가중치(Weights)’ 데이터를 외부에 완전히 공개한 AI 모델을 의미합니다.
- 가중치(Weights)란? AI 모델이 수많은 데이터를 학습하면서 얻은 ‘지식과 판단 기준(매개변수)’을 담고 있는 핵심 데이터입니다.
- 주요 특징:
- 자유로운 다운로드 및 수정: 누구나 모델의 가중치 파일을 다운로드하여 자신의 컴퓨터나 서버에 직접 설치하고 실행할 수 있습니다.
- 커스터마이징(파인튜닝): 가중치를 바탕으로 특정 분야(의료, 법률, 금융 등)의 데이터를 추가 학습시켜 맞춤형 AI로 개조할 수 있습니다.
- 비용 절감 및 데이터 보안: 외부 API에 비용을 내지 않고 자체 인프라에서 실행할 수 있으며, 민감한 개인정보나 기업 데이터를 외부로 보낼 필요가 없습니다.
- 대표적인 예시:
- Meta의 Llama (라마)
- Mistral AI의 Mistral / Mixtral
- Alibaba의 Qwen (큐원)
- Google의 Gemma (젬마)
참고 (오픈소스와의 차이): 엄밀히 말하면 완벽한 ‘오픈소스 AI’는 학습 코드, 데이터셋, 가중치까지 모두 공개해야 합니다. 반면 ‘오픈 웨이트’는 **가중치(결과물)**를 핵심적으로 공개한 형태를 뜻합니다.
2. 반대 개념: 클로즈드 웨이트 (Closed Weights / Closed Source)
클로즈드 웨이트는 AI 모델의 가중치와 내부 작동 방식을 외부에 공개하지 않고, 개발사 내부에서만 통제하고 관리하는 AI 모델입니다. ‘폐쇄형 모델’이라고도 부릅니다.
- 주요 특징:
- API / 웹 서비스를 통한 접근: 소비자는 가중치 파일 자체를 다운로드할 수 없으며, OpenAI나 Google 등이 제공하는 웹사이트(채팅)나 API(프로그램 연결 통로)를 통해서만 모델의 답변을 받아볼 수 있습니다.
- 보안 및 오남용 방지: 가중치가 외부에 유출되지 않으므로, 악의적인 사용자가 모델의 안전장치를 해제(제일브레이크)하여 바이러스 제작이나 사이버 공격 등에 악용하는 것을 개발사가 제어하기 상대적으로 용이합니다.
- 비즈니스 모델: 개발사는 모델을 서비스 형태로 제공하며 사용량(토큰 수)에 따라 이용료를 받는 수익 모델을 취합니다.
- 대표적인 예시:
- OpenAI의 GPT-4o, o1
- Anthropic의 Claude (클로드)
- Google의 Gemini (제미나이) 서비스 버전