Meta Llama 4 풀려서 직접 돌려봤다, 솔직히 GPT-5 위협하긴 어려울 듯

새벽 3시쯤 Llama 4 가중치가 Hugging Face에 풀린 거 알림 떠서 바로 받았어요. 메타가 이번엔 Behemoth라는 2조 파라미터 모델까지 풀었다는데, 솔직히 받자마자 RTX 4090으로 돌려보려고 했더니 어림도 없더라고요.

결국 클라우드 빌려서 8B랑 70B 두 개만 비교해봤어요.

이번에 풀린 라인업

Llama 4는 총 네 가지 사이즈에요. Scout 8B, Maverick 70B, Behemoth 400B, 그리고 비공개로 학습 중인 2조 짜리. 마지막 거는 가중치 공개 안 되고 API로만 쓸 수 있다고 합니다.

중요한 거는 컨텍스트 윈도우가 1000만 토큰까지 늘어났다는 거에요. 책 한 권 통째로 넣고 질문 가능한 수준.

8B 모델 한국어 테스트

한국어로 "오늘 점심 뭐 먹지" 같은 일상 대화부터 "양자역학 입문 강의 자료 만들어줘"까지 시켜봤어요. 일상 대화는 진짜 어색해요. 번역기 돌린 듯한 문장이 자주 나오고요. 학습 자료 만드는 거는 영어로 시키면 훨씬 잘하더라고요.

근데 추론 속도는 미쳤어요. RTX 4090 한 장에서 초당 80토큰 정도 나옵니다.

70B는 좀 다른 차원

70B로 가니까 한국어가 갑자기 자연스러워져요. GPT-4o 수준은 아닌데 Claude Sonnet 정도는 따라잡은 느낌. 코딩 시켜보면 파이썬은 거의 동급, 자바스크립트는 미세하게 떨어져요.

근데 70B 돌리려면 A100 80GB 한 장은 있어야 해서, 개인이 집에서 돌리긴 무리에요.

진짜 충격적인 부분

메타가 이걸 다 오픈소스로 풀었다는 거에요. 상업적 사용까지 무료. OpenAI는 GPT-5를 끝까지 클로즈드로 가져가고 있는데, 메타는 정반대로 다 풀고 있어요.

참고로 저커버그가 X에 "Open source AI is the path forward"라고 또 못 박았어요. 진심으로 보입니다.

그래서 GPT-5 위협이냐

솔직히 아직 멀었어요. 벤치마크 수치는 비슷한데 실제 써보면 디테일에서 차이가 나거든요. 특히 한국어 같은 비영어권 언어에서.

근데 무료라는 게 너무 강력해요. 한국 스타트업들 입장에선 Llama 4 70B 파인튜닝해서 자체 서비스 만드는 게 진짜 매력적입니다. 다음 편에선 Llama 4 한국어 파인튜닝 따라하기 다뤄볼 테니까 관심 있으면 댓글 남겨주세요.