Meta의 새로운 AI 모델, Llama 4 발표
최근 Meta는 자사의 새로운 AI 모델 컬렉션인 Llama 4를 발표했습니다. 이 컬렉션에는 웹과 WhatsApp, Messenger, Instagram에서 사용되는 Meta AI 어시스턴트를 구동하는 두 가지 새로운 모델, Llama 4 Scout와 Llama 4 Maverick이 포함되어 있습니다. Llama 4 Scout는 "단일 Nvidia H100 GPU에 맞는" 작은 모델로 설계되었으며, Llama 4 Maverick은 GPT-4o 및 Gemini 2.0 Flash와 유사한 더 큰 모델입니다. Meta는 현재 세계에서 가장 높은 성능을 자랑하는 베이스 모델이라고 주장하는 Llama 4 Behemoth의 훈련 과정에 있으며, 아직 출시되지 않았습니다.
Llama 4의 기술적 특징과 성능
Llama 4 Scout는 1천만 토큰의 컨텍스트 윈도우를 가지고 있으며, Google의 Gemma 3, Gemini 2.0 Flash-Lite 모델, 그리고 오픈 소스 Mistral 3.1을 포함한 다양한 벤치마크에서 우수한 성능을 보여줍니다. 이 모델은 여전히 단일 Nvidia H100 GPU에 맞출 수 있음에도 불구하고 탁월한 성능을 자랑합니다. 한편, Llama 4 Maverick은 OpenAI의 GPT-4o, Google의 Gemini 2.0 Flash와 비교하여 유사한 결과를 보여주며, 코딩 및 추론 작업에서 DeepSeek-V3와 비슷한 성능을 "절반 이하의 활성 파라미터"를 사용하여 달성합니다.
Llama 4 Behemoth는 총 2조 개의 파라미터 중 2880억 개의 활성 파라미터를 가지고 있으며, 출시되지 않았지만 GPT-4.5 및 Claude Sonnet 3.7과 같은 경쟁 모델들을 여러 STEM 벤치마크에서 능가할 것이라고 Meta는 주장합니다. Llama 4에서 Meta는 특정 작업에 필요한 모델 부분만 사용하는 자원 절약 방식인 '전문가의 혼합'(MoE) 아키텍처로 전환했습니다.
라이센스 제한과 오픈 소스 논란
Meta는 과거 모델들과 마찬가지로 Llama 4 컬렉션을 '오픈 소스'라고 칭하지만, Llama의 라이선스 제한에 대해 비판이 있었습니다. 예를 들어, Llama 4 라이센스는 월간 활성 사용자가 7억 명 이상인 상업적 기업들이 모델을 사용하기 전에 Meta로부터 허가를 받도록 요구합니다. 이러한 제한은 Open Source Initiative가 2023년에 '오픈 소스' 범주에서 벗어났다고 지적한 바 있습니다.
결론 및 개인적 의견
Meta의 Llama 4 AI 모델 출시는 기술적 진보와 함께 몇 가지 논쟁적인 이슈를 제기합니다. 기술적으로는 AI 분야에서 뛰어난 성과를 보여주는 것으로 평가받지만, '오픈 소스'라는 용어의 사용과 관련된 라이센스 제한은 커뮤니티 내에서의 투명성과 협력에 잠재적인 장애물이 될 수 있습니다. 이러한 복합적인 상황은 기술 발전과 윤리적 기준 사이에서 균형을 찾는 것이 중요하다는 것을 다시 한번 강조합니다. 개인적으로는 Meta가 더욱 개방적이고 협력적인 접근 방식을 택하여 AI 기술의 민주화에 기여하길 바랍니다.
