Meta Merilis Llama 3.3: Model Open-Source dengan Performa Setara GPT-4

Llama 3.3 70B: Efisiensi Baru dalam Open-Source LLM

Meta AI resmi merilis Llama 3.3 70B pada Desember 2024, menandai kemajuan signifikan dalam ekosistem model bahasa open-source. Model ini menawarkan performa yang mendekati Llama 3.1 405B pada berbagai benchmark seperti MMLU, HumanEval, dan MATH, namun dengan ukuran parameter yang jauh lebih kecil.

Fitur Utama

• Ukuran: 70 miliar parameter
• Context length: 128K token
• Multilingual: 8 bahasa termasuk Bahasa Indonesia (terbatas)
• Lisensi: Llama Community License (komersial diperbolehkan hingga 700M MAU)

Cara Menjalankan

Menggunakan Ollama, developer dapat menjalankan Llama 3.3 secara lokal:

ollama run llama3.3

Model ini memerlukan setidaknya 40GB VRAM untuk inference full precision, namun kuantisasi 4-bit memungkinkan berjalan pada GPU consumer seperti RTX 4090.

Dampak pada Ekosistem

Llama 3.3 memperkuat posisi Meta di ranah open-weight models, bersaing dengan Qwen 2.5 dari Alibaba dan DeepSeek V3. Startup dan perusahaan kini memiliki alternatif kredibel terhadap API tertutup seperti GPT-4o dan Claude Sonnet.