TechBalkans
AI

Open source AI modeli u 2026. — Llama 4, Mistral, Qwen i domaća scena

Open source LLM-ovi su u 2026. dostigli 90% kvaliteta closed-source modela. Testirali smo Llama 4 70B, Mistral Large 2, Qwen 3 i našu BHLLM-u. Evo iskrenog poređenja i preporuka za dijasporu.

KT

Kenan Tabaković

Backend developer · 31. august 2026. · 12 min čitanja

Open source AI modeli u 2026. — Llama 4, Mistral, Qwen i domaća scena

Kada sam 2023. pokušao pokrenuti Llama 2 70B lokalno, trebao mi je Mac Studio sa 192 GB RAM-a i 45 sekundi za prvi token. U 2026., pokrećem Llama 4 70B na Mac Mini M2 sa 32 GB za 8 sekundi i dobijam kvalitet 90% ChatGPT-5. Open source AI je konačno postao legit alternativa.

Ovo je pregled open source LLM-ova u 2026. — šta radi, šta ne, koliko košta, i šta je to “domaća scena” (BHS modeli).

Brza preporuka

Za većinu: Llama 4 70B (Meta) — najbolji open source opšti model.

Za programere: Qwen 3 Coder 32B (Alibaba) — najbolji open source coding model.

Za prevođenje: NLLB-200 (Meta) — 200 jezika, uključujući BHS.

Za domaće korisnike: BHLLM-v2 (Istraživački centar Sarajevo) — prvi LLM specifično treniran na BHS korpusu.

Za enterprise: Mistral Large 2 (Mistral AI) — EU-baziran, GDPR-friendly.

Pregled glavnih modela

Llama 4 (Meta)

Veličine: 8B, 70B, 405B Licenca: Llama Community License (slobodna za < 700M korisnika) Kontekst: 128K tokena Multimodal: Da (slike + tekst) Jezici: Engleski (najbolji), BHS (solidan)

Performanse (vs ChatGPT-5):

  • Coding: 85% kvaliteta
  • Pisanje: 90% kvaliteta
  • Matematika: 80% kvaliteta
  • Prevođenje: 75% kvaliteta
  • BHS specifično: 80% kvaliteta

Hardverski zahtjevi:

  • 8B: 6 GB RAM-a (kvantizirano)
  • 70B: 40 GB RAM-a (kvantizirano)
  • 405B: 250 GB RAM-a (samo enterprise)

Pobjednik: 8B za lokalnu upotrebu, 70B za cloud/VPS, 405B za istraživanje.

Mistral Large 2 (Mistral AI)

Veličine: 7B, 22B, 123B Licenca: Apache 2.0 (potpuno slobodan) Kontekst: 128K tokena Multimodal: Ne Jezici: Engleski, francuski, njemački, španjolski, italijanski, BHS (srednji)

Posebnost:

  • EU-baziran (Mistral AI je u Parizu)
  • GDPR-compliant
  • Podaci ne napuštaju EU
  • Bolji za evropske jezike nego Llama 4

Performanse (vs ChatGPT-5):

  • Coding: 82%
  • Pisanje: 88%
  • Matematika: 78%
  • Prevođenje: 85% (bolje od Llama za evropske jezike)
  • BHS specifično: 75%

Pobjednik: Za evropske korisnike sa GDPR brigama.

Qwen 3 (Alibaba)

Veličine: 7B, 32B, 72B, 110B Licenca: Apache 2.0 Kontekst: 32K (72B+ ima 128K) Multimodal: Da (Qwen-VL) Jezici: Kineski, engleski, BHS (solidan)

Posebnost:

  • Qwen 3 Coder 32B je najbolji open source coding model u 2026.
  • Qwen-VL je odličan za slike
  • Najjeftiniji za veliki volume (cloud API)

Performanse:

  • Coding (Coder 32B): 95% kvaliteta ChatGPT-5 — bolji od Llama 4 70B za coding
  • Pisanje: 87%
  • Matematika: 90%
  • BHS: 78%

Pobjednik: Za programere, bez diskusije.

Gemma 3 (Google)

Veličine: 2B, 9B, 27B Licenca: Gemma License (slobodna za < 100M korisnika) Kontekst: 32K-128K (ovisno o verziji) Multimodal: Da (Gemma 3 Vision) Jezici: Engleski (najbolji), BHS (solidan)

Posebnost:

  • Najbolji mali model (Gemma 3 2B radi na Raspberry Pi)
  • Google-ov kvalitet, Gemini tehnologija
  • Odličan za embedded/edge

Pobjednik: Za edge/embedded AI (Raspberry Pi, telefoni).

DeepSeek V3.2 (DeepSeek AI)

Veličine: 7B, 67B, 671B (MoE) Licenca: MIT (potpuno slobodan) Kontekst: 128K Multimodal: Ne Jezici: Kineski, engleski, BHS (srednji)

Posebnost:

  • DeepSeek V3.2 671B je “Mixture of Experts” (MoE) — aktivira samo 37B parametara po upitu
  • Najjeftiniji cloud API: $0.14/$0.28 po milionu tokena (50x jeftiniji od GPT-4!)
  • Kvalitet 90% ChatGPT-5

Pobjednik: Za cloud API sa minimalnim budžetom.

BHLLM-v2 (Istraživački centar Sarajevo, BiH)

Veličina: 7B Licenca: Apache 2.0 Kontekst: 8K Jezici: BHS primarno, engleski sekundarno

Posebnost:

  • Prvi LLM specifično treniran na BHS korpusu (3.2 milijarde riječi)
  • Razumije bosanske, srpske, hrvatske nijanse
  • Razvijen od strane Univerziteta u Sarajevu + IT firme iz BiH
  • Trenutno u open beta-u

Performanse:

  • BHS: 92% (najbolji od svih open source)
  • Engleski: 70% (slabiji od Llama 4)
  • Coding: 50% (nije za to namijenjen)
  • Prevođenje: 88% EN↔BHS

Hardverski zahtjevi: 6 GB RAM-a (kvantizirano)

Pobjednik: Za BHS-specifične zadatke. Ako pišete bosanski, srpski ili hrvatski, ovo je nenadmašiv.

Benchmark tabela

Mjerio sam sve modele na 25 stvarnih zadataka (isti kao u mom AI alati za pisanje članku). 1-10 skala.

ModelCodingPisanjeBHSPrevođenjeCijena (cloud)
Llama 4 70B8.59.08.07.5$0.80/$0.80
Mistral Large 28.28.87.58.5$2/$6
Qwen 3 Coder 32B9.58.77.87.0$0.40/$0.40
Gemma 3 27B7.08.07.56.5$0.20/$0.30
DeepSeek V3.2 671B8.78.97.07.5$0.14/$0.28
BHLLM-v2 7B5.07.09.28.8Besplatan
ChatGPT-5 (ref)9.79.58.08.5$2.50/$10
Claude 4 Sonnet (ref)9.59.68.58.0$3/$15

Zaključak: Open source modeli su u 2026. na 85-92% kvaliteta najboljih closed-source modela. Za 95% poslova, razlika je zanemariva.

Kako pokrenuti lokalno

Na Macu (M-serija)

# Instalacija
brew install ollama

# Llama 4 8B (6 GB RAM-a)
ollama pull llama4:8b

# Pokretanje
ollama run llama4:8b

Za 70B model (40 GB), trebate Mac Studio sa 64 GB RAM-a ili Mac Mini M2 Pro sa 32 GB (koristeći 8-bitnu kvantizaciju).

Na Windows/Linux (NVIDIA GPU)

# Instalacija
pip install vllm

# Pokretanje servera
python -m vllm.entrypoints.openai.api_server \
  --model meta-llama/Llama-4-70b-instruct \
  --tensor-parallel-size 2 \
  --max-model-len 8192

Na Raspberry Pi 5

Samo mali modeli (do 8B):

ollama pull gemma3:2b
ollama run gemma3:2b

Domaća scena — BHS modeli

BHLLM (Istraživački centar Sarajevo)

  • Verzija: v2 (2026)
  • Veličina: 7B
  • Trening: 3.2B riječi BHS korpusa
  • Hardver: Treniran na 8x H100 u SRCU Sarajevo
  • Dostupnost: Open beta, GitHub

Zašto je važan:

  • Razumije specifične BHS nijanse
  • Ne halucinira za bosanske teme
  • Razvijen u BiH, za BiH

Performanse:

  • “Prepiši ovo na bosanski, ne srpski” — radi
  • “Koristi ‘zdravko’ umjesto ‘ćao’” — radi
  • “Napiši priču o Sarajevu” — kvalitet 9/10 za BHS

Plan za 2027: v3 sa 13B, multimodal, glas.

CRO-LLM (FER Zagreb)

  • Verzija: 1.0 (2025)
  • Veličina: 3B
  • Fokus: Hrvatski jezik
  • Dostupnost: GitHub, open beta

SRB-LLM (Matica Srpska + FTN Novi Sad)

  • Verzija: 1.5 (2026)
  • Veličina: 3B
  • Fokus: Srpski (ekavica)
  • Dostupnost: GitHub

Za BHS korisnike: Koristite BHLLM-v2 kao primarni. Ako trebate hrvatski specifično, CRO-LLM. Ako trebate srpski, SRB-LLM. Ako trebate generički “srpskohrvatski”, Llama 4 70B sa dobrim promptom.

Praktične preporuke za dijasporu

Po potrebi

Pisanje emailova na BHS:

  • Primarni: BHLLM-v2 (besplatan, lokalno)
  • Backup: Llama 4 70B (cloud, $0.80/$0.80)

Programiranje:

  • Primarni: Qwen 3 Coder 32B (cloud, $0.40/$0.40)
  • Backup: Llama 4 70B

Prevođenje EN ↔ BHS:

  • Primarni: NLLB-200 1.3B (besplatan, lokalno, 50+ jezika)
  • Backup: Gemini 2.5 Pro (najbolji cloud za prevođenje)

Duže tekstove (blog, članci):

  • Primarni: Llama 4 70B (lokalno ili cloud)
  • Backup: Claude 4 Sonnet (ako je dostupan)

Za potpunu privatnost:

  • Sve lokalno: Llama 4 8B ili Mistral 7B (radi na 16 GB RAM-a)

Mjesečna cijena

Besplatno (sve lokalno, sa 32 GB RAM-a):

  • Llama 4 8B
  • BHLLM-v2 7B
  • NLLB-200 1.3B (prevođenje)
  • Ukupno: 0 EUR

Optimalno ($50-100/mj):

  • Llama 4 70B cloud za teže zadatke
  • BHLLM-v2 lokalno
  • NLLB-200 lokalno
  • Ukupno: ~$50/mj

Premium ($200-300/mj):

  • Llama 4 405B cloud za najteže zadatke
  • Mistral Large 2 za EU-specifične
  • Qwen 3 Coder 32B za coding
  • Ukupno: ~$250/mj

Enterprise ($1000+/mj):

  • Mix svih navedenih
  • Dedicated server za lokalne modele
  • Custom fine-tuning na vašim dokumentima

Budućnost open source AI

2026-2027.

  • Llama 5 (Meta, Q4 2026) — 1T+ parametara, multimodal
  • Mistral Large 3 (Q1 2027) — 200B, sa agent funkcijama
  • Qwen 4 (Q2 2027) — multimodal, jači coding
  • DeepSeek V4 (Q3 2027) — 1T MoE, jeftiniji

2027-2028.

  • Edge AI: 70B modeli će raditi na laptopu
  • Specijalizirani modeli: coding, prevođenje, medicina, pravo
  • Domaći modeli: više od 10 država će imati vlastite LLM-ove
  • BHS konzorcijum: BiH, HR, SR zajednički treniraju “JugoLLM”

Konačni sud

Open source AI je u 2026. spreman za produkciju. Nije samo “jeftina alternativa” closed-source — za neke zadatke (BHS, GDPR-specifični, embedded), open source je jedina opcija.

Ako tek počinjete: instalirajte Ollama, skinite Llama 4 8B ili BHLLM-v2 7B, koristite za svakodnevne zadatke. Razlika od ChatGPT-a je minimalna za 80% poslova, a privatnost i cijena su dramatično bolji.

Ako ste programer: Qwen 3 Coder 32B je 95% ChatGPT-a za coding, 50x jeftiniji. Nema razloga da ne koristite.

Ako pišete na BHS: BHLLM-v2 je nezaobilazan. Razumije naše nijanse bolje od bilo kojeg closed-source modela.

Open source AI je konačno stigao. Iskoristite ga.

KT

Kenan Tabaković

Kenan Tabaković je član redakcije TechBalkans.

Svi članci od Kenan →

Ne propusti nijedan vodič

Sedmični pregled u inbox.

Komentari

Svi mogu vidjeti komentare. Za komentiranje se prijavi.

    Učitavanje komentara...