7 kisméretű modell Raspberry Pi-re, amit azonnal kipróbálhatsz

A hardverek fejlődése és a szoftveres optimalizáció lehetővé tette, hogy komoly számítási kapacitást igénylő algoritmusok fussanak egy tenyérnyi számítógépen. A kisméretű modellek Raspberry Pi-re optimalizált változatai ma már meglepő teljesítményt nyújtanak. Ebben a cikkben bemutatjuk a hét legjobb, 2025 végén elérhető megoldást, és megmutatjuk, hogyan indíthatja el őket.

A listában szereplő eszközök futtatásához a llama.cpp keretrendszert használjuk. Ez a szoftver teszi lehetővé, hogy a több milliárd paraméteres rendszerek elfussanak a Pi korlátozott memóriájában.

Előkészületek és telepítés

Mielőtt kiválasztaná a modellt, készítse elő a környezetet. A Raspberry Pi 5 (8GB RAM) ajánlott, de a 4-es verzióval is működnek a kisebb változatok.

Nyisson egy terminált, és frissítse a rendszert:

sudo apt update && sudo apt upgrade -y
sudo apt install git build-essential cmake

Töltse le és fordítsa le a futtatókörnyezetet:

git clone https://github.com/ggerganov/llama.cpp
cd llama.cpp
make

Most már rendelkezik a llama-cli eszközzel, amellyel bármelyik GGUF formátumú modellt betöltheti.

1. Qwen3 4B: A teljesítménykirály

A Qwen sorozat harmadik generációja kiemelkedő a kódolásban és a logikai feladatokban. A 4 milliárd paraméteres változat (Qwen3-4B-Instruct) mérete ellenére versenyre kel a nagyobb rendszerekkel.

Miért válassza:

• Kiváló matematikai és programozási képességek.
• Támogatja a hosszú, akár 256 ezer karakteres kontextust.
• Ideális chat-asszisztensnek.

Futtatás:
Töltse le a modellt a Hugging Face-ről (keressen a Qwen3-4B-Instruct-GGUF kifejezésre), majd indítsa el:

./llama-cli -m models/qwen3-4b-Q4_K_M.gguf -p "Írj egy Python scriptet, ami kiírja a Fibonacci sorozatot!" -n 512

2. Qwen3 VL 4B: Ha látni is kell

Ez a változat nemcsak szöveget, hanem képeket is értelmez. A „Vision-Language” (VL) képesség lehetővé teszi, hogy a Pi kamerájának képét elemezze valós időben.

Felhasználási tipp:

• Biztonsági kamera elemzése.
• Robotikai projektek, ahol a gépnek „látnia” kell az akadályokat.
• Képek feliratozása automatikusan.

A futtatáshoz a llama-llava-cli parancsot kell használnia a képfájl megadásával.

3. EXAONE 4.0 1.2B: A sebességbajnok

Ha a memóriája szűkös, vagy régebbi hardvere van, ez a legjobb választás. Mindössze 1,2 milliárd paraméterrel rendelkezik, így rendkívül gyors és kevés áramot fogyaszt.

Előnyök:

• Két módja van: gyors válaszadás vagy mélyebb gondolkodás.
• Akár 64 ezer tokent is képes megjegyezni.
• Kiválóan alkalmas egyszerűbb vezérlési feladatokra.

./llama-cli -m models/exaone-4.0-1.2b-Q4_K_M.gguf -p "Magyarázd el röviden a kvantumfizikát!"

4. Ministral 3B: Az edge computing specialistája

A Mistral család legkisebb tagja (Ministral-3-3B) kifejezetten beágyazott rendszerekhez készült. Különlegessége, hogy natívan támogatja a strukturált kimeneteket (például JSON), ami elengedhetetlen az automatizáláshoz.

Mikor használja:

• Ha a válasznak gépileg olvashatónak kell lennie.
• Okosotthon vezérléshez, ahol parancsokat kell értelmezni.

5. Jamba Reasoning 3B: Hibrid építészet

Ez a modell egy technológiai különlegesség. A hagyományos Transformer és az új Mamba architektúra ötvözete. Ez a felépítés drasztikusan csökkenti a memóriahasználatot hosszú szövegek feldolgozásakor.

Jellemzők:

• Gyorsabb, mint a hagyományos modellek hosszú dokumentumoknál.
• Képes komplex összefüggéseket átlátni.
• Hatékonyan fut laptopokon és mobil eszközökön is.

6. Granite 4.0 Micro: A megbízható üzleti társ

Az IBM fejlesztése a biztonságra és a megbízhatóságra helyezi a hangsúlyt. A „Micro” változatot vállalati környezetre optimalizálták, így kevésbé hajlamos a „hallucinációra” vagyis a valótlan állításokra.

Erőssége:

• Hivatalos, tiszta hangnem.
• Kiválóan követi az utasításokat.
• Alkalmas belső tudásbázisok kezelésére offline módban.

7. Phi-4 Mini: A Microsoft logikai motorja

A Phi sorozat negyedik generációja a „textbook quality” (tankönyvi minőségű) adatokon tanult. Ez a 3,8 milliárdos modell meglepően erős a logikai levezetésekben és a következtetésekben.

Próbáld ki így:

./llama-cli -m models/phi-4-mini-Q4_K_M.gguf -p "Oldd meg: Ha van 3 almám, és megeszek egyet, de kapok még kettőt, mennyi marad?"

Ez a modell gyakran jobban teljesít a matematikai példákban, mint a nála kétszer nagyobb társai.

Melyiket válaszd?

A kisméretű modellek Raspberry Pi-re történő kiválasztása a céltól függ:

• Ha programozni szeretnél vele: Qwen3 4B.
• Ha a sebesség a legfontosabb: EXAONE 1.2B.
• Ha logikai feladványokat kell megoldani: Phi-4 Mini.
• Ha képeket is elemeznél: Qwen3 VL.

A fenti lista bizonyítja, hogy ma már nem kell felhőszerver a modern technológiák használatához. Egy Raspberry Pi és a megfelelő szoftver elegendő egy saját, privát digitális asszisztens futtatásához.