A Mistral AI 2026. október 29-én elérhetővé tette a Mistral Large 4 javított változatának súlyait. A legtöbb KKV-nak először API-n érdemes kipróbálnia a modellt. Saját infrastruktúra akkor indokolt, ha az adatkezelési vagy működési követelmények ezt megkívánják, és a cég vállalni tudja a több GPU-ból álló környezet üzemeltetését.
A modell európai tanítása fontos beszerzési szempont lehet, de nem dönti el az adatok feldolgozási helyét. Azt a választott API, cloud-régió vagy saját telepítés határozza meg. A magyar nyelv támogatása gyártói állítás, ezért a döntéshez magyar dokumentumokon és szakkifejezéseken végzett pilot kell.
Miben változtatja meg a választást a letölthető modell?
A Mistral bejelentése szerint a hónap eleji nyilvános előzetes után a továbbfejlesztett modell súlyai is letölthetővé váltak. A multimodális Mistral Large 4 szöveget és képet fogad, szöveget állít elő, és kódolási, kiberbiztonsági, valamint agentic munkafolyamatokra készült.
A Hugging Face műszaki összefoglalója mintegy 1 billió teljes és tokenenként 49 milliárd aktív paramétert, valamint 1 millió tokenes kontextusablakot közöl. A Microsoft 52 milliárd aktív paramétert ír; az NVIDIA szerint ez a szám az embeddingeket és a kimeneti rétegeket is tartalmazza. A Mixture-of-Experts architektúra 128 expertből tokenenként 4-et választ ki, mellettük egy shared expert mindig fut.
A Mistral Ecosystem Open-Weight licenc engedi a használatot, a módosítást, a finomhangolást és az általános kereskedelmi alkalmazást. A Model-as-a-Service szolgáltatást üzemeltető vállalkozásokra külön feltétel vonatkozik: nekik kereskedelmi licencet kell kérniük a Mistraltól. Ilyen üzleti modellnél a fejlesztés előtt írásban tisztázd a feltételeket.
A technológiai önállóság három külön döntésből áll
Az európai tanítás csak a modell eredetére ad választ. Egy vállalati beszerzésben további két kérdést is rendezni kell.
- Hol készült a modell? A Mistral közlése szerint a modellt a nulláról, európai adatközpontokban, 3 800 NVIDIA Grace Blackwell GPU-n tanították.
- Hol dolgozzák fel az adatokat? Ezt a választott szolgáltatás, régió és szerződés határozza meg. A Mistral API, a Microsoft Foundry és a saját telepítés eltérő feldolgozási láncot jelent.
- Ki üzemelteti a rendszert? Saját infrastruktúrán te szabályozod a modellverziót, a hálózati hozzáférést, a naplózást és a frissítést. Az üzemeltetés felelőssége és a tartalék kapacitás biztosítása is rád hárul.
A Microsoft 2026. október 29-i közlése a Foundry nyilvános előzetesét a következő napokra ígérte, tehát ez az út a bejelentés napján még nem volt elérhető. A tervezett régió Sweden Central, Global Standard és EU DataZone telepítési lehetőséggel.
Egy pénzügyi, állami vagy ipari szervezetnek ettől még külön kell dokumentálnia a kiválasztott régiót, az adattovábbítás útját, az adminisztrátori hozzáférést és a naplók helyét. A modell európai eredete ezeket a döntéseket nem helyettesíti.
Melyik futtatási mód illik a helyzetedhez?
| Helyzet | Mit tegyél? | Mi indokolja? |
|---|---|---|
| Nincs saját GPU-infrastruktúrád vagy MLOps-csapatod | Indíts szűk pilotot a Mistral API-val | Infrastruktúra-beszerzés nélkül mérheted meg a minőséget, a válaszidőt és a tényleges tokenfelhasználást. |
| Azure-ra épül a vállalati környezeted | Készítsd elő az eval-készletet, majd teszteld a Foundry előzetesét, amikor elérhetővé válik | A Microsoft közös identitás-, hálózati, naplózási és irányítási réteget tervez, de a hozzáférés a bejelentéskor még függőben volt. |
| Az adatoknak a saját környezetedben kell maradniuk, és van üzemeltetési kapacitásod | Mérd fel a saját futtatás feltételeit | A letölthető súlyok lehetővé teszik a helyi telepítést, az üzemi kiszolgálás közzétett konfigurációihoz azonban több nagy teljesítményű GPU kell. |
| Model-as-a-Service szolgáltatást értékesítenél | Kérj írásos licencfeltételeket a fejlesztés előtt | Erre a felhasználásra külön kereskedelmi licenc vonatkozik. |
| Magyar dokumentumokat, ügyfélüzeneteket vagy szakkifejezéseket dolgoznál fel | Hasonlítsd össze a jelenlegi modellel ugyanazon az anonimizált eval-készleten | A gyártó szerint a modell minden hivatalos uniós nyelvet támogat, magyar nyelvű benchmarkot azonban nem tett közzé. |
Ha még a cloud és az on-premise közötti alapdöntést sem hoztad meg, az on-premise és felhő alapú AI összehasonlítása segít külön kezelni az adatvédelmi, költség- és üzemeltetési szempontokat.
Az üzemi kiszolgáláshoz több nagy teljesítményű GPU kell
A letölthető súlyok önmagukban nem teszik egyszerűvé az üzemi kiszolgálást. A Hugging Face kész Inference Endpoints-konfigurációja 8 NVIDIA H200 GPU-n, FP8 súlyokkal fut. A konfiguráció legfeljebb 131 000 tokenes kontextust és egyszerre legfeljebb 16 kérést kezel. Az NVFP4 checkpoint vLLM alatt NVIDIA Blackwell GPU-t igényel.
A 2 bites quant elfut egy 512 GB egyesített memóriájú Apple Silicon Ultra gépen. A Hugging Face Q2_K beállítással, M3 Ultrán körülbelül 15 token/másodperces generálási sebességet figyelt meg. A többi felsorolt quant elosztott kiszolgálást igényel. A mérések eltérő hardveren, eltérő quantization mellett és más terheléssel készültek, ezért a számok közvetlenül nem vethetők össze. Többfelhasználós rendszerhez saját kapacitásteszt kell.
Az NVIDIA modellkártyája a GB200 és GB300 hardvert nevezi meg támogatott platformként. Saját telepítés előtt külön árajánlat kell a GPU-kapacitásra, a tartalék rendszerre, a monitorozásra és a modellfrissítések kezelésére.
A reasoning low, medium és high szinten állítható. A high az alapértelmezés, teljes kikapcsolásra nincs lehetőség. Ez hatással lehet a válaszidőre és a tokenfelhasználásra, ezért a pilotban minden használni kívánt szintet külön mérj meg.
Az API, a menedzselt cloud és a saját futtatás összevetéséhez használd a vállalati AI-platformok kiválasztási szempontjait. Vállalati AI-platformok
Az API-val kisebb vállalás mellett mérheted meg a modellt
A Mistral 2026. október 29-i API-listaára a következő:
| Tétel | Listaár millió tokenenként |
|---|---|
| Bemenet | 0,70 dollár |
| Cache-ből olvasott bemenet | 0,07 dollár |
| Kimenet | 2,10 dollár |
A kimenet listaára a bemenet háromszorosa. A cache-ből olvasott bemenet 90 százalékkal olcsóbb a normál bemenetnél. Ez hosszú dokumentumoknál és ismétlődő rendszerpromptoknál számottevő különbséget jelenthet.
A beszerzési döntést ne az egy kérésre jutó ár alapján hozd meg. Külön mérd a sikeresen befejezett feladat költségét, a válaszidőt, az újrapróbálkozásokat, a hibás eszközhívásokat és az emberi javítást. Alacsony tokenár mellett is drága lehet a munkafolyamat, ha sok választ javítani vagy újrakérni kell.
A közzétett benchmarkok nem döntik el a magyar nyelvű bevezetést
A Mistral a legerősebb open-weight kódolási modellként mutatja be a Large 4-et. A gyártó 48 százalékos Coding Agent Index eredményt közöl, amely szerinte a GLM-5.3-mal azonos szint, miközben a modell feladatonként átlagosan 47 százalékkal kevesebb tokent használ. A Hugging Face ugyanarra az indexre 49,8 százalékot ír. A Cognition privát FrontierCode 2.0 benchmarkján közölt eredmény 19,7 százalék.
A Terminal-Bench 4.0 esetében a Mistral az előzetes változatra 28, a kiadott modellre 41 százalékot közöl. A B3 agent security benchmarkon az előzetes változat a támadások 93,3 százalékának állt ellen, a kiadott modell a 97,1 százalékuknak. A Hugging Face bejegyzése 28,3 százalékos Terminal-Bench és 93,3 százalékos B3 eredményt közöl, ami a Mistral előzetes számaihoz áll közel. Ezeket a számsorokat ezért nem szabad egyetlen modell-összehasonlításban összekeverni.
Az NVIDIA modellkártyája szerint a tanítási adatok mérete és gyűjtési módja nem nyilvános, a Mistral pedig később teszi közzé a teljes műszaki jelentést. Ha a beszerzési döntéshez ezek a dokumentumok kötelezően kellenek, érdemes kivárni. A dokumentációs feladatok áttekintéséhez használhatod az EU AI Act felkészülési útmutatót, de a konkrét kötelezettséget mindig a felhasználási mód és a vállalati szerep alapján kell meghatározni.
Kiberbiztonsági alkalmazásnál szigorúbb kontrollok indokoltak. A gyártó azt közölte, hogy a modell valódi támadásokhoz is érdemi segítséget adhat, ezért módosítja a védőkorlátokat. A Microsoft a jelentős következményű műveletekhez külön jogosultságot, jóváhagyást és elemzői ellenőrzést javasol.
Milyen pilot alapján dönts?
- Válassz egy konkrét munkafolyamatot, és előre rögzítsd az elfogadható minőséget, válaszidőt és emberi ellenőrzést.
- Állíts össze anonimizált magyar dokumentumokat, szakkifejezéseket, hibás bemeneteket és valódi kivételeket tartalmazó eval-készletet.
- Futtasd le ugyanazokat az eseteket a jelenlegi modellen és a Mistral API-n. A Foundry változatát csak akkor add hozzá, amikor ténylegesen elérhető.
- Teszteld külön a low, medium és high reasoning módot. Naplózd a feladat sikerét, a tokenfelhasználást, a válaszidőt, a visszautasításokat, az eszközhívásokat és az emberi javítás idejét.
- Saját futtatás előtt kérj infrastruktúra-ajánlatot, ellenőrizd a licencet, és tervezz monitorozási, frissítési, biztonsági mentési és visszaállítási folyamatot.
- Tartsd meg a modellcsere lehetőségét. Az alkalmazás ne igényeljen jelentős átépítést, ha később másik API-ra vagy saját telepítésről menedzselt szolgáltatásra váltasz.
A menedzselt pilot különösen indokolt azoknak a cégeknek, amelyek érzékeny dokumentumokat dolgoznak fel, de még nincs saját GPU-környezetük és MLOps-csapatuk. A teljes műszaki jelentésre, a tanítási adatok részletes leírására vagy Foundry-hozzáférésre építő beszerzésekkel várni kell a dokumentumok, illetve a szolgáltatás megjelenéséig.
Az open-weight és zárt modellek összehasonlítása további szempontokat ad a modellválasztáshoz. Saját futtatásra akkor térj át, ha a pilot után is ez az egyetlen út, amely teljesíti az adatkezelési és üzemeltetési követelményeket, és a GPU-ajánlat belefér a költségkeretbe.