Baidu యొక్క ERNIE 5.5 Flash Base ఒక ప్రీట్రైన్డ్ బేస్ మోడల్, Moonshot యొక్క Kimi K3.1 Pro ఒక పోస్ట్-ట్రైన్డ్ మల్టీమోడల్ మోడల్. రెండూ కస్టమ్ లైసెన్స్‌ల కింద వెయిట్‌లను ప్రచురిస్తున్నాయి, Baidu లైసెన్స్ EU, UK, దక్షిణ కొరియాలను మినహాయిస్తుంది.
వేర్వేరు ఉద్దేశాలతో రెండు విడుదలలు
Baidu విడుదల బ్లాగ్ ప్రకారం, Baidu నవంబర్ 5, 2026న ERNIE 5.5 Flash Baseను ప్రచురించింది. ఇది మొత్తం 280 బిలియన్ పారామీటర్లు ఉన్న, టెక్స్ట్ మాత్రమే నిర్వహించే mixture-of-experts (MoE) మోడల్. వెయిట్‌లు ఒక FP8 రిపాజిటరీలో, విడిగా ఒక BF16 రిపాజిటరీలో లభిస్తాయి. Moonshot AI ప్రారంభం నుంచే Kimi K3.1 Proను తన ఉత్పత్తులు, APIలో అందుబాటులోకి తెచ్చింది, పూర్తి వెయిట్‌లు నవంబర్ 4, 2026 నాటికి వస్తాయని తన లాంచ్ బ్లాగ్లో చెప్పింది. అవి ఇప్పుడు Kimi K3.1 Pro మోడల్ కార్డ్లో ఉన్నాయి. ఇది మొత్తం 2.8 ట్రిలియన్ పారామీటర్లు ఉన్న, టెక్స్ట్, ఇమేజ్ నిర్వహించే MoE మోడల్.
రెండు వెయిట్ సెట్‌లలో దేనినైనా యాక్సెస్ అభ్యర్థన లేకుండా ఎవరైనా డౌన్‌లోడ్ చేయవచ్చు, ప్రతిదానికీ దాని సొంత లైసెన్స్ ఉంది. రెండూ ఎక్కువగా వేరుపడేది అక్కడే: ERNIE లైసెన్స్ యూరోపియన్ యూనియన్, యునైటెడ్ కింగ్‌డమ్, దక్షిణ కొరియా వెలుపల మాత్రమే హక్కులు ఇస్తుంది, కాగా Kimi ఫైల్ ఎలాంటి భౌగోళిక పరిమితినీ పేర్కొనదు. ఉద్దేశాలు కూడా భిన్నమైనవి, ఎందుకంటే ఒకటి శిక్షణకు ప్రారంభ బిందువు, మరొకటి పూర్తి చేసిన మోడల్.
| స్పెసిఫికేషన్ | ERNIE 5.5 Flash Base | Kimi K3.1 Pro |
|---|---|---|
| డెవలపర్ | Baidu | Moonshot AI |
| ఆర్కిటెక్చర్ | MoE | MoE |
| మొత్తం పారామీటర్లు | 280B | 2.8T |
| ఒక్కో టోకెన్‌కు యాక్టివ్ పారామీటర్లు | 14B | 104B |
| మోడాలిటీ | టెక్స్ట్ | టెక్స్ట్, ఇమేజ్ |
| కాంటెక్స్ట్ లెంగ్త్ | ఫైన్-ట్యూనింగ్, ఇన్ఫరెన్స్‌లో 1,048,576 టోకెన్‌లు, శిక్షణ గరిష్టంగా 128K వరకు | 1,048,576 టోకెన్‌లు |
| చెక్‌పాయింట్ దశ | ప్రీ-ట్రైనింగ్ ముగింపు | పోస్ట్-ట్రైన్డ్ |
| వెయిట్‌ల పరిమాణం | సుమారు 288 GB (FP8) లేదా 573 GB (BF16), రెండు రిపాజిటరీల్లో | సుమారు 1.56 TB (MXFP4), ఒకే రిపాజిటరీలో |
| లైసెన్స్ | కస్టమ్ అగ్రిమెంట్, EU, UK, దక్షిణ కొరియాలను మినహాయిస్తుంది | కస్టమ్ లైసెన్స్, ఫైల్‌లో భౌగోళిక పరిమితి లేదు |
మూలాలు: పారామీటర్లు, మోడాలిటీ, కాంటెక్స్ట్, శిక్షణ దశ కోసం ERNIE మోడల్ కార్డ్, Kimi మోడల్ కార్డ్. పరిమాణాలు FP8, BF16, Kimi రిపాజిటరీలకు Hugging Face జాబితా చేసే safetensors మొత్తాలు, నవంబర్ 12, 2026న చదివినవి. లైసెన్స్‌లను కింద వివరించాం.
ERNIE 5.5 Flash Base
ఈ మోడల్‌ను 33.5 ట్రిలియన్ టోకెన్‌లపై మొదటి నుంచి ప్రీట్రైన్ చేశామని, శిక్షణ కాంటెక్స్ట్ గరిష్టంగా 128K వరకు ఉందని, ఫైన్-ట్యూనింగ్, ఇన్ఫరెన్స్ 1M టోకెన్‌లకు సపోర్ట్ చేస్తాయని Baidu చెబుతోంది (Baidu బ్లాగ్). ఫైన్-ట్యూనింగ్, ఇన్ఫరెన్స్ కోసం మోడల్ కార్డ్ 1,048,576 టోకెన్‌లను గణాంకంగా పేర్కొంటుంది.
మోడల్ కార్డ్ ఈ వెయిట్‌లను “at the end of pre-training, before any mid- or post-training” (ప్రీ-ట్రైనింగ్ ముగింపులో, ఎలాంటి మిడ్- లేదా పోస్ట్-ట్రైనింగ్‌కైనా ముందు) ఉన్న చెక్‌పాయింట్‌గా వర్ణిస్తుంది. ఇది మిడ్-ట్రైనింగ్, పోస్ట్-ట్రైనింగ్‌కు ముందే ప్రచురించబడింది, కాబట్టి ఇది డొమైన్ అడాప్టేషన్, ఇన్‌స్ట్రక్షన్ ట్యూనింగ్, రీఇన్‌ఫోర్స్‌మెంట్-లెర్నింగ్ పరిశోధనకు ఒక ప్రారంభ బిందువు, పూర్తి చేసిన సంభాషణ ఏజెంట్ కాదు. Baidu యొక్క vLLM-ERNIE గైడ్ బేస్ మోడల్‌ను ఒక completions మోడల్‌గా జాబితా చేస్తుంది, చాట్, రీజనింగ్, టూల్-కాలింగ్ సామర్థ్యాలున్న ERNIE-5.5-Flashను “Coming soon” (త్వరలో వస్తోంది) అని జాబితా చేస్తుంది. Baidu 14B యాక్టివ్ పారామీటర్లను ఎంబెడింగ్ లుకప్ లేకుండా లెక్కిస్తుంది, దాని మొత్తాలు ECHO లేయర్‌కు చెందిన 0.36B పారామీటర్లను మినహాయిస్తాయి, ఇది మోడల్ కార్డ్లోని ఒక నోట్.
Kimi K3.1 Pro
Kimi K3.1 Proను Kimi K3 నుంచి వందలాది డౌన్‌స్ట్రీమ్ డొమైన్‌లలో భారీ స్థాయి జాయింట్ రీఇన్‌ఫోర్స్‌మెంట్ లెర్నింగ్‌తో పోస్ట్-ట్రైన్ చేశామని, అది కోడింగ్, 3D సృష్టి, ఆర్థిక పరిశోధన, వాస్తవ ఖచ్చితత్వంలో మెరుగుదలలు తెస్తుందని Moonshot చెబుతోంది (మోడల్ కార్డ్). క్వాంటైజేషన్-అవేర్ ట్రైనింగ్‌తో శిక్షణ పొందిన, MXFP8 యాక్టివేషన్‌లతో కూడిన MXFP4 వెయిట్‌లను కార్డ్ జాబితా చేస్తుంది. సర్వింగ్ కోసం అది vLLM, SGLang, TokenSpeedలను పేర్కొంటుంది, టెక్స్ట్, ఇమేజ్ ఇన్‌పుట్‌ను జాబితా చేస్తుంది.
Moonshot బ్లాగ్ ప్రకారం అది Kimi K3.1 Pro Highspeedను కూడా విడుదల చేసింది, ఇది K3.1 Pro కంటే రెండు నుంచి మూడు రెట్ల వేగాన్ని అందిస్తుందని Moonshot వర్ణిస్తుంది. బ్లాగ్ ఒక భద్రతా చర్యను కూడా వివరిస్తుంది: ఓపెన్-వెయిట్ విడుదల కోసం మిడ్-ట్రైనింగ్ నుంచి, తన రీఇన్‌ఫోర్స్‌మెంట్-లెర్నింగ్ ఎన్విరాన్‌మెంట్‌ల నుంచి సైబర్ సంబంధిత డేటాను గుర్తించి తొలగించామని Moonshot చెబుతోంది. తన అంతర్గత xdev-bench-hardలో, తుది మోడల్ pass@3 వద్ద 81.0% సమస్యలను పరిష్కరిస్తుందని, ఆ చర్యలు లేని ఒక చెక్‌పాయింట్‌కు ఇది 90.5% అని Moonshot నివేదిస్తోంది. అది Moonshot సొంత బెంచ్‌మార్క్, సొంత కొలత.
లైసెన్స్ నిబంధనలు
రెండు రిపాజిటరీలకూ Hugging Face లైసెన్స్ లేబుల్ “other” ఉంది, ఇది కస్టమ్ పాఠ్యాన్ని సూచిస్తుంది. TechiesJournal వీటిలో దేనినీ ఓపెన్ సోర్స్ అని పిలవదు. ఈ విభాగం నవంబర్ 12, 2026న చదివిన ఫైళ్లను సంగ్రహిస్తుంది. ఇది న్యాయ సలహా కాదు. పాఠకులు తమ పరిస్థితికి సంబంధించి లైసెన్స్‌ను స్వయంగా చదవాలి, భూభాగం, ఆదాయం లేదా సర్వీస్ నిబంధనలు వర్తించే అవకాశం ఉన్నచోట న్యాయ సలహాదారును సంప్రదించాలి.
ప్రతి లైసెన్స్ ఎక్కడ వినియోగాన్ని అనుమతిస్తుంది
ERNIE 5.5 Flash Base Model License Agreement తన Territory (భూభాగం)ను యూరోపియన్ యూనియన్, యునైటెడ్ కింగ్‌డమ్, దక్షిణ కొరియా మినహా మిగతా ప్రపంచంగా నిర్వచిస్తుంది (సెక్షన్ 1.11). అగ్రిమెంట్ Baidu హక్కులను “solely within the Territory” (Territory లోపల మాత్రమే) ఇస్తుంది (సెక్షన్ 2). వెయిట్‌లు, డెరివేటివ్ మోడళ్లు, వాటి అవుట్‌పుట్‌లను దాని వెలుపల ఉపయోగించకూడదని, పునరుత్పత్తి చేయకూడదని, మార్చకూడదని, పంపిణీ చేయకూడదని, ప్రదర్శించకూడదని సెక్షన్ 5.3 చెబుతుంది, Exhibit Aలోని ఆమోదయోగ్య వినియోగ విధానం ఈ అంశాన్ని తన మొదటి అంశంగా పునరుద్ఘాటిస్తుంది. Baidu లైసెన్స్ ప్రకారం, యూరోపియన్ యూనియన్, యునైటెడ్ కింగ్‌డమ్ లేదా దక్షిణ కొరియాలో వినియోగం ఇచ్చిన హక్కుల పరిధికి వెలుపల ఉంటుంది. అక్కడ ఉన్న ఎవరైనా అగ్రిమెంట్‌ను చదివి న్యాయ సలహా తీసుకోవాలి. అగ్రిమెంట్ హాంకాంగ్ చట్టానికి లోబడి ఉంటుంది, హాంకాంగ్ కోర్టుల పరిధిలో ఉంటుంది (సెక్షన్లు 9.1, 9.2).
Kimi K3.1-Pro Licenseకు ఎలాంటి భౌగోళిక పరిమితి లేదు. వినియోగం వర్తించే చట్టాలు, నిబంధనలకు అనుగుణంగా ఉండాలని అది కోరుతుంది (సెక్షన్ 1).
వాణిజ్య వినియోగం, ఇతర షరతులు
| నిబంధన | ERNIE 5.5 Flash Base | Kimi K3.1 Pro |
|---|---|---|
| వాణిజ్యేతర వినియోగం | మోడల్ లైసెన్స్ ఛార్జీ లేదు (సెక్షన్ 4.1) | ఉచితం, సెక్షన్లు 1 నుంచి 4లోని షరతులకు లోబడి |
| వాణిజ్య వినియోగం | సంబంధిత ఉత్పత్తులు లేదా సేవల నుంచి వార్షిక ఆదాయం US$50 మిలియన్ వరకు మోడల్ లైసెన్స్ ఛార్జీ లేదు, Baiduకు ఒకసారి వినియోగ నోటీసు ఇవ్వాలి (సెక్షన్లు 3.2, 4.2) | సాధారణంగా ఛార్జీ లేదు. ఏదైనా 12 నెలల వ్యవధిలో US$20 మిలియన్ కంటే ఎక్కువ ఆదాయం ఉన్న Model as a Service వ్యాపారానికి Moonshotతో ప్రత్యేక అగ్రిమెంట్ అవసరం (సెక్షన్ 2) |
| పరిమితి దాటితే | Baidu నుంచి ప్రత్యేక ముందస్తు లిఖిత అనుమతి అవసరం, అది లేకుండా వాణిజ్య వినియోగాన్ని నిలిపివేయాలి (సెక్షన్ 4.3) | 100 మిలియన్ నెలవారీ యాక్టివ్ యూజర్లు లేదా US$20 మిలియన్ నెలవారీ ఆదాయం దాటిన ఉత్పత్తులకు ఇంటర్‌ఫేస్‌లో “Kimi K3.1-Pro” క్రెడిట్ (సెక్షన్ 3) |
| అట్రిబ్యూషన్ | ఏదైనా వాణిజ్య ఉత్పత్తి లేదా సేవపై “Powered by ERNIE” (సెక్షన్ 3.2) | అన్ని కాపీల్లో కాపీరైట్, అనుమతి నోటీసును ఉంచాలి (సెక్షన్ 1) |
| అవుట్‌పుట్‌ల వినియోగం | అవుట్‌పుట్‌లను మరే ఇతర AI మోడల్‌ను మెరుగుపరచడానికీ ఉపయోగించకూడదు, డిస్టిలేషన్‌ను డెరివేటివ్ మోడల్‌గా పరిగణిస్తారు (సెక్షన్లు 5.5, 1.5) | అవుట్‌పుట్‌లు లేదా డిస్టిలేషన్‌పై ఫైల్ ఎలాంటి పరిమితినీ పేర్కొనదు |
| మినహాయింపులు | Territory పరిమితి అన్ని వినియోగాలకూ వర్తిస్తుంది (సెక్షన్లు 2, 5.3) | అంతర్గత వినియోగం, Moonshot అధికారిక ఉత్పత్తులు లేదా సర్టిఫైడ్ ఇన్ఫరెన్స్ భాగస్వాముల ద్వారా వినియోగం సెక్షన్లు 2, 3 పరిధికి వెలుపల ఉంటాయి (సెక్షన్ 4) |
| ఇతర పరిమితులు | ఆమోదయోగ్య వినియోగ విధానం, ఇండెమ్నిటీ, పేటెంట్ దావా వేస్తే రద్దు (సెక్షన్లు 6.6, Exhibit A) | వారంటీ డిస్‌క్లెయిమర్ (సెక్షన్ 5) |
మూలాలు: ERNIE లైసెన్స్ ఫైల్, Kimi లైసెన్స్ ఫైల్, నవంబర్ 12, 2026న చదివినవి.
ప్లానింగ్‌కు ERNIE లైసెన్స్ పాఠ్యంలోని రెండు వివరాలు ముఖ్యమైనవి. ఆదాయం అంటే ERNIEకి ఆపాదించదగిన వాటా మాత్రమే కాదు, సంబంధిత ఉత్పత్తి మొత్తం ఆదాయం, అది ఉమ్మడి నియంత్రణలో ఉన్న ప్రతి సంస్థనూ కలిపి లెక్కిస్తుంది (సెక్షన్ 1.7). అగ్రిమెంట్ సెక్షన్ 4.5 ప్రకారం, ఆదాయం US$50 మిలియన్ లేదా అంతకంటే ఎక్కువ ఉన్న ఆపరేటర్‌ను Baidu కంప్లయెన్స్ స్టేట్‌మెంట్ కూడా అడగవచ్చు. అగ్రిమెంట్ చివరిగా నవంబర్ 6, 2026న సవరించినట్లు చూపే Exhibit A, ఇతర అంశాలతో పాటు సైనిక వినియోగాలను, ఆరోగ్య సంరక్షణ, రుణాలు, ఉద్యోగాల వంటి రంగాల్లో అధిక ప్రభావం ఉండే ఆటోమేటెడ్ నిర్ణయాలను, యంత్రం సృష్టించినదిగా స్పష్టంగా గుర్తించకుండా జనరేట్ చేసిన కంటెంట్‌ను ప్రచురించడాన్ని నిషేధిస్తుంది. Kimi విషయంలో, “Model as a Service” అంటే ఒక థర్డ్ పార్టీకి ఇన్ఫరెన్స్ లేదా ఫైన్-ట్యూనింగ్ యాక్సెస్ ఇవ్వడం, ఉదాహరణకు ఒక API ద్వారా, ఇన్‌పుట్‌లు, పారామీటర్లు లేదా ట్రైనింగ్ డేటాపై అర్థవంతమైన నియంత్రణతో. ప్రచురణ తర్వాత నిబంధనలు మారవచ్చు, కాబట్టి వాటిపై ఆధారపడే ముందు ఫైళ్లను మళ్లీ తనిఖీ చేయండి. ఈ రకమైన కస్టమ్ లైసెన్స్ గురించి ఎలా ఆలోచించాలో TechiesJournal గతంలో ప్రచురించిన DeepSeek, GLM, Kimi ఓపెన్-వెయిట్ మోడళ్ల ఆర్టికల్ వివరిస్తుంది.
ఆధారాలు ఏమి చూపిస్తున్నాయి
పనితీరుకు సంబంధించిన ఆధారాలు దాదాపు అన్నీ ఈ రెండు వెండర్ల నుంచే వచ్చాయి. ఎవరు ఏమి కొలిచారో పట్టిక వేరు చేసి చూపిస్తుంది.
| మూలం | ఏమి కొలిచారు | ఫలితం |
|---|---|---|
| Moonshot, మోడల్ కార్డ్లో | Terminal-Bench 4.0, Kimiని Claude Code హార్నెస్‌తో నడిపారు | Kimi K3.1 Pro 65.7, Claude Opus 5.5 66.4, GPT-6 Astra 58.2 |
| Vals AI | Terminal-Bench 4.0 | Kimi K3.1 Pro 63.64%, 63 మోడళ్లలో నాల్గవ స్థానం |
| Vals AI | Vals Index, ఫైనాన్స్, కోడింగ్, లీగల్, ట్యాక్స్ టాస్క్‌లు | Kimi K3.1 Pro 62.52%, ర్యాంక్ 10. Kimi K3 52.95%, ర్యాంక్ 28 |
| Baidu, మోడల్ కార్డ్లో | మరో మూడు బేస్ మోడళ్లతో పోల్చిన 30 ఫ్యూ-షాట్ బెంచ్‌మార్క్ వరుసలు | 24 వరుసల్లో ERNIEని, 6 వరుసల్లో ఒక ప్రత్యర్థిని ఉత్తమమైనదిగా Baidu గుర్తిస్తుంది |
మూలాలు: Kimi మోడల్ కార్డ్, Vals AI యొక్క Kimi K3.1 Pro పేజీ, నవంబర్ 9, 2026న అప్‌డేట్ అయిన Vals Index లీడర్‌బోర్డ్, ERNIE మోడల్ కార్డ్.
Kimi విషయంలో, కనుగొన్న ఏకైక స్వతంత్ర కొలత Vals AI. దాని Vals Index, Kimi K3.1 Proకు 62.52%, Kimi K3కు 52.95% స్కోర్ ఇస్తుంది. మా లెక్క ప్రకారం ఇది 9.57 పాయింట్ల పెరుగుదల, అదనపు పోస్ట్-ట్రైనింగ్ ఏమి సాధించిందనే Moonshot వివరణతో ఇది సరిపోలుతుంది. అనేక జాగ్రత్తలు వర్తిస్తాయి:
- Vals, Moonshot పట్టికలకు భిన్నమైన టాస్క్‌లను పరీక్షిస్తుంది, ఇండెక్స్‌లో తొమ్మిది మోడళ్లు Kimi K3.1 Pro కంటే పైన ఉన్నాయి. వాటిలో 71.31%తో Claude Fable 5.2, అదే పట్టికలో Claude Opus 5.5 (70.14%), GPT-6 Astra (65.02%) ఉన్నాయి, ఈ రెండూ Moonshot పోల్చిన మోడళ్లే.
- Moonshot Terminal-Bench గణాంకాలు వేర్వేరు హార్నెస్‌ల మిశ్రమం. DeepSeek స్కోర్‌లు మినహా, పోలిక స్కోర్‌లు మోడల్ బ్లాగ్‌లలో లేదా అధికారిక లీడర్‌బోర్డ్‌లో నివేదించిన గరిష్ఠ విలువలని కార్డ్ చెబుతుంది.
- Kimi K3.1 Pro మూల్యాంకనంపై Vals AI నోట్ అక్టోబర్ 24, 2026 తేదీతో ఉంది, అంటే వెయిట్‌లు విడుదల కాకముందే. కాబట్టి ఆ స్కోర్ బహుశా హోస్టెడ్ మోడల్‌ను వివరిస్తుంది, మీరు స్వయంగా నడిపే కాపీని కాదు. ఇది మా అంచనా.
- Vals AI తన లీడర్‌బోర్డ్‌లో Kimi K3 స్కోర్‌ను 52.95%గా, Kimi K3.1 Proపై తన నోట్‌లో 52.96%గా ముద్రిస్తుంది.
ERNIE 5.5 Flash Base విషయంలో, ఈ చెక్‌పాయింట్‌కు స్వతంత్ర కొలత ఏదీ కనుగొనబడలేదు. Baidu పట్టిక దీన్ని DeepSeek-V4-Flash-Base, Hy3-preview-Base, MiMo-V2.5-Baseలతో పోలుస్తుంది, వీటిని Baidu అదే పైప్‌లైన్, ప్రాంప్ట్‌లు, ఫ్యూ-షాట్ సెట్టింగ్‌లతో నడిపింది. ఆరు వరుసల్లో ప్రత్యర్థులు ముందున్నాయి: ChineseSimpleQA, చైన్ ఆఫ్ థాట్‌తో BBH, INCLUDE-lite, FullStackBench, HELMET-Rerank, InfiniteBench. బేస్-మోడల్ ఫ్యూ-షాట్ స్కోర్‌లను Vals AI లాంటి చాట్-మోడల్ లీడర్‌బోర్డ్‌లతో పోల్చలేము. ఇలాంటి సంఖ్యల గురించి ఏమి అడగాలో TechiesJournal యొక్క AI బెంచ్‌మార్క్ క్లెయిమ్‌లను ఎలా చదవాలి అనే గైడ్ వివరిస్తుంది, Tencent యొక్క Hy4పై దాని ఆర్టికల్ ఇదే Vals లీడర్‌బోర్డ్‌ను విశ్లేషిస్తుంది.
హార్డ్‌వేర్, వెయిట్‌ల పరిమాణం
మోడల్ కార్డ్‌లు ఒక్కో టోకెన్‌కు కొన్ని ఎక్స్‌పర్ట్‌లు మాత్రమే నడిచే స్పార్స్ మోడళ్లను వివరిస్తాయి, అయినా ప్రతి ఎక్స్‌పర్ట్‌ను నిల్వ చేయాల్సిందే, కాబట్టి ఫైళ్లు పెద్దవిగానే ఉంటాయి. అతి చిన్న సెటప్‌ల గురించి ప్రతి వెండర్ లేదా సర్వింగ్ ప్రాజెక్ట్ చెప్పేదాని పక్కన పట్టిక పరిమాణాలను ఉంచుతుంది.
| వెయిట్‌లు | పరిమాణం | వెండర్ లేదా సర్వింగ్ ప్రాజెక్ట్ పేర్కొన్న సెటప్ |
|---|---|---|
| ERNIE FP8 | సుమారు 288 GB | Baidu గైడ్: 288 GB ఉన్న 2 GPUలు, 192 GB ఉన్న 4 లేదా 80 GB ఉన్న 8 |
| ERNIE BF16 | సుమారు 573 GB | Baidu గైడ్: 288 GB ఉన్న 4 GPUలు, 192 GB ఉన్న 8 లేదా 80 GB ఉన్న 8 GPUల చొప్పున రెండు నోడ్‌లు |
| Kimi K3.1 Pro MXFP4 | సుమారు 1.56 TB | vLLM రెసిపీ: ఒక B300 నోడ్‌పై లేదా రెండు GB300 ట్రేలపై, లేదా ఒక MI355X నోడ్‌పై టెన్సర్ పారలల్ 8 |
మూలాలు: ERNIE వరుసలకు Baidu vLLM-ERNIE గైడ్, ఇది వీటిని వెయిట్‌లను నిల్వ చేయగల అతి తక్కువ GPU సంఖ్యలుగా వర్ణిస్తుంది. అలాగే Kimi K3.1 Pro కోసం vLLM రెసిపీ, దీనికి మోడల్ కార్డ్ లింక్ ఇస్తుంది, ఇది vLLM ప్రాజెక్ట్‌కు చెందినది, Moonshotది కాదు. పరిమాణాలు Hugging Face నుంచి తీసుకున్నవి.
ఈ సంఖ్యలు వెయిట్‌లను నిల్వ చేయడానికి మాత్రమే సరిపోతాయి, ఇక్కడ ఏదీ కొలిచిన థ్రూపుట్ కాదు. Baidu గైడ్ తన ఉదాహరణ సర్వర్లను 131,072-టోకెన్ కాంటెక్స్ట్‌తో నడుపుతుంది, 80 GB GPUలలో 262,144 టోకెన్‌ల వరకు సరిపోతాయి కానీ 1M సరిపోదని చెబుతుంది, కాబట్టి పూర్తి కాంటెక్స్ట్‌కు మరింత మెమరీ అవసరం. థ్రూపుట్‌ను ట్యూన్ చేయలేదని vLLM రెసిపీ చెబుతుంది. ఒక మోడల్‌ను స్వయంగా నడపడం ఎప్పుడు ఆ ఖర్చుకు తగినదో TechiesJournal యొక్క హోస్టెడ్ AI వర్సెస్ సెల్ఫ్-హోస్టెడ్ LLMలు అనే పర్స్‌పెక్టివ్ విశ్లేషిస్తుంది.
డెవలపర్లు తెలుసుకోవలసినవి
రెండు వెయిట్ సెట్‌లనూ ఈరోజే డౌన్‌లోడ్ చేయవచ్చు, కానీ వాటిలో ఏదీ డెస్క్‌టాప్ మోడల్ కాదు. పైన ఉదహరించిన పరిమాణాలు, Baidu, vLLM గైడ్‌ల ప్రకారం, ERNIEకి 288 GB నుంచి 573 GB స్టోరేజ్, కనీసం రెండు డేటా-సెంటర్ GPUలు అవసరం, Kimi K3.1 Proకు సుమారు 1.56 TB అవసరం, vLLM రెసిపీ బేస్‌లైన్ ఎనిమిది GPUల సమూహం. ERNIE 5.5 Flash Base అనేది దాన్ని ఇంకా శిక్షణ ఇవ్వబోయే టీమ్‌ల కోసం ఒక బేస్ చెక్‌పాయింట్, అది కూడా Baidu Territory లోపల మాత్రమే. Kimi K3.1 Pro అప్లికేషన్‌లు, ఏజెంటిక్ టాస్క్‌ల కోసం పోస్ట్-ట్రైన్ చేసిన మోడల్, దాని లైసెన్స్ షరతులు ప్రధానంగా Model as a Service వ్యాపారాలకు, చాలా పెద్ద ఉత్పత్తులకు వర్తిస్తాయి. దేనినైనా మీ సొంత టాస్క్‌లపై పరీక్షించండి, వాటిపై ఆధారపడే ముందు రెండు రిపాజిటరీలను, లైసెన్స్ ఫైళ్లను మళ్లీ తనిఖీ చేయండి.
మూలాలు
- Baidu: ERNIE 5.5 Flash Base విడుదల బ్లాగ్, నవంబర్ 5, 2026
- ERNIE-5.5-Flash-Base మోడల్ కార్డ్ (FP8)
- ERNIE-5.5-Flash-Base-BF16 మోడల్
- ERNIE 5.5 Flash Base Model License Agreement
- GitHubలో Baidu vLLM-ERNIE
- Moonshot: Kimi K3.1 Pro లాంచ్ బ్లాగ్
- Kimi-K3.1-Pro మోడల్ కార్డ్
- Kimi K3.1-Pro License
- Kimi K3.1 Pro కోసం vLLM రెసిపీ
- Vals AI: Kimi K3.1 Pro మోడల్ పేజీ
- Vals AI: Vals Index లీడర్‌బోర్డ్
మూలాలను నవంబర్ 12, 2026న చదివాం. స్పెసిఫికేషన్‌లు, లైసెన్స్ నిబంధనలు, బెంచ్‌మార్క్ ఫలితాలు, లభ్యత Baidu, Moonshot, vLLM, Vals AIకి చెందినవి, అవి మారవచ్చు.