Rulați agenți pe modele de frontieră gestionate astăzi sau închiriați capacitate GPU, implementați propriile greutăți și direcționați sarcinile Digio către punctele finale private în același spațiu de lucru.
Atribuiți un model implicit pentru fiecare agent sau înlocuiți pentru fiecare sarcină. Utilizarea este măsurată în jetoane Digio din soldul planului dvs. - același portofel, indiferent dacă agentul sună Sonnet, GPT-4o sau Gemini Flash.
Model list and token economics evolve with provider releases. Your workspace shows live options when you assign a model to an agent; Digio Tokens debit from the same balance as in pricing.
Coordonatorul poate recomanda Sonnet vs Opus vs un model flash mai ieftin bazat pe tipul de sarcină. Utilizatorii puternici stabilesc valori implicite pentru fiecare rol de agent - cercetare pe Sonnet, revizuire finală pe Opus, etichetare în bloc pe Haiku sau Gemini Flash.
Per agent — default model in agent settings; override in To do or chat when needed.
Metered fairly — input, output, and cached tokens map to Digio Token charges (see usage in your wallet).
Skills stay the same — tools and integrations work across models; only latency and cost profile change.
Plan limits — more agents and monthly Digio Tokens on higher tiers; top up anytime on the pricing page.
Aveți nevoie de o ajustare fină, de un punct de control cu aer întrerupt sau de prețuri de inferență previzibile? Adăugați capacitate GPU dedicată spațiului dvs. de lucru Digio, instalați stiva de servire pe care o preferați și agenți punctuali la punctul final privat.
Noduri GPU orare sau lunare (clasa A100, H100, L40S) atașate chiriașului dvs. — izolate de alți clienți.
Încărcați safetensors, GGUF sau extrageți din registry; rulați Llama, Mistral, Qwen și melodii fine personalizate.
Imaginile vLLM, TGI, Ollama sau container pe care le întrețineți — agenții Digio apelează o adresă URL de bază compatibilă cu OpenAI.
De făcut, chatul în echipă, abilitățile și colaborarea neschimbate - doar backend-ul de inferență este al tău.
Trimiteți pași sensibili la GPU privat și utilizați Claude sau GPT pentru cercetare publică într-un singur flux de lucru.
Peering VPC, ieșire statică, jurnalele de audit și listele de modele permise pentru echipele reglementate.
Configurare tipică de la zero la agenții care vă apelează punctul final:
Alegeți VRAM, regiunea și timpul de funcționare (burst vs always-on). Depozitul pentru greutăți este livrat cu instanța sau vă montează găleata.
Porniți o imagine de difuzare sau SSH, instalați drivere CUDA și încărcați punctele de control. Controalele de sănătate confirmă că modelul este gata.
Adăugați adresa URL de bază, cheia API și id-ul modelului în setările spațiului de lucru. Digio validează latența și formatul jetonului înainte de a fi difuzat.
Alegeți modelul dvs. privat ca implicit pentru agenții selectați; modelele Claude/GPT gestionate rămân disponibile unul lângă altul.
Închirierea GPU-ului este facturată separat de abonamentele la planul Digio. Contactați-ne pentru planificarea capacității, SLA și migrarea de la un cluster de inferență existent.
Alegerea API-urilor gestionate versus inferența auto-găzduită pe Digio.
Abonamentul dvs. Digio acoperă infrastructura, agenții și jetoanele Digio incluse. Utilizarea modelului gestionat debitează acel token echilibrat cu indicativele de intrare/ieșire reale. Închirierea GPU este un supliment pentru mașinile pe care le controlați.
Da — fiecare agent poate avea propriul său implicit. Sarcinile și chat-urile pot suprascrie pentru o singură rulare fără a modifica valoarea implicită globală.
Opus este reglat pentru un raționament mai dur și planuri mai coerente; Sonnet este mai rapid și mai ieftin pentru buclele agentului de zi cu zi. Haiku și modelele flash-class sunt cele mai bune pentru subsarcinile de volum.
Spațiile de lucru ale întreprinderii pot restricționa furnizorii de modele de ieșire și pot direcționa tot traficul agenților către punctul final de GPU. Modul hibrid este implicit pentru majoritatea echipelor.
Ofertele depind de regiune și cerere – de obicei niveluri VRAM de 24–80 GB pentru modelele de clasă 7B–70B și noduri multi-GPU pentru stive mai mari. Vă ajutăm să dimensionăm VRAM din numărul și cuantizarea parametrilor dvs.
Orchestrarea (agenți, sarcini, stocare) rămâne pe planul dvs. Inferența asupra GPU-ului dvs. este facturată ca timp GPU; opțional, puteți măsura utilizarea în formă de jeton pentru rambursarea internă.
Agenți, sarcini și abilități — spațiul de lucru din jurul modelului pe care îl alegeți.
Începeți pe Claude și GPT astăzi, apoi adăugați GPU dedicat când sunteți gata să găzduiți greutăți personalizate - aceiași agenți, aceleași sarcini, inferența dvs.
