Řešení
Provoz lokálního AI
Nasazení a správa lokálního nebo privátního modelu umělé inteligence u klienta. Pro organizace, které nechtějí posílat data do veřejného cloudu a potřebují plnou kontrolu nad logy, přístupy a verzemi.
Komu provoz nabízíme
Dává smysl, když nechcete posílat data do veřejného cloudu, máte citlivé dokumenty nebo regulovaný provoz, chcete jednotný interní model pro více aplikací a potřebujete kontrolu nad logy, přístupy a daty.
-
Banky, pojišťovny a fintech s přísnými pravidly pro práci s daty a externími službami.
-
Nemocnice a zdravotnické skupiny pracující se zdravotními záznamy.
-
Advokátní kanceláře a daňoví poradci s povinností mlčenlivosti.
-
Veřejná správa, kraje a státní organizace s citlivou agendou.
-
Firmy s regulovaným provozem ve vyšším režimu zákona, s normou ISO 27001 nebo pod nařízením DORA.
Co dostanete
-
Výběr vhodného modelu podle dat, jazyka, výkonu a bezpečnosti.
-
Nasazení na váš server, privátní cloud nebo oddělenou infrastrukturu.
-
Aplikační rozhraní pro interní aplikace.
-
Monitoring výkonu, dostupnosti a nákladů.
-
Správu verzí modelů.
-
Bezpečnostní nastavení přístupů.
-
Zálohování, aktualizace a provozní dokumentaci.
Bezpečnost
Datové toky navrhneme tak, aby citlivá a regulovaná data nebylo nutné posílat do veřejných AI služeb.
Bezpečnostní vrstva
Bezpečnostní vrstva
-
Veškerý provoz lze provozovat bez přístupu k internetu.
-
Logování dotazů a odpovědí lze nastavit podle vašich politik.
-
Šifrování dat v klidu i v přenosu.
-
Přístupy pod identitou vašeho systému správy identit, jako je Azure AD, Keycloak nebo vlastní LDAP.
-
Auditní stopa a provozní důkazy mapované na relevantní bezpečnostní požadavky.
Postup nasazení
-
Návrh architektury
Vybereme vhodný model podle dat, jazyka, výkonu a bezpečnosti a navrhneme architekturu pro vaše prostředí.
-
Pilotní nasazení
Model nasadíme na váš server, privátní cloud nebo oddělenou infrastrukturu a napojíme aplikační rozhraní.
-
Bezpečnostní vrstva
Nastavíme přístupy pod vaší identitou, šifrování, logování podle politik a auditní stopu.
-
Plný provoz se SLA
Zajistíme monitoring výkonu a dostupnosti, správu verzí, zálohování a aktualizace včetně úrovně služeb SLA.
Pravidla zapojení
- Mapujeme na opatření vyhlášky 409/2025.
- Offline provoz je možný, pokud to dovolí zvolená architektura a způsob správy.
Architektura a doložitelný provoz
Předem popíšeme cílovou architekturu, modelový stack, datové toky, řízení přístupů a provozní odpovědnosti. U regulovaných klientů mapujeme kontroly na relevantní požadavky, ale právní a regulatorní zařazení potvrzuje samostatné posouzení.
- vLLM a Ollama
- privátní nasazení modelů
- Llama, Mistral, Qwen
- open-source rodiny modelů
- ISO/IEC 42001
- řízení systémů umělé inteligence
- Vyhláška 409/2025
- mapování na opatření vyššího režimu
Více v přehledu Metodiky testování.
Cena a délka realizace
Provoz je projektová zakázka, cena vychází z rozsahu, infrastruktury a úrovně služeb. Po úvodní konzultaci připravíme nabídku na míru.
| Varianta | Rozsah | Délka realizace |
|---|---|---|
| Návrh architektury 4 až 6 týdnů | podle rozsahu | 4 až 6 týdnů |
| Pilotní nasazení 6 až 10 týdnů | podle rozsahu | 6 až 10 týdnů |
| Plný provoz včetně SLA 3 až 5 měsíců od podpisu | podle rozsahu | 3 až 5 měsíců od podpisu |
Cena vychází z rozsahu a integrací. Po úvodní konzultaci připravíme nezávaznou nabídku na míru. Ceny jsou bez DPH.
Datové toky, přístupy a způsob správy popíšeme před nasazením.
Časté dotazy
Stručné odpovědi na to, na co se nás u této služby ptáte nejčastěji.
- Opustí naše data prostředí organizace?
-
Nemusí. Model lze nasadit na váš server, privátní cloud nebo oddělenou infrastrukturu a provozovat bez veřejné AI služby. V návrhu výslovně popíšeme aktualizace, telemetrii, zálohy i vzdálenou správu, abyste věděli, kudy data mohou proudit.
- Kdy dává lokální AI smysl?
-
Když nechcete posílat data do veřejného cloudu, máte citlivé dokumenty nebo regulovaný provoz, chcete jednotný interní model pro více aplikací a potřebujete plnou kontrolu nad logy, přístupy a verzemi.
- Jak řešení zapadá do ISO 27001 a zákona o kybernetické bezpečnosti?
-
Řízení přístupů, logování a provozní důkazy můžeme mapovat na relevantní opatření. Samotné nasazení ale neprokazuje celkový soulad; ten závisí na režimu organizace, procesech a dalších systémech.
- Jak dlouho nasazení trvá?
-
Návrh architektury zabere čtyři až šest týdnů, pilotní nasazení šest až deset týdnů a plný provoz včetně úrovně služeb tři až pět měsíců od podpisu. Cena vychází z rozsahu, připravíme nabídku na míru.
Řešení
Pojďme upřesnit rozsah a cenu pro vás
Úvodní konzultace je nezávazná. Po ní dostanete přesnou fixní cenu a doporučený další krok.
Související služby
Tyto služby na sebe často navazují. Vyberte, co řešíte dál.
AI asistent nad firemními daty
Privátní asistent nad firemními dokumenty jako první aplikace na lokálním stacku.
Zobrazit službu ŘešeníFine-tuning lokálního AI
Doladění lokálního modelu na vašich datech, když běžný model přestává stačit.
Zobrazit službu ŘešeníBezpečný vývoj na míru
Aplikace nad citlivými daty postavená bezpečně od základu.
Zobrazit službu AudityAudit kybernetické bezpečnosti
Soulad nasazení umělé inteligence s povinnostmi zákona 264/2025.
Zobrazit službuOzveme se do 1 pracovního dne
Napište nám, co řešíte. Doporučíme další krok a navrhneme nezávaznou konzultaci.