Řešení
Provoz lokálního AI
Nasazení a správa lokálního nebo privátního modelu umělé inteligence u klienta. Pro organizace, které nechtějí posílat data do veřejného cloudu a potřebují plnou kontrolu nad logy, přístupy a verzemi.
Komu provoz nabízíme
Dává smysl, když nechcete posílat data do veřejného cloudu, máte citlivé dokumenty nebo regulovaný provoz, chcete jednotný interní model pro více aplikací a potřebujete kontrolu nad logy, přístupy a daty.
-
Banky, pojišťovny a fintech, kde regulace neumožní použití veřejných cloud služeb.
-
Nemocnice a zdravotnické skupiny pracující se zdravotními záznamy.
-
Advokátní kanceláře a daňoví poradci s povinností mlčenlivosti.
-
Veřejná správa, kraje a státní organizace s citlivou agendou.
-
Firmy s regulovaným provozem ve vyšším režimu zákona, s normou ISO 27001 nebo pod nařízením DORA.
Co dostanete
-
Výběr vhodného modelu podle dat, jazyka, výkonu a bezpečnosti.
-
Nasazení na váš server, privátní cloud nebo oddělenou infrastrukturu.
-
Aplikační rozhraní pro interní aplikace.
-
Monitoring výkonu, dostupnosti a nákladů.
-
Správu verzí modelů.
-
Bezpečnostní nastavení přístupů.
-
Zálohování, aktualizace a provozní dokumentaci.
Bezpečnost
Celé řešení stavíme tak, aby citlivá a regulovaná data nikdy neopustila vaše prostředí.
Bezpečnostní vrstva
-
Veškerý provoz lze provozovat bez přístupu k internetu.
-
Logování dotazů a odpovědí lze nastavit podle vašich politik.
-
Šifrování dat v klidu i v přenosu.
-
Přístupy pod identitou vašeho systému správy identit, jako je Azure AD, Keycloak nebo vlastní LDAP.
-
Auditní stopa kompatibilní s normou ISO 27001 a zákonem o kybernetické bezpečnosti.
Postup nasazení
-
Návrh architektury
Vybereme vhodný model podle dat, jazyka, výkonu a bezpečnosti a navrhneme architekturu pro vaše prostředí.
-
Pilotní nasazení
Model nasadíme na váš server, privátní cloud nebo oddělenou infrastrukturu a napojíme aplikační rozhraní.
-
Bezpečnostní vrstva
Nastavíme přístupy pod vaší identitou, šifrování, logování podle politik a auditní stopu.
-
Plný provoz se SLA
Zajistíme monitoring výkonu a dostupnosti, správu verzí, zálohování a aktualizace včetně úrovně služeb SLA.
Pravidla zapojení a etika
-
Pro klienty ve vyšším režimu zákona mapujeme řešení na konkrétní opatření vyhlášky číslo 409/2025 Sbírky.
-
Veškerý provoz lze provozovat bez přístupu k internetu, data zůstávají ve vašem prostředí.
Metodiky a standardy
Postupujeme podle uznávaných bezpečnostních metodik a standardů. Podrobnosti najdete na stránce Metodiky a certifikace.
Více v přehledu Metodiky a certifikace.
Naše kvalifikace
Návrh architektury vede konzultant s praxí v provozu strojového učení a v privátních nasazeních umělé inteligence, s nástroji vLLM, Ollama, TGI a NVIDIA NIM a s rodinami modelů Llama, Mistral a Qwen. Bezpečnostní vrstvu navrhuje architekt s certifikací ISO/IEC 42001 a praxí s normou ISO 27001. Pro klienty ve vyšším režimu mapujeme řešení na konkrétní opatření vyhlášky číslo 409/2025 Sbírky.
- vLLM a Ollama privátní nasazení modelů
- Llama, Mistral, Qwen open-source rodiny modelů
- ISO/IEC 42001 řízení systémů umělé inteligence
- Vyhláška 409/2025 mapování na opatření vyššího režimu
Cena a délka realizace
Provoz je projektová zakázka, cena vychází z rozsahu, infrastruktury a úrovně služeb. Po úvodní konzultaci připravíme nabídku na míru.
| Varianta | Rozsah | Délka realizace |
|---|---|---|
| Návrh architektury 4 až 6 týdnů | podle rozsahu | 4 až 6 týdnů |
| Pilotní nasazení 6 až 10 týdnů | podle rozsahu | 6 až 10 týdnů |
| Plný provoz včetně SLA 3 až 5 měsíců od podpisu | podle rozsahu | 3 až 5 měsíců od podpisu |
Cena vychází z rozsahu a integrací. Po úvodní konzultaci připravíme nezávaznou nabídku na míru. Ceny jsou bez DPH.
Časté dotazy
Stručné odpovědi na to, na co se nás u této služby ptáte nejčastěji.
- Opustí naše data prostředí organizace?
-
Ne. Model nasadíme na váš server, privátní cloud nebo oddělenou infrastrukturu a veškerý provoz lze provozovat bez přístupu k internetu. Citlivá a regulovaná data nikdy neopustí vaše prostředí.
- Kdy dává lokální AI smysl?
-
Když nechcete posílat data do veřejného cloudu, máte citlivé dokumenty nebo regulovaný provoz, chcete jednotný interní model pro více aplikací a potřebujete plnou kontrolu nad logy, přístupy a verzemi.
- Je řešení v souladu s normou ISO 27001 a zákonem o kybernetické bezpečnosti?
-
Ano. Auditní stopa je kompatibilní s normou ISO 27001 a zákonem o kybernetické bezpečnosti. Pro klienty ve vyšším režimu mapujeme řešení na konkrétní opatření vyhlášky číslo 409/2025 Sbírky.
- Jak dlouho nasazení trvá?
-
Návrh architektury zabere čtyři až šest týdnů, pilotní nasazení šest až deset týdnů a plný provoz včetně úrovně služeb tři až pět měsíců od podpisu. Cena vychází z rozsahu, připravíme nabídku na míru.
Řešení
Pojďme upřesnit rozsah a cenu pro vás
Úvodní konzultace je nezávazná. Po ní dostanete přesnou fixní cenu a doporučený další krok.
Související služby
Tyto služby na sebe často navazují. Vyberte, co řešíte dál.
Fine-tuning lokálního AI
Doladění lokálního modelu na vašich datech, když běžný model přestává stačit.
Zobrazit službu ŘešeníBezpečný vývoj na míru
Aplikace nad citlivými daty postavená bezpečně od základu.
Zobrazit službu AudityAudit kybernetické bezpečnosti
Soulad nasazení umělé inteligence s povinnostmi zákona 264/2025.
Zobrazit službuOzveme se do 1 pracovního dne
Napište nám, co řešíte. Doporučíme další krok a navrhneme nezávaznou konzultaci.