Řešení

Provoz lokálního AI

Nasazení a správa lokálního nebo privátního modelu umělé inteligence u klienta. Pro organizace, které nechtějí posílat data do veřejného cloudu a potřebují plnou kontrolu nad logy, přístupy a verzemi.

Inženýři sledují provoz privátní AI v bezpečném prostředí

Komu provoz nabízíme

Dává smysl, když nechcete posílat data do veřejného cloudu, máte citlivé dokumenty nebo regulovaný provoz, chcete jednotný interní model pro více aplikací a potřebujete kontrolu nad logy, přístupy a daty.

  • Banky, pojišťovny a fintech s přísnými pravidly pro práci s daty a externími službami.

  • Nemocnice a zdravotnické skupiny pracující se zdravotními záznamy.

  • Advokátní kanceláře a daňoví poradci s povinností mlčenlivosti.

  • Veřejná správa, kraje a státní organizace s citlivou agendou.

  • Firmy s regulovaným provozem ve vyšším režimu zákona, s normou ISO 27001 nebo pod nařízením DORA.

Inženýři sledují provoz privátní AI v bezpečném prostředí

Co dostanete

  • Výběr vhodného modelu podle dat, jazyka, výkonu a bezpečnosti.

  • Nasazení na váš server, privátní cloud nebo oddělenou infrastrukturu.

  • Aplikační rozhraní pro interní aplikace.

  • Monitoring výkonu, dostupnosti a nákladů.

  • Správu verzí modelů.

  • Bezpečnostní nastavení přístupů.

  • Zálohování, aktualizace a provozní dokumentaci.

Tým prochází rizika a nálezy nad dokumenty u společného stolu

Bezpečnost

Datové toky navrhneme tak, aby citlivá a regulovaná data nebylo nutné posílat do veřejných AI služeb.

Auditor kontroluje serverové racky ve světlém datovém sále

Bezpečnostní vrstva

  • Veškerý provoz lze provozovat bez přístupu k internetu.

  • Logování dotazů a odpovědí lze nastavit podle vašich politik.

  • Šifrování dat v klidu i v přenosu.

  • Přístupy pod identitou vašeho systému správy identit, jako je Azure AD, Keycloak nebo vlastní LDAP.

  • Auditní stopa a provozní důkazy mapované na relevantní bezpečnostní požadavky.

Postup nasazení

Auditor kontroluje serverové racky ve světlém datovém sále
  1. Návrh architektury

    Vybereme vhodný model podle dat, jazyka, výkonu a bezpečnosti a navrhneme architekturu pro vaše prostředí.

  2. Pilotní nasazení

    Model nasadíme na váš server, privátní cloud nebo oddělenou infrastrukturu a napojíme aplikační rozhraní.

  3. Bezpečnostní vrstva

    Nastavíme přístupy pod vaší identitou, šifrování, logování podle politik a auditní stopu.

  4. Plný provoz se SLA

    Zajistíme monitoring výkonu a dostupnosti, správu verzí, zálohování a aktualizace včetně úrovně služeb SLA.

Pravidla zapojení

  • Mapujeme na opatření vyhlášky 409/2025.
  • Offline provoz je možný, pokud to dovolí zvolená architektura a způsob správy.

Architektura a doložitelný provoz

Předem popíšeme cílovou architekturu, modelový stack, datové toky, řízení přístupů a provozní odpovědnosti. U regulovaných klientů mapujeme kontroly na relevantní požadavky, ale právní a regulatorní zařazení potvrzuje samostatné posouzení.

vLLM a Ollama
privátní nasazení modelů
Llama, Mistral, Qwen
open-source rodiny modelů
ISO/IEC 42001
řízení systémů umělé inteligence
Vyhláška 409/2025
mapování na opatření vyššího režimu

Více v přehledu Metodiky testování.

Cena a délka realizace

Provoz je projektová zakázka, cena vychází z rozsahu, infrastruktury a úrovně služeb. Po úvodní konzultaci připravíme nabídku na míru.

Ceník služby
Varianta Rozsah
Návrh architektury 4 až 6 týdnů podle rozsahu
Pilotní nasazení 6 až 10 týdnů podle rozsahu
Plný provoz včetně SLA 3 až 5 měsíců od podpisu podle rozsahu

Cena vychází z rozsahu a integrací. Po úvodní konzultaci připravíme nezávaznou nabídku na míru. Ceny jsou bez DPH.

Datové toky, přístupy a způsob správy popíšeme před nasazením.

Časté dotazy

Stručné odpovědi na to, na co se nás u této služby ptáte nejčastěji.

Opustí naše data prostředí organizace?

Nemusí. Model lze nasadit na váš server, privátní cloud nebo oddělenou infrastrukturu a provozovat bez veřejné AI služby. V návrhu výslovně popíšeme aktualizace, telemetrii, zálohy i vzdálenou správu, abyste věděli, kudy data mohou proudit.

Kdy dává lokální AI smysl?

Když nechcete posílat data do veřejného cloudu, máte citlivé dokumenty nebo regulovaný provoz, chcete jednotný interní model pro více aplikací a potřebujete plnou kontrolu nad logy, přístupy a verzemi.

Jak řešení zapadá do ISO 27001 a zákona o kybernetické bezpečnosti?

Řízení přístupů, logování a provozní důkazy můžeme mapovat na relevantní opatření. Samotné nasazení ale neprokazuje celkový soulad; ten závisí na režimu organizace, procesech a dalších systémech.

Jak dlouho nasazení trvá?

Návrh architektury zabere čtyři až šest týdnů, pilotní nasazení šest až deset týdnů a plný provoz včetně úrovně služeb tři až pět měsíců od podpisu. Cena vychází z rozsahu, připravíme nabídku na míru.

Řešení

Pojďme upřesnit rozsah a cenu pro vás

Úvodní konzultace je nezávazná. Po ní dostanete přesnou fixní cenu a doporučený další krok.

Související služby

Tyto služby na sebe často navazují. Vyberte, co řešíte dál.

Ozveme se do 1 pracovního dne

Napište nám, co řešíte. Doporučíme další krok a navrhneme nezávaznou konzultaci.