Sovereign AI
Для организаций в EU, чьи промпты, документы, ответы и логи не должны покидать EU. Мы запускаем модель и рабочий поток в объекте в EU, который они контролируют, или у оператора из EU, и оставляем систему, которую ведут их люди. On-premise в объекте в EU — так собираются строгие случаи. Это не заголовок.
Регион облака США с пометкой EU — это по-прежнему компания США, которая обрабатывает данные. Этот engagement держит границу обработки внутри EU.
Персональные данные обрабатываются внутри EU. Архитектура — доказательство для вашей проверки. Юридических заключений мы не даём.
ICT-зависимость — это объект в EU, который они контролируют, или оператор из EU, а не облачный регион, который не проходит тест на заменяемость.
Существенные и важные субъекты получают развёртывание, чей инференс не зависит от провайдера вне EU.
Air-gap — строгий поднабор: оборонная площадка или отключённый объект, который не может подключиться. HIPAA применяется только когда граница — здравоохранение США, и это другой engagement. Мы не фирма комплаенс-консалтинга.
Развёртывания в UAE используют тот же паттерн: модель остаётся внутри страны. Граница данных UAE называет IA Regulation, которую покупатели по-прежнему называют NESA, Dubai DESC и федеральный PDPL. Эти три связывают разные субъекты.
Каждое архитектурное решение принимается с суверенитетом данных как жёстким ограничением, а не как запоздалой мыслью.
Промпты, документы, ответы и логи остаются в EU. Объект — тот, которым они владеют, или оператор — оператор из EU. Air-gap доступен, когда сама площадка не может подключиться. Это не вариант по умолчанию.
Модели с открытыми весами на оборудовании, которое они контролируют. Предсказуемые капитальные затраты вместо счёта за API, который сдвигается каждый квартал. Один провайдер не может отрезать доступ, сменив регион.
173 токена в секунду примерно на $30K оборудования — ориентир, от которого мы считаем размер. Мы бенчмаркаем фактическую нагрузку до того, как кто-либо покупает GPU.
Runbooks, версионирование и владелец на стороне клиента. Engagement спроектирован заканчиваться. Дальнейшая работа — следующий фиксированный этап, не ретейнер.
Полный стек Sovereign AI — от спецификации оборудования до мониторинга в production.
| Слой | Что мы доставляем | Значение для проверки |
|---|---|---|
| Оборудование | Спецификация, поддержка закупки, схема стойки, конфигурация GPU-узла | Физическое размещение данных, нет риска общего мультитенанта |
| Выбор модели | Оценка модели с открытыми весами, бенчмарк под ваш сценарий, проверка лицензии | Нет зависимости от проприетарной облачной модели, происхождение модели задокументировано |
| Стек инференса | Оптимизированный inference-сервер (vLLM, TGI или свой), API-шлюз, балансировка нагрузки | Нет вызова инференса к провайдеру вне EU. Air-gap, когда площадка не может подключиться. |
| Пайплайн данных | Архитектура RAG, векторное хранилище, пайплайн эмбеддингов — всё on-premise | Регулируемые данные не покидают границу вашей сети |
| Контроль доступа | Интеграция LDAP/AD, RBAC, управление API-ключами, аудит-логирование | Доказательства контролей для проверок GDPR, DORA и NIS2 |
| Наблюдаемость | Логирование инференса, учёт версий модели, дашборды использования, оповещения | Аудит-след каждого события инференса, управление изменениями модели |
| Гибридная маршрутизация | Объект в EU для чувствительного пути, оператор из EU для всплеска, который не является основными данными | Основные данные по-прежнему не покидают EU |
Ситуации покупателя. Это не результаты клиентов AIPIVT и не историческая запись основателя по сокращению затрат.
Напишите нам за одностраничник по референсной архитектуре для развёртываний GDPR, DORA и NIS2 — включая схемы потоков данных, модели контроля доступа и спецификации аудит-логирования.
On-premise AI для регулируемых отраслей требует практиков, которые понимают и технологию, и среду требований. Наш основатель и старшие практики лично строили инфраструктуру для институтов, где утечка данных — регуляторное событие, а не только технический инцидент.
Три границы, в таком порядке. Ваш собственный объект в EU. Оператор из EU. Регион облака США с пометкой EU. Третий — не это предложение. GDPR и DORA — то, с чем ваш юрист сверяет развёртывание. Сертификат мы не выдаём. Air-gap — строгий поднабор, для площадки, которая не может подключиться, и это не заголовок. Граница здравоохранения США — это граница данных HIPAA.
Air-gap означает инференс без исходящей связности. Это строгий поднабор, для площадки, которая не может подключиться. Развёртывание Sovereign по умолчанию — объект в EU или оператор из EU: сеть у него может быть, и он всё равно не отправляет промпты, документы, ответы или логи за пределы EU. Обновления модели на площадке с air-gap идут контролируемой офлайн-передачей.
Ориентир — 173 токена в секунду примерно на $30K оборудования. GPU мы подбираем по размеру после бенчмарка нагрузки. Ориентир — не результат клиента и не обещание, что каждое развёртывание попадёт в эту скорость.
GDPR, DORA и NIS2. Мы документируем потоки данных, происхождение модели, контроль доступа и аудит-логирование, чтобы ваша проверка могла ими пользоваться. Юридических заключений мы не даём. HIPAA — другой engagement, и только когда граница — здравоохранение США. Граница внутри UAE — на своей странице. IA Regulation, которую покупатели называют NESA, DESC и PDPL, связывают разные субъекты, и та страница — не сертификат.
Нет. Подбор размера входит в оценку. Оборудование можно закупить с нами, силами вашей команды или не закупать, когда правильная граница — оператор из EU. Не обещайте спецификацию оборудования за две недели.
Мы разворачиваем модели с открытыми весами на разрешительных лицензиях, включая семейство Llama (Meta), Mistral, Mixtral, Qwen (Alibaba), Phi (Microsoft), Falcon и другие, по мере того как меняется открытый ландшафт. Мы также работаем с моделями по корпоративной лицензии, в которую входит право на развёртывание on-premise: несколько крупных поставщиков моделей теперь дают корпоративные соглашения, которые разрешают self-hosted инференс. Выбор модели задают четыре фактора вашего развёртывания: требования к точности на ваших типах задач, ограничения оборудования (память GPU, бюджет вычислений), позиция по требованиям (некоторые организации не могут использовать модели, обученные на определённых данных) и требования к скорости инференса. Мы прогоняем системные бенчмарки моделей-кандидатов на представительных выборках вашей фактической нагрузки до рекомендации семейства. Одну модель всем клиентам мы не рекомендуем: правильная модель для суммаризации клинической заметки в здравоохранении существенно отличается от правильной модели для разбора финансового контракта.
Мы оставляем runbooks, версионирование и названного владельца. Открытый ретейнер и удержанный on-call SLA мы не продаём. Дальнейшая эксплуатация — следующий фиксированный этап или роль AI Ops, которую бронируют отдельно.
Да. Мы разворачиваем модель внутри объекта, который вы контролируете, и оставляем систему, которую ведут ваши люди. Закупка оборудования входит в engagement, это не предусловие. Вопрос про air-gap покрывает площадку, которая не может подключиться. Граница здравоохранения США — отдельная страница внутри этой услуги.
Граница — это EU. Это ваш собственный объект в EU или оператор из EU. Регион облака США с пометкой EU — не это предложение. GDPR и DORA — рамки, под которые развёртывание собрано, чтобы дать вашему юристу доказательства. Сертификат мы не выдаём. Сферу определяет юрист. Air-gap — строгий поднабор, для отключённой площадки, и это не заголовок.
Да. Модели с открытыми весами работают на вашем оборудовании, или контрактная модель, которой разрешено работать внутри границы. Промпты, документы, ответы и логи не уходят в API OpenAI. Если вы уже вызываете API провайдера и проблема в счёте, этот продукт — TokenGuard, не этот engagement.
Назовите границу, которая вам нужна, рабочий поток и кто будет вести систему после. Мы оценим оборудование, выберем модель и покажем, как выглядит развёртывание Sovereign для вашей среды.