Искусственный интеллект в госорганизациях: можно ли и насколько это безопасно

Да, искусственный интеллект можно и нужно использовать в государственных организациях — но не «как есть», а по правилам. Безопасность зависит не от самой нейросети, а от того, какие данные в неё попадают, где она работает и кто отвечает за результат. Открытые и обезличенные материалы можно обрабатывать в публичных сервисах; персональные данные и служебная информация требуют корпоративных режимов, локальных моделей и чёткой внутренней политики.

Ниже — спокойный разбор без хайпа и страшилок: где ИИ приносит пользу ведомствам, какие риски реальны, что говорит законодательство Узбекистана и как выстроить безопасную модель работы.

Почему вопрос стал актуальным именно сейчас

Нейросети за пару лет превратились из экспериментальной игрушки в повседневный рабочий инструмент. Сотрудники министерств, хокимиятов, госбанков и госкомпаний уже пользуются ChatGPT, Gemini, Claude и другими сервисами — часто с личных аккаунтов и без каких-либо правил. Это и есть главный риск: не технология сама по себе, а неуправляемое использование.

Параллельно государство задаёт курс на развитие ИИ: в октябре 2024 года постановлением Президента утверждена Стратегия развития технологий искусственного интеллекта до 2030 года. Подробнее о ней мы писали в материале «Стратегия ИИ Узбекистана до 2030: что важно знать». Значит, вопрос уже не «использовать или нет», а «как использовать безопасно».

Где ИИ реально помогает государственным организациям

Наибольшую отдачу нейросети дают там, где много текста, рутины и типовых документов, а итоговое решение всё равно принимает человек:

• Подготовка презентаций и отчётов. Структура выступления, черновики слайдов, тезисы для доклада, сводки по открытым данным.
• Работа с текстами. Редактура, сокращение, перевод между узбекским, русским и английским, адаптация официального языка в понятный для граждан.
• Обращения граждан. Классификация обращений по темам, черновики типовых ответов (с обязательной проверкой сотрудником).
• Аналитика открытых данных. Обобщение публичной статистики, сравнение международного опыта, подготовка обзоров.
• Коммуникации. Посты для официальных каналов, пресс-релизы, FAQ на сайт ведомства.
• Внутренние базы знаний. Поиск по регламентам и нормативным документам с помощью ИИ-ассистента, развёрнутого внутри организации.

Общее правило: ИИ хорош как ускоритель черновой работы и плох как источник окончательных решений.

Как это выглядит на практике: три типовых сценария

Чтобы разговор не оставался абстрактным, разберём обобщённые сценарии, которые встречаются в большинстве ведомств. Это не истории конкретных организаций, а типовые рабочие ситуации.

Сценарий 1. Пресс-служба готовит выступление руководителя

Задача: за два дня подготовить доклад и презентацию об итогах года по программе, данные которой уже опубликованы. Безопасный подход: сотрудник даёт нейросети только опубликованные цифры и тексты с официального сайта, просит предложить структуру выступления на десять минут, три ключевых тезиса и варианты заголовков слайдов. Затем вручную сверяет каждую цифру с источником, а дизайнер собирает слайды в фирменном стиле. Опасный подход: скопировать в чат-бот внутреннюю служебную записку с непубличными показателями и фамилиями ответственных.

Сценарий 2. Отдел по работе с обращениями граждан

Задача: ускорить разбор большого потока однотипных обращений. Безопасный подход: модель, развёрнутая внутри контура организации, классифицирует обращения по темам и предлагает черновик ответа на основе утверждённых шаблонов, а сотрудник проверяет и отправляет его. Опасный подход: пересылать тексты обращений с именами, адресами и телефонами в публичный зарубежный сервис ради экономии времени.

Сценарий 3. Аналитический отдел министерства

Задача: подготовить обзор международного опыта по отраслевой реформе. Безопасный подход: использовать ИИ для поиска направлений и структуры обзора, а каждую ссылку, цифру и название документа проверять по первоисточникам. Опасный подход: перенести в отчёт «исследования» и ссылки, предложенные моделью, не открыв ни одну из них.

Во всех трёх случаях разница между пользой и инцидентом — не в выборе нейросети, а в том, какие данные в неё попадают и кто проверяет результат.

Реальные риски: что может пойти не так

1. Утечка данных

Всё, что сотрудник вставляет в публичный чат-бот, уходит на серверы компании-разработчика, как правило за рубежом. Если это паспортные данные заявителей, внутренняя переписка или проект постановления до публикации — это уже инцидент информационной безопасности.

2. Обучение на ваших данных

У многих бесплатных и потребительских тарифов в настройках по умолчанию разрешено использовать диалоги для улучшения моделей. Корпоративные тарифы обычно это исключают, но это нужно проверять в условиях конкретного сервиса, а не предполагать.

3. Трансграничная передача

Закон Узбекистана «О персональных данных» (ЗРУ-547 от 2 июля 2019 года) с 2021 года требовал хранить персональные данные граждан, обрабатываемые через интернет, на серверах в стране. Законом ЗРУ-1125 от 26 марта 2026 года это правило смягчено: обязательная локализация теперь касается биометрических и генетических данных и данных абонентов местных операторов связи, а остальные данные можно передавать за рубеж при соблюдении условий — например, в страну из утверждённого правительством перечня с адекватным уровнем защиты или по стандартным договорным условиям. Но для госоргана это не повод загружать данные граждан в публичный зарубежный ИИ: служебная информация, сведения ограниченного доступа и чувствительные данные подпадают под внутренние правила информационной безопасности, и у бесплатного чат-бота нет ни договора, ни гарантий. Подробно разбираем в статье «Закон о персональных данных и нейросети».

4. Галлюцинации

Нейросети уверенно выдумывают цифры, ссылки на несуществующие нормы и цитаты. Для государственного документа это недопустимо: каждый факт должен быть проверен по первоисточнику.

5. Размытая ответственность

«Так написал ИИ» — не аргумент. Ответственность за документ, ответ гражданину или цифру в отчёте всегда несёт конкретный сотрудник и руководитель.

Главный принцип: ИИ — помощник, а не исполнитель. Он готовит черновик, человек проверяет и подписывает.

Мифы об ИИ в госсекторе

Вокруг нейросетей много крайностей. Разберём четыре самых частых заблуждения:

• «ИИ заменит госслужащих». На практике он забирает рутину — черновики, сводки, переводы, — а ответственность, коммуникация с гражданами и решения остаются за людьми.
• «Если сервис платный, данные в безопасности». Оплата не отменяет вопрос, где физически хранятся данные и разрешено ли их туда передавать.
• «Нейросеть знает законы Узбекистана». Модель может знать общие принципы, но легко путает редакции, номера и даты документов. Нормы всегда проверяются по lex.uz.
• «Проще всё запретить». Запрет без альтернативы приводит к теневому использованию с личных телефонов — самому опасному сценарию.

Чему учит международная практика

Правительства многих стран уже опубликовали для своих служащих руководства по генеративному ИИ. Формулировки отличаются, но общие принципы повторяются: не вводить конфиденциальные и персональные данные в публичные сервисы, сохранять ответственность человека за итоговый документ, быть прозрачными в том, где и как используется ИИ, и обучать сотрудников. Эти принципы легко адаптировать к условиям Узбекистана с учётом национальных требований к персональным данным.

Классификация данных: что можно отправлять в нейросеть

Самый практичный инструмент безопасности — простая классификация информации на три уровня:

1. Открытые данные — опубликованные законы, пресс-релизы, публичная статистика, тексты с сайта ведомства. Можно использовать в публичных ИИ-сервисах.
2. Внутренние данные — рабочие черновики, внутренние регламенты, обезличенные отчёты. Только корпоративные тарифы с отключённым обучением или локальные модели, после удаления имён и идентификаторов.
3. Конфиденциальные данные — персональные данные граждан, служебная тайна, финансовые сведения, проекты решений до публикации, всё, что составляет государственные секреты. Только изолированные локальные решения внутри контура организации — или вообще без ИИ.

Если сотрудник не уверен, к какому уровню относится документ, — по умолчанию считать его конфиденциальным.

Примеры: к какому уровню относится документ

• Опубликованный закон или постановление — открытые данные.
• Пресс-релиз, уже размещённый на сайте — открытые данные.
• Черновик пресс-релиза до согласования — внутренние данные.
• Внутренний регламент или должностная инструкция — внутренние данные.
• Сводный отчёт без имён и непубличных показателей — внутренние данные.
• Обращение гражданина с ФИО и контактами — конфиденциальные данные.
• Кадровые документы, сведения о зарплатах — конфиденциальные данные.
• Проект решения, бюджет или тендерная документация до публикации — конфиденциальные данные.

Такой список стоит приложить к внутренней политике и дополнять примерами из практики конкретного ведомства: сотрудникам проще ориентироваться по примерам, чем по определениям.

Безопасные модели использования ИИ

Обезличивание

Перед отправкой текста в нейросеть удаляются ФИО, ПИНФЛ, номера паспортов, телефоны, адреса, суммы и названия контрагентов. Для задач вроде «улучши структуру» или «сделай короче» эти данные не нужны.

Корпоративные тарифы

Бизнес- и enterprise-версии крупных ИИ-сервисов, как правило, не используют данные клиентов для обучения и дают администрирование доступа. Это шаг вперёд, но вопросы трансграничной передачи персональных данных (страна хранения, договорные гарантии) и внутренние запреты на передачу служебной информации они сами по себе не снимают.

Локальные модели (on-premise)

Открытые языковые модели можно развернуть на собственных серверах организации или в дата-центре в Узбекистане. Данные не покидают контур, доступ контролирует ИТ-служба. Подробнее — в статье «Локальная нейросеть на своих серверах».

Человеческая проверка

Любой текст, созданный ИИ, перед публикацией или отправкой проверяет ответственный сотрудник: факты, цифры, ссылки на нормы, тон.

Сравнение вариантов: публичный сервис, корпоративный тариф, локальная модель

У каждого варианта своя ниша. Сравним их по критериям, которые важны для государственной организации:

• Где обрабатываются данные. Публичный сервис — на серверах провайдера, как правило за рубежом. Корпоративный тариф — тоже у провайдера, но с договорными гарантиями. Локальная модель — внутри контура организации или в дата-центре в Узбекистане.
• Обучение на ваших данных. Публичный сервис — зависит от тарифа и настроек. Корпоративный тариф — как правило, исключено условиями договора. Локальная модель — полностью под вашим контролем.
• Управление доступом. Публичный сервис — личные аккаунты, контроля почти нет. Корпоративный тариф — централизованная панель администратора. Локальная модель — интеграция с внутренними системами учёта доступа.
• Качество ответов. Крупные облачные модели обычно сильнее в сложных текстовых задачах. Открытые локальные модели заметно выросли, но требуют подбора и настройки под задачи и рабочие языки.
• Затраты и сроки. Публичный сервис запускается за день. Корпоративный тариф — это подписка и согласование договора. Локальная модель — серверы, специалисты и поддержка, зато без зависимости от зарубежного провайдера.
• Для каких данных подходит. Публичный сервис — только открытые. Корпоративный тариф — открытые и обезличенные внутренние. Локальная модель — включая конфиденциальные, при правильно настроенной защите.

На практике многие организации приходят к гибридной схеме: облачные сервисы для открытых задач и локальная модель для работы с внутренними документами.

Как обезличить текст перед отправкой в нейросеть

Обезличивание звучит сложно, но для большинства задач это несколько минут ручной работы:

1. Определите, что действительно нужно модели. Для правки стиля или структуры ей не нужны ни имена, ни суммы, ни даты.
2. Замените людей ролями. Конкретное имя превращается в «Заявитель А», должность остаётся без фамилии.
3. Уберите идентификаторы. ПИНФЛ, серии паспортов, номера телефонов, адреса, номера счетов и договоров.
4. Обобщите чувствительные цифры. Точную сумму можно заменить на «Х сумов», конкретный район — на «район N».
5. Проверьте косвенные признаки. Редкая должность, уникальное событие или сочетание фактов могут выдать человека даже без имени.
6. Верните данные после обработки. Подставляйте реальные сведения уже в своём редакторе, а не в чате.

Если обезличить документ невозможно без потери смысла задачи, это сигнал: его нужно обрабатывать только локально или вовсе без ИИ.

Как проверять ответы нейросети: короткий протокол

Человеческая проверка работает, только если понятно, что именно проверять. Для официальных текстов достаточно пяти шагов:

1. Цифры. Каждое число сверяется с источником — отчётом, сайтом статистики, исходной таблицей. Числа без источника удаляются.
2. Нормативные ссылки. Номер, дата и название документа проверяются на lex.uz, включая актуальную редакцию.
3. Имена и названия. Должности, названия организаций и программ модель часто искажает или переводит по-своему.
4. Логика выводов. Следуют ли выводы из приведённых фактов, или модель «додумала» связь?
5. Тон и язык. Соответствует ли текст официальному стилю и естественно ли он звучит на узбекском и русском.

Для важных документов полезно правило «четырёх глаз»: черновик, подготовленный с помощью ИИ, проверяет не только автор, но и второй сотрудник.

Пошаговый план внедрения ИИ в ведомстве

1. Аудит текущей практики. Анонимный опрос: кто, какие сервисы и для каких задач уже использует.
2. Внутренняя политика. Короткий документ: разрешённые сервисы, классификация данных, запреты, порядок проверки. Пример — в материале «ChatGPT для госслужащих: правила».
3. Пилот на открытых задачах. Презентации, тексты для сайта, переводы публичных материалов.
4. Обучение сотрудников. Как писать запросы, как проверять ответы, как обезличивать данные.
5. Решение для внутренних данных. Корпоративный тариф или локальная модель — по результатам пилота.
6. Регулярный пересмотр. Технологии и регулирование меняются быстро; политику стоит обновлять хотя бы раз в полгода.

Как измерить пользу от ИИ

Чтобы внедрение не превратилось в «галочку», у пилота должны быть измеримые цели. Простые метрики:

• сколько времени уходит на подготовку типового документа или презентации до и после;
• сколько правок вносит руководитель в черновик;
• сколько обращений граждан классифицируется корректно с первого раза;
• доля сотрудников, прошедших обучение и пользующихся одобренными сервисами;
• число инцидентов, когда в нейросеть попали данные, которых там быть не должно.

Через два-три месяца эти цифры покажут, где ИИ действительно экономит время, а где создаёт лишнюю работу по проверке.

Типичные ошибки при внедрении ИИ в госорганизации

• Начинать с самой чувствительной задачи. Пилот на обращениях граждан или кадровых документах сразу упирается в требования к персональным данным. Логичнее начать с открытых материалов и накопить опыт.
• Покупать технологию без сценария. Сначала нужно понять, какие задачи отнимают больше всего времени, и только потом выбирать сервис или разворачивать модель.
• Писать политику, которую никто не читает. Документ на десятки страниц не работает. Сотруднику нужна одна страница с понятными «можно» и «нельзя» и примерами.
• Забывать о языках. Ведомства работают на узбекском, русском, а иногда и на английском. Качество моделей на узбекском заметно различается, поэтому тестировать нужно на реальных текстах на всех рабочих языках.
• Не назначать владельца. Без ответственного пилот быстро превращается в разрозненные эксперименты отдельных сотрудников.
• Наказывать за ошибки. Если за сообщение о том, что в чат-бот попали лишние данные, следует наказание, люди начнут скрывать инциденты.

Чек-лист руководителя

• Есть ли утверждённый список разрешённых ИИ-сервисов?
• Знают ли сотрудники, какие данные нельзя вставлять в чат-боты?
• Отключено ли использование диалогов для обучения в настройках?
• Назначен ли ответственный за ИИ в организации?
• Есть ли правило обязательной проверки текстов, созданных ИИ?
• Известно ли, где обрабатываются персональные данные, и есть ли законное основание для их передачи за рубеж?

Роль ИТ-службы и информационной безопасности

Внедрение ИИ — не только вопрос пресс-службы или отдельных энтузиастов. ИТ-служба и подразделение информационной безопасности должны с самого начала участвовать в процессе:

• оценивать сервисы перед одобрением: где хранятся данные, есть ли отключение обучения, как устроено администрирование;
• централизованно создавать и отключать аккаунты сотрудников;
• настраивать сетевые правила: какие ИИ-сервисы доступны из служебной сети;
• вести журнал инцидентов и разбирать их без поиска виноватых, чтобы люди не боялись сообщать об ошибках;
• отвечать за локальные решения, если ведомство решит развернуть собственную модель.

Когда безопасность подключена с первого дня, ИИ становится управляемым инструментом, а не источником тревоги.

Какие вопросы задать поставщику ИИ-решения

Перед закупкой сервиса или заказом локального решения стоит получить письменные ответы на несколько вопросов:

1. Где физически хранятся и обрабатываются данные, включая резервные копии и журналы?
2. Используются ли запросы и загруженные файлы для обучения моделей, и можно ли запретить это договором?
3. Сколько времени хранятся диалоги и можно ли удалить их по запросу?
4. Как устроено управление доступом: единый вход, роли, отключение уволившихся сотрудников?
5. Ведётся ли журнал действий пользователей и доступен ли он службе безопасности?
6. Насколько хорошо решение работает на узбекском и русском языках и можно ли проверить это на ваших материалах?
7. Кто и в какие сроки обновляет систему и устраняет уязвимости?

Размытые ответы на первые два вопроса — достаточная причина не использовать сервис ни для чего, кроме открытых данных.

Прозрачность перед гражданами

Доверие к государственным коммуникациям — ценный ресурс. Если ведомство использует ИИ в сервисах, с которыми граждане взаимодействуют напрямую, например в чат-боте на сайте, об этом стоит прямо сообщать и всегда давать возможность связаться с живым сотрудником. Для внутренних черновиков, которые затем проверяет и подписывает человек, отдельная маркировка обычно не нужна: ответственность и так лежит на сотруднике. Главное — чтобы эти правила были записаны во внутренней политике, а не зависели от вкуса отдельных людей.

С чего начать без риска

Самый безопасный старт — задачи, где используются только открытые данные, а результат легко проверить глазами: презентации для выступлений, визуализация публичной статистики, адаптация текстов для граждан. Здесь ИИ экономит часы, а риск минимален.

Если нужна помощь с презентациями и отчётами для ведомства, команда Dasta Creative использует ИИ именно так: как ускоритель черновой работы, с ручной проверкой фактов и дизайном, который соответствует статусу организации. Подробнее — на странице презентаций и отчётов.