Безопасное и этичное использование ИИ
ИИ можно передать договор и попросить найти спорные пункты, загрузить переписку и получить краткое резюме или попросить проверить расчёты. Но вместе с полезным контекстом в запрос легко отправить то, чего там быть не должно: данные клиента, внутренние документы компании или платёжные реквизиты.
Есть и обратный риск. Ответ ИИ может звучать убедительно и при этом содержать ошибочные цифры, даты, ссылки или выводы.
Поэтому безопасная работа с ИИ начинается с двух вопросов: что можно передать нейросети и что нужно проверить в её ответе.
В этом материале разберём:
Где проходит граница безопасного использования ИИ
ИИ хорошо справляется с задачами, где нужно подготовить или обработать информацию. Например, он может:
Но передавать ИИ задачу не значит передавать ему ответственность за результат. Особенно это важно, когда решение связано с правом, финансами, налогами, медициной, кадровыми вопросами, персональными данными, договорными обязательствами или публичными обещаниями клиентам. Финальные цифры, условия, факты и формулировки в таких случаях должен проверить человек.
Есть и второе ограничение — данные, которые вы передаёте нейросети. Информация из запроса может обрабатываться и храниться провайдером сервиса, попадать в технические логи, а в некоторых продуктах и настройках — использоваться для обеспечения безопасности или улучшения сервиса.
Поэтому рабочее правило: не передавайте публичному ИИ-сервису информацию, которую вы не готовы раскрывать за пределами компании.
Особенно внимательно нужно относиться к персональным данным. Их обработку в России регулирует Федеральный закон № 152-ФЗ. Загрузка документа с персональными данными в публичный ИИ-сервис тоже может считаться их обработкой, поэтому для неё нужны соответствующие правовые основания и меры защиты.
Что нельзя передавать публичным ИИ-сервисам
Публичный сервис — это массовый ИИ-инструмент без корпоративного договора, понятных условий обработки и хранения рабочих данных и других гарантий со стороны вашей компании.
В такой сервис не стоит загружать пять основных типов информации.
Это важно не только с точки зрения конфиденциальности. Например, среди рисков при работе с языковыми моделями выделяют раскрытие чувствительной информации и промпт-инъекции — ситуации, когда внешние данные содержат инструкции, которые способны повлиять на поведение модели.
Если сомневаетесь, можно ли передавать конкретный документ, безопаснее сначала убрать из него чувствительные сведения или использовать сервис, который одобрен вашей компанией.
Что можно использовать в работе с ИИ
Если материал не содержит персональных, конфиденциальных или защищённых данных, рисков значительно меньше. Например, для работы с ИИ можно использовать:
Если же для задачи нужны реальные рабочие данные, есть два основных варианта.
Первый — использовать корпоративный ИИ-сервис, который одобрен компанией и предусматривает необходимые условия хранения, доступа и обработки информации.
Второй — подготовить данные перед загрузкой: удалить или заменить всё, по чему можно определить конкретного человека или восстановить конфиденциальную информацию.
Для сложных процессов и автоматизации могут понадобиться дополнительные меры: внутренние хранилища, контролируемые интеграции и разграничение доступа по ролям.
Как обезличить данные перед загрузкой
Обезличить документ — не значит просто удалить из него имя и телефон. Человека или компанию иногда можно определить по сочетанию других деталей. Например: редкая должность + небольшой город + конкретная дата сделки уже могут указывать на определённого человека.Поэтому перед загрузкой проверьте документ на два типа данных.
При этом информацию необязательно просто удалять. Часто удобнее заменить её нейтральными обозначениями — тогда структура документа и смысл задачи сохранятся.
При обезличивании персональных данных учитывайте требования законодательства, в том числе Приказ Роскомнадзора от 19.06.2025 № 140.
Рассмотрим на примере.
Небезопасный запрос:
Проанализируй договор с клиентом Ивановым Иваном, паспорт 4512 №…, адрес…, сумма сделки 3 200 000 ₽.
В этом случае для выполнения задачи нейросети вообще не нужны ФИО, паспорт и адрес клиента.
Безопаснее:
Проанализируй обезличенный договор оказания услуг. Сторона А — Исполнитель, сторона Б — Заказчик. Укажи спорные формулировки, риски для Исполнителя и вопросы к юристу.
Контекста для анализа достаточно, а лишние данные в сервис не попадают.
Почему ответы ИИ нужно проверять
Безопасность касается не только того, что вы передаёте ИИ, но и того, что получаете обратно.
Языковая модель генерирует наиболее вероятный ответ и может уверенно сообщить информацию, которой нет в источниках, перепутать дату, придумать ссылку или сделать необоснованный вывод. Такие ошибки часто называют «галлюцинациями». Особенно внимательно проверяйте:
Если ошибка может повлиять на деньги, обязательства компании, клиента или сотрудника, ответа ИИ недостаточно — нужен первоисточник или проверка профильного специалиста.
Как снизить риск ошибок
Часть ошибок можно предотвратить ещё до того, как ИИ сформирует ответ.
Ограничьте источники
Если модель должна работать только с переданными материалами, скажите об этом прямо:
Используй только информацию из текста ниже. Если ответа в нём нет, сообщи, что данных недостаточно. Не дополняй ответ предположениями.
Можно также попросить модель отделять известное от предположений:
Отдельно укажи факты из источника и свои предположения.
Просите показывать основания для вывода
Если ИИ анализирует документ, попросите указывать, на какой фрагмент он опирается.
Например:
Для каждого вывода укажи фрагмент документа, на основании которого он сделан.
Так проще заметить, когда вывод действительно следует из материала, а когда модель додумала его сама.
Работайте поэтапно
Необязательно пытаться получить идеальный результат одним запросом. Сначала можно попросить ИИ составить план анализа или критерии проверки, затем разобрать материал по этим критериям, а в конце — собрать выводы. Например:
Шаг 1. Выдели условия договора, которые требуют проверки.
Шаг 2. Для каждого пункта объясни возможный риск и приведи фрагмент исходного текста.
Шаг 3. Раздели выводы на две группы: подтверждены документом / требуют проверки юристом.
Так проще контролировать ход рассуждения и замечать ошибки до того, как они попадут в финальный материал.
Обращайте внимание на подозрительные ответы
Дополнительная проверка нужна, если ИИ:
В таких случаях попросите показать основание для ответа, а важную информацию проверьте самостоятельно.
Используйте дополнительные инструменты для проверки
Если сомневаетесь, можно ли использовать определённые данные или документы при работе с нейросетями, задайте вопрос Нейроюристу. Он поможет провести первичную проверку и подскажет, на какие ограничения и требования стоит обратить внимание.
Например:
Могу ли я использовать в работе с нейросетями внутренние отчёты моей компании?
В ответ Нейроюрист может подсказать, что нужно проверить перед использованием материалов: например, требуется ли согласие работодателя, какие правила работы с данными действуют в компании и нужно ли обезличить информацию перед загрузкой.
При этом ответ Нейроюриста тоже не стоит воспринимать как окончательное решение: если вопрос связан с чувствительными данными или может иметь юридические последствия, дополнительно проконсультируйтесь со специалистом.
Быстрая проверка перед работой с ИИ
Перед тем как отправить запрос, проверьте три вещи.
1. Можно ли передавать эти данные?
В запросе нет персональных данных, коммерческой тайны, платёжной информации, доступов и других защищённых сведений. Если они нужны для контекста — материал обезличен или используется одобренный корпоративный сервис.
2. Достаточно ли контекста для задачи?
ИИ понимает, что нужно сделать, с какими материалами работать и какой результат вы ожидаете.
3. Что нужно будет проверить после ответа?
Заранее определите, какие цифры, факты, условия или выводы нельзя принимать без дополнительной проверки.
Формулировка запрос тоже влияет на надёжность результата. Чем точнее вы задаёте задачу, контекст и ограничения, тем меньше пространства остаётся для домыслов. Формулу хорошего запроса и другие приёмы промптинга подробно разберём в следующем материале.
Главное в материале
В следующем материале разберём, как составлять запросы к ИИ так, чтобы получать более точные и полезные ответы с меньшим количеством доработок.