Caseproof

Нейросети в работе Гайд

Данные и нейросети: что нельзя отправлять в чат

Какие сведения нельзя отправлять в чат, как настроить сервис, чтобы он не учился на ваших текстах, и что писать в регламенте для сотрудников небольшой фирмы.

Редакционный профиль раздела «Искусственный интеллект»

Защита сведений при работе с нейросетью держится на 3 решениях, а не на поиске «безопасного» сервиса. Первое — заранее описать, какие категории информации не покидают компанию ни при каких условиях. Второе — перевести рабочие чаты на настройки и тарифы, где ваши тексты не уходят в дообучение модели. Третье — научить сотрудников обезличивать текст до отправки, а не после разбирательства.

Риск здесь не умозрительный. Любой текст, вставленный в окно чата, покидает ваш компьютер и какое-то время хранится у поставщика сервиса — как минимум для разбора жалоб. Дальше всё зависит от условий тарифа и от того, что именно вы вставили: обезличенный кусок переписки или выгрузку клиентской базы с телефонами.

Какие сведения нельзя вставлять в чат#

Разделите информацию на 3 зоны и зафиксируйте деление письменно. Красная зона: персональные данные клиентов и сотрудников (фамилия вместе с телефоном, адресом, паспортом или диагнозом), пароли, ключи доступа и токены, банковские реквизиты, тексты действующих договоров с названиями сторон, себестоимость и закупочные цены, переписка под соглашением о неразглашении. Эти фрагменты не попадают в чат ни в каком виде.

Жёлтая зона: рабочие материалы, которые полезно обсудить с моделью, но только после обезличивания — претензия покупателя, спорный пункт договора, структура коммерческого предложения, выгрузка продаж без имён и контактов. Зелёная зона: то, что уже опубликовано, — тексты с сайта, описания товаров, вакансии, посты в соцсетях.

Критерий отнесения простой: если по вставленному тексту посторонний опознает конкретного клиента, конкретную сделку или получит доступ к системе — это красная зона. Проверять нужно содержимое, а не название файла: в безобидной «таблице отгрузок» обычно лежат телефоны, адреса и суммы. Без письменного перечня запрет превращается в спор о трактовках.

Настройки сервиса: обучение, история, доступы#

Сервис оценивают не по обещаниям на сайте, а по 3 настройкам, которые проверяются руками. Первая — обучение на ваших запросах: в личных кабинетах чат-сервисов есть переключатель, запрещающий использовать переписку для дообучения модели. В корпоративных тарифах запрет чаще действует по умолчанию, но его нужно найти в условиях тарифа, а не предположить.

Вторая настройка — хранение истории. Даже при выключенном обучении переписка какое-то время лежит у поставщика: записи нужны для разбора жалоб и нарушений. Уточните срок хранения, а для чувствительных задач включайте режим временного чата, который не сохраняет диалог.

Третья — доступы. Рабочие задачи ведутся с корпоративных аккаунтов на рабочей почте, а не с личных: сотрудник уволился — вы закрыли вход и знаете, что уходило в сервис. Личный аккаунт уходит вместе с человеком, а переписка с рабочими документами остаётся у него.

Осторожнее с браузерными расширениями вида «умный помощник»: многие передают выделенный текст через собственный сервер, и вы не знаете чей. То же когда ии-агент получает доступ к почте, диску или CRM: наружу уходит не только вставленный текст, но и всё, до чего он дотянется по правам.

Обезличивание текста перед отправкой запроса#

Обезличивание — механическая процедура, она занимает около минуты. Порядок такой. Заменить имена и названия на роли: «Клиент А», «Поставщик Б», «Менеджер». Убрать телефоны, адреса, ИНН, номера договоров и счетов. Округлить суммы или заменить их на условные, если точность не влияет на ответ. Вырезать шапки и подписи писем. Оставить только тот фрагмент, который относится к вопросу.

Частая ошибка — вставлять документ целиком «чтобы модель поняла контекст». Качество ответа зависит от постановки задачи, а не от объёма вставленного: короткий и точно сформулированный промпт с одним абзацем сути даёт результат лучше, чем весь договор без разбора. Заодно вы не отправляете наружу лишние страницы.

Признак того, что обезличивание не сработало: по оставшимся деталям — сумме, дате, городу и виду работ — сделку всё ещё легко узнать. Значит, убирайте дальше. Если задача в принципе не решается без настоящих сведений, её выносят из публичного чата: делают вручную или на модели, развёрнутой внутри компании. Файл соответствий — кто скрывается за «Клиентом А» — держите у себя на диске: отправленный в тот же чат, он обнуляет всю процедуру.

Регламент на 1 страницу и контроль исполнения#

Документ на 1 страницу работает лучше политики на 30 листов: его читают до конца. Впишите 5 пунктов — разрешённые сервисы, перечень красной зоны, правило обезличивания, кто согласовывает исключения, порядок действий при утечке. Без имени согласующего правило не работает: сотрудник со срочной задачей решит сам.

Порядок действий при утечке опишите заранее. Сотрудник сообщает руководителю в тот же день, переписка и вложения удаляются из сервиса, оценивается состав ушедших сведений, при персональных данных клиентов подключается юрист. Наказание за само сообщение — способ больше не узнавать об утечках.

Признаки теневого использования: тексты в непривычном для сотрудника стиле, расширения-помощники в рабочем браузере, письма о подписках на незнакомые сервисы. Раз в квартал просматривайте установленные расширения и прямо спрашивайте, кто чем пользуется, — чтобы перевести человека на разрешённый инструмент.

Отдельно про статус сведений: они охраняются как коммерческая тайна, только если в компании введён такой режим — утверждён перечень, носители помечены, сотрудники под подпись ознакомлены с обязательствами. Без этого спрашивать за утечку почти не с кого, а взыскать убытки тем более.

Вывод: правила важнее выбора сервиса#

Безопасность строится не на поиске «правильной» нейросети, а на 3 привычках: разделить информацию на зоны, настроить сервис и обезличивать текст до отправки. Ни одна из привычек не требует бюджета и своего айти-отдела — нужны письменная фиксация и повторение из месяца в месяц.

Начните с малого. Соберите руководителей на 1 час, выпишите, что относится к красной зоне именно в вашем деле, и превратите список в короткий регламент. Затем зайдите в настройки сервиса, которым сотрудники уже пользуются, и выключите обучение на переписке. Третьим шагом покажите на реальном примере, как выглядит обезличенный запрос: образец копируют охотнее, чем читают правила.

Запрещать нейросети целиком бессмысленно — сотрудники продолжат пользоваться ими с личных телефонов, и вы потеряете возможность влиять на то, что уходит наружу. Управляемое использование с понятными границами защищает компанию надёжнее, чем запрет, который никто не соблюдает.

Темы данные и нейросети

Читать ещё

  1. Нейросети в работе

    Как составить регламент работы с ИИ в компании

  2. Нейросети в работе

    Расшифровка звонков нейросетью: что это даёт продажам

  3. Нейросети в работе

    Как проверить текст, написанный нейросетью

  4. Нейросети в работе

    Как посчитать окупаемость нейросети в своём бизнесе