Опубликовано: 07.03.2026, 22:37
При работе с искусственным интеллектом нельзя вводить конфиденциальную информацию в публичные системы, а доверять выдачам нейросетей следует с осторожностью из-за склонности к «галлюцинациям». Использование защищенного интернет-соединения, двухфакторная аутентификация и изучение пользовательских соглашений являются обязательными мерами предосторожности. Об этом изданию READ Новости рассказал Евгений Гусев, директор по продукту Plevako.ai.
Главный принцип взаимодействия — никогда не доверять ИИ слепо. Эксперт предлагает воспринимать искусственный интеллект как ассистента для ускорения рутинных задач, но не как самостоятельного актора. В корпоративной среде необходимо внедрять системы, отслеживающие, чтобы конфиденциальные данные не «утекали» через запросы к нейросетям.
Особое внимание следует уделять пользовательским соглашениям. Многие бесплатные инструменты предупреждают мелким шрифтом, что данные могут пойти на дообучение модели. Это значит, что введенный текст договора способен «всплыть» в ответе другому пользователю. Более того, отправка сообщений в публичные ИИ может нарушать 152-ФЗ о персональных данных, а для адвокатов — 63-ФЗ, что карается вплоть до уголовной ответственности.
«Если ИИ используется в командной работе, нужно разграничивать уровни прав. Убедитесь, что алгоритм, имеющий доступ к базе документов, не может их автоматически рассылать или публиковать вовне», — объяснил Евгений Гусев.
Аккаунт с историей запросов, содержащей коммерческую тайну, должен быть защищен максимально надежно с помощью двухфакторной аутентификации. Безопасность при работе с ИИ является постоянным процессом и комплексом мер, а не разовым действием.
Для работы с конфиденциальной информацией и фотографиями существуют корпоративные версии с изолированными контурами, где данные не покидают периметр компании. Для персонального использования есть легковесные открытые модели, которые функционируют на телефоне или компьютере, отметил эксперт.
Проверка информации, полученной от ИИ, обязательна.
«ИИ склонен к «галлюцинациям» — выдаче выдуманных фактов, которые легко можно спутать с реальными. Например, в юриспруденции это фатально: он может «придумать» несуществующий судебный прецедент или ссылаться на статью закона, которая больше не актуальна», — предупредил Евгений Гусев.
Чем мельче пользователь дробит задачи, тем меньше вероятность галлюцинаций. Использовать ИИ-ассистента можно в качестве генератора черновиков или идей, но финальная проверка фактов, цитат и расчетов всегда должна оставаться за человеком.
Автор: Николай Нестеров
