Три ошибки, которых надо избежать
Все три ошибки уже случались. Не у нас, но закон тот же и люди те же.
Ошибка 1. Данные пациентов в общедоступный ИИ
Случай из практики
Онтарио, Канада, 2025. Врач уволился из клиники, но его личный ИИ-диктофон остался подключён к рабочим онлайн-разборам пациентов. Запись одного разбора автоматически ушла 65 адресатам. Раскрыты диагнозы семи пациентов. Источник: письмо комиссара по защите информации Онтарио, октябрь 2025.
Случай из практики
Samsung, 2023. Инженеры загрузили в ChatGPT фрагменты секретного кода, чтобы быстрее найти ошибку. Компания запретила сотрудникам пользоваться ИИ. Случай стал учебным для всего мира: данные, введённые в общедоступный сервис, уходят на чужие серверы.
Почему это ошибка по закону. Диагноз, факт обращения, сведения о здоровье — врачебная тайна. Ввод их в общедоступный ИИ — это передача третьему лицу и хранение за пределами Казахстана. Подробнее в разделе Законы.
Что делать.
- В общедоступный ИИ — только обезличенные данные. Убрали имя — мало. Редкий диагноз, район и возраст вместе могут выдать человека.
- При увольнении сотрудника в тот же день закрывайте все доступы: к медицинской системе, почте, общим папкам. У каждого сотрудника свой логин, общих паролей нет.
- Выключите обучение модели на ваших данных. Как.
Ошибка 2. Верить ИИ без проверки
Случай из практики
Выдуманные ссылки. В научных статьях начала 2026 года одна из 277 цитирует несуществующую работу. В 2023 году — одна из 2828. Рост в десять раз за три года связывают с использованием ИИ при написании статей. Источник: письмо в Lancet, 2026.
Случай из практики
Россия, 2026. Юристов оштрафовали за ссылки в документах на судебные решения, которых не существует. Документы готовил ИИ, никто не проверил.
Случай из практики
Искажение в медицинской записи. В Англии ИИ-помощник при расшифровке приёма превратил «нет признаков демиелинизации» в «демиелинизация». Источник: Healthwatch England, 2026. В исследовании ИИ-записей приёма 2026 года выдуманные факты нашлись в 11,5% записей, серьёзные — в 5,3%.
Почему это происходит. ИИ не ищет документ, а составляет правдоподобный текст. Номер приказа, дата, фамилия автора выглядят настоящими. Без исходного текста модели ошибаются в юридических вопросах в большинстве случаев.
Что делать.
- Каждую ссылку на приказ или закон — проверить на adilet.zan.kz. Каждую цифру — пересчитать.
- Давать ИИ исходный документ, а не спрашивать «по памяти». Для этого есть проекты, см. Шесть задач.
- Правило для сотрудников: подписал — значит, отвечаешь. ИИ не является автором документа.
Ошибка 3. Сотрудники пользуются ИИ без правил
Случай из практики
Нижегородская область, апрель 2026. В электронных медкартах пациентов появились смайлики и характерные обороты из ChatGPT: врачи заполняли документацию с помощью ИИ. Региональный минздрав запретил использование ИИ при оформлении медицинских документов. Источник: сообщение СМИ, апрель 2026.
Цифры. В США 81% врачей пользуются ИИ в работе (опрос Американской медицинской ассоциации, начало 2026, 1692 врача; в 2023 году было 38%). 40% сотрудников больниц видели у себя неразрешённые ИИ-инструменты, 17–20% сами ими пользуются (опрос Wolters Kluwer, декабрь 2025). Письменная политика по ИИ есть лишь у каждой пятой медицинской организации (MGMA, январь 2026). Казахстанских данных по медорганизациям нет, но 71% казахстанцев спрашивают ИИ о здоровье (опрос STADA, 2026). Пациенты уже приходят на приём с ответами чат-бота.
Почему запрет не работает. Инструмент бесплатен и лежит в кармане. Запрет уводит использование в тень, а риски остаются. Запрет после скандала хуже правила до него.
Что делать.
- Ввести правило на одну страницу. Готовый шаблон: Правило об ИИ.
- Назначить ответственного, к которому можно прийти с вопросом «а это можно?».
- Обучить людей. Хотя бы один час: что можно, что нельзя, как выключить обучение на данных.
Для ИТ-отдела: что ещё стоит знать
Эти риски не для выступления, но руководителю полезно о них знать.
- Отказ ИТ-систем. Медцентр Университета Миссисипи, февраль 2026: после кибератаки электронная медкарта была отключена, клиники закрыты 11 дней. Казахстан, май 2024: со счетов детской больницы Жамбылской области похищено 350 млн тенге. Нужен план работы «на бумаге» на случай отказа систем.
- Утечки через своих. Июнь 2025: утечка 16,3 млн записей о жителях Казахстана, премьер-министр заявил о возможной связи с медорганизациями. Февраль 2024: таблица Excel со студентами и их медданными разошлась в WhatsApp, возбуждено уголовное дело.
- Чат-бот вместо клинического мышления. Американский институт ECRI поставил неправильное применение ИИ-чат-ботов на первое место среди опасностей медицинских технологий 2026 года.