В Нидерландах растёт рынок медицинских AI-инструментов, но контроля почти нет

В Нидерландах всё больше медицинских сервисов уходит в цифру: онлайн-анкеты, чат-боты, приложения для оценки симптомов, инструменты распознавания речи, которые автоматически составляют отчёт после разговора врача с пациентом. На первый взгляд это удобно: врачам меньше административной нагрузки, пациент быстрее получает направление или совет, система работает быстрее. Но специалисты предупреждают: рынок таких инструментов растёт быстрее, чем правила и контроль за ними.

Поводом для обсуждения стала ситуация вокруг сервиса moetiknaardedokter.nl. По данным NOS, этот популярный инструмент для пациентов годами не имел всех нужных документов и при этом заявлял о сотрудничестве с организациями, которые сами это сотрудничество не подтверждали. После этого Landelijke Huisartsen Vereniging призвала создать независимый орган, который будет заранее проверять медицинские цифровые инструменты для врачей общей практики.

Главный риск в том, что пациент часто использует такие сервисы в момент тревоги и доверяет их советам почти как врачу. Но алгоритм не видит человека целиком: он не может оценить выражение лица, поведение, контекст, не задаёт уточняющие вопросы так, как это сделал бы врач. Если пациент неправильно заполнит анкету или не заметит важный симптом, система может дать неверный совет. А когда речь идёт о здоровье, «примерно правильно» уже не всегда достаточно.

Отдельные опасения вызывают AI-инструменты и программы распознавания речи. По словам специалистов, такие системы могут «галлюцинировать» — то есть добавлять в отчёт то, чего пациент не говорил. Поэтому врачи предлагают использовать цифровые инструменты осторожно: для административных задач, писем, подготовки документов — да. А вот для постановки диагноза или серьёзных медицинских рекомендаций без человеческой проверки — слишком рискованно.

Источник: NOS

INT Services.nl. Позвоните нам.
Мы на связи 24/7: + 31 8 520 86 592