Психиатры отмечают рост числа пациентов, которые приходят на прием с диагнозами, составленными на основе общения с искусственным интеллектом. Доктор Педро Морено, член Испанского общества клинической психиатрии (SEPC), предупредил о серьезных рисках такой практики на конгрессе общества, который прошел на этой неделе в Саморе.
По словам эксперта, нейросети создают иллюзию эмпатии благодаря способности поддерживать связную беседу, однако они полностью лишены реальных чувств. Морено подчеркнул, что ИИ имитирует понимание, но не обладает им, что вводит пользователей в заблуждение.
Одной из главных проблем является склонность чат-ботов к генерации вымышленных данных, ссылок и научных исследований, которые система представляет как достоверные. В попытках быть полезными чат-боты часто соглашаются с ошибочными интерпретациями пользователей, что может привести к самолечению, корректировке дозировки препаратов или отказу от медицинской помощи.
Наибольшую опасность ИИ представляет для людей, страдающих от суицидальных наклонностей, расстройств пищевого поведения или психозов. Зависимость от ответов чат-бота может ослабить личную автономность пациента и привести к изоляции от квалифицированной помощи.
В профессиональной среде обсуждается концепция «дополненного психиатра» (psiquiatra aumentado). Она предполагает использование цифровых инструментов для оптимизации работы врача, но без делегирования машине ответственности за клинические решения или терапевтические отношения.
Доктор Морено подчеркнул, что ИИ не может заменить специалиста, а обучение критическому мышлению становится необходимым навыком для всех пациентов в условиях развития технологий.
Оригинал: https://www.malagahoy.es/salud/actualidad/espejismo-sentirse-escuchado_0_2008346073.html