Сгенерированная искусственным интеллектом «знахарка» довела пожилую жительницу Москву до госпитализации. История 68-летней женщины показала, насколько опасными могут быть советы виртуальных целителей. Но медицинские рекомендации – не единственная сфера, в которой нейросети способны вводить людей в заблуждение.
Они также придумывают факты, ошибаются в расчетах, подстраиваются под мнение собеседника и выдают устаревшие сведения за актуальные. Разбираемся, как жителям Удмуртии распознать эти ловушки и защитить себя и близких.
Отвар по совету нейросети закончился больницей
Как пишут «Известия», пенсионерка из столицы подписалась в соцсетях на аккаунт виртуальной травницы, которая публиковала видеорецепты для оздоровления.
Подписчица решила попробовать отвар с лимоном и черным перцем, якобы предназначенный для очищения кишечника.
Ночью у женщины сильно заболел живот, резко упало давление, возникло затруднение дыхания, а затем появилась кровавая рвота. Она успела позвонить родственникам, которые вызвали скорую помощь. В итоге женщину госпитализировали.
Этот случай стал поводом обратить внимание на распространение ИИ-целителей. В Сети появляются вымышленные бабушки-травницы, знахари, экстрасенсы и даже виртуальные врачи. Они рассказывают о чудодейственных рецептах, советуют добавки и обещают избавить от болезней без дорогостоящего лечения.
По словам экспертов, за подобными аккаунтами могут стоять целые организованные группы. Они создают десятки и сотни цифровых персонажей, автоматически публикуют ролики и отвечают на комментарии. Когда аудитория растет, владельцы страниц зарабатывают на рекламе, продаже товаров и продвижении сомнительных услуг.
Почему виртуальному целителю доверяют
Образ доброжелательной пожилой женщины или врача в белом халате вызывает доверие. Дополнительное влияние оказывают фразы «врачи об этом молчат», «проверено поколениями» и «простое средство, которое есть на каждой кухне».
Особенно уязвимыми могут оказаться пожилые люди, которым трудно проверить источник информации. Одиночество и желание сэкономить на обследованиях делают обещания быстрого и дешевого исцеления привлекательными.
Однако проблема не в возрасте человека и не в самом искусственном интеллекте. Опасность возникает, когда вымышленного персонажа выдают за специалиста, а его слова воспринимают как медназначение. Красивое видео, убедительная речь и подробное описание симптомов не подтверждают ни квалификацию автора, ни безопасность рецепта.
Четыре ситуации, в которых ИИ может обмануть
Помимо сгенерированных целительниц нередко мы сами обращаемся к нейросетям, чтобы спросить или узнать что-то. Здесь тоже нужно быть осторожными и не доверяться всецело ИИ-инструментам. И вот почему.
1. Когда нейросеть советует лечиться самостоятельно
Чат-бот способен предложить травяной отвар, диету, добавку или способ лечения, не учитывая диагноз, хронические заболевания, аллергию и лекарства, которые уже принимает человек. Иногда рекомендации могут быть просто выдуманными или опасными.
Не начинайте лечение по совету нейросети, не отменяйте назначенные препараты и не заменяйте обследование домашними рецептами. Если появились тревожные симптомы, обратитесь к врачу. При затрудненном дыхании, кровавой рвоте или резком ухудшении состояния нужна срочная госпитализация.
2. Когда ИИ уверенно сообщает несуществующие факты
Нейросеть может придумать научное исследование, перепутать результаты эксперимента, приписать специалисту чужие слова или сослаться на несуществующий закон. При этом ответ выглядит логичным и убедительным.
Проверяйте медицинские утверждения по материалам Минздрава РФ, Роспотребнадзора и надежных медицинских учреждений. Если ИИ приводит исследование, найдите оригинальную публикацию, а не ограничивайтесь пересказом.
3. Когда чат-бот соглашается с вами
Нейросети часто стараются быть полезными и поддерживать собеседника. Поэтому они могут подстроиться под мнение пользователя, даже если в вопросе заложено ошибочное предположение, передает lenta.ru.
Например, если человек уверен, что его недомогание вызвано определенным продуктом, чат-бот может перечислить аргументы в пользу этой версии и не обратить достаточно внимания на другие причины.
Полезно попросить систему рассмотреть альтернативные объяснения и указать, какие сведения необходимо проверить. Но окончательные выводы о здоровье должен делать медицинский специалист.
4. Когда информация уже устарела
Правила приема лекарств, рекомендации по профилактике и медицинские данные могут меняться. Некоторые модели не располагают свежими сведениями, а даже встроенный интернет-поиск не гарантирует, что система найдет актуальный и достоверный источник.
Проверяйте дату публикации и обращайтесь к официальным ресурсам. Не принимайте решения о лечении на основании ответа, в котором не указаны источники или непонятно, когда информация была обновлена.
Как жителям Удмуртии защитить себя и своих близких: юридические тонкости
-
В первую очередь не путайте удобный инструмент с реальным врачом. Нейросеть может помочь составить список вопросов для приема, объяснить медицинский термин простыми словами или подготовить краткий пересказ официальной рекомендации. Но она не заменяет осмотр, диагностику и индивидуальное назначение лечения.
-
Если родственник прислал ролик с чудодейственным рецептом, не высмеивайте его и не ограничивайтесь запретом. Спокойно обсудите, кто создал публикацию, есть ли у автора подтвержденная квалификация и на какие исследования он ссылается.
-
Помогите найти проверенную информацию и при необходимости записаться к врачу.
-
На подозрительные страницы с опасными медицинскими советами можно пожаловаться администрации соцсети. Если рекомендации нанесли вред здоровью или связаны с продажей сомнительных препаратов, то лучше сохраните переписку, ссылки, записи публикаций и сведения об оплате: они могут пригодиться при обращении в правоохранительные органы.
Ответственность за опасные советы зависит от конкретных обстоятельств, последствий и возможности установить владельца аккаунта. Сам факт использования нейросети не освобождает человека, который создает и распространяет такой контент, от возможного наказания, подчеркивают юристы.
Дело в том, что если опасные рекомендации привели к тяжкому вреду здоровья или смерти, в зависимости от обстоятельств могут применяться статьи 118 и 109 УК РФ. За продажу небезопасных товаров или оказание услуг, не отвечающих требованиям безопасности, предусмотрена ответственность по статье 238 УК РФ.
Однако сложность в том, что привлечь виновных к ответственности непросто. Необходимо установить, кто создавал и управлял аккаунтом, а также доказать связь между опубликованными рекомендациями и причиненным вредом.
Отдельная судебная практика по делам об ИИ-знахарях в России пока не сформировалась, хотя дела о незаконном лечении и опасных медицинских советах уже рассматриваются.
