Предлагаемая структура для интеграции чат-ботов и других разговорных агентов в здравоохранение

ФИЛАДЕЛЬФИЯ. Хотя технология для разработки чат-ботов на базе искусственного интеллекта существует уже некоторое время, новая точка зрения в JAMA излагает клинические, этические и юридические аспекты, которые необходимо учитывать, прежде чем применять их в здравоохранении. И хотя появление COVID-19 и сопровождающее его социальное дистанцирование побудило все больше систем здравоохранения исследовать и применять автоматизированных чат-ботов, авторы по-прежнему призывают к осторожности и осмотрительности, прежде чем действовать.

«Мы должны признать, что это относительно новая технология, и даже для старых систем, которые использовались, данные ограничены», – сказал ведущий автор точки зрения Джон Д. МакГриви III, доктор медицины, доцент медицины в Перельмане. Медицинский факультет Пенсильванского университета. «При любых усилиях также необходимо осознавать, что большая часть данных, которые мы получаем, получены в результате исследований, а не широкого клинического применения. Зная это, оценка этих систем должна быть надежной, когда они попадают в клиническую практику, и те, кто ими управляет, должны быть достаточно проворными, чтобы быстро адаптироваться к обратной связи ».

МакГриви, к которой присоединился К. Уильям Хэнсон III, доктор медицины, главный специалист по медицинской информации Penn Medicine, и Росс Коппел, доктор философии, FACMI, старший научный сотрудник Института экономики здравоохранения Леонарда Дэвиса в Пенсильвании и профессор медицинской информатики, написали: «Клиническая , Правовые и этические аспекты переговорных агентов с помощью ИИ ». В нем авторы выделяют 12 различных областей, которые следует учитывать при планировании внедрения чат-бота или, более формально, «разговорного агента» в клинической практике.

Чат-боты – это инструмент, используемый для общения с пациентами с помощью текстовых сообщений или голоса. Многие чат-боты работают на базе искусственного интеллекта (ИИ). В этой статье конкретно обсуждаются чат-боты, которые используют обработку естественного языка, процесс искусственного интеллекта, который стремится «понять» язык, используемый в разговорах, и вытаскивает из них цепочки и связи для предоставления значимых и полезных ответов.

В сфере здравоохранения эти сообщения и реакция людей на них чрезвычайно важны и имеют ощутимые последствия.

«Мы все чаще напрямую общаемся с нашими пациентами через электронные медицинские записи, предоставляя им прямой доступ к результатам их анализов, диагнозам и записям врачей», – сказал Хансон. «Чат-боты могут повысить ценность этих сообщений, с одной стороны, или вызвать путаницу или даже причинить вред, с другой».

Например, то, как чат-бот справляется с тем, чтобы кто-то сказал ему что-то столь серьезное, как «Я хочу причинить себе вред», имеет много разных значений.

В примере с самоповреждением авторы выделили несколько подходящих областей. В первую очередь это касается категории «Безопасность пациента»: кто следит за чат-ботом и как часто они это делают? Он также затрагивает тему «Доверие и прозрачность»: действительно ли этот пациент серьезно отнесется к ответу известного чат-бота? Это также, к сожалению, вызывает вопросы в категории «Юридические вопросы и лицензирование»: кто несет ответственность, если чат-бот не справляется со своей задачей. Более того, здесь также может применяться вопрос из категории «Объем»: эта задача лучше всего подходит для чат-бота или все же должно полностью управляться человеком?

С их точки зрения, команда считает, что они изложили ключевые соображения, которые могут послужить основой для принятия решений, когда дело доходит до внедрения чат-ботов в здравоохранение. Их соображения должны применяться даже тогда, когда требуется быстрое внедрение для реагирования на такие события, как распространение COVID-19.

«В какой степени чат-боты должны расширять возможности врачей, которые мы бы назвали расширенным интеллектом, или заменять их полностью искусственным интеллектом?» – сказал Коппель. «Точно так же нам необходимо определить пределы полномочий чат-бота для работы в различных клинических сценариях, например, когда пациент указывает, что у него кашель, если чат-бот только отвечает, сообщая медсестре или копаясь дальше:« Можете ли вы сказать мне еще о твоем кашле? »

Чат-боты имеют возможность значительно улучшить показатели здоровья и снизить эксплуатационные расходы систем здравоохранения, но оценка и исследования будут ключевыми для этого: как для обеспечения бесперебойной работы, так и для сохранения доверия как пациентов, так и медицинских работников.

услуги нутрициологаАвтор сайта и статей: Богомолова Татьяна, нутрициолог-психолог, консультант по питанию и коррекции веса. Подробнее обо мне

Я в соц. сетях: Instagram.

Рейтинг
Еще статьи нутрициолога:
Adblock
detector