О возможности заменить врачей на ИИ

[MoonWatcher]

Цитата:

Мы исследовали возможности передовых языковых моделей в области последовательной диагностики — диагностической парадигмы, отражающей итеративный характер клинического мышления. Исходя из краткого клинического описания, врачи выборочно собирали информацию для постановки диагноза, что позволило оценить точность диагностики и затраты на обследование. Мы разработали интерактивный тестовый набор и систему искусственного интеллекта (ИИ), которая имитирует работу группы врачей, постоянно корректируя дифференциальный диагноз и выбирая экономически эффективные обследования. Используя этот тестовый набор, система достигла точности 83.2 % при анализе клинико-патологических случаев из журнала «New England Journal of Medicine» и 80.3 % при анализе случаев поступления в отделения неотложной помощи из базы данных MIMIC-IV-ED, превзойдя по результатам врачей общего профиля (36.1 % и 46.8 % соответственно). Хотя эти результаты были получены в условиях контролируемого тестирования, они подчеркивают перспективность использования языковых моделей для обеспечения более точных и менее затратных диагнозов.

Science

[Anton_Peplov]

Есть три варианта, кто будет ставить диагноз и назначать лечение:

1) только человек (как сейчас)

2) человек + ИИ (с кучей подвариантов, чем именно будет заниматься человек, а чем ИИ, и с пониманием, что человека надо учить взаимодействию с ИИ)

3) только ИИ.

Для выбора варианта нужно ответить на следующие вопросы:

- в каком из вариантов процент врачебных ошибок минимален? С поправкой на серьезность этих ошибок. Если ИИ ошибается пусть реже, но намного серьезнее ("отрезал не ту ногу"), это плохо.

- кто отвечает за врачебную ошибку, допущенную ИИ?

[MoonWatcher]

Anton_Peplov
А какая разница кто отрезал не ту ногу? Это как с беспилотными автомобилями - порог терпимости к ошибкам ИИ в обществе намного выше, чем к людям, хотя это совершенно иррационально. Что касается ответственности, то никогда не понимал почему этому вопросу уделяют столько внимания. Техника может подвести всегда - пусть за это отвечает ее изготовитель. И поскольку умысла или халатности в данном случае скорее всего нет, ответственность должна быть материальной - например, из страхового фонда, куда делают отчисления ИИ-компании. Мне как пациенту фиолетово как накажут врача или ИИ - волновать будет исключительно статистика их ошибок.

ИМХО полная замена врачей (и любых других специальностей) на ИИ неизбежна. Но как и когда это произойдет - вопрос открытый.

[Booker48]

Anton_Peplov в сообщении #1736817 писал(а):

1) только человек (как сейчас)

Если не ошибаюсь, на форуме есть практикующие медики, был бы интересен их комментарий.
По личному, увы, опыту общения с уважаемыми медработниками - они и сейчас используют компьютер не только для пасьянсов записи диагноза.
Покойный сват (врач-уролог в районной поликлинике) лет 10 назад жаловался, что их снабдили методичками-вопросниками, диагноз должен ставиться в зависимости от ответов. Разумеется, не только анамнез, но и результаты осмотра и анализов туда заносились. ""Себя уважать перестаёшь" - его слова, а у него был большой опыт, в том числе врача скорой помощи.
Хотя, с позиции пациента - может так и лучше, вдруг врач не в настроении, или предубеждён и т.п. Вроде надёжнее, если он (она) выражает не личное мнение, а как бы опирается на всю мощь знаний, накопленных медициной за тысячелетия.

[MoonWatcher]

Booker48
Возможные человеческие недостатки:
1) некомпетентность, усталость, рассеянность и т.д.
2) неспособность держать в голове всю историю болезни, все анализы и обследования за несколько лет
3) самолюбие ("Доктор сказал в морг - значит в морг!")
4) сосредоточенность на собственном профиле, а также подстраховка ("Пусть лучше умрет от чужой деменции, чем от моей кардиологии")
5) радение о пользе государственной.

Мой личный пример - бесплатный чат-бот, которому я описал симптомы отца, настоятельно рекомендовал показать его неврологу. А участковый врач настаивала на лечении от анемии (которая у отца в легкой форме и уже много лет). На мою просьбу дать направление к неврологу был ответ: "Лечите его от анемии, а там видно будет. К неврологу можете его повести в частную клинику, за свой счет..." На богопротивный ИИ я конечно не ссылался - ситуацию спасла аналогичная письменная рекомендация доктора медицинских наук.

[Mikhail_K]

MoonWatcher
Только не смешивайте

MoonWatcher в сообщении #1736816 писал(а):

возможности передовых языковых моделей в области последовательной диагностики

и

MoonWatcher в сообщении #1736821 писал(а):

бесплатный чат-бот

Вероятно, последнему Вы зря слишком доверяете.

[MoonWatcher]

Mikhail_K
Я не доверяю и специально упомянул, что он бесплатный - очевидно платные и специализированные еще лучше. Но данный конкретный пример показывает, что даже бесплатный ИИ может оказаться лучше отдельно взятого врача. Аналогичную историю слышал от знакомого, и там тоже был бесплатный ИИ. При этом далеко идущих выводов из таких примеров я не делаю и лечиться исключительно при помощи ИИ не призываю. Но перепроверять с его помощью диагноз одного врача (и в случае сомнений ИИ в правильности диагноза пойти к другому врачу, для контроля) однозначно стоит. Я уже не говорю о гипотетических сценариях, когда врача нет вообще - для сотен миллионов людей это реальность.

[Anton_Peplov]

MoonWatcher в сообщении #1736819 писал(а):

А какая разница кто отрезал не ту ногу?

Вы не поняли. Я имел в виду гипотетическую ситуацию, когда человек допускает ошибки чаще, но мелкие (и никогда не отрежет не ту ногу), а ИИ - реже, но серьезные (и может отрезать не ту ногу).

MoonWatcher в сообщении #1736819 писал(а):

Техника может подвести всегда

Тут есть нюанс. Если не изношенный, только что с конвейера, автомобиль сломался посреди дороги - значит, он был неправильно сделан. Достаточно делать автомобили правильно, и проблемы будут случаться исчезающе редко. Например, при производстве микроэлектроники действует стандарт шесть сигм. От ИИ мы никогда не добьемся надежности в шесть сигм, поскольку галлюцинации - неустранимое свойство ИИ. Их можно минимизировать лишь до определенного предела. Поэтому автоматически переносить на ИИ юридические нормы, созданные для обычной техники, нельзя. Правда, от человека тоже не дождешься шести сигм. Поэтому я и спрашиваю, кто ошибается чаще.

MoonWatcher в сообщении #1736819 писал(а):

пусть за это отвечает ее изготовитель.

Важно определить пределы этой ответственности. Если за одну ошибку ИИ-врача, повлекшую человеческую смерть, производителя ИИ могут засудить на половину его годового бюджета, то ни один производитель не будет поставлять ИИ-врачей. А если производитель не почувствует этого наказания, то у него не будет стимула делать ИИ-врачей надежными.

[Ghost_of_past]

MoonWatcher в сообщении #1736823 писал(а):

Я уже не говорю о гипотетических сценариях, когда врача нет вообще - для сотен миллионов людей это реальность.

У тех людей, кто не имеют доступа к врачу, доступа к ИИ нет тем более: в беднейших странах до сих пор нет охвата мобильным Интернетом, близкого к 100%.

И уж тем более у этих людей не будет реальной финансовой возможности оплатить нормальную платную LLM, ибо вряд ли мы будем ждать, что жители Афганистана с медианной зарплатой ППС в 348 долларов в месяц и жители Северной Кореи с 363 долларами смогут оплачивать подписки также спокойно, как жители Люксембурга с 9275 долларами и жители Швеции с 8819 долларами. И это еще не по номиналу, а ППС.

[MoonWatcher]

Anton_Peplov в сообщении #1736824 писал(а):

Вы не поняли. Я имел в виду гипотетическую ситуацию, когда человек допускает ошибки чаще, но мелкие (и никогда не отрежет не ту ногу), а ИИ - реже, но серьезные (и может отрезать не ту ногу).

Нет, я вас понял. Но в том-то и дело, что не те ноги отрезают и люди. И то, что ИИ может допускать более грубые ошибки - скорее всего опыт из прошлого. Обратите внимание, что ту же GPT-6 Astra никто не высмеивает за глупые ошибки (во всяком случае я таких отзывов не встречал). Надеюсь, что будущие модели в этом отношении будут еще надежнее.

Anton_Peplov в сообщении #1736824 писал(а):

Тут есть нюанс. Если не изношенный, только что с конвейера, автомобиль сломался посреди дороги - значит, он был неправильно сделан. Достаточно делать автомобили правильно, и проблемы будут случаться исчезающе редко. Например, при производстве микроэлектроники действует стандарт шесть сигм. От ИИ мы никогда не добьемся надежности в шесть сигм, поскольку галлюцинации - неустранимое свойство ИИ. Их можно минимизировать лишь до определенного предела. Поэтому автоматически переносить на ИИ юридические нормы, созданные для обычной техники, нельзя. Правда, от человека тоже не дождешься шести сигм. Поэтому я и спрашиваю, кто ошибается чаще.

Именно в плоскости этого вопроса и лежит ответ о применении ИИ - если он будет ошибаться реже человека, то должен заменить его (и неизбежно заменит). Вне зависимости от правовых сложностей с ответственностью.

Anton_Peplov в сообщении #1736824 писал(а):

Важно определить пределы этой ответственности. Если за одну ошибку ИИ-врача, повлекшую человеческую смерть, производителя ИИ могут засудить на половину его годового бюджета, то ни один производитель не будет поставлять ИИ-врачей. А если производитель не почувствует этого наказания, то у него не будет стимула делать ИИ-врачей надежными.

Очевидно нужна золотая середина, вопрос чисто технический.

[Anton_Peplov]

MoonWatcher в сообщении #1736827 писал(а):

Очевидно нужная золотая середина, вопрос чисто технический.

Такого рода "технические" вопросы могут висеть нерешенными многие десятилетия.

[Ghost_of_past]

Anton_Peplov в сообщении #1736828 писал(а):

Такого рода "технические" вопросы могут висеть нерешенными многие десятилетия.

Именно так. Например, переход к нормальной модели общественного здравоохранения в виде частно-государственного страхования с бюджетным софинансированием в США занял полвека и не закончился до сих пор. Наивно ждать, что и здесь не возникнет регуляторных проблем и проблем с оцениванием рисков.

[Mikhail_K]

MoonWatcher в сообщении #1736823 писал(а):

Но данный конкретный пример показывает, что даже бесплатный ИИ может оказаться лучше отдельно взятого врача.

Безусловно может оказаться в каких-то случаях - у нас есть и врачи, которые прописывают гомеопатию.

(Оффтоп)

Но вот, я смотрел много тем на Русском медицинском форуме ( https://forums.rusmedserv.com/ ), где консультируют строго по стандартам современной доказательной медицины. И там очень много говорят о том, что от анемии, даже "лёгкой", и даже просто от снижения ферритина, отмахиваться совсем не стоит - она может имитировать неврологические расстройства и другие виды расстройств. То есть пациент уверен, что ему надо лечиться у невролога или у другого специалиста, а на самом деле причина его жалоб в анемии или просто в недостатке железа даже без анемии. Вероятно, на анемию нужно обращать большее, а не меньшее, внимание, чем это обычно делают российские врачи. Я в этой области не профессионал, всё что хочу этим сказать - получите лучше ещё одну консультацию у другого специалиста-человека, лучше в платной клинике.

[Ghost_of_past]

MoonWatcher в сообщении #1736827 писал(а):

ту же GPT-6 Astra никто не высмеивает за глупые ошибки

За глупые ошибки нет, а за ошибки - вполне можно, только зачем? Я буквально вчера столкнулся с тем, что Astra пыталась мне доказать, что не существует одной статьи японских демографов. И только когда я сам нашел эту статью и кинул ей ссылку на Пабмед, то она признала свою неправоту.

Но я рад, что Вы готовы свою жизнь и здоровье поставить на вот подобные риски.

[MoonWatcher]

Anton_Peplov
Уверен, что это не тот случай - рациональный подход рано или поздно берет вверх, а здесь речь идет о самом драгоценном, что есть у человека, его жизни и здоровье. В данном случае, если уровня хорошего врача ИИ достигнет, скажем, в ближайшие два-три года, то соответствующий регламент будет принят почти незамедлительно. Возможно даже никаких страховых фондов не понадобиться - вероятность ошибки будет настолько меньше человеческой, что вопрос об ответственности просто отпадет. Страны, чьи власти погрязнут в бюрократической волоките, просто столкнутся с тем фактом, что более смелые правительства обеспечили своему населению более качественную (в плане диагностики и назначенного лечения) медицину. Опять же при условии, что ИИ действительно достигнул уровня хорошего врача (и допускает ошибки гораздо реже).

-- добавлено через 1 минуту --

Mikhail_K
Спасибо, буду иметь в виду.