ИИ в медицине: оптимизация или антиутопия?
Разбираем новость о внедрении ИИ в медицину для сокращения персонала. Если ли в этом угроза монополизации данных о здоровье и коммерциализации лечения? Посмотрим на это через призму общего тренда монополий в экономике и порассуждаем о мрачных последствиях.
расшифровка
Всем привет! Пока основные заголовки трубят о встрече одного толстенького олигарха с одним представителем нашей государственности, на второй план ушла новость, которая, по-моему, незаслуженно была задвинута. Я бы хотел её реабилитировать, поднять, потому что она отлично продолжает тему предыдущих выпусков подкаста о том, как устроены экономические взаимоотношения.
Ранее я говорил про проблемы с государственным долгом, с внутренним долгом — буквально ниже есть выпуск про это, большой и довольно подробный. И в этом выпуске я также говорил, что неминуемо мы столкнёмся с тем, что государству придётся срезать расходную часть бюджета, в том числе по социальным статьям. Это декларируется исходя из черновиков бюджетов и всего дискурса. И в частности, конечно, нас интересует медицина.
Новость, которая тихонечко померла на фоне этой важной в кавычках встречи, проходящей сегодня в Санкт-Петербурге, звучит приблизительно так — это не цитата, а мой пересказ. Найдено интересное решение, как оптимизировать расходы на медицину. Найдено гражданами, которых наши соотечественники избрали на прошедших выборах в Государственную думу. Решение сводится к тому, чтобы сократить медицинский персонал — конечно же, с целью оптимизации. Но интересно другое: что же это за оптимизация, которая так лихо позволит сократить персонал, и кого сократят? Детали по названию профессии лазить не будем, нас интересует концепция самой оптимизации.
Концепция строится вокруг того, чтобы цифровые данные граждан об их здоровье — анализы, результаты посещений врачей, нахождение в стационарах — попадали в некий алгоритм, который называют ИИ. Конечно, это громкое название, интеллекта пока никакого нет, но скажем так, в некий алгоритм, который анализировал бы все показатели здоровья и на основании этого предлагал курсы лечения, назначения и т.д. Мысль-то трезвая и здравая. Машина может держать в голове гораздо больше информации, чем любой самый хороший врач-терапевт. У неё не замучивается глаз, она понимает ассортимент доступных медикаментов и их побочные действия. Хорошая идея могла бы быть, живи мы при социалистической экономике и занимайся строительством коммунизма. Но в капитализме такие инициативы под капотом обычно выглядят несколько иначе.
Давайте представим, что такие данные — например, обо мне — есть у машины. И сделаем допущение, что этот ИИ построен на уже существующих алгоритмах, то есть никто ничего не изобретает, использует проверенное и работающее — Чат Джи Пи Ти, Дипсик или Клод, не важно. Важно, что мы знаем: оно способно делать фантастические вещи, особенно в прикладных направлениях — математике, физике, науках. Эти решения демонстрируют запредельный уровень эффективности, который на десять голов опережает не просто среднестатистического человека, а даже матёрого учёного.
Вот такой классный алгоритм у нас есть, есть у него все данные обо мне. Я, например, пишу ему — положим, это чат, тоже никто ничего не изобретал. Захожу на сайт здравоохранения, авторизовался, открываю чат. Там сидит мой виртуальный доктор. Я говорю: «Доктор, у меня болит что-то во рту — то ли зуб, то ли десна. Какое-то неприятное ощущение. Не знаю, что делать. Советуйте что-нибудь». Доктор знает обо мне: результаты предыдущих посещений врачей и их заключения, результаты анализов. Если взять эти данные, его первое действие будет просто отправить меня к стоматологу на осмотр — всё довольно правильно и логично.
На осмотре стоматолог — предположим, не тот, который меня до этого лечил, или тот, который знает что-то обо мне, — опрашивает меня и какую-то значимую информацию видит, фиксирует в какой-то системе, к которой алгоритм имеет доступ. Например, врач спрашивает: «Миша, вы курите?» Я говорю: «Ну да, курю». Он говорит: «Миша, ну это плохо, это вредит дёснам, вредит зубам, от этого развивается кариес. В общем, плохо. Я посмотрел, вроде ничего не нашёл, но вот вам растворчик, советую полоскать рот после курения. Щёточку мягкую возьмите, а не среднюю. Вот вам паста, которая помогает сохранять дольше. Сходите на чистку профессиональную». Он задал буквально один вопрос, посмотрел, записал это. Теперь алгоритм знает это обо мне.
И в следующий раз, когда я напишу, что у меня болит что-то — то ли зуб, то ли десна, — он скажет: «Чувак, скорее всего, сходи на чистку». Спросит, точно ли я продолжаю пользоваться назначенными средствами, и всё здорово. Но что важнее — теперь алгоритм знает, что я курю. В нормальной современной экономике, социалистической, ничего опасного в этой информации нет — ну и что? А вот в капиталистической, рыночной экономике теперь есть алгоритм, который знает, что я курю. Он знает, что у меня есть средства покупать сигареты. Он знает, что это продолжается какой-то промежуток времени. Он знает из своей головы, как ещё может вредить курение, особенно на дистанции лет, с учётом других особенностей здоровья, которые он тоже знает. Например, я ходил на исследование сердца, и он знает о моём давлении, о сердечном ритме. Эти данные можно коммерциализировать, причём обратить в очень негативном ключе против меня. Например, продать мне что-то дополнительно, навязать какую-то услугу — например, флюорографию сделать, ведь лёгкие подвержены негативному влиянию курения. Можно меня к чему-то принудить: сказать, что следующее посещение врача или флюорография будет для меня дороже, потому что я не бросаю курить, а избранники и авторы системы очень заинтересованы в здоровье нации. Много чего можно сделать.
А можно, например, подмешивать в ответы алгоритма какие-то инструкции, которые обходят его общие концепции причин, следствий и выводов, и откровенно что-то изменяют. Например, не советуют ходить делать флюорографию, просто умалчивая, потому что у государства нет денег в бюджете на лишнюю флюорографию, а я вот курильщик заядлый. Ну что, мне и так помирать?
Вы, наверное, уже поняли всю драматичность этой мысли. И, наверное, не стоит лишний раз проговаривать, что за всеми громкими словами о национальных мессенджерах, национальных и суверенных социальных сетях, дата-центрах и прочих технологиях, которые фундаментальные, глобальные, наднациональные, немыслимые без участия всей планеты, людей из разных концов мира, — эти суффиксы и названия национальности просто пустышка, маркетинг. Потому что за конкретным национальным мессенджером стоят конкретные бенефициары и акционеры, конкретные корпорации, которые владеют этими данными, конкретные договоры оферты с конкретными юридическими лицами, со своими правилами игры, со своими хотелками, со своими KPI-целями.
И что нас защитит от того, что этот алгоритм не будет таким же традиционно ценным, каким-то суверенным, подчинённым воле конкретных людей, конкретного собрания акционеров? Да в общем-то ничего. Мы это видим повсеместно, это не является откровением, это происходит здесь и сейчас везде. А в отсутствии конкуренции и полной монополии что нас защищает от ситуации тотальной эксплуатации этого алгоритма и прогиба всей системы здравоохранения под интересы конкретных граждан — скажем так, граждан мира с учётом количества их гражданств и паспортов? И ничего нас не защищает. Опять мы же это видим. Мы видим, как Яндекс монополизировал такси. Мы видим, как Сбербанк обрабатывает девяносто пять процентов транзакций в стране. Мы видим, как в доме у тебя не может быть газа кроме Газпрома. Электроэнергию тоже обслуживает буквально несколько организаций. Я уже об этом рассказывал много раз, и в конечном счёте всё это схлопывается до считанных десятков людей — конечных выгодоприобретателей.
И ещё важный нюанс: отсутствие конкуренции порождает ещё один уровень уязвимости. Мало того, что на алгоритм можно влиять программно, навязывать ему какие-то ответы или менять его поведение в худшую сторону, в сторону каких-то выгод, — ещё ты захочешь, но не сможешь получить у врача рецепт или альтернативное мнение. Или всё сведётся к тому, что на приёмах у врача будет вестись, как и сейчас, двойные, тройные протоколы: какая-то информация будет заноситься в систему, какая-то не будет, причём это может происходить и по ошибке, и специально, и не нарочно. Сейчас врач пишет всё в электронной форме, а для протокола часто ещё и вручную переписывает для архивов. А будет то же самое, только с ещё одним источником ввода информации для алгоритма.
Давайте шагнём ещё дальше — попробуем пощупать какую-то антиутопичную картину. На какие ещё сферы жизни может влиять алгоритм, который знает частично или полностью хронику о человеке? Например, на социальные выплаты, на социальные статусы человека в системе. Родился ребёнок — классно, зафиксировали. Стал многодетным — отлично, получаешь выплаты. А вот признают ли тебя инвалидом? А защищает ли это, например, от мобилизации, от работ в рискованных средах, с какими-то нагрузками? А может быть, это не защитит, а наоборот подтолкнёт к этому, и это будет на откупе у людей, которые заинтересованы в этом алгоритме, в этих данных.
А ещё это превосходная точка сбора всех яиц в одну карточку. Потому что теперь точка атаки любого хакера будет нацелена на эти данные, которые будут храниться в едином реестре и иметь абсолютный вес в куче вещей. Теперь хакеру можно будет получить из одного источника достоверную информацию, учесть ущерб, информацию о человеке и о таких данных, которые имеют критически важное значение в его жизни. Не так умно, как оставляя одного монополиста в стране заниматься айти-инфраструктурой — поиском, почтой и корпоративными сетями, как Яндекс, не защищать их дата-центры, из-за чего они взрываются и доступ к своим данным теряют миллионы людей. Как это произошло?
Картина жуткая. То, что этот алгоритм, который реально может изменить жизни миллионов людей в лучшую сторону, будет также подчинён воле и желаниям кошельков ограниченного круга граждан. И это будет продолжаться настолько долго, насколько они будут держать в своих руках контроль над научно-технологическим прогрессом. А ведь это может продолжаться столетие. Давайте посмотрим на какую-то отрасль, которая уже иллюстрирует эту ситуацию. Например, машиностроение. Я осознанно не говорю про литографию, потому что это сложнее для восприятия, хотя пример, безусловно, ещё более драматичный. Но машиностроение тоже подойдёт. Если посмотреть, сколько концернов делает автомобили или самолёты — это по пальцам одной руки. И это продолжалось десятилетие, полвека, даже больше. Пока так. И сложились звёзды, что Китай начал бум своего машиностроения, который сейчас резюмирует то, что в одном только Китае находится более ста разных брендов, заводов, корпораций, которые занимаются машинами, и они конкурируют уже за счёт сервиса, за счёт дизайна и ДТП. Приблизительно то же самое, кстати, мы наблюдали в сфере смартфонов. Но опять это всё-таки продукты. Во-первых, они не критически значимые: машина есть — хорошо, нет — в целом жить можно. С телефоном, конечно, посложнее сейчас, без телефона уже тяжело жить, но в целом тоже можно с одним компьютером обходиться. А вот, например, видеокарту делает одна компания, и ничего с этим не сделать, нельзя без них обходиться, потому что именно те процессоры используются в обработке больших данных, в тех же алгоритмах искусственного интеллекта и т.д.
Короче, ситуация не нова. Когда речь идёт про такие монументальные технологии, как атомная энергетика, космические отрасли, космическое строение, ты легко представляешь, что это может с нами оставаться столетие. То есть столетие узкие группы граждан будут обладать, монетизировать, использовать, эксплуатировать такую критическую инфраструктуру, как данные о здоровье людей, уже через сто лет в поколениях людей. И честно скажу, это довольно депрессивная антиутопичная картина. Очень хочется верить, что этого не произойдёт. И надежда здесь, конечно, для нашего конкретного региона проживания, стоит на узколобости, бюрократичности и отсутствии всякого критического осмысливания своих действий у наших граждан, которых избрали или назначили в ряде случаев в управление нашим обществом. Вот так что пока они такие, какие они есть, это наш главный козырь в борьбе с такой антиутопичной картиной. Вот такой интересный парадокс, понимаете? Все новости завалены встречей олигарха и представителя нашей государственности, а на фоне наша государственность в лице своих представителей обсуждает, как другим олигархам передать данные о нашем обществе — критические, чувствительные и единоличное какое-то использование. Ну, спасибо ещё раз их недальновидности, их глупости. Скорее всего, ничего у них просто не получится в силу этих причин. Конечно, тут стоит только посочувствовать людям из других мест проживания, где координация действий у местных управленцев и над национальными капиталистами уже хорошо синтезирована, есть свой симбиоз. И там, конечно, эта картинка драматичного будущего гораздо более реальна, чем у нас. Так что им остаётся только сочувствовать.
Вот такие интересные мысли, вот такие интересные дела у нас происходят. Надеюсь, это было полезно узнать что-то новенькое. Спасибо за ваше время. Спасибо, что остаётесь. Спасибо, что слушаете. До новых встреч. Берегите своё здоровье.









