3 СПОРНЫХ ВОПРОСА ИСПОЛЬЗОВАНИЯ ИИ В МЕДИЦИНЕ

3 спорных вопроса использования ИИ в медицине

Медицинской общественности широко рекламируются возможности компьютерных технологий искусственного интеллекта. Машины могут сопоставлять данные, лучше своих коллег-медиков-людей интерпретировать рентгеновские снимки, выявлять патологии, диагностировать нарушение сердечных ритмов и выявлять опасные родинки. В прошлом месяце FDA одобрило первую систему ИИ для диагностики диабетической ретинопатии. Эти прорывы привели к необоснованным надеждам и излишней шумихе о возможности ИИ заменить врачей.

Прежде чем это случится, надо решить ряд существующих правовых, этических и психологических проблем.

Можно ли доверять оценке компьютера?

Парадокс машинного обучения: нейронная сеть становится более сложной, но становится труднее понимать комбинации и весовые коэффициенты переменных, которые система ИИ использовала для принятия решения. Точность метода повышается, а прозрачность снижается (справедливости ради: этот процесс не сильно отличается от процессов в человеческом мозге). Если компьютер делает неправильный диагноз, кто получает иск: врач или инженер-программист? Системы ответственности США развивались вокруг концепции врача как доверенного эксперта, отвечающего за диагностику. Но если системы ИИ имеют более высокие показатели точности, чем показывают клиницисты, то диагноз алгоритма всегда будет лучшим статистическим вариантом. Вы можете утверждать, что врач должен принимать решение о состоянии здоровья пациента, но другие будут утверждать, что система ИИ имеет больше информации и опыт миллионов в своем распоряжении и может сделать это лучше. Будут ли пациенты или присяжные соглашаться с тем, что «компьютер заставил меня сделать это»?

Где компьютер учится медицине?

Компьютеры обучаются благодаря технологии машинного обучения. В программу загружаются миллионы данных. Программа исследует причинно - следственные связи, прописывает алгоритмы принятия решения. После этого любая информация и прогнозы будут оцениваться на основании построенных алгоритмов.

Машинное обучение зависит от массива набора данных. Оно на них учится. Какие сканирования попадают в эти наборы данных? Как они классифицируются? И кто классифицировал одни слады как нормальные, а другие как патологии? Ответы на эти вопросы отражают процесс принятия решений со всеми его несовершенствами. Компьютер научился диагностировать сыпь у пациентов с моим цветом кожи? Все системы ИИ всегда будут иметь проблему с информационным мусором. Но когда они учатся в реальном мире, есть проблема смещения. Эта проблема должна быть решена.

Скоро вы спросите, мой врач использует ИИ в своей практике? Я надеюсь, что ответ будет да, потому что эволюционирующая история заключается в том, что человек + машина (расширенный интеллект) лучше, чем один (человеческий или искусственный интеллект) в одиночку. Мы знаем, что «две головы лучше, чем одна». Мы скоро узнаем, что использовать «две головы» не так просто, как кажется.

ЧИТАЙТЕ ТАКЖЕ

Задать вопрос

Оставьте свое сообщение и контакты для связи.
Мы с вами обязательно свяжемся.