«Вылечит заживо»: компетентность ИИ-врача от Microsoft оказалась такой себе

Недавнее исследование немецких ученых продемонстрировало, что использование искусственного интеллекта (ИИ) в медицине дает весьма спорные результаты. В фокусе эксперимента оказалась популярная нейросеть от Microsoft — Copilot.

Умный с виду

Исследователи задали ИИ 500 вопросов о назначении и применении тех или иных — наиболее популярных — лекарственных препаратов. Результаты исследования оказались, мягко говоря, неоднозначными. С одной стороны, ИИ, конечно, продемонстрировал способность генерировать тексты, похожие на человеческие, и даже давать ответы, которые на первый взгляд могут показаться вполне убедительными. Однако, более глубокий анализ выявил серьезные недостатки.

Неудовлетворительные результаты

Лишь чуть более половины — 54% — ответов ИИ соответствовали научному консенсусу. И это можно бы было считать не самым плохим результатом, если бы не потенциальная опасность неправильного применения медикаментов. Как оказалось, около 42% неверных рекомендаций могли привести к умеренным побочным эффектам, а 22% — даже к летальному исходу.

Вместе с человеком

Ученые отмечают, что хоть ИИ обучается на огромных массивах данных, эти данные могут быть неполными, устаревшими или содержать ошибки. Кроме того, современные нейросети, несмотря на их высокий уровень развития, не обладают глубоким пониманием медицинских нюансов и могут интерпретировать запросы некорректно. Также ИИ пока не способен к критическому мышлению и может выдавать абсурдные и даже опасные рекомендации.

При этом ИИ имеет большой потенциал в случае тесного сотрудничества со специалистом-человеком. Например, нейросеть может помочь врачам быстрее выявлять заболевания и разрабатывать индивидуальные планы лечения. не менее важна и их высокая точность, особенно в сфере хирургии. В целом искусственный интеллект — мощный инструмент, который может революционизировать медицину. Но пока это лишь инструмент в руках специалиста-человека, и не более того.