Недавно произошёл необычный случай, который стал тревожным напоминанием о возможных рисках использования искусственного интеллекта в сфере здравоохранения. Врачи из Вашингтонского университета сообщили о случае, когда мужчина из-за неправильных рекомендаций, полученных от ChatGPT, подверг опасности своё здоровье и даже жизнь.
Пациент обратился за помощью, желая уменьшить потребление соли в рационе и улучшить здоровье. В качестве альтернативы, по совету ChatGPT, он решил заменить поваренную соль бромидом натрия — веществом, которое ранее использовалось в медицине, однако было запрещено из-за высокой токсичности. Вдохновлённый рекомендациями искусственного интеллекта, он на протяжении трёх месяцев принимал этот препарат, приобретая его через интернет без консультации врача. В результате у него развилась тяжёлая форма психоза с галлюцинациями и паранойей.
При обращении в больницу специалисты быстро заподозрили отравление бромидом, что привело к развитию условия, известного как бромизм. Это редкое и опасное состояние, связанное с токсичностью бромидных соединений. В условиях стационара мужчину начали лечить внутривенными капельницами и назначили антипсихотические препараты, что позволило стабилизировать его состояние. После трёх недель интенсивной терапии пациент был выписан, полностью восстановившись.
Этот случай стал первым задокументированным примером, когда рекомендация искусственного интеллекта привела к такому серьёзному медицинскому инциденту. Он подчеркивает важность критического подхода к использованию ИИ, особенно в контексте здоровья. Специалисты подчеркивают, что ИИ не способен полноценно учитывать нюансы и индивидуальные особенности каждого пациента. Врачи и ученые настоятельно рекомендуют не полагаться полностью на автоматизированные системы при принятии решений, связанных с медициной. Консультация с квалифицированным специалистом остаётся обязательной.
Кроме того, данный случай свидетельствует о необходимости проведения более строгого контроля над информацией, распространяемой через системы, основанные на ИИ. Важно развивать механизмы верификации и подтверждения данных, полученных из ИИ, чтобы избежать подобных трагедий в будущем. Общество должно осознавать, что даже высокотехнологичные системы не заменят профессионального медицинского совета, особенно при серьёзных и нестандартных состояниях здоровья.
Этот инцидент стал тревожным сигналом о том, что технологии требуют осторожного и ответственного использования. Использование ИИ в области медицины должно сопровождаться постоянным контролем, обучением и подготовкой специалистов, чтобы избежать ошибок, которые могут иметь трагические последствия. В ситуации с этим пациентом особенно ярко проявилась необходимость подчеркнуть роль медиков, их экспертизу и критическое мышление в современном технологическом мире.
