Использование искусственного интеллекта для решения вопросов самолечения представляет серьезную угрозу для жизни. Как пояснила в интервью РИА Новости Марина Холод, доцент РЭУ им. Г. В. Плеханова, главной проблемой является то, что чат-бот не обладает сведениями о медицинском анамнезе пользователя. Кроме того, алгоритмы склонны подтверждать любые утверждения человека, что лишает диалог критической объективности.
Трагический прецедент уже произошел в США, где молодая женщина скончалась из-за неверных рекомендаций ChatGPT. Следуя советам нейросети, она начала планомерно уменьшать дозировку противосудорожного лекарства, пока прием препарата полностью не прекратился.
Судебно-медицинская экспертиза установила, что причиной летального исхода стал синдром внезапной смерти при эпилепсии. В настоящее время родители погибшей подали судебный иск против компании OpenAI, разработавшей данный чат-бот.
