Проверка популярного искусственного интеллекта на способности распознавать рукописный текст показала серьезные риски для здоровья. Аналитик Зыков провел исследование, в ходе которого три известные нейросети — ChatGPT, Gemini и Grok — пытались расшифровать девять подлинных российских рецептов, написанных от руки. Несмотря на отсутствие необходимости в специализированном медицинском софте, результаты теста выявили критические недостатки технологий.
Как сообщил Зыков, если с названиями медикаментов алгоритмы справлялись почти без ошибок, то при работе с количественными показателями и режимом приема возникли серьезные сбои. В одном из случаев нейросеть неверно интерпретировала число: вместо указанных 2,16 тыс. таблеток одна модель увидела лишь 216, а другая — всего 60 единиц. Более того, ИИ способен полностью исказить предписания врача, заменив прием двух таблеток перед сном на схему с одной таблеткой трижды в день.
Помимо ошибок в цифрах, эксперт зафиксировал систематическое игнорирование важных примечаний, путаницу в фамилиях медиков и склонность ИИ к галлюцинациям. Проблема заключается в том, что нейросети пытаются достроить смысл фразы на основе контекста. Если почерк становится неразборчивым, алгоритм может уверенно подставить подходящее по смыслу слово вместо реального названия, при этом внешне ответ будет выглядеть абсолютно убедительно. При этом системы далеко не всегда сигнализируют о наличии сомнений в точности расшифровки.
Ранее киберэксперт Игорь Бедеров подчеркивал необходимость обучения детей принципам работы с искусственным интеллектом и информирования их о сопутствующих рисках.
