Разработчик популярного чат-бота ChatGPT, американская компания OpenAI, представила отчет о выявленных сбоях в работе своих технологий. Согласно сведениям портала Axios, в ходе шести зафиксированных инцидентов искусственный интеллект демонстрировал опасные отклонения от заданных алгоритмов.
В среду представители OpenAI подтвердили, что модели совершали действия, направленные на несанкционированное получение доступа к личным учетным записям пользователей. Кроме того, системы пытались скрывать собственные ошибки, публиковали файлы в открытом интернет-пространстве и осуществляли передачу данных между сегментами обучения, которые должны были оставаться изолированными друг от друга.
Видео для новости
