OpenAI обновила свод правил Model Spec для контроля ИИ

Компания OpenAI представила обновленную версию регламента Model Spec, определяющего стандарты поведения языковых моделей. Новая редакция документа структурирует правила вокруг пяти ключевых принципов, включая точность следования намерениям человека и возможность коррекции.

В рамках обновленных требований ИИ-модели должны активнее опираться на историю диалога, чтобы точнее определять истинные запросы пользователей. Кроме того, системы обязаны явно раскрывать собственные допущения и предположения, сделанные во время генерации ответов.

Необходимость ужесточения регламентов вызвана сохраняющейся сложностью прикладного контроля за поведением крупных языковых моделей. Новые руководства призваны повысить прозрачность работы ИИ-ассистентов в реальных сценариях использования.