В Model Spec сделали акцент на честности, безопасности и самостоятельности пользователей
OpenAI представила обновлённую версию Model Spec - публичного документа, который описывает, как должны вести себя модели компании. В нём принципы сгруппированы вокруг пяти ценностей: следование намерениям человека, снижение вреда, честность и прозрачность, поддержка самостоятельности пользователей и внимательное отношение к людям, передает Astana TV.
Модель не должна поддакивать пользователю
В документе также уточнили подход к угодничеству. ИИ не должен менять фактическую позицию лишь для того, чтобы понравиться собеседнику или подтвердить его мнение. В публикации это сформулировано так: «ИИ больше не имеет права менять свою объективную точку зрения на факты ради лести или одобрения со стороны собеседника».
В обновлённой Model Spec описана иерархия инструкций: она помогает моделям определять, какие указания учитывать, если они противоречат друг другу. Кроме того, появились рекомендации о том, как использовать контекст беседы и поддерживать самостоятельность пользователя.
Model Spec описывает желаемое поведение моделей OpenAI. Это не общий запрет для всех нейросетей и не закон, регулирующий работу искусственного интеллекта.
Обновлённый документ закрепляет ориентиры для ответов ИИ: следовать намерениям пользователя, сообщать о неопределённости и не подменять факты стремлением согласиться.