OpenAI обновила внутренние правила работы ChatGPT, выделив отдельный набор принципов для подростков в возрасте от 13 до 17 лет. В компании подчеркнули, что подростки не являются «маленькими взрослыми» и требуют дополнительных мер защиты при взаимодействии с искусственным интеллектом, передает Astana TV со ссылкой на Digitaltrends.
Новый подход определяет, как ИИ должен общаться с несовершеннолетними пользователями: более осторожно, прозрачно и с приоритетом безопасности. Правила разработаны на основе данных возрастной психологии и прошли проверку у внешних экспертов, включая Американскую психологическую ассоциацию.
Система базируется на четырёх ключевых принципах: безопасность подростка ставится выше полезности ответа; поощряется живое общение с реальными людьми, а не замена его чат-ботом; сохраняется уважительное и возрастоучитывающее общение; ИИ честно объясняет свои ограничения.
Особое внимание ChatGPT будет уделять чувствительным и потенциально опасным темам — рискованному поведению, вредным интернет-челленджам, вопросам внешности и тела, а также просьбам скрывать небезопасные действия. В таких ситуациях ИИ обязан устанавливать жёсткие границы и рекомендовать обратиться к взрослым или профильным специалистам.
Для родителей нововведения означают дополнительные гарантии безопасности. Обновлённые правила связаны с инициативой Teen Safety Blueprint, инструментами родительского контроля и распространяются на новые функции, включая групповые чаты, браузер Atlas и приложение Sora. Также предусмотрены напоминания о необходимости делать перерывы, чтобы снизить чрезмерное время у экрана.
В ближайшее время OpenAI планирует внедрить систему определения возраста. Если ИИ заподозрит, что пользователь является несовершеннолетним, автоматически будет активирован подростковый режим. В спорных случаях система будет выбирать более безопасный сценарий.
В компании отмечают, что речь идёт не о разовом обновлении, а о долгосрочной стратегии по защите подростков в цифровой среде.
