Новый этап в поддержании производительности ChatGPT
Система Performance Factory от OpenAI автоматически выявляет и устраняет проблемы с производительностью ChatGPT. Она мгновенно реагирует на задержки и снижение качества работы, запуская процессы для их устранения.
Ключевые компоненты Performance Factory
Performance Factory состоит из четырёх основных частей: службы задач, цикла диспетчеризации, облачной платформы Codex и системы подписок. Служба задач создаёт автоматические задания на основе предупреждений о производительности. Цикл диспетчеризации распределяет эти задания между агентами. Codex обеспечивает доступ к инструментам производительности в облаке, а система подписок запускает агентов при изменениях.
Автоматизированные рабочие процессы и роль агентов
Рабочий процесс Regression Workflow открывает задачу при получении предупреждения о производительности. Агенты исследуют проблему, выявляют её коренную причину, предлагают исправления и передают их инженерам на утверждение. После внедрения изменений агенты проверяют, вернулась ли производительность к прежнему уровню.
Статистика и результаты
За последние три месяца Regression Workflow провёл более 1700 исследований и выявил свыше 600 основных причин проблем. Это около 17 автоматизированных исследований в день. Инженеры используют более 30 инструментов для анализа. Точность ручной диагностики составляет 70%, однако Performance Factory повышает её за счёт дополнительных проверок.
Взаимодействие инженеров и агентов
Диагнозы агентов проходят вторичную проверку в рамках «adversarial review», где выявляются ошибки, а исправления утверждаются инженерами. Такое сотрудничество обеспечивает постоянное улучшение системы и предотвращает повторное появление проблем с производительностью.
Влияние на пользователей и перспективы
Performance Factory обеспечивает пользователям ChatGPT стабильную и быструю работу сервиса, повышая качество обслуживания. OpenAI планирует расширить применение системы и перейти к более проактивному выявлению проблем. Этот подход повышает надёжность ИИ-технологий и открывает путь к новым автоматизированным решениям для управления производительностью.


