OpenAI ускорила чтение данных для ChatGPT в 12 раз

OpenAI опубликовала вторую часть статьи о том, как компания масштабировала систему онлайн-хранения данных для обслуживания более чем 1 миллиарда пользователей ChatGPT. Компания развивала свою систему под названием Habitat с помощью надёжной multi-tenancy, то есть безопасного совместного использования одной системы множеством сервисов, глобального кэширования и Azure Cosmos DB. В результате чтение данных для ChatGPT ускорилось в 12 раз.