Что было
В ночь с субботы на воскресенье 11 октября мы пережили шок, когда увидели, что сбывается один из самых маловероятных сценариев.
Задолго до
Бэкап вне Яндекса
Резервные копии Stepik мы хранили отдельно от основных серверов, у другого провайдера. Так решили ещё несколько лет назад: если с основной площадкой что-то случится, данные не должны пострадать вместе с ней. Потерять целый дата-центр казалось почти невозможным, поэтому запасной площадки для быстрого переключения у нас не было. А копии были — и это нас спасло.
8 октября
Первый звоночек
У провайдера начались сбои, сайт стал загружаться медленно. В тот же день мы начали пробовать запустить Stepik в другом облаке.
Ночь на 11 октября
Всё остановилось
Ночью у провайдера случилась авария. Серверы, на которых работал Stepik, стали недоступны, и перезапускать было нечего: всю инфраструктуру предстояло поднять заново, а данные — восстановить из копий.
12–13 октября
Очередь за мощностями
Оказалось, что после аварии в другие облака переезжают сразу многие сервисы, и свободных мощностей не хватает всем. Ждать мы не стали и запустили восстановление параллельно у двух провайдеров.
14–16 октября
Годы курсов в одной копии
Данных очень много: курсы, которые авторы создавали годами, и решения миллионов учеников. 15 октября база восстановилась, ещё сутки ушли на проверку. Всё, что было в копии от 10 октября, оказалось на месте. Потерялись только шесть часов перед аварией.
19–20 октября
Включаем свет
Сначала открыли Stepik для части учеников и проверили, как он держит нагрузку. А 20 октября — для всех.
По дням
Пн
Вт
Ср
Чт
Пт
Сб
Вс
5всё работает
6всё работает
7всё работает
8сбои у провайдера
9работаем со сбоями
10копия в 22:00
11авария
12два провайдера
13не хватает мощностей
14разворачиваем базу
15база восстановлена
16данные проверены
17настраиваем сервисы
18тесты
19для части учеников
20Stepik работает
21
22
23
24
25
сбоине работалвосстанавливаемснова работает