Выступление на PYCON RUSSIA 2015

1. Секреты здорового питания. Полезные рецепты с Celery

2. С ДОБРЫМ УТРОМ! :)

3. ЛЮБУЮ ЗАДАЧУ МОЖНО РЕШИТЬ С ПОМОЩЬЮ ОЧЕРЕДИ ЗАДАЧ
• Немедленное исполнение
• Распределение
• Масштабирование
• Гарантия исполнения
• Гибкость

4. “Celery is used in production systems to process
millions of tasks a day”
(с) celeryproject.org

5. ПОЧЕМУ ОЧЕРЕДИ, А НЕ
• База данных
• NoSQL
• Демон
• Планировщик

6. ЕСТЬ ЛИ АЛЬТЕРНТИВА?

7. ИЗ ЧЕГО СОСТОИТ CELERY?
Billiard = {
"Python": 414179,
"C": 40453,
"Makefile": 1508
}
Kombu = {
"Python": 978182,
“Shell": 1830,
"Makefile": 1501
}
Celery = {
"Python”: 1845460,
“Shell": 48624,
"Makefile": 1954
}

8. А ЕЩЕ ГЛУБЖЕ?
• epoll, kqueue, greenlets
• Пайпы, сокеты
• Зависит от платформы и опций

9. БЭКЕНДЫ РАЗНЫЕ ВАЖНЫ
Name Status Monitoring Remote
Control
RabbitMQ Stable Yes Yes
Redis Stable Yes Yes
Mongo
DB Experimental Yes Yes
Beanstalk Experimental No No
Amazon
SQS Experimental No No
Couch
DB Experimental No No
Zookeeper Experimental No No
Django
DB Experimental No No
SQLAlchemy Experimental No No
Iron
MQ 3rd
party No No

10. СТАБИЛЬНОСТЬ РАБОТЫ
• Потеря задач
• “Зависание”задач
• Перезапуск воркеров

11. SUPERVISORD
• Да, это супервизор над супервизором
• Зато удобно
• Было бы здорово перейти
на что-то вроде circus

12. ACKS_LATE
• Не забираем задачу насовсем, пока не выполним
• Отдельный таймаут на выполнение задачи
• Не является поведением поумолчанию!

13. ПЕРЕЗАПУСК ВОРКЕРОВ
• Выкладка новой версии
• Ротация логов
• Перезапуск сервера

14. МОНИТОРИНГ
• Flower
• Rabbitmq Monitoring
• Консоль celery

15. ОТЛАДКА
• CELERY_ALWAYS_EAGER
• Не бойтесь кода Celery!
• И логирование…

16. ЛОГИРОВАНИЕ
• Один лог для воркеров одного типа
• Для каждого воркера пишется егопроцесс
• Логируется не только постановка,
но и отправка!

17. ГОНКИ И ПОВТОРЫ
• Не забывайте про блокировки
• Задачи придется повторять
• Используйте удобные декораторы

18. ПОЛЕЗНЫЕ ОПЦИИ
• autoscale
• maxtaskperchild
• prefetch

19. МАРШРУТИЗАЦИЯ И ПРИОРИТЕЗАЦИЯ
• На каждый тип задач– своя очередь
• Для каждой очереди – свой пул воркеров
• Для приоритета – отдельные очереди
UI
Cron
Sync

20. ОБРАБОТКА ИСКЛЮЧИТЕЛЬНЫХ СИТУАЦИЯ
def make_task_wrapper(f):
@celery.task(**task_kwargs)
@wraps(f)
def wrapper(self, *args, **kwargs):
try:
return f(*args, **kwargs)
except TaskRetry as e:
if not e.max_retries:
self.request.retries -= 1
raise self.retry(countdown=e.countdown, max_retries=e.max_retries)
except SystemExit:
if idempotent:
self.request.retries -= 1
raise self.retry(countdown=0, max_retries=None)
else:
logger.exception(message, self.name)
except Exception:
...

21. МЫ ЗА ЗДОРОВОЕ ПИТАНИЕ!

22. СПАСИБО
fb.com/ashwets
ashvets@mymary.ru
Александр Швец
директор по продукту
системы Marilyn