Prezentacja by Wit Jakuczun z WLOG Solutions wygłoszona na 13tym spotkaniu Data Science Warsaw Meetup, pt. Rozwiązywanie problemów optymalizacyjnych z przykładami w GNU R.

1. .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
Rozwiązywanie problemów
optymalizacyjnych
(z przykładem w GNU R)
Wit Jakuczun, WLOG Solutions

2. .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
Wstęp

3. .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
O czym opowiem?
Kim jestem?
Co to jest optymalizacja?
Dlaczego (moim zdaniem) optymalizacja jest trudna?
Jak dostarczać model optymalizacyjny?
Przykład praktyczny

4. .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
Kim jestem?
Jestem:
Właścicielem firmy WLOG Solutions
Absolwentem wydziału MIM UW, doktorat z IPI PAN.
Znam się na:
Analizie i syntezie potrzeb klienta.
Wdrażaniu analityki w organizacji (np. w oparciu o GNU R).
Tworzeniu i implementacja modeli optymalizacyjnych oraz
analitycznych.
Dane kontaktowe:
email: w.jakuczun@wlogsolutions.com
WWW: www.wlogsolutions.com

5. .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
Z czego korzystałem przygotowywując się do warsztatu?
GNU R
Używam od 2006 roku praktycznie codziennie.
Pierwsze produkcyjne wdrożenie w Mazowieckiej Spółce
Gazowniczej w roku 2006.
Korzystałem z wersji 3.2.3
Pakiety analityczne:
localsolver
Prezentacja powstała w oparciu o:
knitr
pandoc
MikTeX
packrat

6. .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
Co to jest optymalizacja?

7. .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
Miejsce optymalizacji w analityce

8. .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
Przykład
Analiza eksploracyjna
Ile w zeszłym tygodniu było zleceń niezrealizowanych i dlaczego?
Analiza predykcyjna i symulacje
Ile będzie zleceń (pracy) w przyszłym tygodniu?
Ile zleceń możemy niezrealizować jak wystąpią zaburzenia w
procesie?
Analiza preskryptywna (optymalizacja)
Jak zaplanować działania i zasoby aby zrealizować zlecenia w
następnym tygodniu?

9. .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
Co to znaczy optymalny w praktyce?
Optymalny w praktyce oznacza nie gorszy lub lepszy niż
teraz, wyliczony w określonym czasie przy danych zasobach
obliczeniowych.

10. .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
Jak nie sprzedawać optymalizacji?
Ja
Ile czasu dziennie zajmuje Wam planowanie tych 300 ciężarówek?
Klient
3 minuty
Ja
OK… to co by Panu pomogło?
Klient
Jak mogę wprowadzić fakturę w Pana programie?
Więcej do poczytania - Being wrong with Clarke and Wright. Mam
kopię, więc proszę zainteresowanych o kontakt.

11. .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
Przykładowe zadania optymalizacyjne z projektów
Jaki jest optymalny plan napełniania/opróżniania magazynów
gazu przy zadanym popycie?
Jak rozdzielić zlecenia transportowe między wiele pojazdów aby
zminimalizować koszty?
Ile, skąd i jak dowieźć gotówki do oddziału banku?
Ile powinno być magazynów i jak podzielić między nie klientów
aby zminimalizować koszty?
…

12. .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
Kiedy warto stosować optymalizację?
Chcemy zautomatyzować proces decyzyjny.
Chcemy mieć powtarzalność procesu decyzyjnego.
Chcemy mieć pewność, że podjęliśmy optymalną decyzję.
Chcemy mieć benchmark do weryfikacji naszych intuicji.
Chcemy podjąć skomplikowaną decyzję i “ręcznie” nie damy
rady.

13. .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
Co to jest model optymalizacyjny w teorii?

14. .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
Co to jest model optymalizacyjny w praktyce?
Deklaracja modelu wraz z procedurą obliczeniową
znajdującą rozwiązanie.
Często deklaracja jest tylko na kartce papieru.

15. .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
Jak klasyfikuję modele optymalizacyjne?
Zadania optymalizacyjne dzielę na proste i trudne :).
Funkcja celu
Ile jest kryteriów?
Czy kryterium jest liniowe/nieliniowe?
Ograniczenia
Czy ograniczenie jest liniowe/nielinowe?
Czy ograniczenie jest twarde/miękkie?
Zmienne
Czy zmienne są ciągłe/dyskretne?
Wyniki/rekomendacje
Czy potrzeba jednego/wielu rozwiązań?

16. .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
Jak klasyfikuję modele optymalizacyjne?
1. Zadanie łatwe
Mogę rozwiązać zadanie deklarując model w istniejącym
solwerze.
2. Zadanie średnie
Mogę rozwiązać zadanie deklarując sekwencję modeli w
istniejącym solwerze.
3. Zadanie trudne
Muszę napisać specjalizowany solwer.

17. .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
Dlaczego optymalizacja (moim zdaniem)
jest trudna?

18. .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
Przykład wprowadzający - zadanie planowania
produkcji
Pierwotne założenie brzmiało:
zmiana poziomu produkcji pomiędzy tygodniami nie może
być większa niż 10%
Drugie sformułowanie brzmiało:
produkcja może się zmienić nie więcej niż 3 razy w ciągu
roku

19. .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
Przykład wprowadzający - zadanie planowania
produkcji
Jak się skończył projekt? :)
Dlaczego tak się stało?

20. .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
Trudna, czyli jaka?
Czyli nie mogę znaleźć rozwiązania odpowiedniej jakości w
odpowiednim czasie.

21. .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
Trudna bo mały wybór
Kto się liczy na rynku komercyjnych solwerów MIP?
ILOG - dzisiaj IBM
Dash Optimization - dzisiaj FICO
Gurobi - założony przez profesora Bixby po przejęciu ILOG’a
przez IBM

22. .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
Trudna bo mały wybór
Kto się liczy na rynku darmowych solwerów MIP?
CBC z projektu COIN/OR
wydajny ale “surowy”
GLPK z projektu GNU
dodany język deklaracji modelu ale powolny

23. .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
Przyczyny trudności
Problem w komunikacji
Sponsor nie rozumie poziomu skomplikowania projektu
Dostawca nie potrafi zrozumieć potrzeby Klienta
Problem w braku kompetencji dostawcy
Dostawca zna tylko jedną metodykę.
Klient narzuca metodykę (bo ma solwer).

24. .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
Przyczyny trudności
Problem w dostępie do danych
Brak rzeczywistych danych testowych.
Problem w podejściu projektowym
Klient nie widzi częściowych wyników.
Brak prototypowania.

25. .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
Przyczyny trudności
Problem w sformułowaniu modelu optymalizacyjnego
W języku matematyki trudno wyrazić pewne ograniczenia
kierowca po przejechaniu 4,5h musi odpocząć 45 minut ale po
przejechaniu 9h musi odpocząć 11h. Odpoczynek 45 minutowy
może być rozbity na dwa odpoczynki po 15 i 30 minut.
czas przejazdu między punktem A i B o godzinie 10:00 wynosi 15
minut ale o godzinie 18:00 już 30 minut.
pakiet wolnych minut można wykorzystać na rozmowę, SMSy lub
dane, ale priorytet mają rozmowy, potem SMSy a na końcu dane

26. .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
Przyczyny trudności
Problem w implementacji procedury obliczeniowej dla modelu
optymalizacyjnego
Wydajność procedury obliczeniowej jest niewystarczająca
Procedura obliczeniowa nie znajduje rozwiązania odpowiedniej
jakości
No free lunch!

27. .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
Literatura dotycząca projektów optymalizacyjnych
Large Scale Combinatorial Optimization: A Methodological
Viewpoint
Why Is Optimization Difficult?
The Chic-2 Methodology for Combinatorial Applications
Mam kopię, więc jak ktoś jest chętny to proszę o kontakt.

28. .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
Jak dostarczać optymalizację?

29. .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
Typy projektów
Doradcze
Najczęściej fire and forget
Oprogramowanie
Prototyp - podobne do doradczego
Produkt lub rozwiązanie IT

30. .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
Optymalizacja w formie oprogramowania
Zespół
Ekspert od badań operacyjnych
Programista
Klient
Dostarczanie
Iteracyjne
Prototypowanie
Testowanie
Ogólnie trudne projekty, poza zasięgiem firm programistycznych.

31. .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
Optymalizacja w formie doradztwa
Szybko wyniki, duża elastyczność
Nie ma czasu na pisanie optymalizatora od zera.
Trzeba korzystać z istniejących rozwiązań.
Ciągła zmiana wymagań.
Bałagan w danych
Pracujemy na surowych danych i trzeba je obrobić.
Prezentacja wyników
Iteracyjna praca z Klientem.
Minimalizacja błędów w raporcie.

32. .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
Co się liczy w mojej praktyce?
Możliwość deklarowania modelu w języku wysokiego poziomu
GLPK
ILOG
Prolog :)
Dobre narzędzie do zbierania i obróbki danych
Np. R
Dobrze narzędzie do elastycznej wizualizacji wyników
Np. R (shiny, ggplot2)

33. .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
Co się liczy w mojej praktyce?
Dobry solver do:
Programowania liniowego
Programowania całkowito-liczbowego
Programowania z więzami
Metaheurystyki:
Do łączenia solverów w meta solver.
Najczęściej własne rozwiązania.

34. .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
Przykład praktyczny - optymalizacja w R

35. .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
Zadanie - problem plecakowy
Przy podanym zbiorze elementów o podanej wadze i
wartości, należy wybrać taki podzbiór by suma wartości była
możliwie jak największa, a suma wag była nie większa od
danej pojemności plecaka.

36. .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
Rozwiązanie - pakiet localsolver
Dostępny na CRAN
Winietka z przykładami użycia pakietu
Wymaga instalacji rozwiązania LocalSolver firmy Innovation 24
Dostępny pod adresem
http://www.localsolver.com/download.html
Solwer do problemów nieliniowych oraz klasy MIP oparty na
symulowanym wyżarzaniu.
Praca w R na poziomie przygotowania danych i obróbki
wyników
Możliwość deklaracji modelu w natywnym języku

37. .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
Dlaczego taki pakiet?
Dostęp do danych
Świat optymalizacji ma problem z dostępem do danych
GNU R: tidyr, dplyr, data.table, …
Prezentacja wyników
Świat optymalizacji ma problem z prezentacją wyników
GNU R: ggplot2, shiny, …
Jakość optymalizatora
GNU R nie ma dobrych pakietów do optymalizacji
Przykładowe porównanie - Comparing localsolver with Rglpk on
k-medoids example

38. .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
A co jak nie chcę płacić?
Są optymalizatory darmowe
COIN/OR
ECLiPsE
Choco3
Gecode
OR-Tools
OscaR
Ale…
W optymalizacji nie zawsze działa open-source :(
Wydajność darmowych solverów klasy MIP jest paredziesiąt+ razy
mniejsza od komercyjnych.
Więcej na stronie BENCHMARKS FOR OPTIMIZATION SOFTWARE

39. .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
Pakiet localsolver - deklaracja modelu
library(localsolver)
model <- "function model() {
x[i in 1..4] <- bool();
// weight constraint
knapsackWeight <- sum[i in 1..nbItems](itemWeights[i] * x[i]);
constraint knapsackWeight <= knapsackBound;
// maximize value
knapsackValue <- sum[i in 1..nbItems](itemValues[i] * x[i]);
maximize knapsackValue;
}"

40. .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
Pakiet localsolver - przygotowanie danych
data <- list(nbItems=4L,
itemWeights=c(1L,2L,3L,4L),
itemValues=c(5,6,7,8),
knapsackBound = 9L)

41. .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
Pakiet localsolver - parametryzacja i uruchomienie
lsp <- ls.problem(model)
lsp <- set.params(lsp, lsTimeLimit=60, lsIterationLimit=250)
lsp <- add.output.expr(lsp, "x", 4)
lsp <- add.output.expr(lsp, "knapsackWeight")
lsp <- add.output.expr(lsp, "knapsackValue")
ls.solve(lsp, data)

42. .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
Nowe ograniczenie
Przy podanym zbiorze elementów o podanej wadze i
wartości, należy wybrać taki podzbiór by suma wartości była
możliwie jak największa, a suma wag była nie większa od
danej pojemności plecaka.
ale jeśli wybierzesz element numer 2 to musisz wybrać
element o numerze numer 1.

43. .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
Pakiet localsolver - Zmiana modelu
model2 <- "function model() {
x[i in 1..4] <- bool();
// weight constraint
knapsackWeight <- sum[i in 1..nbItems](itemWeights[i] * x[i]);
constraint knapsackWeight <= knapsackBound;
//new constraint
constraint x[1] >= x[2];
// maximize value
knapsackValue <- sum[i in 1..nbItems](itemValues[i] * x[i]);
maximize knapsackValue;
}"

44. .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
Dziękuję za uwagę