Dlaczego inteligentny asystent może się okazać najważniejszą przewagą konkurencyjną na Twoim rynku? Co zrobić, by wdrożyć nowoczesną technologię do Twojego działu sprzedaży już dzisiaj? Jak zyskać na wdrożeniu sztucznej inteligencji w dziale sprzedażowym? >> https://edward.ai/pl <<

1. Jak budujemy
inteligentnego asystenta
biznesowego?
Bartłomiej Rozkrut
https://edward.ai

2. O czym będę mówił?
1. Kilka słów o moich doświadczeniach i skąd się wziął pomysł na Edward.ai,
2. Wprowadzenie – gdzie jesteśmy jako branża i jakie istotne zmiany czekają
nas w najbliższym czasie?
3. Jakie problemy rozwiązujemy w Edward.ai,
4. Jakie wyzwania napotykamy na swojej drodze,
5. Jakie sobie z nimi radzimy?

3. Kilka słów o mnie
Przedsiębiorca z dużym doświadczeniem w technologiach IT.
• Pierwsze doświadczenia w biznesie IT już w 1999 r.
• Zaczynałem jako administrator serwerów internetowych
• Programista, kierownik projektów, analityk, konsultant w
wielu projektach IT dla dużych i średnich firm
• Wspólnik oraz akcjonariusz 3 firm, odpowiedzialny za IT
• Pasjonat nowych technologii oraz zagadnień dotyczących
bezpieczeństwa IT
• Aktualnie jestem odpowiedzialny za technologię
w start-upie, który chce zrewolucjonizować sposób
w jaki korzystamy z aplikacji biznesowych

4. Moje doświadczenie

6. Dlaczego 2040?

7. ZMIANA?

11. 2016 – Demokratyzacja AI

13. Powrót
botów

14. Internet Relay Chat (IRC) dla biznesu (z botami!)

15. Bot do przeprowadzania
stand-up’ów SCRUM

21. Wszystko ma związek z „nowym” rodzajem interfejsu
1. CUI (Conversational User Interface) to interfejs, który używa konwersacji do
komunikacji na linii człowiek-komputer.
2. Główne cechy CUI to:
• Brak klasycznego GUI (nie projektujemy „ekranów”)
• Duża dostępność – wiele platform, wiele metod interakcji – głos, tekst,
elementy graficzne
• Niezależny od platformy (omnichannel) – przenikanie doświadczeń
pomiędzy kanałami styku

22. Ludzie kochają czaty i używają ich coraz częściej

23. Social networks vs conversations

24. Platform shift
Mainframe PC Web Mobile

25. Sundar Pichai (CEO Google) – październik 2016

26. Platform shift - 2016
AIMobile

27. Jak zaczynaliśmy

28. Tworzenie aplikacji konwersacyjnych nie jest proste
?

29. Wyzwania
i
rozwiązania

30. Kontekst

31. Asystent bez kontekstu to zabawka
Największym błędem asystentów (oraz chatbotów) jest brak wiedzy o
użytkowniku!
• Największym wyzwaniem jest pozyskanie kontekstu historycznego
(m.in. na potrzeby uczenia maszynowego)
• Pozyskiwanie kontekstu na bieżąco także jest problematyczne – nie
możemy użytkownika „nękać” ciągłymi pytaniami o dane, których nam
brakuje, np. czy kontakt jest prywatny/biznesowy? A to kluczowa wiedza
do dobrej asysty.
• Kluczem do zmniejszenia ilości interakcji w związku z pozyskiwaniem
kontekstu jest zastosowanie uczenia maszynowego, które na bazie
danych historycznych oraz całkiem nie oczywistych danych
kontekstowych pozwala nam przewidzieć wybrane elementy kontekstu

32. Efektywna pętla zwrotna kluczem do uczenia nadzorowanego
• Interfejs konwersacyjny jest idealnym narzędziem do uzupełniania
brakujących danych kontekstu – pod warunkiem, że jest stosowany
jedynie we właściwym momencie (np. prośba o nazwanie kontaktu
natychmiast po pierwszym połączeniu z nieznanym numerem)
• Jedną z technik jest mikro-ankietowanie – krótkie pytanie i jedynie
dwie opcje wyboru – np. „tak” lub „nie”
• Mikro-ankietowanie także jest inwazyjne, więc użytkownik musi mieć
poczucie, że każda interakcja jest inwestycją czasu, którą odzyska z
nawiązką poprzez bardziej dopasowaną obsługę i rekomendacje
• Każda interakcja powinna być mierzona + opcja oceny (lubi/nie lubi)
• Kontekst jest bardzo dynamiczny – każda chwila może zmieniać
kontekst w znaczącym stopniu (np. wyjście z biura to krytyczna
zmiana kontekstu)

33. Bezpieczeństwo

34. Asystent musi dbać o poufność naszych danych
Kluczowym elementem w relacji z asystentem jest zaufanie.
• Musimy udowodnić, że asystent przetwarza dane z zachowaniem
najwyższych standardów bezpieczeństwa
• Wykorzystanie chmur obliczeniowych oraz model hybrydowy
• Pełna separacja usług (mikro-usług) przetwarzających dane – dostęp do
danych wrażliwych tylko dla możliwie najmniejszych elementów
systemu
• Bezpieczeństwo sieci neuronowych to temat bardzo niszowy i mało
znany, a jest bardzo ważny – odpowiednie trenowanie modeli jest tutaj
kluczowe (pierwsze jaskółki bezpieczeństwa DNN – Defcon’16)

35. Horizontal AI
vs
Vertical AI

36. Rozumienie ludzkiej mowy
Żaden komputer nie zdobył nigdy nagrody Loebnera
(jedna z wersji testu Turinga)
Na pewno stanie się to jeszcze za naszego życia
(prawdopodobnie gdzieś między 2020 a 2040). Ale obecnie…

38. Udawanie człowieka jest trudne

39. Horizontal AI
vs
Vertical AI

40. Horizontal AI – rozwiązujemy „nie nasze” problemy?
Należy bardzo uważać na angażowanie się w rozwiązywanie problemów
horyzontalnych, które już ktoś rozwiązał lub angażuje duże środki w ich
rozwiązanie.
• Bardzo czasochłonne i kosztowne, duża konkurencja
z dobrymi efektami
• Problemy ogólnego zastosowania:
• Rozpoznawanie mowy
• Rozpoznawanie obiektów na zdjęciach i filmach
• Przetwarzanie języka naturalnego (*)
• Tłumaczenie maszynowe (*)

41. Rozwiązania
• Jeżeli bot udaje człowieka, to użytkownik oczekuje że będzie w 100% tak się zachowywał
• Rozwiązaniem jest specjalizacja
• Koncentracja na use case zamiast po prostu używania konwersacji
np. bot prawniczy, medyczny, concierge, doradca finansowy, trener osobisty
• Ważny jest dobry onboarding (trzeba powiedzieć użytkownikowi, czego może się
spodziewać)
• Pokażmy już na początku kilka przykładów komend, które można wydać

42. Klikanie, czy pisanie?

43. Vertical AI – rozwiązujemy „nasze” problemy
Jeśli problem, który rozwiązujemy dotyczy problemu wertykalnego i do
jego rozwiązania możemy skorzystać z gotowych rozwiązań
horyzontalnego AI z wsparciem modeli dziedzinowych opracowanych
przez nas.
• Wykorzystanie uczenia maszynowego w grach dla dzieci w celu
wspomagania wczesnego rozpoznania autyzmu (Harimata)
• Przewidywanie najlepszej pory i miejsca na interakcję z użytkownikiem
na bazie zdefiniowanego przez nas kontekstu
• Inteligentne odpowiedzi (Smart Reply) w konwersacji (bazujące na
dziedzinowym problemie, który rozwiązujemy)
• Klasyfikacja kontaktów na biznesowe i prywatne z punktu widzenia
sprzedaży

44. Poszukiwanie
rozwiązań

45. Platformy do tworzenia botów lub asystentów? A.D. 2016
…
…
…
oraz wiele, wiele, innych

46. Dlaczego stworzyliśmy własną platformę?
Najważniejszy jest szeroki kontekst, większość platform, albo go nie
zbiera, albo nie udostępnia aplikacjom.
• Nie chcemy być zależni od jednego rozwiązania – musimy być
wieloplatformowi
• Platforma powinna bazować na kontekście, a nie na konwersacji
• Niezależność od kanału – skupiamy się na danych, a nie kanałach styku
• Skupienie na wygodzie użytkownika, a nie na rozumieniu języka
naturalnego
• … ale i tak chcemy się integrować z wybranymi platformami jeżeli ma to
uzasadnienie z punktu widzenia wygody użytkownika

47. • Obecnie lepiej się sprawdzają interfejsy hybrydowe
• Łączą dwie metody: konwersacja i elementy tradycyjnego GUI
• Każda wiadomość może być mini aplikacją
• Staje się to standardem (np. Facebook, Slack, Google Assistant)
CUI – przyszłość aplikacji?

48. Architektura

49. Jaka architektura IT pasuje do asystentów biznesowych?
Coraz większe znaczenie zwinnego IT w biznesie, dynamiczny rozwój
Internetu Rzeczy, oprogramowania rozproszonego oraz chmur
obliczeniowych prowadzi do istotnych zmian w architekturze oraz
modelach rozwoju oprogramowania.
• Event-driven architecture
• Real-time events and analytics
• Microservices
• Language agnostic (choose right language to task)
• Containers (Docker, Kubernetes)
• Server-less (Lambda functions)
• Operational Intelligence (business analytics on real-time events)

50. Technologie wspomagające przetwarzanie dużej ilości zdarzeń
Przetwarzanie dużej ilości zdarzeń może być bardzo wymagające dla
zastosowanych komponentów.
• Szybka kolejka do przetwarzania dużej ilości zdarzeń – np. Apache
Kafka lub dla mniejszej ilości RabbitMQ (standard AMQP)
• Narzędzia do szybkiej i łatwej eksploracji dużej ilości danych – np.
Elasticsearch/Logstash/Kibana (ELK), przydatne przy odkrywaniu
ciekawych cech w danych
• Protocol Buffers (lekki i zwinny format opisu danych) – wymiennie z
JSON/XML w zależności od sytuacji
• gRPC.io (lekka komunikacja dwukierunkowa oparta o protocol buffers) –
z możliwością szybkiego uruchomienia API Gateway gRPC do REST
API

51. Wybrane zagadnienia oraz biblioteki i narzędzia ML
W ramach realizacji asystenta rozwiązujemy wybrane zagadnienia
Machine Learning:
Tłumaczenie poczty
• LSTM w/attention, seq2seq
• OpenNMT
Klasyfikacja poczty
• multilabel, multiclass
• ensemble różnych sieci neuronowych
Klasyfikacja kontaktów
• m.in. logistic regression

52. HTTP://WEB.STANFORD.EDU/CLASS/CS224N/SYLLAB
US.HTML

53. 1. Messenger, Echo, Assistant (lub inna platforma) jako nasz „system operacyjny”
2. Brak konieczności instalacji
3. Więcej „naturalnych” interfejsów użytkownika
4. Każde urządzenie podłączone do Twojego asystenta
5. „Ambient software”
Co nas czeka w przyszłości?

56. Cześć! Mam na imię Edward.

57. Zbieram biznesowe dane i uczę się z
nich korzystać
Komunikuję się z Tobą przez łatwy w
użyciu interfejs
I wysyłam spersonalizowane porady i
szanse sprzedażowe
Pracuję w tle jako inteligentny asystent sprzedażowy!
Cześć! Mam na imię Edward.

58. bartek@2040.io
/brozkrut
www.edward.ai