SlideShare a Scribd company logo
1 of 26
Download to read offline
Jak działa wyszukiwanie pełnotekstowe
na przykładzie Apache Solr?
Tomasz Sobczak 25.04.2019
Koduj w Płocku, #2 spotkanie Płockoderów
Agenda
• Przedstawię się
• Odwrócony indeks
• Główne wyzwania
• Przykładowa architektura
• Architektura Apache Solr
• Trochę o NLP/ML
• O Findwise
Dokument 1.
Liceum Ogólnokształcące im. Marszałka Stanisława Małachowskiego w
Płocku – jedna z najstarszych szkół w Polsce.
Dokument 2.
Małachowianka, została założona w 1180 roku i jest najstarszą z
istniejących nieprzerwanie w tym samym miejscu szkół w Polsce.
Indeksujemy
Dokument 1.
Dokument 2.
Odwrócony indeks
1180 -> 2
być -> 2
i -> 2
im -> 1
istnieć -> 2
jeden -> 1
liceum -> 1
małachowianka -> 2
małachowski -> 1
marszałek -> 1
miejsce -> 2
nieprzerwany -> 2
ogólnokształcący -> 2
płock -> 1
polska -> 1,2
rok -> 2
sam -> 2
stanisław -> 1
stary -> 1,2
szkoła -> 1,2
ten -> 2
w -> 1,2
z -> 1,2
założyć -> 2
zostać -> 2
Odwrócony indeks
Wyszukujemy
Wyszukujemy
AND
Dokument 1.
Liceum Ogólnokształcące im. Marszałka Stanisława
Małachowskiego w Płocku – jedna z najstarszych szkół w
Polsce.
Dokument 2.
Małachowianka, została założona w 1180 roku i jest najstarszą
z istniejących nieprzerwanie w tym samym miejscu szkół w
Polsce.
Wyszukujemy
AND
Dokument 1.
Liceum Ogólnokształcące im. Marszałka Stanisława
Małachowskiego w Płocku – jedna z najstarszych szkół w
Polsce.
Wyszukujemy
AND
Dokument 1.
Liceum Ogólnokształcące im. Marszałka Stanisława
Małachowskiego w Płocku – jedna z najstarszych szkół w
Polsce.
Wyszukujemy
OR
Dokument 1.
Liceum Ogólnokształcące im. Marszałka Stanisława
Małachowskiego w Płocku – jedna z najstarszych szkół w
Polsce.
Dokument 2.
Małachowianka, została założona w 1180 roku i jest najstarszą
z istniejących nieprzerwanie w tym samym miejscu szkół w
Polsce.
Co jeszcze?
Co jeszcze?
• A gdybyśmy chcieli się pozbyć stopwordów?
• Synonimy: Liceum Ogólnokształcące im. Marszałka Stanisława Małachowskiego = Małachowianka
• Coś ciekawszego niż AND i OR?
• A co z rankingiem? Który dokument jest trafniejszy?
• itd.…
Przykładowa architektura
Content
Sources
Processing Service
Applications
Indexing
Service
Connector
Service
Search
Service
Wyzwania
Język naturalny jest
niejednoznaczny, słowa
mają synonimy, homonimy
itd. ludzie posługują się
ironią, moją różne intencje
i potrzeby (informacyjne)
Trafność wyników
wyszukiwania, który
dokument lepiej
odpowiada na (za)pytanie
użytkownika? Jak mierzyć
trafność i satysfakcję
użytkowników?
Skalowanie, czas
odpowiedzi,
przepustowość
indeksowania,
administrowanie
instalacjami obsługującymi
setki QPS, czy miliony
zaindeksowanych
dokumentów
∞
NLP/ML
Która szkoła w Polsce jest najstarsza?
Małachowianka.
NLP/ML
Która szkoła w Polsce jest najstarsza?
Małachowianka.
Źródła
danych
Procesy indeksowania i
przetwarzania danych
Silnik wyszukiwania +
dodatkowe struktury
np. grafowe
Przetwarzaniezapytania
Analizaintencjiużytkownika
NLU
Search API
Question
Answering API
Bot API
Aplikacje
końcowe
Przetwarzanie języka
naturalnego
Rozbudowa modelu danych
Pętla zwrotna, uczenie maszynowe na podstawie
zachowań użytkowników
NLP/ML
Zastosowania
1. Wyszukiwarki korporacyjne, e-commerce’owe, dowolne wertykale
2. Wizualizacja i analiza danych
3. Rekomendacje
4. Strony zasilane silnikiem wyszukiwania
5. Chatbot
6. ???
Gdzie szukać wiedzy
https://www.manning.com/books/solr-in-action
https://www.manning.com/books/lucene-in-action-second-edition
https://www.manning.com/books/taming-text
https://www.manning.com/books/relevant-search
https://www.manning.com/books/deep-learning-for-search
https://lucidworks.com/blog/
https://www.elastic.co/blog/
https://opensourceconnections.com/blog/
http://ftp.man.poznan.pl/apache/lucene/solr/ref-guide/apache-solr-ref-guide-7.7.pdf
About
• Founded in 2005
• +120 employees
• Vendor independent
consultants
• Sweden, Denmark, Norway,
Finland & Poland
• 1700 projects, 450 customers
• Part of EVRY since 2018
Rekrutujemy!
tomasz.sobczak@findwise.com
+48 601 193 920
http://career.findwise.com/jobs/205902-java-developer
Jak działa wyszukiwanie pełnotekstowe
na przykładzie Apache Solr?
Tomasz Sobczak 25.04.2019
Koduj w Płocku, #2 spotkanie Płockoderów

More Related Content

Featured

How Race, Age and Gender Shape Attitudes Towards Mental Health
How Race, Age and Gender Shape Attitudes Towards Mental HealthHow Race, Age and Gender Shape Attitudes Towards Mental Health
How Race, Age and Gender Shape Attitudes Towards Mental Health
ThinkNow
 
Social Media Marketing Trends 2024 // The Global Indie Insights
Social Media Marketing Trends 2024 // The Global Indie InsightsSocial Media Marketing Trends 2024 // The Global Indie Insights
Social Media Marketing Trends 2024 // The Global Indie Insights
Kurio // The Social Media Age(ncy)
 

Featured (20)

2024 State of Marketing Report – by Hubspot
2024 State of Marketing Report – by Hubspot2024 State of Marketing Report – by Hubspot
2024 State of Marketing Report – by Hubspot
 
Everything You Need To Know About ChatGPT
Everything You Need To Know About ChatGPTEverything You Need To Know About ChatGPT
Everything You Need To Know About ChatGPT
 
Product Design Trends in 2024 | Teenage Engineerings
Product Design Trends in 2024 | Teenage EngineeringsProduct Design Trends in 2024 | Teenage Engineerings
Product Design Trends in 2024 | Teenage Engineerings
 
How Race, Age and Gender Shape Attitudes Towards Mental Health
How Race, Age and Gender Shape Attitudes Towards Mental HealthHow Race, Age and Gender Shape Attitudes Towards Mental Health
How Race, Age and Gender Shape Attitudes Towards Mental Health
 
AI Trends in Creative Operations 2024 by Artwork Flow.pdf
AI Trends in Creative Operations 2024 by Artwork Flow.pdfAI Trends in Creative Operations 2024 by Artwork Flow.pdf
AI Trends in Creative Operations 2024 by Artwork Flow.pdf
 
Skeleton Culture Code
Skeleton Culture CodeSkeleton Culture Code
Skeleton Culture Code
 
PEPSICO Presentation to CAGNY Conference Feb 2024
PEPSICO Presentation to CAGNY Conference Feb 2024PEPSICO Presentation to CAGNY Conference Feb 2024
PEPSICO Presentation to CAGNY Conference Feb 2024
 
Content Methodology: A Best Practices Report (Webinar)
Content Methodology: A Best Practices Report (Webinar)Content Methodology: A Best Practices Report (Webinar)
Content Methodology: A Best Practices Report (Webinar)
 
How to Prepare For a Successful Job Search for 2024
How to Prepare For a Successful Job Search for 2024How to Prepare For a Successful Job Search for 2024
How to Prepare For a Successful Job Search for 2024
 
Social Media Marketing Trends 2024 // The Global Indie Insights
Social Media Marketing Trends 2024 // The Global Indie InsightsSocial Media Marketing Trends 2024 // The Global Indie Insights
Social Media Marketing Trends 2024 // The Global Indie Insights
 
Trends In Paid Search: Navigating The Digital Landscape In 2024
Trends In Paid Search: Navigating The Digital Landscape In 2024Trends In Paid Search: Navigating The Digital Landscape In 2024
Trends In Paid Search: Navigating The Digital Landscape In 2024
 
5 Public speaking tips from TED - Visualized summary
5 Public speaking tips from TED - Visualized summary5 Public speaking tips from TED - Visualized summary
5 Public speaking tips from TED - Visualized summary
 
ChatGPT and the Future of Work - Clark Boyd
ChatGPT and the Future of Work - Clark Boyd ChatGPT and the Future of Work - Clark Boyd
ChatGPT and the Future of Work - Clark Boyd
 
Getting into the tech field. what next
Getting into the tech field. what next Getting into the tech field. what next
Getting into the tech field. what next
 
Google's Just Not That Into You: Understanding Core Updates & Search Intent
Google's Just Not That Into You: Understanding Core Updates & Search IntentGoogle's Just Not That Into You: Understanding Core Updates & Search Intent
Google's Just Not That Into You: Understanding Core Updates & Search Intent
 
How to have difficult conversations
How to have difficult conversations How to have difficult conversations
How to have difficult conversations
 
Introduction to Data Science
Introduction to Data ScienceIntroduction to Data Science
Introduction to Data Science
 
Time Management & Productivity - Best Practices
Time Management & Productivity -  Best PracticesTime Management & Productivity -  Best Practices
Time Management & Productivity - Best Practices
 
The six step guide to practical project management
The six step guide to practical project managementThe six step guide to practical project management
The six step guide to practical project management
 
Beginners Guide to TikTok for Search - Rachel Pearson - We are Tilt __ Bright...
Beginners Guide to TikTok for Search - Rachel Pearson - We are Tilt __ Bright...Beginners Guide to TikTok for Search - Rachel Pearson - We are Tilt __ Bright...
Beginners Guide to TikTok for Search - Rachel Pearson - We are Tilt __ Bright...
 

Jak działa wyszukiwanie pełnotekstowe?