Solr@twitter                  (yats)	
  
http://pcod.no-ip.org/yats/

twitter.com/@PENGUINANA_

2010/3/11 solr     	
  
twitter                (yats)	
  

  2008/11

                    4.9
              xxxGB
       +1.2 /⽉月           (         …)

                  200     /
                              <1000ms(97%) <1500ms(99%)
            204ms
twitter               (yats)	
  

  2008/11

                    4.9
              125GB
       +1.2 /⽉月           (        …)


                  200     /
            204ms
                              <1000ms(97%) <1500ms(99%)
 

  yats             Solr          ⼯工
      
              ⾼高
       tips


                   (      ⽇日             )
       Solr            ⽅方 	
  
…	
  

  RSS

  twitter

  API       (JSONP   )



     solr

     http    ⾃自           	
  
⾼高…	
  

    42              /s

             ⼀一⽅方



      …	
  
Solr                	
  

                   6

       read only   4                                ++      	
  




       1⽇日/               1                   1   /⽉月	
  



       100    /               1   360   400       /⽇日	
  
Solr                      	
  

                     6                                	
  


       read only     4




       24        /              1   ⼗十 …	
  



       100   /                  1              	
  
tips	
  

  Jetty

  Daemon
       >solr[1-4…] start,restart,stop

 
       java -Xms1500M -Xmx1500M -XX:+UseConcMarkSweepGC -XX:
        +UseParNewGC -XX:CMSInitiatingOccupancyFraction=70
       Project vordemort                                       …
tips	
  

 
                5
           

  SSD          OS
       100GB
        OS           1GB
       Solr               ⽤用
 
       	
  
 
       	
  
 
  >              	
          :          	
  >260          	
  	
                    >          	
                       :     	
  >194   	
  	
  

         (260) |                                                	
  	
                                                   (194) |
                                                                                                        	
  	
  
  @zanki
                                                                                     @coinlocker69
           	
                                                                         ⾒見見
                                                                                               ⾳音
                                               ⽅方                          	
                                                      ⾒見見
                                                                                                                   	
  
                        ⼀一
                              ⼈人                                  ⽵竹                 @GorosBar
                                                    	
                                                                     ⼭山
                                                                                                                   ⼀一                                        w
  @yawaraka_bank                                                                                                    AKB
                                                                                          	
  


  2                                                                                                                         AKB ⼤大     ⼦子
           3                                                                                                                   … 	
  #akb48

     ⽅方                           	
                                                                              15⽇日                                          	
  
 




         	
                    	
  
•  LDA                 •              	
  
                	
  
 

  LDA(Latent Dirichlet Allocation)
             2                   50                           …
                   50                        ⼒力力	
  


                                 ⾷食    	
                      	
            	
  
                                                                             	
  
                          	
                                          	
  
                                                                                    	
  
                                                                                    	
  
                                                                             	
  
 1        3   6   10 19 21 26 31 39 41 43 46 49
                                    41	
   46	
  
 

         48%          yats   	
  
300000
250000
200000
150000
100000
 50000
     0                              	
  
 




                       	
     Facet navigation	
  
• Solr   	
                   •         ⽰示	
  
Solr                               	
  

  Facet navigation
   

  Dynamic field
                                  …
           String    tag_s   ⾔言     ⼊入


                                    	
  
Facet navigation	
  

	
  if facetquery:

           params["facet"] = "true"

           params[“facet.field”] = “tag_s”

           params[“facet.mincount”] = “10”

           params["fq"] = facetquery

 
Facet navigation	
  

                    …

<lst name="tag_s">

<int name="    ">2568</int>

<int name="      ">711</int>

<int name="      ">615</int>

<int name=" ⾦金金">584</int>

<int name="          ">507</int>

<int name="      ">353</int>

…
Apache Solr⼊入⾨門              …	
  

  Facet query
                 …   …	
  
 

  Apache
     CPU : Core2Quad Q9650 / 4GB / HDD

  Solr
     CPU : Core2Quad Q9650 / 8GB / X25-M 160GB

  Solr2(2010/3    S-in)
     CPU : Core2Quad Q9550 / 16GB / X25-M 160GB
 


• Streaming API
• user_timeline
• user_timeline	
  

                                     ++   	
  



                  ⽤用          	
  

solr@twitter検索2010

  • 1.
    Solr@twitter (yats)   http://pcod.no-ip.org/yats/ twitter.com/@PENGUINANA_ 2010/3/11 solr  
  • 2.
    twitter (yats)     2008/11   4.9   xxxGB   +1.2 /⽉月 ( …)   200 /   <1000ms(97%) <1500ms(99%)   204ms
  • 3.
    twitter (yats)     2008/11   4.9   125GB   +1.2 /⽉月 ( …)   200 /   204ms   <1000ms(97%) <1500ms(99%)
  • 4.
        yats Solr ⼯工     ⾼高   tips   ( ⽇日 )   Solr ⽅方  
  • 5.
    …     RSS  twitter   API (JSONP ) solr http ⾃自  
  • 6.
    ⾼高…     42 /s   ⼀一⽅方 …  
  • 7.
    Solr     6   read only 4 ++     1⽇日/ 1 1 /⽉月     100 / 1 360 400 /⽇日  
  • 8.
    Solr     6     read only 4   24 / 1 ⼗十 …     100 / 1  
  • 9.
    tips     Jetty  Daemon   >solr[1-4…] start,restart,stop     java -Xms1500M -Xmx1500M -XX:+UseConcMarkSweepGC -XX: +UseParNewGC -XX:CMSInitiatingOccupancyFraction=70   Project vordemort …
  • 10.
    tips       5     SSD OS   100GB OS 1GB   Solr ⽤用
  • 11.
       
  • 12.
       
  • 13.
        >   :  >260       >   :  >194       (260) |       (194) |       @zanki   @coinlocker69   ⾒見見 ⾳音   ⽅方   ⾒見見     ⼀一 ⼈人 ⽵竹   @GorosBar   ⼭山 ⼀一 w   @yawaraka_bank AKB     2   AKB ⼤大 ⼦子 3 …  #akb48 ⽅方     15⽇日  
  • 14.
          •  LDA •     
  • 15.
        LDA(Latent DirichletAllocation)   2 50 …   50 ⼒力力   ⾷食                   1 3 6 10 19 21 26 31 39 41 43 46 49 41   46  
  • 16.
      48% yats   300000 250000 200000 150000 100000 50000 0  
  • 17.
        Facet navigation   • Solr   •  ⽰示  
  • 18.
    Solr     Facet navigation     Dynamic field   …   String tag_s ⾔言 ⼊入  
  • 19.
    Facet navigation    if facetquery: params["facet"] = "true" params[“facet.field”] = “tag_s” params[“facet.mincount”] = “10” params["fq"] = facetquery  
  • 20.
    Facet navigation     … <lst name="tag_s"> <int name=" ">2568</int> <int name=" ">711</int> <int name=" ">615</int> <int name=" ⾦金金">584</int> <int name=" ">507</int> <int name=" ">353</int> …
  • 21.
    Apache Solr⼊入⾨門 …     Facet query … …  
  • 22.
        Apache   CPU : Core2Quad Q9650 / 4GB / HDD   Solr   CPU : Core2Quad Q9650 / 8GB / X25-M 160GB   Solr2(2010/3 S-in)   CPU : Core2Quad Q9550 / 16GB / X25-M 160GB
  • 23.