In this post, I will show you 5 quick steps to get started with Search Analytics:

1. Get Search Logs: There are various tools you can use to track and analyze your search. You many choose any one of them to get started depending on your business domain and organizational policies. I am using Google Analytics as a tool for this post simply because not only it is very powerful but it is very easy to start with. You can just create a google account and get started for “free”. No infrastructure setup required. Place the JavaScript code in your website pages and you are ready to start measuring.

Please note that there are many other tools in the market for more specific purposes and with higher complexities. It really depends on what your needs are. Here, we will continue with Google Analytics.

2. Understand your Site Search Usage: Many people underestimate the use of search on their website. So, the first step is to measure how many people are using search. Even if 5-10% of your visitors are using search, it is not a bad figure (depending on your business domain and site setup). This could very well be the most used navigation on your website.

3. Analyze your Search Terms: Get a list of searched terms to start with. Most often, you will see that there is a pattern. Few terms are searched more than the others. It is important to analyze the top 10 searched terms individually. You might want to group the other terms (long tail) and analyze them separately.

Try conducting searches for these searched term yourself and see if you are satisfied with the results. Did you get what you were expecting as the number one result? If not, you might want to make changes to your site to improve your search results.

Some additional things to ponder:

Looking at the searched terms do you see what you were expecting? Are their unknown terms?For example, if you have a product support site you might expect users to search more for some newly launched products.Do you see the product name or numbers in your searched term report? Are people looking for product comparison?

If you have some unexpected terms in your top 10 searched terms, then you might want to consider adding additional content related to those terms.

4. Evaluate User Experience: Are users happy or frustrated by the time they leave the site? Can they find what they are looking for or are they leaving immediately after performing a search? This is the toughest part because you are not sitting with the user and you can make only as much sense as the reports could tell. But the good news is that there are some metrics to watch out for which can provide valuable insights related to user experience. Couple of these metrics is shown in the picture below.

Result Pageviews/Search tells you about the number of results user viewed for the search term. If the number is too high you know that it is taking too long for users to find what they are looking for and they will not be happy about it.

% Search Exits is equivalent to bounce rate in web analytics. This number tells you about the percentage of people who left immediately after performing a search for that term without clicking on any of the search results. We would want this number to be as low as possible.

It is also important to evaluate search terms that produced 0 results. Users will not be happy to find zero results for their searches. There is no out of box metric in Google Analytics to track this but there are various ways to get around it using Events or Custom variables.

5. Improve Search Experience: What would you do if you found that there is a 35% Search Exit for your top keyword or 20 Result Pageviews/Search? In some cases this might be because the term is not spelled correctly or simply because user is using a term which is not an exact match with your content. For example, in an intranet environment of an organization, an employee is searching for “vacation list” but not getting any hits because you have “holiday list” in your content. Here, you might consider adding synonyms or best bets for these frequently search terms. Adding spelling correction like “Did you mean” or providing “related searches” for results could further help improve user experience and keep the visitors engaged in your website. If there are zero results for a search term you might want to consider adding additional content as well.

To conclude, I would say that there are lot of ways in which you can improve your site search analytics but the important part is to get started. It is not as tough as it may sound and it is worth the effort considering the amount of valuable information you get and the direct insight into user’s mind.

Mellomvare for søk

FRONT.NET opererer som mellomvare, og lar deg konfigurere forretningslogikk for søk uavhengig av både søkemotor og presentasjon. FRONT.NET er laget for å kunne hente og sette sammen informasjon fra ulike kilder, og kan gjerne kalles en søkeorkestrator.

FRONT.NET lar deg skille mellom forretningslogikk og applikasjonslogikk. Applikasjoner som trenger søkefunksjonalitet trenger ikke bry seg med kompliserte søkeuttrykk, men sender simpelthen spørreord over til FRONT.NET. Trenger du å avgrense søket, kan du sende med filter, som for eksempel brukerinformasjon, sted, avdeling, eller lignende. De komplekse spørringene tar FRONT seg av.

Søkemotoruavhengighet

FRONT.NET tilbyr et generelt format for spørringer, og søkeresultater. Dataformatet fra FRONT er det samme, uavhengig av om motoren i bakkant er SharePoint, ESP, eller Solr. FRONT.NET har i dag adaptere for Fast ESP, SharePoint 2010 og 2013, Elasticsearch, Solr og Google Search Appliance. Dette gjør det enkelt å sette sammen resultater fra ulike søkemotorer. Dersom du ønsker å bytte ut søkemotoren trenger det ikke innebære endringer i din applikasjon, da det kun er snakk om å bytte ut søkeadapter i FRONT.NET. Nye adaptere utvikles så snart vi ser behovet melde seg.

Elasticsearch adapter

Elasticsearch er en søkemotor i stor vekst. Til utvikling av Elasticsearch adapteret har vi kunnet dra nytte av NEST, den offisielle .NET klienten for Elasticsearch. Elasticsearch har enorm fleksibilitet i forhold til hvordan spørringer kan uttrykkes, med mulighet for nestede boolske uttrykk og dynamiske ranking-funksjoner. I utvikling av adapteret har vi valgt å minimere kompleksiteten i FRONT ved å delegere disse mulighetene inn i Elasticsearch via søkemaler (search templates). Dette ivaretar fleksibiliteten, samtidig som APIer og programmeringsgrensesnittene er beholdt.

Google Search Appliance Adapter

Comperio ble ifjor partner med Google, og vi har nå utviklet FRONT.NET adapter for Googles intranett søkemotor Google Search Appliance, eller bare GSA for kort. GSA tilbyr enkel integrasjon mot en rekke ulike kilder, søkegrensesnittet er enkelt og forholde seg til og adapteret har støtte for alle vanlige søkeoperasjoner.

Logging

For å kunne utvikle en god søkeløsning er det avgjørende at man har tilgang til gode søkelogger som avslører hvordan søkeapplikasjon brukes.
FRONT.NET har nylig fått funksjonalitet for å kunne logge direkte til Logstash. Logstash kombinert med Elasticsearch og Kibana gir deg et kraftig verktøy for dataanalyse.

FRONTD

Versjon 5 av FRONT.NET kjører som en frittstående tjeneste i Windows.
Tidligere versjoner opererte som web applikasjon under IIS (Internet information server), men vi ser at når vi kjører frittstående oppnås forenklet administrasjon, samt forbedret stabilitet og ytelse.

Microsoft, .NET og veien videre

Microsoft og .NET verdenen er under rivende utvikling for tiden, ikke minst gjennom Microsoft sin nye og kjært velkomne åpning mot open source. Vi liker veldig godt ideen om kryssplattform .NET, og neste versjon av FRONT.NET vil forhåpentligvis kjøre like bra på OS X og Linux som på Microsoft.

Skal du lykkes i forretningslivet i dag, er du avhengig av å kjenne brukernes bevegelser og kunne tilpasse løsningen din etter dette. Du kan velge å stole på maktene, som Snåsamannen eller Märtha, eller du kan ta makten i din egen hånd og høste innsikten som ligger begravet i virksomhetens og brukernes logger.

3 steg

Vi tar utgangspunkt i at du har en nettside, og at du får tak i loggene til denne. I tillegg trenger du en datamaskin, samt en datakyndig person, helst en med utvikler-kompetanse.

Slik kommer du i gang:

1. Identifiser 3 målbare KPI’er.
   Forslag: Sidevisninger pr. dag, Mest brukte spørreord, Responstid pr.side
2. Mat loggene inn i ELK.
   Finn logdata og en utvikler. Utvikleren finner lett ut av dette.
3. Visualisér KPI’ene.
   Hold fast i utvikleren, mens dere sammen ser på dataene i Kibana og finner passende grafisk fremstilling.
   

Eksempel på Kibana dashboard

KPI

Forslagene til KPIer er standard måletall for nettsider. Dette er tall som alle nettsideanalyseverktøy, som Google Analytics, kan gi deg i dag. Forskjellen er at nå er det du som setter sammen grafene og utvikler verktøyene,  dataene tilhører deg, og måten du velger å sette informasjonen sammen på for å skape innsikt er helt opp til deg selv. Igjen; Hensikten her er å demonstrere en teknikk og vise fram et verktøy, ikke å fortelle deg hvilke KPIer du bør være opptatt av.

ELK

ELK , som nevnt over, eller den såkalte “ELK stacken”, tilbyr et komplett Big Data lagrings-, søk- og analyse-verktøy. ELK står for Elasticsearch, Logstash og Kibana, en samling open source produkter utviklet av teknologiselskapet Elastic. Søkemotoren Elasticsearch er kjernen i stacken, med fokus på utviklervennlighet og skalerbarhet. Logstash mater data inn i Elasticsearch, mens Kibana tilbyr ad-hoc data-analyse og nydelige visualiseringer og grafer.

Netflix, GitHub, Microsoft er eksempler på gigantvirksomheter som benytter Elasticsearch i kjernen av sin virksomhet.

Bakgrunnen til plattformens popularitet ligger i at den er enkel å starte med, samtidig som den leverer uovertrufne søke- og analyse-muligheter.  ELK stacken nevnes ofte i samme åndedrag som Big Data, ettersom den takler større  datamengder.

En start

Loggene til nettsiden din kvalifisere antakeligvis ikke helt til betegnelsen Big Data. Poenget er at verktøykassen vi introduserer  her står du rustet til større oppgaver.

Du kan kan komme i gang med å ta makten over bedriftens datalogger uten at det krever store ressurser. Planen kan legges underveis, samtidig som enkel tilgang til rådata alene kan skape både ny innsikt og nye spørsmål og behov.

Søk og analyse av store datamengder, som f.eks. transaksjonslogger, nettverkstrafikk, brannmur, internett-aktivitet i stor skale, som twitter, irc, nettsider osv.

Det norske søketeknologiselskapet Comperio er partner med Elastic, og har mange utviklere som du kan hjelpe deg gjennom disse tre stegene. Comperio har jobbet med søk siden 2004 og er et av verdens ledende selskaper innen søketeknologi.

Ikke la Big Data skuta seile sin egen sjø, ta plass ved roret og sett kursen mot din egen Big Data horisont nå!

Les om Comperios frokostmøte om hvordan forstå kundene dine bedre.

Gjennom Tilbudssøk kan detaljhandelsselskaper laste opp reklameblader og produktene gjøres søkbare på nettstedet Tilbudssøk. Sammen med Comperio har Posten Tilbudssøk nå tatt steget over på ny, moderne teknologi. Med dette nærmer de seg tilgang på nær sagt ubegrensede muligheter for å analysere brukerstatistikk. Men vil dette gjøre Postens tjeneste mer relevant for brukerne?

Nyere søk er bedre søk

For å sikre en best mulig søkeløsning for brukerne besluttet Posten sammen med søkeentusiastene i Comperio at det var på tide å oppgradere søkemotoren. Tjenesten har i en årrekke benyttet FAST ESP som søkemotor, et produkt som Comperios søkeeksperter har en lang historie med. Nye krav fra brukerne samsvarer bedre med hva ny teknologi kan tilby. Valget falt på teknologi fra  Elastic som den best egnede kandidaten.

Prosjektet hadde tre hovedleveranser:

1.    Erstatte søkemotoren FAST ESP med Elasticsearch og opprettholde eksisterende funksjonalitet og enklere utvikle ny funksjonalitet
2.    Legge geodata til produkter, slik at en bruker kan finne nærmeste butikk som tilbyr produktene
3.    Sette opp rikholdig og verdigenererende logganalyse med Logstash og Kibana

Vi har tatt en prat med en av søkekspertene i Comperio om prosjektet:

«Kibana er fantastisk å jobbe med, og vil generere mye ekstra verdi for kunden og deres annonsekunder i form av kunnskap om brukeratferd på nettstedet. Vi har hatt en bratt læringskurve det siste året og vi har utvidet vår tunge verktøykasse på søketeknologi for kommende prosjekter. Når denne løsningen går live, i løpet av april, vil Kibana virkelig komme til sin rett etter hvert som vi får mer og mer brukerdata», sier Sébastien Muller.

Hvilken merverdi gir denne teknologien?

Teknologien er svært fleksibel og kan gi beslutningsgrunnlag ut av store datamengder fra ulike kilder. Teknologien benyttes nå av selskaper verden over og har fått et godt fotfeste i Norge den senere tid. Med denne løsningen kan kunden tilpasse søket i fortløpende, fordi kunden får kunnskap om hva brukerne søker etter. Mer og mer  loggdata gir bedre beslutningsgrunnlag  for justeringer i løsningen, noe som i sin tur øker bruksverdien for sluttbrukeren. Dette er starten på en positiv fase for tjenesten.
Kibana 4, den nyeste versjonen av Elastic logg visualiseringssuite, ble utgitt i februar i år, omtrent på samme tid som Comperio satte opp logikken for loggingen. Dette var en perfekt mulighet til å skape nyttige dashboard for vår kunde. Se eksempler nedenfor.

Logganalyse kan ta i mot, analysere og presentere et stort volum av logg-informasjon. Tjenesten er basert på:
•    Logstash (parsing av logginformasjon)
•    Elasticsearch (lagring av logginformasjon)
•    Kibana (analyse og presentasjon av den lagrede informasjonen)

For kunder som vil analysere rettighetsbelagt informasjon kan man legge til autentisering og begrensninger, slik at mange brukere kan dele tjenesten. Hver bruker har kun tilgang til egne loggdata.

Om Comperio

Comperio har i 10 år levert innovative søkeløsninger til organisasjoner der kunnskap- og informasjonsgjenfinning er kritisk for måloppnåelse. Comperio har 30 kunnskapsrike entusiaster på søk ved sine kontorer i Oslo og Stockholm.
Kontakt Ole-Kristian Villabø for en prat dersom du ble nysgjerrig på hva dette er.

The Comperio FRONT logo

FRONT is the tool that Comperio has developed to create advanced search solutions for our customers. We are now releasing a new version of FRONT with new features, and improved speed and stability.

Improved speed and stability

We have spent a lot of time improving performance. We know that it is important to not only find what you’re looking for, but to find it quickly. The changes we have made for this release should give a significant performance boost for most use cases.

We’ve also spend a lot of time removing legacy code, simplifying the API, and updating the libraries. This reduces the complexity of the code. It also removes possible points of failure. With the latest review we have prepared FRONT for the future. This will also help us write custom code for our customers faster.

New and improved features

We’ve added a JSON endpoint. JSON is great when you want to keep bandwidth usage down and when you want to communicate with FRONT using javascript. Using a JSON endpoint makes it easier to create search applications with fewer layers between the user and the search engine.

Query logging has been improved. One of the features added is logging directly in the JSON format used by elasticsearch, making it easy to set up query analytics using the ELK stack. We want to create tailored search solutions. Each user base and each domain have their own needs. Query analytics allows us to see how your users use your solution. Insight into how your users use search will allow you to improve the solution.

Integrating with different search engines is obviously important for us. Since the last release we have started supporting elasticsearch. This makes us especially glad since they are one of our partners.  Support for IBM ICA has also been included in our tool  kit, and we have improved our support for Apache Solr.

Don’t hesitate to contact us with any questions.

Comperio gjør det enkelt å finne riktig dokument selv om du ikke er godt kjent med Public 360. Ved å gjøre innholdet i Public 360 tilgjengelig i en søkeindeks kan man få søketreff på tvers av kilder. SharePoint 2013 tilbyr en slik søkeindeks. Denne vil kunne gi presise treff fordi spørringen henter treff basert på data både fra dokumentet og metadata til dokumentet. På den måten kan man utforske hva som finnes av innhold og historikk knyttet til et tema eller en sak.
For å få tilgang på dokumentene i Public 360 må man koble kildesystemet sammen med søkemotoren med en konnektor.

Comperio laget i første omgang en konnektor for å kunne indeksere innhold fra Public 360 basert på Fast Search Server for SharePoint 2010. Siden har vi laget en ny versjon for Microsoft SharePoint 2013.
Når vi laget konnektoren så bruke vi Microsofts rammeverk for å lage tilpassede BCS (Business Connectivity Services) konnektorer til SharePoint 2013.

Så, hvordan fungerer konnektoren for indeksering av innhold?

FileFinder web servicen er endepunktet i Public 360, og det brukes til å hente Public 360 dokumenter. Fra denne web servicen får vi all informasjon om hvert dokument, som egenskaper, metadata og rettighetsinformasjon. Videre blir hvert dokument og dets egenskaper plukket opp av SharePoint 2013, hvor dokumentet crawles, prosesseres og lagres i søkeindeksen.

Og hvordan fungerer konnektoren ved søk utført av en bruker?

Når en bruker gjør et søk i søkeboksen, så legges det til hva slags tilganger brukeren har på spørringen. Disse tilgangene hentes fra Public 360 ved hjelp av en SharePoint security trimmer som settes opp for Public 360. Dette fører til at kun dokumenter som brukeren har rettigheter til blir returnert som en del av søkeresultatet.

Ta kontakt for å høre mer om Public 360 og SharePoint.

Takk til alle som valgte å bruke morgenen på å høre et par av våre kunder komme med konkrete erfaringer fra sine prosjekter, og få litt inspirasjon til hvordan håndtere sine egne informasjonsutfordringer. Det var mange blide ansikt og gode tilbakemeldinger etter seminaret.

Agenda for seminaret finnes her

Se presentasjonene fra foredragene

Her følger noen utvalgte bilder fra arrangementet

Introduksjon og velkommen.

Helge Blindheim forklarte entusiastisk om Helsedirektoratets tanker og visjoner, og hvordan Sharepoint søk skulle bidra til å nå visjonen om skreddersydd og sikker helseinformasjon til alle.

Thomas Evensen og Jon Solberg forklarte litt om hvor viktig det var for Forskningsrådet at de på en enkel måte kan synliggjøre hvor alle deres tildelinger går. Spesielt morsomt var kanskje at man på en enkel måte kunne se hvor mye en Nobelpris kostet, ved å søke seg fram til og se på prosjektene ekteparet Moser hadde vært prosjektledere på.

Jon Solberg forklarer litt om oppbygningen av Prosjektbanken, og viste hvordan man for eksempel kunne se hvor mange kroner en Nobelpris kostet gjennom å finne alle prosjektene til ekteparet Moser.

Comperios egen André Lynum forklarte hvordan man kan hente ut samhandlingsmønster ved hjelp av grafteknologi generelt og Neo4J spesielt.

André Lynum beskriver hvordan man kan tolke toppolitikeres twitter-aktivitet og hvordan de omtaler hverandre ved hjelp av grafteknologi.

Last ned presentasjonene

Helge T. Blindheim: Helsenorge.no (PDF)

Andre Lynum: Grafteknologi – samhandling, søk, analyse (PDF)

Enterprise search differs from web search in some fundamental ways. But there are also similarities. Since we all know how successful web search is, let’s see if there is something to learn by examining the differences.

The most striking similarity is that both solutions involve content produced by a user.

The main differences are the search engine and who controls it, the different types of content sources, and the use of the pagerank algorithm.

Web content and web search

What makes web search so successful?  Web search was revolutionized when Google introduced their web search using the pagerank algorithm. Pagerank uses the natural structure of the world wide web, and assigns high weight to pages with many incoming links. It rests on the assumption that pages with correct and important information will be used as references on other pages. Along with pagerank, there is a large number of other factors used to drive relevancy; content quality, keywords, social media sharing etc. Most of the details are not publicly available.

Content publishers on the world wide web can use the tricks of Search Engine Optimization (SEO) to make sure their content gets optimal visibility on the web. SEO is the art of combining knowledge of two things;

- how web search engines work

- what search terms people use.

Both of these areas involve a lot of guessing. Some information can be found in guides such as the Google Webmaster Guidelines, which explains what a webmaster can do to make sure her web sites are properly indexed. Parts of this read almost like an instruction on how to create a nice school paper: “Create a useful, information-rich site, and write pages that clearly and accurately describe your content.”

By following these guidelines, you are helping web search engines understand your content.

Enterprise content and enterprise search 

Enterprise search is a different story. Content is gathered from different sources, with varying degrees of  structure, and mostly without links that could be used for pagerank.

Content publishers in an enterprise search solution are on their own, with no official guidelines describing the rules to follow to win top ranking on the intranet search. More often than not, nobody knows how the enterprise search engine really works. Compare this to the web search situation, and it should not come as a surprise if enterprise search sucks.

A solution to this dilemma requires taking a step back from the idea that enterprise search is a box that you can plug in to your intranet  and “there was search”.

Search tech guys often pride themselves in the abilities of their search engines, and will rather fix relevancy problems created by bad content by doing tricks on the technical side of things. On the other side of the story, content producers expect search to “just work”, and put all the responsibility on technology and the implementer.

Creating a great enterprise search solution requires cooperation between the makers of content and the makers of search solutions.

Content producers should know how their content will end up in search. They should know what factors affect findability. Search solutions should have documentation targeted towards the end user, which in the enterprise also might be a content producer.

ESO

We can define Enterprise Search Optimization (ESO) as the art of improving Enterprise Search. Where ESO has been applied, we should expect to find a well functioning search solution, where employees and content producers know how to create easily findable content.

Compared to SEO, Enterprise search optimization is a simple procedure, involving little  guesswork in regard to figuring out how the search engine works. It is also a difficult procedure, since ESO needs to be individually tailored and optimized for the specific informational needs for each enterprise.  To develop ESO guidelines, the search technicians need to sit down with the content producers and users to figure out the details of the information model and where the pain of missing information hurts the most.

ESO should result in a list of guidelines, or rules, similar to the lists of SEO. These rules can range from simple and obvious, making sure documents have descriptive titles, correct dates and author, to more complex involving consistent language use, metadata fields for categorization, etc. ESO rules should also explain how structure is imposed on data with less structure.

Recognizing authoritative content is solved in web search engines by using the pagerank algorithm. Enterprise search will rarely be able to use pagerank directly. Authority can often be determined by other means. This can range from simple facts like “This book is the company procedure bible” to “powerpoint is more important than word”.

Optimizing  enterprise search

Enterprise search can suck a little less by applying a customized version of SEO.

Noen utvalgte bilder fra arrangementet:

Ole-Kristian Villabø ønsker velkommen.

Ole-Kristian Villabø om Comperio sine 10 år

Per Ejnar Thomsen fra TINE om deres virksomhetssøk.

Kjell Skognes om SINTEFs søkeløsning SIPOK

Fagleder Hans Terje Bakke om blant annet Elasticsearch og Kibana.

For eksempel kan jeg hjelpe et selskap med å lage bedre søk for å finne informasjon internt i organisasjonens datasystem. Det første jeg gjør er å sortere filene. Jeg «tagger» filene med relevant informasjon, som for eksempel hvem som har skrevet den eller hva slags prosjekt den tilhører. Problemet er ofte at man setter inn et ord for å beskrive en fil, og når man skal søke det opp bruker man et synonym. Slik informasjon er ikke alltid i filene, derfor må de behandles før de kan søkes opp.På den andre siden har du brukeren som vil finne filene.

Akkurat nå jobber jeg med å gjøre søkene bedre på brukersiden. Noen ganger vet ikke brukeren hva som er det beste nøkkelordet eller søkeordet for det hun eller han søker på. Da kan det for eksempel være nyttig å finne ut hvem som kan noe om temaet. Det vil si at vi kan linke søkeord med eksperter innenfor bedriften. Egentlig gjør vi søket lettere ved å tilgjengeliggjøre informasjon.

Les mer