Hoe kies je een goede A/B-test tool?

Hoe kies je een goede A/B-test tool?

Hoe maak je als bedrijf de keuze voor de aanschaf van een A/B-test tool? En wat zijn de onderlinge verschillen? Hieronder een eerste aanzet om je op weg te helpen.

Het landschap met aanbieders van testing tools is de afgelopen jaren misschien niet verder uitgedijd, maar dat is zeker wel het geval als je kijkt naar de mogelijkheden die deze tools bieden. De zoektocht naar een geschikte tool zou je daarom al een experiment op zich kunnen noemen.

Voor deze zoektocht kun je een ‘lean’ aanpak aanhouden. Gewoon wat tools uitproberen en zelf ervaren wat het beste bij jou en je organisatie past. Of je laat je goed en uitgebreid adviseren zodat je er niet alleen achter komt wat de praktijkervaringen van anderen zijn, maar ook welke opties er nog meer zijn.

Onderzoek naar A/B-test tools

Forrester bracht recent een nieuw rapport uit waarin zij verschillende aanbieders van tools met elkaar vergeleken. Hoe deze tools in de markt zijn gepositioneerd kan nog wel eens van elkaar verschillen. Er zijn aanbieders die hun product of dienst nog steeds een A/B-test tool noemen, maar inmiddels heeft het grootste deel van markt zich flink doorontwikkeld en zijn veel tools steeds completere platforms voor optimalisatie geworden.

Het zijn platforms die naast de meest bekende A/B-testmogelijkheden nu ook uitgebreide personalisatiemogelijkheden hebben of feature flags en rollouts aanbieden. Een welkome aanvulling wat mij betreft! Zeker voor organisaties die al wat verder in hun test maturity zijn, gaat optimaliseren al lang verder dan alleen het punt van de conversie. Mede daarom zie je al enige tijd naast CRO, ook de term CXO opduiken. Conversie optimalisatie als vakgebied wordt daarmee weer wat breder getrokken. Bij Conversion Experience Optimization (CXO) ligt de nadruk iets meer op het optimaliseren van de algehele klantervaring. De voorliefde (XO!) voor conversie & optimalisatie lijkt nu ook definitief te zijn doorgegeven aan andere disciplines zoals UX en marketing.

Verschillende features

Optimaliseren van de algehele klantervaring klinkt misschien als (n)iets nieuws. Aanbieders van tools en platformen spelen altijd handig in op opkomende trends en ontwikkelingen. Zij willen natuurlijk dat je met een all-in-one oplossing gaat werken en optimaliseert voor die hele customer journey.  Zij bieden jou die completere oplossing om nog sneller en efficiënter te kunnen werken… zeggen ze. Geen losse tooltjes maar alle digitale touchpoints vanuit één omgeving bedienen. Denk aan een soort van toolkit met allerlei handige gereedschappen. Klinkt uiteindelijk best wel handig toch? Nog grotere stappen zetten. Of snel heel veel kleine stapjes…

Met name sneller omdat je in staat bent om bijvoorbeeld nieuwe product features gecontroleerd voor een deel van je klanten te lanceren en om de grootte van deze groep geleidelijk op te voeren (dit wordt ook wel ‘ramping up’ genoemd). Tegelijkertijd kunnen nieuwe features op afstand aan- en uitgezet worden. Dit gebeurt dan zonder tussenkomst van IT of developers en dus zonder deploy van nieuwe code. Dit levert een enorme tijdswinst op en laat dit nou precies zijn waar deze optimalisatie platformen in de toekomst hard aan zullen blijven werken: het verder automatiseren van het experimenteer- en optimalisatieproces. Hoe makkelijker het voor ons wordt, hoe beter. Bottom line gaat het maar om één ding: “Fail fast, learn faster!”.

Personalisatie is ook iets wat de meeste platformen tegenwoordig in meer of mindere mate aanbieden. Het is nu makkelijker geworden om een A/B-test te personaliseren, maar ook om een personalisatie te valideren als een A/B-test. Dit is naar mijn idee een heel goede ontwikkeling omdat personaliseren nog vaak als de ‘holy grail’ wordt gepresenteerd terwijl hypotheses valideren via een gecontroleerd online experiment nog steeds het meest betrouwbare bewijs levert. De combinatie kan het proces alleen maar verbeteren en ervoor zorgen dat je met nog meer zekerheid de juiste keuzes maakt en deze live zet. 

Experience Optimization Platforms (EOP)

Forrester heeft het inmiddels ook over Experience Optimization Platforms, afgekort EOP’s genoemd. Zij concluderen in hun rapport dat van de tien aanbieders die zij onderzochten, de support voor meer digital touchpoints én gebruik van AI ervoor zal zorgen dat deze het verschil blijven maken. Dit betekent bijvoorbeeld dat rule-based optimalisatie op termijn minder effectief zal worden. Verder zorgt het aanbieden van de juiste innovatieve optimalisatietechnieken, support voor omnichannel campagnes en profile data management ervoor dat deze aanbieders niet alleen het verschil zullen maken, maar daarin in de toekomst ook succesvol gaan zijn. Maar ja, daar hangt voor de klant natuurlijk ook wel een flink prijskaartje aan. Volgens Forrester zijn Adobe en Salesforce de leiders in deze EOP markt,  gevolgd door bedrijven als Oracle, SiteSpect en relatieve nieuwkomers zoals A/B Tasty en Optimizely.

A/B-test tools vergelijken 

Ik heb hieronder een kleine selectie gemaakt van tools waarvan ik positieve dingen hoorde of omdat wij als Online Dialogue deze vaak bij onze klanten tegenkomen. Het gaat daarbij om klanten die opereren op diverse niveau’s.  Dit kunnen organisaties zijn die net beginnen met A/B-testen of organisaties die hun huidige processen en werkwijze verder willen professionaliseren. Dit zijn ook steeds vaker organisaties die de afgelopen jaren sterk zijn doorgegroeid en eraan denken weer een volgende stap te zetten. Bijvoorbeeld door het zelf ontwikkelen van een eigen (server-side) testing platform. Dit is voor veel organisaties een knap lastige keuze. Daarom wordt Online Dialogue regelmatig als sparringpartner en/of adviseur aangehaakt in deze fase.

Deze laatste optie is voor velen nog een brug te ver. De meeste tools voldoen namelijk prima aan de huidige wensen en eisen. Ze doen nog wat ze moeten doen. Hieronder een overzicht van A/B Tasty, Convert, Google Optimize, Optimizely en VWO.

A/B TastyConvert.comGoogle OptimizeOptimizelyVWO
ProductenSpeedsail (client-side)
Flagship (server-side)
Convert ExperiencesGoogle Optimize
(gratis)
Google Optimize 360
Web
Personalization
Recommendation
Full Stack
VWO Testing
VWO Insights
VWO Full Stack
VWO Engage
VWO Plan
VWO Deploy
Type experimentenA/B/n Multivariate Split url
Predictive
Multi-armed Bandit
A/B/n Multivariate Split url
Multipage
A/B/n Multivariate
(16 – 36) Redirect
A/B/n Multivariate Split url
Multi-armed Bandit Multipage
A/B/n Multivariate Split url
Multi-armed Bandit (binnenkort)
Aantal experimentenOnbeperktOnbeperktMax. 5 gelijktijdig (gratis) of > 100OnbeperktOnbeperkt
Integraties> 25
o.a. web analytics, CRM, DMS, CMS, Tag manager, eCommerce
> 100
o.a. web analytics, CRM, DMS, CMS, eCommerce, Tag manager
5
Google Analytics
Ads
BigQuery, Firebase
AMP
> 35
o.a. web analytics, CRM, CMS, Tag manager
> 15
o.a. web analytics, CRM, CMS, Tag manager, eCommerce
Handige featuresAdvanced audience segmentationAI widgets

Targeting engine
NPS, session recording, heatmaps
Feature test en rollout (flag tracking)
Advanced targeting & DMP profiling
Privacy notifications (compliance)
Flicker/blink-
free testing
Visuele editor (responsive)
Google Analytics Audience targeting (alleen Optimize 360)
Integratie met Hotjar
Feature test (flags) en rollout
Rollouts Free (gratis, met beperkingen) en Rollouts Plus
API (REST, Event data export, Webhooks) 
Optimizely Data and Attribution app voor Salesforce
Feature test en rollout
VWO deploy
Heatmaps / recording / funnels
Single Page Application supportJaJaJaJaJa
PrivacyJaJa, GDPR en ePrivacy
Gebruikt alleen first-party cookies, geen  persoonlijke data opslag 
Servers in Duitsland
?GDPR Compliance GDPR / CCPA Compliance
Servers in USA
PersonalisatieJaJa, afhankelijk van plan: tussen 5-100Ja, max. 10 (gratis) of > 100 gelijktijdigJa, Optimizely PersonalizationJa
Server-side testenJa, Flagship
(via API) 
JaJaJa, maar beperkt?Ja, VWO Full Stack
Mobile app testenJaNeeJa, via Firebase A/B testingJa, Optimizely Full stackJa, VWO Full Stack
StatistiekBayesianFrequentist (two-tailed z-test)Bayesian (session-based)Sequential hypothesis testing
Configure False discovery rate controls, SRM, Bayesian Engine (binnenkort)
Bayesian (visitor-based)
PlansMaandelijkse kosten
(video) demo 
Kickstart, Specialist, Leader en Enterprise plans
Free trial
Google Optimize is gratis, de 360 versie is een betaalde versie. Prijzen 360 versie vanaf €80.000 per jaar. Grow, Accelerate, Scale plans voor Full Stack en Web
Demo
Growth, Pro en Enterprise plans
Free trial or demo
Investering€€€€€
De informatie in bovenstaande tabel is publieke informatie en voor iedereen toegankelijk via o.a. de websites van deze leveranciers. Deze informatie is onder voorbehoud van tussentijdse- en eventuele toekomstige wijzigingen.

Kies de juiste A/B test tool voor jouw organisatie

Zoals je vast wel hebt gemerkt zijn er veel overeenkomsten tussen de genoemde tools. Dat maakt een keuze niet meteen makkelijker. Kijk daarom ook naar de organisaties achter de tools. Wat is hun mission statement? Wat vinden zij belangrijk? Hoe zien zij hun productontwikkeling en hebben ze een duidelijke roadmap voor de komende kwartalen? Maar ook: hoe is customer support geregeld en sluit dit aan bij mijn persoonlijke wensen?
Mijn advies: kies de tool die het beste past bij de doelen die je hebt en de test maturity van de organisatie en laat je niet te snel verleiden door alle extra mogelijkheden die er in potentie zijn. Het is belangrijker dat je aan het verbeteren bent, dan met welke middelen je dat doet. Iets wat mooier lijkt en groter klinkt, is niet altijd beter. Size doesn’t matter, remember? It’s how you use it!

Reinier Koolmees - data insight expert

Dagelijks ben ik als analist bij Online Dialogue bezig met datagedreven conversie optimalisatie en het vertalen van data naar inzichten. Online Dialogue is al 10 jaar een toonaangevend CRO-bureau, waar mensen, kwaliteit en kennisoverdracht centraal staan. Wij helpen onze opdrachtgevers betere en betrouwbaardere beslissingen te nemen aan de hand van data en psychologie.