Jak mierzyć jakość sieci ekspertów — dlaczego to nie jest to samo co NPS portalu
NPS i średnia ocen mierzą satysfakcję po projekcie — a jakość sieci ekspertów to proces: screening wejścia, dopasowanie i ciągły governance, każdy z inną miarą.
Za każdym razem, gdy klient porównuje nas z portalem ogłoszeniowym, pada to samo pytanie: „jaki macie NPS?". Jest zrozumiałe, ale mierzy nie to, co trzeba. NPS albo średnia ocen mówi, jak zadowolony był użytkownik po zakończonej transakcji — czyli opisuje końcówkę pojedynczego projektu. Nie mówi, czy sieć ekspertów utrzymuje jakość na wejściu i w czasie, ani kogo do tej sieci w ogóle wpuszczono.
NPS mierzy satysfakcję, nie proces
Rankingi i agregatory ocen to tylko jedna z form pośrednictwa jakości; w praktyce rynki coraz częściej działają z wieloma pośrednikami, a rola samych rankingów się zmienia [12]. Ocena wystawiona po projekcie jest sygnałem satysfakcji, ale jako pojedynczy wskaźnik nie kontroluje tego, kto w ogóle trafia do puli. W otwartych rynkach część uczestników świadomie omija weryfikację — a to, kto rezygnuje ze screeningu, realnie wpływa na jakość dostępnych ekspertów [2]. Same systemy recenzji też nie są neutralne: bywają podatne na manipulację i dlatego są przedmiotem ciągłego przeprojektowywania [5].
Wniosek jest prosty: pojedynczy wskaźnik zadowolenia to za mało, żeby orzec „ta sieć jest dobra". Wysoki NPS może współistnieć ze słabo weryfikowaną, przypadkową pulą — bo mierzy zadowolonych, którzy zostali, a nie tych, którzy nigdy nie powinni byli do niej wejść.
Co realnie warto mierzyć
W modelu Cedepe Select przyjmujemy — jako założenie operacyjne, nie twardy wynik badań — że jakość sieci to proces złożony z trzech warstw, a nie jeden wynik: screening wejścia, dopasowanie relacyjne i ciągły governance. Każda warstwa sugeruje inną miarę niż NPS:
- Screening wejścia — jaki odsetek zgłoszeń przechodzi weryfikację i na jakich kryteriach. Jakość ekspercka ma wskaźniki inne niż same oceny użytkowników [1], a projekt progu wejścia decyduje o tym, kto zasila pulę [2].
- Dopasowanie — nie „ile gwiazdek", tylko czy konkretne zlecenie trafiło do właściwej osoby. Tego jedna zagregowana ocena z natury nie pokazuje [12].
- Ciągły governance — mechanizmy nadzoru, które utrzymują jakość w czasie, a nie tylko w dniu podpisania umowy. Governance platformy to odrębny, uznany obszar zarządzania, osobny od rankingów [15][13][4]; a utrzymanie jakości w otwartych systemach wciąż pozostaje otwartym problemem badawczym [11].
W praktyce to inny zestaw pytań kontrolnych. Zamiast „jak nas oceniono", pytamy: ilu kandydatów odrzuciliśmy i dlaczego, czy dopasowanie było trafne, oraz co robimy, gdy jakość zaczyna spadać w trakcie współpracy. Te liczby powiedzą o sieci więcej niż jeden uśredniony wynik satysfakcji.
NPS zostaje więc jako jeden z sygnałów zwrotnych — użyteczny, ale niewystarczający jako miara jakości całej sieci, bo opisuje efekt, a nie trzy filary, które ten efekt wytwarzają.
Szerzej o tym, dlaczego kurowana sieć buduje jakość inaczej niż otwarty marketplace, piszemy w artykule „Curated network czy open marketplace? Jak Cedepe Select buduje jakość".
Sources
- [1]The quest for quality within an online educational marketplace: Indicators of expert-evaluated quality in U.S. history activitiesDOI ↗
- [2]Who Forgoes Screening in Online Markets and Why? Evidence from AirbnbDOI ↗
- [4]Governance Mechanisms in Digital Platform Ecosystems: Addressing the Generativity-Control TensionDOI ↗
- [5]A Decentralized Review System for Data MarketplacesDOI ↗
- [11]Quality control in open-ended crowdsourcing: a surveyDOI ↗
- [12]Expert Critics, Rankings, and Review Aggregators: The Changing Nature of Intermediation and the Rise of Markets with Multiple IntermediariesDOI ↗
- [13]Governance and Design of Digital Platforms: A Review and Future Research Directions on a Meta-OrganizationDOI ↗
- [15]Platform Governance Mechanisms: An Integrated Literature Review and Research Directions