体验科普 |「顺序效应」会影响NPS得分吗?
认知失调(Cognitive Dissonance)阐述了人的态度变化过程,认为个体对事物的态度和行为间应该是一致的,如果不一致就会产生认知失调,并会导致心里紧张,人就会通过改变认知或行为来重新达到平衡。
为了更深入地了解问卷中的顺序效应,我们可以先了解它的一种表现形式——总体-具体顺序效应(General-Specific Order Effect),即总体问题(如“你对你生活的总体满意度如何?”)与具体问题(如“你对你的婚姻/工作满意度如何?”)之间的先后顺序会对题目的相关性和平均得分产生影响。
相关性是指2道题目之间的关联程度;而平均得分是指该道题目分数的平均值。
2012年,在美国心理学教授塞斯·卡普兰的研究中,通过在两组调查中(分别为美国6000名军人的总体满意度分析和88位普通职工的工作满意度分析)将总体问题和具体问题的顺序进行调换,他发现,当总体问题排在具体问题的前面时,题目的平均得分较低,但相关性较高。
上述调查的总体问题为“你对你工作的总体满意度如何”;具体问题为“请给你的工作时长进行满意度打分”。
而在另一项由市场研究教授Seigyoung Auh负责的研究(针对191名客户对他们理发师的满意度调研)中,他们发现,当把询问总体满意度的题目放在问卷最前面时,题目的平均得分会更低(约6%)。
但是,如果把具体题目(如“您在多大程度上同意‘我的理发师技艺非常高超’这句话?”)放在总体题目(如“您在多大程度上同意‘总体来说我对我的理发师很满意’这句话?”)的前面时,总体题目的得分会更高,因为这样的排序可能会使题目具备更高的相关性。如果调查领域是涉及电脑或者一些昂贵的家用电器,建议先问具体题目,再问总体题目,这样的话会让答题者感到更自然流畅。
虽然上述两项研究得出的结果不尽相同,但都证明了顺序效应是确实存在的。
现在,针对“客户体验的顺序效应”的研究还不是很多,例如哲学教授詹姆斯·刘易斯早前研究了顺序效应对可用性态度的影响,但在SUS、UMUX和CSUQ这三类问卷当中并没有发现明显的顺序效应。
SUS ——系统可用性量表
UMUX ——用户体验的可用性指标
CSUQ ——电脑系统可用性问卷
在NPS方面,至少有CX专家Adam Ramshaw的一份研究报告可以证明,相较于在问卷后期提出NPS的相关问题,当NPS问题出现在问卷前期时,分数会更高。但该报告并没有给出具体数据表明,会造成多大程度的影响。
同时,在包含NPS问题的SUPR-Q问卷中, UX专家赫弗南发现,如果在完成其他7道SUPR-Q题目后,再向受访者提问NPS的相关问题,最终得到的NPS分数会下降。但目前还不清楚,这种影响是一页一题的呈现模式导致,还是网络调查的高流失率引起的。
SUPR-Q问卷,即Standardized Universal Percentile Rank Questionnaire(标准化用户体验百分等级问卷),用于评估网站的感知可用性,考察维度包括可用性、可信度、外观及忠诚度。一般包括以下7道题目:
1.网站使用起来很简单
2.网站内导航清晰
3.我感觉从该网站上购买东西很放心
4.我有信心从该网站发展自己的业务
5.网站设计非常吸引人
6.网站介绍简洁明了
7.我未来还会再次登陆这个网站
因此,关于NPS是否会受到顺序效应的影响,我们还需要进一步探究:
• 研究1:NPS问题的先后位置会影响其最终得分吗?
2018年11月,杰夫·索罗博士(以下简称博士)对2674名受访者进行了在线调查。博士先让受访者回想最近推荐过的产品或服务,接着又询问了他们向朋友或同事推荐这一产品或服务的可能性有多大。下面,我们将这类与“推荐可能性”相关的问题统称为NPS问题。
博士将NPS问题出现的位置设置为研究的自变量,出现的位置分别在问卷的前期(在40道题目之后)或后期(在72道题目之后)。为此,博士创建了多组问卷,每批受访者将交替看到在不同位置出现的NPS问题。
结果发现,调整NPS问题出现的先后位置并不会产生顺序效应:
1. 通过计算两组的NPS平均得分,得出两组的分数分别为8.8和8.9,两组之间仅有0.1分的差异,且无统计学意义(P=9)。
P值代表概率,反映某一事件发生的可能性大小。统计学根据显著性检验方法得到P值,P值越小,统计学差异越显著,一般认为P<0.05 有统计学差异。
2. 在统计受访者每个选项得分的数据时,各个选项的NPS得分的百分比也非常接近(如下图所示),这表明其他选项的得分也没有受到影响。
图:两组的NPS选项得分统计表
图:各公司的NPS得分统计表
• 研究2:在SUPR-Q问卷中,NPS问题的先后位置会影响其得分吗?
在另一研究中,博士探究了SUPR-Q问卷中NPS问题的先后位置对其分数的影响。
研究收集了501名受访者的数据(2018年10-11月),受访者被要求先在6个财经网页和6个餐饮网页中随机浏览一个,然后完成7道SUPR-Q类型的问题和1道NPS问题。
8道问题会同时出现在同一页面上(如下图),但在12个网站中,接近一半的受访者看到的题目顺序会被调换。也就是说,有一半的受访者看到NPS问题出现在问卷的前面,另一半的受访者会看到NPS问题出现在问卷的后面。
该图片由体验家XMPlus翻译
• NPS问题的顺序对相关性的影响
在某些情况下,研究人员希望从SUPR-Q题目中预测用户的NPS得分(例如从网站的可用性和可信性分数来预测NPS得分),以此来观察相关性是否会因为问卷题目的不同呈现顺序而产生不同的影响。在这次研究中,博士得出了一个新发现:
当NPS问题在问卷的前面(开头的位置)时,比它跟在7道SUPR-Q题目的后面具有更高的相关性。数据显示,在5道题目中,当NPS问题在其余4道题目的前面时,调整后的R方为40.2%;而如果NPS问题跟在其余4道题目的后面,调整后的R方就下降为32.6%。
R方(R-squared)是一种衡量相关性的指标,一般用于回归模型中来评估预测值和实际值的符合程度。调整后的R方(Adjusted R-squared)同时考虑了样本量和回归中自变量的个数的影响,较R方的测算更为准确。调整后的R方越大,表示模型拟合度越好,可解释程度越高。
这个数据表明,当态度更加宽泛的总体题目首先出现在问卷时,其相关性更高。
在本期文章中,我们回顾了一些问卷中的顺序效应的相关文献,还就杰夫·索罗博士的两项针对NPS题目顺序的在线实验进行了探讨,经过总结,我们发现:
01|NPS得分不受顺序效应的影响
在不同的网页、产品或服务的问卷调查中,无论NPS题目是在问卷的前面还是后面,它们的NPS平均得分以及分数的分布几乎是相同的。
02|顺序效应使相关性存在差异
当NPS题目放在了SUPR-Q题目的前面时,调整后的R方可以增加约7%,即相关性更高。但博士认为,这些SUPR-Q题目并没有指明具体的属性(如定价或某项具体功能),态度更加广泛,因此可以解释结果的部分差异性。
03|顺序效应真实存在,但很难预测
很多研究已经表明,顺序效应是真实存在的,但尚未清楚顺序效应什么时候会出现、以及会造成多大程度的影响。
04|顺序效应受到多因素影响
根据一些已发表的文献,问卷主题、上下文语境及题目顺序的调整都可能产生不同类型的顺序效应。
在博士的第一项研究中,第一组将40道题目放在了NPS问题的前面,第二组更是将72道题目放在了NPS问题的前面。这样一来,顺序效应有可能因为题目的数量较多而被削弱影响,又或者是被其他问题所掩盖,也可能是受访者对推荐的态度不太容易受到题目顺序的影响。
未来在开展顺序效应的研究时,需要尽量分离出这些影响,同时也需要更多的研究数据去判断是否存在这些影响。
参考资料:
1、Does Changing the Order of the NPS Item Affect Results?
2、什么是顺序效应(order effect)?
3、顺序效应(A+医学百科 )
4、问卷设计|问题选项的顺序效应
5、[科普中国]认知失调理论
6、Net Promoter Score Benchmarks: Don’t Waste Your Time On External Data
7、15 种国际可用性测试经典量表(一)
8、统计学中的“P”值是什么意思
9、R方(R-squared)
10、【回归分析】R、R平方与调整后的R平方