对商品详情进行 A/B 测试

为让开发者获得更多的控制权和更详实的统计数据,我们最近在 Play 管理中心内对商品详情实验进行了一些更改。我们添加了三项新功能:

  • 实验参数配置;
  • 可估算所需样本和完成时间的计算器;以及
  • 现在可实现持续监控实验的置信区间。

为体现这些变更,本页面已更新。

本页面中介绍的功能尚未面向所有开发者提供。

为了优化 Google Play 上的商品详情,您可以通过开展实验来找到对您的应用而言最富有成效的图片和本地化文本。您可以针对自己的主要商品详情页面和自定义商品详情页面开展实验。

对于已发布的应用,您可以测试各种变体,并与目前的版本进行对比,从而根据安装数据找到效果最好的变体。在设置测试之前,请先查看运行有效实验的最佳做法。

注意:针对所有语言的实验已改名为默认图片实验,功能不变。

实验类型

对于每个应用,您在同一时间可以运行一个默认图片实验,或者同时运行多达五个针对特定本地化语言版本的实验。

默认图片实验

通过默认图片实验,您可以对应用的默认语言版本的商品详情图片进行实验。实验对象可以包括应用的图标、置顶大图、屏幕截图和宣传视频的各种变体。

  • 如果您应用的商品详情只有一个语言版本:默认图片实验会向所有用户显示。
  • 如果您添加了某个语言版本的本地化图片资源:系统会从您应用的默认图片实验中排除通过该语言版本查看应用的用户。例如,如果应用的默认语言为英语,而其商品详情中包含一个法语本地化版的置顶大图,那么系统会从该实验中排除通过法语版本查看应用的用户(即使测试的是图标,也不例外)。
本地化实验(文字和图片)

通过本地化实验,您可以对应用的图标、置顶大图、屏幕截图、宣传视频和/或应用说明进行实验,最多可测试五种语言版本。只有使用您选定的语言查看应用商品详情的用户才会看到实验变体。

如果应用的商品详情只提供了一种语言的版本,那么只有以应用默认语言查看应用的用户才能看到本地化实验。

第 1 步:创建实验

如需在 Play 管理中心内创建实验,请按以下步骤操作:

  1. 打开 Play 管理中心,然后前往商品详情实验页面(拓展 > 商店发布 > 商品详情实验)。
  2. 点击创建实验
  3. 输入实验详情:
    • 实验名称:输入实验名称(不能超过 50 个字符)。
    • 商品详情:选择您要开展此实验的商品详情。
    • 实验类型:选择默认图片实验本地化实验
  4. 点击下一步
  5. 按照“第 2 步:设置实验”下的说明继续操作。

第 2 步:设置实验

创建实验后,您可以选择要测试的商品详情、变体和属性。

若要设置实验,请按以下步骤操作:

  1. 按照屏幕上的说明操作,选择相应商品详情并添加实验目标,例如目标指标、实验受众群体、变体及其他设置。
  2. 若要开始实验,请转到页面顶部,然后点击运行实验
  3. 若要稍后再完成实验的设置,请点击保存
查看字段说明、示例与提示

在设置实验时,您必须提供以下商品详情信息。

字段 说明 示例与提示
实验名称

系统只会在 Play 管理中心显示实验名称,以用于识别相应实验,而不会向用户显示该名称。

  • “鲜明图标实验”
  • “徽标置顶大图”
  • “含有新口号的简短说明”
商品详情 您要测试的(主要或自定义)商品详情。

实验开始后,自定义商品详情的名称会始终显示为它在实验开始时的名称。因此,如果您在实验开始后更新自定义商品详情的名称,实验中显示的名称不会随之改变。

在开展实验时,为了避免混淆,最好删除未使用的自定义商品详情,然后视需要创建新的自定义商品详情。


在设置实验时,您必须提供以下实验目标信息。这些设置将影响实验的准确性以及获得结果所需的安装人数。

字段 说明 示例与提示
目标指标 将用于确定实验结果的指标。

您有下面这两种选择:

  • 保留应用的首次安装用户数(推荐):首次安装该应用并将其保留至少 1 天的用户数量
  • 首次安装用户数:首次安装该应用的用户数量(无论他们是否保留了该应用,都会计入此指标的数据)
变体 要按照当前商品详情测试的实验变体的数量。测试单一变体需要的实验时间会更短。

若要向实验中添加新版本,请从“变体”下拉菜单中选择其他选项。

除了当前版本,您最多可以为每个实验添加 3 个变体。

实验受众群体

访问商品详情的用户中将看到实验变体(而非当前商品详情)的用户所占的百分比。

系统会将这些访问者平均分配给各个实验变体。

如果您将受众群体设置为 30%,那么其余 70% 访问您商品详情页面的用户会看到该页面的当前版本。

如果您将受众群体设置为 30% 且实验包含两个变体,那么系统会分别为每个变体分配 15% 的用户。

在实验期间,每个用户只会看到一个变体或您页面的当前版本。

最低可检测效果 变体与对照组之间的差异至少要达到该值,才能确定哪一组效果更好。如果实际差异低于此值,您的实验将被视为平局。  
置信度 该实验提供的置信区间将包含商品详情真实效果的频率。

提高置信度将会降低出现假正例的几率。

注意:如果将实验的置信度设为 90%,则表示有 1/10 的实验可能会报告假正例

属性

选择您要与当前商品详情进行比较的测试内容类型。

为使实验取得最佳效果,请一次测试一个属性。

您在本地化实验中只能测试简短说明和完整说明。

如果您要测试图形资源,请务必遵循图片大小和文件类型要求


在输入实验目标信息时,点击修改估算值便可修改下方所列的每日估算值。这些值可帮助您计算完成实验需要花费的时间。这些值可能与观察到的效果不同。

字段 说明 示例与提示
新用户带来的每日访问量 之前尚未安装您应用的商品详情访问者估算数量  
转化率 将向目标指标转化的访问者的百分比估值。

例如,如果您指定的目标指标是首次安装用户数,则转化率是将转化为首次安装用户的访问者的百分比估值。

每日保留应用的首次安装用户数

将首次安装您的应用并在安装 1 天后未卸载该应用的用户估算数量。

如需了解详情,请参阅查看统计信息、指标和示例的说明
每日首次安装用户数

将访问您的商品详情并首次安装您应用的用户估算数量。

如需了解详情,请参阅查看统计信息、指标和示例的说明

第 3 步:查看及采用结果

如需查看和采用结果,请按以下步骤操作:

  1. 打开 Play 管理中心,然后前往商品详情实验页面(拓展 > 商店发布 > 商品详情实验)。
  2. 在您要查看的实验的表格行中,选择向右箭头。如需详细了解结果详情的显示方式,请参阅下文中的商品详情实验表
  3. 在“结果”部分,查看实验结果的摘要。系统会根据您的目标指标显示实验结果。

    实验结果会显示哪个变体的效果最好,或者有没有哪个变体的表现优于当前所用的商品详情。您还会看到根据此置信区间和最低可检测效果而对结果所做的说明以及建议采取的措施(如果适用)。如果系统收集的数据不足,无法得出实际结果,您可能会看到结果显示“需要更多数据”。
     
  4. 后续行动取决于实验结果:
    • 如果某个变体的效果良好,您可能会看到一条建议,提示您采用该变体。
    • 如果结果显示为“请继续进行此实验,以收集更多数据”,请稍后再来查看结果。
    • 如果有多个变体的效果优于当前所用的商品详情,或者结果显示为“平局”,请查看相应结果,以确定您要采用哪个变体。
    • 如果当前商品详情的效果最好,请点击保留当前商品详情
商品详情实验表

设置实验后,您会在自己的商品详情实验页面上看到以下详细信息。系统会将实验的详细信息整理到 4 个表格内,如下所示。如需了解更多详细信息,请选择您要查看的实验表格行上的向右箭头。

草稿实验

  • 实验名称:实验的名称
  • 商品详情:开展实验的商品详情
  • 实验类型:默认图片实验或本地化实验
  • 详细信息:面向指定比例的目标用户投放的变体数量

进行中

  • 实验名称:实验的名称
  • 商品详情:开展实验的商品详情
  • 实验类型:默认图片实验或本地化实验
  • 开始日期:实验的开始日期
  • 详细信息:提供的变体数量和目标用户百分比

已完成

  • 实验名称:实验的名称
  • 商品详情:开展实验的商品详情
  • 实验类型:默认图片实验或本地化实验
  • 开始日期:实验的开始日期
  • 详细信息:提供的变体数量和目标用户百分比
  • 结果 :实验结果

过往实验

  • 实验名称:实验的名称
  • 商品详情:开展实验的商品详情
  • 实验类型:默认图片实验或本地化实验
  • 开始日期:实验的开始日期
  • 结束日期:实验的结束日期
  • 状态:已应用或未应用
查看统计信息、指标和示例的说明

选择实验后,您可以查看用户指标和安装量指标来了解每个变体的效果。

用户指标

指标 定义
首次安装人数

在实验期间首次安装您应用的唯一身份用户数量。该数据已按受众群体份额调整。

保留应用的安装人数(1 天)

在实验期间首次安装您的应用并且在安装后将应用至少保留 1 天的唯一身份用户数量。该数据已按受众群体份额调整。

留存的预注册用户数量 - 仅面向特定 Play 合作伙伴提供此数据 预注册您的应用并且其预注册状态至少持续 1 天的用户数量。

结果

您可以通过两种不同的方式查看反映实验结果的指标:

  • 当前:唯一身份用户数量
  • 按比例调整:用唯一身份用户数量除以受众群体份额而得出的结果

如果您想查看安装人数的绝对数据,请使用当前数据。如果您想查看根据不同的受众群体份额进行了调整的数据(例如:假如 90% 的受众群体看到了其中一个版本,而 10% 的受众群体看到了另一个版本),请使用按比例调整的数据。

项目 定义与示例
效果

安装效果的预期变化(与当前版本相比较)。当实验收集了足够的数据后,系统才会显示效果。一般情况下,实验开展的时间越久,收集的数据越多,变体的效果范围就越小且越准确。

示例:如果您的某个变体的效果范围是 +5% 至 +15%,则该变化位于这两个范围值之间,并且效果变化最有可能是二者之间的中间值(约为 +10%)。

安装量(已经过调整)
  • 用实验期间的安装量除以受众群体份额而得出的结果。
  • 2019 年 1 月 24 日之前开始的实验包含此指标。
  • 例如,如果您开展的实验包含受众群体份额分别为 90% 和 10% 的两个变体,每个变体的安装量分别为“A = 900”和“B = 200”,那么按比例调整的安装量会分别显示为“A = 1000 (900/0.9)”和“B = 2000 (200/0.1)”。
安装量(当前)
  • 安装应用后,至今仍未卸载应用的用户数量。
  • 2019 年 1 月 24 日之前开始的实验包含此指标。

安装量指标(已弃用)

2019 年 1 月 24 日之前开始的实验使用了以下指标。在该日期之前开始的实验仍然包含这些统计信息,但新的实验仅使用“首次安装人数”和“保留应用的安装人数(1 天)”这两项用户指标。

指标 定义与示例
安装该应用的活跃设备数量
  • 目前安装了该应用各个变体的有效设备数量(该数值会按一定比例调整,以抵补受众群体人数多少的差异)。
安装该应用的用户数量
  • 在指定日期安装该应用各个变体的唯一身份用户数量(该数值会按一定比例调整,以抵补受众群体人数多少的差异)。
卸载该应用的用户数量
  • 该应用的各个变体在指定日期的卸载次数(该数值会按一定比例调整,以抵补受众群体人数多少的差异)。

使用已弃用指标的实验

自 2019 年 9 月起,使用上述任何已弃用指标的实验都将自动终止。请在规划您的商品详情实验时考虑此因素,确保在实验中改用最新的指标。

您可以在商品详情实验页面上的已终止的实验下查看已终止实验的结果。

启用实验通知

如果您希望在实验结束时收到通知和电子邮件,请务必在 Play 管理中心的通知页面上设置偏好设置。

如需详细了解电子邮件通知,请参阅管理您的开发者帐号信息一文。

该内容对您有帮助吗?

您有什么改进建议?
false
搜索
清除搜索内容
关闭搜索框
主菜单
13243383851117048808
true
搜索支持中心
true
true
true
true
true
92637
false
false