数与理Number & Reason

(10-08 补记:这篇写于 9 月 29 日。

方法Method · 2026-10-08 · 原文发于Originally posted on 百家号

同文另发:Also posted on: 企鹅号、今日头条、知乎

(10-08 补记:这篇写于 9 月 29 日。回测第一版 10 月 1 日跑完了:最初算出个别信号比随机准 13 倍,换成和同样大小的需求比,只剩 2 倍左右;按更细的规模分档再比,估计只有 1.4–1.6 倍,而且是样本内结果、可能偏高。哪个信号真有用,还要等前向对账。另:「别处有这里没」10 月 1 日已降为观察,暂不再研究。)

现在用 AI 写一个 Chrome 扩展,快的话一个下午。开发不再是瓶颈,难的是知道该做什么。

我在做一个实验:从商店的公开数据里找需求,让 AI 研究、判断值不值得做,再让 AI 把它做出来,所有结果连同失败一起公开。做了一周,我遇到一个绕不开的问题——我们凭什么相信“这个机会值得做”?

于是我把“怎么挑软件机会”这件事,能找到的研究和实践都过了一遍。结论先放在这里:

没有一种方法经过独立验证,能预测“该做什么”。能用的只有两样:一套描述机会的语言,和几个稳健的相关因子。哪个信号真的有效,只能自己回测。

下面是过程。

一、先说一个让我清醒的实验

业内流行一种做法:找“停更、下架但还有用户的扩展”,翻新重做。已经有产品把这类清单打包出售。

我们把评分最高的 100 个候选交给 AI 联网逐个核实,结果是:

  • 0 个值得做,34 个有条件值得,66 个不建议做;
  • 90 个已经有更好、仍在维护的替代品;
  • 66 个需求在衰退或已经消失;
  • 排名前 30 的“有条件值得”比例是 40%,排名 61–100 的是 28%:高分段只高一点,而且没有一个值得直接做——分数高低说明不了多少问题。

停更多半有原因:要么需求没了,要么早被别人打败。清单告诉你哪里坏了,验证才告诉你值不值得修。

这让我开始怀疑所有“靠打分挑机会”的方法,包括我们自己的。

二、流行的方法论,擅长描述,不擅长预测

我查了几种最常被引用的方法,看它们的证据到底有多硬:

  • 结果驱动创新(ODI):把机会定义为“重要但满意度低”的具体结果,很好用的描述语言。但它宣称的 86% 成功率,来自厂商自己客户的 21 个项目。
  • 颠覆式创新:有研究者重新检查了原书引用的 77 个案例,只有 9% 同时满足理论的四个要素。
  • “时机最重要”:常被引用的 42%,是创始人在结果已知之后,给 200 家公司自己打分得出的。
  • 独立开发者的经验:阶梯法、从受众出发、“70 多个项目里只有 4 个赚钱”……都很有启发,但多是个人说法。

真正有统计证据的主要是两类:

  1. 元分析(233 项研究):和新产品成功最相关的是产品优势(相关系数 0.34,是这项元分析里最强的一项),其次是市场导向、上市能力。但样本多是制造业和 B2B,能不能迁移到独立开发者的小软件,还只是推测。
  2. 一项随机对照试验:116 家初创公司接受“把想法当成可证伪的假设去检验”的训练,表现更好,也更愿意转向。它的价值在于砍掉假阳性——看起来可行、其实不可行的想法。

我还专门找了“从商店数据选题 → 做出收入”的案例:一个经过核实的都没有找到。

三、基准命中率,比你想的低得多

在谈“我的方法命中率多少”之前,得先知道随便挑能中多少:

  • 订阅类 App,一年内月收入达到 1,000 美元的占 17.2%,达到 1 万美元的只有 3.5%;
  • Chrome 扩展的用户数中位数只有 17,约七成不到 100 个用户;
  • Chrome 商店约 60% 的扩展只存活一年左右;在可能侵权的扩展里,86% 是已下架产品的近似复制品。

所以我先假设:随便挑的命中率在 5%–20% 之间。任何方法,如果不和这个随机基准对比,报出来的“命中率”都没有意义。

四、我们正在改成这样

我把找机会拆成三层,外加一个独立的“需求”对象(信号已经在用,维度和形态正在设计):

  • 信号:为什么这里有缺口。现在试用 7 种:用户被遗弃(热门扩展下架或失效,用户没被接住)、大家都在骂(头部差评集中在一个能修好的问题上)、收费不合理、需求在涨、网站缺工具、老牌变味了(被收购、加广告、涨价后评分下滑)、别处有这里没(别的商店有人用,Chrome 上没有)。
  • 维度:值不值得做(接下来要加上)。规模、付费能力、产品优势、做的难度、获客难度、时机、证据强度。
  • 形态:做成什么(正在设计)。单品、小需求打包、模板、引流入口。

“需求”单独存放:同一个需求,可以在 Chrome、Edge、手机商店用不同形态去做。这是从经验里得来的——在 3 万个扩展上,我们发现找机会的单位不是一个扩展,而是一个需求:同一个需求下常有几十个扩展,旧的死了,用户早就搬到新的那里。

我们还要求(正在加进系统)每个“值得做”的机会,除了分数,再给出三样东西:最危险的假设、最便宜的测试、止损线。这是我们从那项随机对照试验得出的做法。

五、为什么是回测

既然没有哪种理论被证明能预测,就只剩一条路:用历史检验自己。

我们手上有 Chrome 商店从 2023 年 9 月起的每日全量数据。回测的做法是:

  1. 假装现在是过去某一天,用今天的规则出一份当时的机会名单;
  2. 看之后 12 个月,名单里的需求有没有出现用户过万的后来者;
  3. 和随机挑选的需求比命中率。

(“回测”这个词来自量化投资:用过去的数据检验今天的规则,而不是只看它现在说得多有道理。)

这样能回答三件事:哪些信号真的比瞎猜准、准多少;各个维度该给多少权重;以及一个我没找到任何外部研究回答过的问题——从商店数据挖出来的缺口,后来到底有没有人做成。

几个坑要先填上:

  • 先去重再数竞争者。商店里克隆扩展很多,按个数算竞争密度会严重失真。
  • 下架事件要先清洗。下架的扩展里有大量垃圾扩展,只保留下架前有一定用户、而且合规的。
  • “命中”也要去重,否则一个爆款的几十个克隆会被算成几十次命中。

六、一个需要提前想清楚的推论

如果将来很多人订阅同一份机会清单,同一批机会推给很多人,“众人共享的选题”本身就会加速这些机会饱和。所以推送方式(限量、分批、按个人条件分流)可能要和回测一起设计,而不是上线后再补。

七、如果你也在找“做什么”

不管用不用我们的工具,这几条都能直接拿去:

  1. 以需求为单位,不以单个产品为单位看市场。
  2. 把“做什么”和“做成什么形态”分开决定。
  3. 找机会时先问“为什么这里有缺口”,说不出信号的机会先放一放。
  4. 评估时把“产品优势”放在“做起来容不容易”前面,否则会系统性地偏向容易做但没价值的东西。
  5. 每个想法写下最危险的假设、最便宜的测试、止损线,再动手。
  6. 报命中率时,永远和随机基准比。

回测第一版的结果见开头补记;前向对账的结果出来后,我也会原样公开——包括哪些信号其实没用。

你现在是怎么决定做什么的?留言说说你在做的方向。


我叫纪磊磊,在做“用数据和 AI 决定做什么软件”的公开实验。开发已经不贵了,难的是知道该做什么。

参考资料(按文中顺序)

  • ODI:Wikipedia “Outcome-Driven Innovation”;Strategyn 官网流程介绍
  • 颠覆式创新案例复查:e-Literate《Cracks in the Foundation of Disruptive Innovation》(King 等)
  • 时机 42%:Bill Gross 演讲转录(The Singju Post)
  • 元分析:Evanschitzky 等 2012《Success Factors of Product Innovation: An Updated Meta-Analysis》
  • 随机对照试验:Camuffo 等,Management Science
  • 订阅 App 收入分布:TechCrunch 2024-03-12 报道 RevenueCat 数据
  • 扩展用户数分布:DebugBear《Counting Chrome Extensions》
  • 扩展存活与复制:arXiv 2406.12710、2406.00374
  • 我们的实验数据:100 个停更候选的 AI 研究(2026-09-24);3 万个扩展需求归类(2026-09-24,用户数 ≥1,000 的 30,009 个)。数据:Chrome-Stats(经我们加工)

想免费研判一个方向,主页有官网,每天 1 个名额。

← 全部文章← All articles