作者回复: 你好,“累加到之前的结果上进行计算”具体指的是什么呢?最准确的是到达样本量之后一次性计算。
作者回复: 你好,“每个实验组都有个单独的对照组”这种情况如果是有相同的指标或假设的话那还是会有多重检验问题的。
作者回复: 好问题,对于你说的第一种情况:‘如果多次比较,每一次比较的结果都单独判断’,我估计其实最终还是作为一个整体来得出结论嘛,又因为这些比较/test是同时发生的,其实还是会存在多重检验问题; 第二种情况你如果只是之前看看,但是不把这些结果带到最终的判断去,就没有关系。
作者回复: 你好,1. 对于你的第一个观点我想用维基百科里的话来回答:Note that of course the multiple comparisons problem arises not in every situation where several hypotheses are empirically tested, be that sequentially or in parallel (concurrent); roughly speaking, the multiple comparisons problem arises whenever multiple hypotheses are tested on the same dataset (or datasets that are not independent) or whenever one and the same hypothesis is tested in several datasets. 多重检验其实并不是会在任何时候都会出现的,一般来说是出现在多个假设在相同或者相关联的数据上检测或者相同的建设在不同的数据集上检测;2. 这里你得出的α的N次方其实是N个相同的A/B测试同时犯错的概率,如果N次结果都一致的话那当然可行,不过如果N次结果不一致的话那就要根据具体情况重新计算概率啦,不过总体来说,实验结果的可重复性越高,确实也说明了实验结果的可靠性。
作者回复: 你好,如果用Bonferroni 校正的话n的取值就等于你做细分分析的维度,比如10个国家n就等于10;对于BH法的话,你的情景就是p值就是按照国家来设置的。
作者回复: 当你取某个指标对应的实验组和对照组进行比较分析该特定指标时不会出现多重检验问题,因为你只是进行1V1的比较,但是你前面提到了多个实验组和不同的指标,也就是说你会进行多个1V1的比较,这时就会出现多重检验问题。