利用者:YasuakiH/sandbox

英語版 p-value の 2024-06-27T21:02:14(UTC)版から翻訳のため転記

ページ名

• P値 (現在、有意#P値 へのリダイレクト。

TODO:

1. en:p-value を下書きページに転記
   1. cite 関係のパラメータ名を変更
2. 翻訳
3. リダイレクトP値を解消する
4. . ノート P値#英語版の翻訳による記事作成 を作成する

---

In null-hypothesis significance testing, the $p$-value is the probability of obtaining test results at least as extreme as the result actually observed, under the assumption that the null hypothesis is correct. A very small p-value means that such an extreme observed outcome would be very unlikely under the null hypothesis. Even though reporting p-values of statistical tests is common practice in academic publications of many quantitative fields, misinterpretation and misuse of p-values is widespread and has been a major topic in mathematics and metascience. In 2016, the American Statistical Association (ASA) made a formal statement that "p-values do not measure the probability that the studied hypothesis is true, or the probability that the data were produced by random chance alone" and that "a p-value, or statistical significance, does not measure the size of an effect or the importance of a result" or "evidence regarding a model or hypothesis". That said, a 2019 task force by ASA has issued a statement on statistical significance and replicability, concluding with: "p-values and significance tests, when properly applied and interpreted, increase the rigor of the conclusions drawn from data".

帰無仮説の有意性検定では、p値（ピーち、$p$-value）は帰無仮説が正しいという仮定のもとで、実際に観察された結果と少なくとも同じくらい極端な検定結果を得る確率である。

p値が非常に小さいことは、帰無仮説のもとで、そのような極端な観測結果は極めて起こりにくいことを意味する。

多くの定量的分野の学術出版では、統計的検定のp値を報告することが一般的であるが、p値の誤った解釈やp値の誤用が広く見られ、数学やメタサイエンスの主要なトピックとなっている。

2016年、アメリカ統計学会（ASA）は、「p値は、研究対象となった仮説が正しい確率や、データが偶然だけで生じた確率を測定するものではない」とし、「p値、すなわち統計的有意性は、効果の大きさや結果の重要性を測定するものではない」あるいは「モデルや仮説に関する証拠」ではないという正式な声明を発表した。

しかし、2019年にASAのタスクフォースが統計的有意性と再現性に関する声明を発表し、「p値および有意性検定は、適切に適用され解釈されると、データから導き出される結論の厳密性が高まる」と結論づけている。

基本概念/ Basic concepts

In statistics, every conjecture concerning the unknown probability distribution of a collection of random variables representing the observed data $X$ in some study is called a statistical hypothesis. If we state one hypothesis only and the aim of the statistical test is to see whether this hypothesis is tenable, but not to investigate other specific hypotheses, then such a test is called a null hypothesis test.

統計学では、ある研究における観測データ $X$ を表す確率変数の集合の未知の確率分布に関するあらゆる推測を統計的仮説（statistical hypothesis）と呼ぶ。

統計的検定の目的が、一つだけ述べた仮説が妥当かどうかを確認することであり、他の特定の仮説を調査することではない場合、そのような検定は帰無仮説検定（棄却検定??）と呼ぶ。

As our statistical hypothesis will, by definition, state some property of the distribution, the null hypothesis is the default hypothesis under which that property does not exist. The null hypothesis is typically that some parameter (such as a correlation or a difference between means) in the populations of interest is zero. Our hypothesis might specify the probability distribution of $X$ precisely, or it might only specify that it belongs to some class of distributions. Often, we reduce the data to a single numerical statistic, e.g., $T$, whose marginal probability distribution is closely connected to a main question of interest in the study.

統計的仮説とは、分布の何らかの特性を定義によって示すものであるので、帰無仮説とは、その特性が存在しないというデフォルト仮説を指すものである。

帰無仮説とは通常、関心のある母集団における何らかのパラメータ（相関や平均値の差など）がゼロであるというものである。

仮説は、$X$ の確率分布を正確に特定する場合もあれば、$X$ がある分布のクラスに属することを特定する場合もある。

多くの場合、データを単一の数値統計（たとえば $T$）に単純化し、その周辺確率分布は、研究の主な関心事と密接に関連してる。

The p-value is used in the context of null hypothesis testing in order to quantify the statistical significance of a result, the result being the observed value of the chosen statistic $T$. The lower the p-value is, the lower the probability of getting that result if the null hypothesis were true. A result is said to be statistically significant if it allows us to reject the null hypothesis. All other things being equal, smaller p-values are taken as stronger evidence against the null hypothesis.

p値は、帰無仮説検定の文脈において、結果の統計的有意性を定量化するために使用される。結果とは、選択された統計量 $T$ の観測値のことである。

p値が低いほど、帰無仮説が正しい場合にその結果を得る確率が低くなる。

帰無仮説を棄却できる場合、その結果は統計的に有意であると言われる。

他の条件がみな同じであれば、p値が小さいほど、帰無仮説を否定する証拠が強いと見なされる。

Loosely speaking, rejection of the null hypothesis implies that there is sufficient evidence against it.

大まかに言えば、帰無仮説の棄却は、それに反する十分な証拠があることを意味する。

As a particular example, if a null hypothesis states that a certain summary statistic $T$ follows the standard normal distribution ${\mathcal {N}}(0,1),$ then the rejection of this null hypothesis could mean that (i) the mean of $T$ is not 0, or (ii) the variance of $T$ is not 1, or (iii) $T$ is not normally distributed. Different tests of the same null hypothesis would be more or less sensitive to different alternatives. However, even if we do manage to reject the null hypothesis for all 3 alternatives, and even if we know that the distribution is normal and variance is 1, the null hypothesis test does not tell us which non-zero values of the mean are now most plausible. The more independent observations from the same probability distribution one has, the more accurate the test will be, and the higher the precision with which one will be able to determine the mean value and show that it is not equal to zero; but this will also increase the importance of evaluating the real-world or scientific relevance of this deviation.

特定の例として、帰無仮説が「ある要約統計量 $T$ が標準正規分布 ${\mathcal {N}}(0,1),$ に従う」というものである場合、この帰無仮説が棄却されるということは、(i) $T$ の平均が0ではない、(ii) $T$ の分散が1ではない、(iii) $T$ が正規分布に従わない、のいずれかを意味する可能性がある。

同じ帰無仮説に対する異なる検定は、対立仮説に対してそれぞれ異なる感度を持つことになる。

しかし、たとえ3つの対立仮説すべてについて帰無仮説を棄却できたとしても、また分布が正規分布で分散が1であることが分かっていたとしても、帰無仮説検定では、平均値がゼロでない値のうち、どの値が最も妥当であるかは分からない。

同じ確率分布から得られる独立した観測値が多いほど検定の精度は向上し、平均値を正確に決定してそれがゼロではないことを示す精度も向上する。それだけでなく、この偏差の現実世界または科学的妥当性を評価することの重要度も高まる。

定義と解釈/ Definition and interpretation

定義/ Definition

The p-value is the probability under the null hypothesis of obtaining a real-valued test statistic at least as extreme as the one obtained. Consider an observed test-statistic $t$ from unknown distribution $T$. Then the p-value $p$ is what the prior probability would be of observing a test-statistic value at least as "extreme" as $t$ if null hypothesis $H_{0}$ were true. That is:

• $p=\Pr(T\geq t\mid H_{0})$ for a one-sided right-tail test-statistic distribution.
• $p=\Pr(T\leq t\mid H_{0})$ for a one-sided left-tail test-statistic distribution.
• $p=2\min\{\Pr(T\geq t\mid H_{0}),\Pr(T\leq t\mid H_{0})\}$ for a two-sided test-statistic distribution. If the distribution of $T$ is symmetric about zero, then $p=\Pr(|T|\geq |t|\mid H_{0}).$

p値は、実測された検定統計量が、無仮説の下で得られたものと少なくとも同じくらい極端な値になる確率である。

未知の分布 T から観測された検定統計量 t を考える。

この場合、p値 p は、帰無仮説H0が真である場合に、検定統計量 t と同じくらい「極端な」検定統計量を観測する事前確率である。すなわち、

• $p=\Pr(T\geq t\mid H_{0})$ 検定統計量が右片側分布の場合。
• $p=\Pr(T\leq t\mid H_{0})$ 検定統計量が左片側分布の場合。
• $p=2\min\{\Pr(T\geq t\mid H_{0}),\Pr(T\leq t\mid H_{0})\}$ 検定統計量が両側分布の場合。$T$ の分布がゼロを中心に対称である場合、$p=\Pr(|T|\geq |t|\mid H_{0})$ となる。

解釈/ Interpretations

The error that a practising statistician would consider the more important to avoid (which is a subjective judgment) is called the error of the first kind. The first demand of the mathematical theory is to deduce such test criteria as would ensure that the probability of committing an error of the first kind would equal (or approximately equal, or not exceed) a preassigned number α, such as α = 0.05 or 0.01, etc. This number is called the level of significance.

—Jerzy Neyman、"The Emergence of Mathematical Statistics"

実践的な統計学者が避けるべきと考える過誤（主観的なもの）を第一種の過誤という。

数学理論の第一の要件は、第一種の過誤を犯す確率が、あらかじめ定められた数α（たとえばα = 0.05 や 0.01 など）に等しい（またはほぼ等しい、または超えない）ことを保証するような検定基準を導き出すことである。

この数字を有意水準と呼ぶ。

—Jerzy Neyman、"The Emergence of Mathematical Statistics"

In a significance test, the null hypothesis $H_{0}$ is rejected if the p-value is less than or equal to a predefined threshold value $\alpha$, which is referred to as the alpha level or significance level. $\alpha$ is not derived from the data, but rather is set by the researcher before examining the data. $\alpha$ is commonly set to 0.05, though lower alpha levels are sometimes used. In 2018, a group of statisticians led by Daniel Benjamin proposed the adoption of the 0.005 value as standard value for statistical significance worldwide.

有意差検定では、p値が事前に設定した閾値 $\alpha$ 以下の場合、帰無仮説 $H_{0}$ は棄却される。この $\alpha$ を、$\alpha$水準または有意水準という。

$\alpha$はデータから導かれるもののではなく、データを調べる前に研究者が設定する。

$\alpha$は通常0.05に設定されるが、より小さな $\alpha$水準が使用されることもある。

2018年、ダニエル・ベンジャミン率いる統計学者グループは、統計的有意性の世界的な標準値として0.005の採用を提案した。

Different p-values based on independent sets of data can be combined, for instance using Fisher's combined probability test.

独立したデータセットに基づく異なる p値は、たとえばフィッシャーの結合確率検定を使用して組み合わせることができる。

分布/Distribution

The p-value is a function of the chosen test statistic $T$ and is therefore a random variable. If the null hypothesis fixes the probability distribution of $T$ precisely (e.g. $H_{0}:\theta =\theta _{0},$ where $\theta$ is the only parameter), and if that distribution is continuous, then when the null-hypothesis is true, the p-value is uniformly distributed between 0 and 1. Regardless of the truth of the $H_{0}$, the p-value is not fixed; if the same test is repeated independently with fresh data, one will typically obtain a different p-value in each iteration.

p値は、決められた検定統計量 $T$ の関数であるため、確率変数である。

帰無仮説が $T$ の確率分布を正確に見据えている場合（例：$H_{0}:\theta =\theta _{0},$ ここで $\theta$ は唯一のパラメータ）、そしてその分布が連続的である場合、帰無仮説が真であるとき、p値は0から1の間の一様分布である。

$H_{0}$ の真偽に関わらず、p値は固定された値ではない。同じ検定を新しいデータで独立して繰り返した場合、通常、各反復で異なる p値が得られる。

Usually only a single p-value relating to a hypothesis is observed, so the p-value is interpreted by a significance test, and no effort is made to estimate the distribution it was drawn from. When a collection of p-values are available (e.g. when considering a group of studies on the same subject), the distribution of p-values is sometimes called a p-curve. A p-curve can be used to assess the reliability of scientific literature, such as by detecting publication bias or p-hacking.

通常、仮説に関連する p値は 1つしか観察されないため、p値は有意差検定によって解釈され、 p値の分布の推定に目は向けられない。

p値の一連の集合が利用可能な場合（例：同じ主題に関する一連の研究の検討など）、p値の分布は p曲線と呼ばれることがある。

p曲線は、出版バイアスやp値ハッキングを検出するなど、科学文献の信頼性を評価するために使用することができる。

複合仮設の分布/ Distribution for composite hypothesis

In parametric hypothesis testing problems, a simple or point hypothesis refers to a hypothesis where the parameter's value is assumed to be a single number. In contrast, in a composite hypothesis the parameter's value is given by a set of numbers. When the null-hypothesis is composite (or the distribution of the statistic is discrete), then when the null-hypothesis is true the probability of obtaining a p-value less than or equal to any number between 0 and 1 is still less than or equal to that number. In other words, it remains the case that very small values are relatively unlikely if the null-hypothesis is true, and that a significance test at level $\alpha$ is obtained by rejecting the null-hypothesis if the p-value is less than or equal to $\alpha$.

パラメトリック仮説検定問題において、単純仮説または点仮説とは、パラメータの値が単一の数値であると想定される仮説を指す。

これに対し、複合仮説ではパラメータの値は数値の集合で表される。

帰無仮説が複合仮説である場合（または統計量の分布が離散的である場合）、帰無仮説が真であるとき、0から1までの任意の数値以下の p値を得る確率は、依然としてその数値以下である。

言い換えれば、帰無仮説が真である場合は非常に小さな値は比較的起こりにくく、p値が $\alpha$ 以下の場合、帰無仮説を棄却することで $\alpha$水準での有意差検定が得られるという状況に変わりはない。らない。

For example, when testing the null hypothesis that a distribution is normal with a mean less than or equal to zero against the alternative that the mean is greater than zero ($H_{0}:\mu \leq 0$, variance known), the null hypothesis does not specify the exact probability distribution of the appropriate test statistic. In this example that would be the Z-statistic belonging to the one-sided one-sample Z-test. For each possible value of the theoretical mean, the Z-test statistic has a different probability distribution. In these circumstances the p-value is defined by taking the least favorable null-hypothesis case, which is typically on the border between null and alternative. This definition ensures the complementarity of p-values and alpha-levels: $\alpha =0.05$ means one only rejects the null hypothesis if the p-value is less than or equal to $0.05$, and the hypothesis test will indeed have a maximum type-1 error rate of $0.05$.

たとえば、ある分布が平均値0以下で正規分布であるという帰無仮説を、平均値が0より大きいという対立仮説（$H_{0}:\mu \leq 0$、分散は既知）に対して検定する場合、帰無仮説は適切な検定統計量の正確な確率分布を特定するものではない。

この例では、片側一標本 Z検定に属する Z統計量となる。

理論平均値のとりうる値ごとに、Z検定統計量は異なる確率分布を持つ。

このような状況では、p値は最も不利な帰無仮説の状況（通常は帰無仮説と対立仮説の境界線上）を取ることで定義される。

この定義により、p値とα水準の相補性が保証される。

$\alpha =0.05$ は、p値が$0.05$以下の場合にのみ帰無仮説を棄却することを意味し、仮説検定の第一種過誤率は実際に$0.05$の最大値となる。

使用法 用途 Usage

The p-value is widely used in statistical hypothesis testing, specifically in null hypothesis significance testing. In this method, before conducting the study, one first chooses a model (the null hypothesis) and the alpha level α (most commonly 0.05). After analyzing the data, if the p-value is less than α, that is taken to mean that the observed data is sufficiently inconsistent with the null hypothesis for the null hypothesis to be rejected. However, that does not prove that the null hypothesis is false. The p-value does not, in itself, establish probabilities of hypotheses. Rather, it is a tool for deciding whether to reject the null hypothesis.

p値は、統計的仮説検定、特に帰無仮説の有意差検定において広く使用されている。

この方法では、調査を行う前に、まずモデル（帰無仮説）と有意水準α（もっとも一般的には0.05）を選択する。

データを分析した後、p値がαより小さい場合、それは観察されたデータが帰無仮説と十分に矛盾しているため、帰無仮説が棄却されるべきであることを意味する。

しかし、帰無仮説が誤りであることを証明するものではない。

p値はそれ自体で仮説の確率を証明するものではない。

むしろ、帰無仮説を棄却するかどうかを決定するための道具である。

誤用Misuse

詳細は「p値の誤用」を参照

According to the ASA, there is widespread agreement that p-values are often misused and misinterpreted. One practice that has been particularly criticized is accepting the alternative hypothesis for any p-value nominally less than 0.05 without other supporting evidence. Although p-values are helpful in assessing how incompatible the data are with a specified statistical model, contextual factors must also be considered, such as "the design of a study, the quality of the measurements, the external evidence for the phenomenon under study, and the validity of assumptions that underlie the data analysis". Another concern is that the p-value is often misunderstood as being the probability that the null hypothesis is true.

ASAによると、p値は誤用され、誤って解釈されることが多いという意見が広く認められている。

特に批判されている慣行の一つに、他の裏付けとなる証拠がないのに、名目上の p値が0.05未満であれば対立仮説を受け入れることである。

p値は、データが特定の統計モデルとどの程度矛盾しているかを評価するときに役立つが、「研究の設計、測定の質、研究対象の現象に関する外部証拠、データ分析の基礎をなす仮定の妥当性」などの文脈的要因も考慮する必要がある。

もう一つの懸念は、p値が帰無仮説が真である確率であると誤解されることが多いことである。

Some statisticians have proposed abandoning p-values and focusing more on other inferential statistics, such as confidence intervals, likelihood ratios, or Bayes factors, but there is heated debate on the feasibility of these alternatives. Others have suggested to remove fixed significance thresholds and to interpret p-values as continuous indices of the strength of evidence against the null hypothesis. Yet others suggested to report alongside p-values the prior probability of a real effect that would be required to obtain a false positive risk (i.e. the probability that there is no real effect) below a pre-specified threshold (e.g. 5%).

一部の統計学者は、p値を放棄し、信頼区間、尤度比、ベイズ因子などの他の推論統計学に重点を置くことを提案しているが、これらの代替案の実現可能性については激しい議論が交わされている。

また、固定された有意水準の閾値を撤廃し、帰無仮説に対する証拠の強さを示す連続的な指標として p値を解釈すべきだという人もいる。

また、偽陽性リスク（すなわち、実質効果がない確率）を事前に設定した閾値（例：5%）未満に抑えるために必要な 実質効果の事前確率を p値とともに報告することを提案する者もいる。

That said, in 2019 a task force by ASA had convened to consider the use of statistical methods in scientific studies, specifically hypothesis tests and p-values, and their connection to replicability. It states that "Different measures of uncertainty can complement one another; no single measure serves all purposes", citing p-value as one of these measures. They also stress that p-values can provide valuable information when considering the specific value as well as when compared to some threshold. In general, it stresses that "p-values and significance tests, when properly applied and interpreted, increase the rigor of the conclusions drawn from data".

そうとはいえ、2019年にASAのタスクフォースが招集され、科学的研究における統計的手法、特に仮説検定とp値、および再現可能性との関連性について検討された。

「不確実性のさまざまな尺度は互いに補完し合うことができる。すべての目的を果たせる単一の尺度はない。」と述べ、p値もその尺度一つとしてあげている。

また、p値は特定の値を検討する場合だけでなく、ある閾値と比較する場合にも役立つ情報を提供できることを強調している。

タスクフォースは、一般的に「p値および有意差検定は、適切に使用および解釈されると、データから導き出される結論の厳密性を高める」ことを強調している。

算出 / Calculation

Usually, $T$ is a test statistic. A test statistic is the output of a scalar function of all the observations. This statistic provides a single number, such as a t-statistic or an F-statistic. As such, the test statistic follows a distribution determined by the function used to define that test statistic and the distribution of the input observational data.

通常、$T$ は検定統計量である。

検定統計量は、すべての観測値のスカラー関数の出力である。

この統計量は、t統計量やF統計量などの単一の数値を提供する。

したがって、検定統計量は、その検定統計量を定義するために使用される関数と入力観測データの分布によって決定される分布に従う。

For the important case in which the data are hypothesized to be a random sample from a normal distribution, depending on the nature of the test statistic and the hypotheses of interest about its distribution, different null hypothesis tests have been developed. Some such tests are the z-test for hypotheses concerning the mean of a normal distribution with known variance, the t-test based on Student's t-distribution of a suitable statistic for hypotheses concerning the mean of a normal distribution when the variance is unknown, the F-test based on the F-distribution of yet another statistic for hypotheses concerning the variance. For data of other nature, for instance, categorical (discrete) data, test statistics might be constructed whose null hypothesis distribution is based on normal approximations to appropriate statistics obtained by invoking the central limit theorem for large samples, as in the case of Pearson's chi-squared test.

データが正規分布からの無作為抽出サンプルであると仮定される重要なケースでは、検定統計量の性質とその分布に関する仮説に応じて、異なる帰無仮説検定が開発されている。

そのような検定には、分散が既知のの正規分布の平均に関する仮説に対するz検定、分散が未知の正規分布の平均に関する仮説に対する適切な統計量のスチューデントの t分布に基づく t検定、分散に関する仮説に対するさらに別の統計量の F分布に基づく F検定などがある。

その他の性質を持つデータ、たとえばカテゴリデータ（離散データ）の場合、ピアソンのカイ二乗検定 (en:英語版) のような検定統計量が構築される場合がある。これは、帰無仮説の分布が、大規模な標本に対して中心極限定理を適用して得られる適切な統計量の正規近似値に基づくものである。

Thus computing a p-value requires a null hypothesis, a test statistic (together with deciding whether the researcher is performing a one-tailed test or a two-tailed test), and data. Even though computing the test statistic on given data may be easy, computing the sampling distribution under the null hypothesis, and then computing its cumulative distribution function (CDF) is often a difficult problem. Today, this computation is done using statistical software, often via numeric methods (rather than exact formulae), but, in the early and mid 20th century, this was instead done via tables of values, and one interpolated or extrapolated p-values from these discrete values. Rather than using a table of p-values, Fisher instead inverted the CDF, publishing a list of values of the test statistic for given fixed p-values; this corresponds to computing the quantile function (inverse CDF).

したがって、p値を算出するには、帰無仮説、検定統計量（研究者が片側検定と両側検定のいずれを行うかの決定を含む）、およびデータが必要である。

与えられたデータに対する検定統計量の算出は容易であっても、帰無仮説に基づく標本分布の算出や、その累積分布関数（CDF）の算出はしばしば困難な問題である。

今日では、この計算は統計ソフトウェアを使用して行われ、多くの場合、数値法（厳密な数式ではなく）が使用されるが、20世紀初頭から半ばにかけては、代わりに数値表が使用され、これらの離散値から p値を補間または外挿していた。

フィッシャーは、p値の表を使用する代わりに、CDFを反転させ、固定の p値に対する検定統計量の値の一覧表を提供した。これは、分位関数（逆CDF）を計算することに対応する。

例/ Example

詳細は「Checking whether a coin is fair」を参照

コインの公平性の検定 Testing the fairness of a coin

As an example of a statistical test, an experiment is performed to determine whether a coin flip is fair (equal chance of landing heads or tails) or unfairly biased (one outcome being more likely than the other).

統計検定の例として、コイン投げが公正か（表と裏が出る確率が同じ）、不公正に偏っているか（どちらか片方の結果が出る確率がより高い）判断するための実験が行われる。

Suppose that the experimental results show the coin turning up heads 14 times out of 20 total flips. The full data $X$ would be a sequence of twenty times the symbol "H" or "T". The statistic on which one might focus could be the total number $T$ of heads. The null hypothesis is that the coin is fair, and coin tosses are independent of one another. If a right-tailed test is considered, which would be the case if one is actually interested in the possibility that the coin is biased towards falling heads, then the p-value of this result is the chance of a fair coin landing on heads at least 14 times out of 20 flips. That probability can be computed from binomial coefficients as

${\begin{aligned}&\Pr(14{\text{ heads}})+\Pr(15{\text{ heads}})+\cdots +\Pr(20{\text{ heads}})\\&={\frac {1}{2^{20}}}\left[{\binom {20}{14}}+{\binom {20}{15}}+\cdots +{\binom {20}{20}}\right]={\frac {60\,460}{1\,048\,576}}\approx 0.058.\end{aligned}}$

実験の結果、コインが20回投げられて表が14回出たとする。

完全なデータ $X$ は、表（Head）または裏（Tail）の記号が 20回連続するものである。

着目すべき統計量は、表が出た総数 $T$ である。

帰無仮説は、コインは公正であり、コイン投げは互いに独立であるというものである。

コインが表に偏っている可能性について実際に関心がある場合、右側検定が考慮されることになる。

その場合、この結果の p値は、公正なコインが20回投げられたうち少なくとも14回表が出る確率である。

この確率は、二項係数から計算できる。

${\begin{aligned}&\Pr(14{\text{ heads}})+\Pr(15{\text{ heads}})+\cdots +\Pr(20{\text{ heads}})\\&={\frac {1}{2^{20}}}\left[{\binom {20}{14}}+{\binom {20}{15}}+\cdots +{\binom {20}{20}}\right]={\frac {60\,460}{1\,048\,576}}\approx 0.058.\end{aligned}}$

This probability is the p-value, considering only extreme results that favor heads. This is called a one-tailed test. However, one might be interested in deviations in either direction, favoring either heads or tails. The two-tailed p-value, which considers deviations favoring either heads or tails, may instead be calculated. As the binomial distribution is symmetrical for a fair coin, the two-sided p-value is simply twice the above calculated single-sided p-value: the two-sided p-value is 0.115.

この確率は、 表に有利な極端な結果のみを考慮した p値である。

これは片側検定と呼ばれる。

しかし、表か裏のどちらかの方向に偏り、どちらかに有利になることに対して関心がある場合もある。

代わりに、表または裏のいずれかに有利な偏差を考慮した両側p値を算出することができる。

公正なコインの場合、二項分布は対称であるため、両側p値は単純に上記の片側 p値の2倍になる。この両側p値は0.115 である。

In the above example:

• Null hypothesis (H₀): The coin is fair, with Pr(heads) = 0.5.
• Test statistic: Number of heads.
• Alpha level (designated threshold of significance): 0.05.
• Observation O: 14 heads out of 20 flips.
• Two-tailed p-value of observation O given H₀ = 2 × min(Pr(no. of heads ≥ 14 heads), Pr(no. of heads ≤ 14 heads)) = 2 × min(0.058, 0.978) = 2 × 0.058 = 0.115.

上記の例では次のようになる。

• 帰無仮説 (H₀)：コインは公正で、Pr(heads) = 0.5 である
• 検定統計量：表が出た回数
• α水準（有意水準；指定した有意差のしきい値）：0.05
• 観測値 O：20回投げたうち表が14回出た
• H₀ の下で観測値 O の両側p値： 2 × min(Pr(表の回数 ≥ 表が14回), Pr(表の回数 ≤ 表が14回)) = 2 × min(0.058, 0.978) = 2 × 0.058 = 0.115

The Pr(no. of heads ≤ 14 heads) = 1 − Pr(no. of heads ≥ 14 heads) + Pr(no. of head = 14) = 1 − 0.058 + 0.036 = 0.978; however, the symmetry of this binomial distribution makes it an unnecessary computation to find the smaller of the two probabilities. Here, the calculated p-value exceeds 0.05, meaning that the data falls within the range of what would happen 95% of the time, if the coin were fair. Hence, the null hypothesis is not rejected at the 0.05 level.

ここで、Pr(表の回数 ≤ 表が14回) = 1 − Pr(表の回数 ≥ 表が14回) + Pr(表の回数 = 14) = 1 − 0.058 + 0.036 = 0.978 となる。この二項分布は対称性があるため、2つの確率のうち小さい方を計算する必要はない。

ここで、計算された p値は 0.05 を上回っているため、コインが公正である場合、95%の確率で起こる範囲内にデータが収まっていることを意味する。

したがって、優位水準0.05で帰無仮説は棄却されない。

However, had one more head been obtained, the resulting p-value (two-tailed) would have been 0.0414 (4.14%), in which case the null hypothesis would be rejected at the 0.05 level.

ただし、もう1つ表が得られていた場合、結果として得られるp値（両側）は 0.0414（4.14%）となり、その場合、帰無仮説は有意水準0.05で棄却される。

多段階実験の計画 / Multistage experiment design

The difference between the two meanings of "extreme" appear when we consider a multistage experiment for testing the fairness of the coin. Suppose we design the experiment as follows:

• Flip the coin twice. If both comes up heads or tails, end the experiment.
• Else, flip the coin 4 more times.

コインの公正性をテストするための多段階実験を考えるとき、「極端」の2つの意味の違いが明らかになる。

次のような実験を設計する。

• コインを2回投げる。両方とも表または裏が出た場合は、実験を終了する。
• そうでなければ、さらに4回コインを投げる。

This experiment has 7 types of outcomes: 2 heads, 2 tails, 5 heads 1 tail, ..., 1 head 5 tails. We now calculate the p-value of the "3 heads 3 tails" outcome.

この実験には、表2回、裏2回、表5回と裏1回、...、表1回と裏5回という7種類の結果がある。

いま、「表3回と裏3回」という結果の p値を計算する。

If we use the test statistic ${\text{heads}}/{\text{tails}}$, then under the null hypothesis is exactly 1 for two-sided p-value, and exactly $19/32$ for one-sided left-tail p-value, and same for one-sided right-tail p-value.

検定統計量として「表/裏」を使用する場合、帰無仮説の下で両側 p値は正確に 1、左片側 p値は正確に 19/32、右片側 p値も同様となる。

If we consider every outcome that has equal or lower probability than "3 heads 3 tails" as "at least as extreme", then the p-value is exactly $1/2.$

「表3回と裏3回」と同じかそれよりも低い確率の結果をすべて「少なくとも同じくらい極端」とみなす場合、p値は正確に1/2となる。

However, suppose we have planned to simply flip the coin 6 times no matter what happens, then the second definition of p-value would mean that the p-value of "3 heads 3 tails" is exactly 1.

しかし、何が起こってもコインを6回投げるだけと計画した場合、p値の2つ目の定義では、「表3回と裏3回」の p値は正確に1となることを意味する。

Thus, the "at least as extreme" definition of p-value is deeply contextual and depends on what the experimenter planned to do even in situations that did not occur.

したがって、p値の「少なくとも同じくらい極端」という定義は、状況に大きく左右され、実際には起こらなかったことも含め、実験者が何を計画していたかに依って異なる。

歴史 / History

John Arbuthnot ジョン・アーバスノット

Pierre-Simon Laplace ピエール＝シモン・ラプラス

Karl Pearson カール・ピアソン

Ronald Fisher ロナルド・フィッシャー

P-value computations date back to the 1700s, where they were computed for the human sex ratio at birth, and used to compute statistical significance compared to the null hypothesis of equal probability of male and female births. John Arbuthnot studied this question in 1710, and examined birth records in London for each of the 82 years from 1629 to 1710. In every year, the number of males born in London exceeded the number of females. Considering more male or more female births as equally likely, the probability of the observed outcome is 1/2⁸², or about 1 in 4,836,000,000,000,000,000,000,000; in modern terms, the p-value. This is vanishingly small, leading Arbuthnot that this was not due to chance, but to divine providence: "From whence it follows, that it is Art, not Chance, that governs." In modern terms, he rejected the null hypothesis of equally likely male and female births at the p = 1/2⁸² significance level. This and other work by Arbuthnot is credited as "… the first use of significance tests …" the first example of reasoning about statistical significance, and "… perhaps the first published report of a nonparametric test …", specifically the sign test; see details at Sign test § History.

The same question was later addressed by Pierre-Simon Laplace, who instead used a parametric test, modeling the number of male births with a binomial distribution:

In the 1770s Laplace considered the statistics of almost half a million births. The statistics showed an excess of boys compared to girls. He concluded by calculation of a p-value that the excess was a real, but unexplained, effect.

The p-value was first formally introduced by Karl Pearson, in his Pearson's chi-squared test, using the chi-squared distribution and notated as capital P. The p-values for the chi-squared distribution (for various values of χ² and degrees of freedom), now notated as P, were calculated in (Elderton 1902), collected in (Pearson 1914, pp. xxxi–xxxiii, 26–28, Table XII).

Ronald Fisher formalized and popularized the use of the p-value in statistics, with it playing a central role in his approach to the subject. In his highly influential book Statistical Methods for Research Workers (1925), Fisher proposed the level p = 0.05, or a 1 in 20 chance of being exceeded by chance, as a limit for statistical significance, and applied this to a normal distribution (as a two-tailed test), thus yielding the rule of two standard deviations (on a normal distribution) for statistical significance (see 68–95–99.7 rule).

He then computed a table of values, similar to Elderton but, importantly, reversed the roles of χ² and p. That is, rather than computing p for different values of χ² (and degrees of freedom n), he computed values of χ² that yield specified p-values, specifically 0.99, 0.98, 0.95, 0,90, 0.80, 0.70, 0.50, 0.30, 0.20, 0.10, 0.05, 0.02, and 0.01. That allowed computed values of χ² to be compared against cutoffs and encouraged the use of p-values (especially 0.05, 0.02, and 0.01) as cutoffs, instead of computing and reporting p-values themselves. The same type of tables were then compiled in (Fisher & Yates 1938), which cemented the approach.

As an illustration of the application of p-values to the design and interpretation of experiments, in his following book The Design of Experiments (1935), Fisher presented the lady tasting tea experiment, which is the archetypal example of the p-value.

To evaluate a lady's claim that she (Muriel Bristol) could distinguish by taste how tea is prepared (first adding the milk to the cup, then the tea, or first tea, then milk), she was sequentially presented with 8 cups: 4 prepared one way, 4 prepared the other, and asked to determine the preparation of each cup (knowing that there were 4 of each). In that case, the null hypothesis was that she had no special ability, the test was Fisher's exact test, and the p-value was $1/{\binom {8}{4}}=1/70\approx 0.014,$ so Fisher was willing to reject the null hypothesis (consider the outcome highly unlikely to be due to chance) if all were classified correctly. (In the actual experiment, Bristol correctly classified all 8 cups.)

Fisher reiterated the p = 0.05 threshold and explained its rationale, stating:

It is usual and convenient for experimenters to take 5 per cent as a standard level of significance, in the sense that they are prepared to ignore all results which fail to reach this standard, and, by this means, to eliminate from further discussion the greater part of the fluctuations which chance causes have introduced into their experimental results.

He also applies this threshold to the design of experiments, noting that had only 6 cups been presented (3 of each), a perfect classification would have only yielded a p-value of $1/{\binom {6}{3}}=1/20=0.05,$ which would not have met this level of significance. Fisher also underlined the interpretation of p, as the long-run proportion of values at least as extreme as the data, assuming the null hypothesis is true.

In later editions, Fisher explicitly contrasted the use of the p-value for statistical inference in science with the Neyman–Pearson method, which he terms "Acceptance Procedures". Fisher emphasizes that while fixed levels such as 5%, 2%, and 1% are convenient, the exact p-value can be used, and the strength of evidence can and will be revised with further experimentation. In contrast, decision procedures require a clear-cut decision, yielding an irreversible action, and the procedure is based on costs of error, which, he argues, are inapplicable to scientific research.

Related indices

The E-value can refer to two concepts, both of which are related to the p-value and both of which play a role in multiple testing. First, it corresponds to a generic, more robust alternative to the p-value|E-values|it corresponds to a generic, more robust alternative to the p-value that can deal with optional continuation of experiments. Second, it is also used to abbreviate "expect value", which is the expected number of times that one expects to obtain a test statistic at least as extreme as the one that was actually observed if one assumes that the null hypothesis is true. This expect-value is the product of the number of tests and the p-value.

The q-value is the analog of the p-value with respect to the positive false discovery rate. It is used in multiple hypothesis testing to maintain statistical power while minimizing the false positive rate.

The Probability of Direction (pd) is the Bayesian numerical equivalent of the p-value. It corresponds to the proportion of the posterior distribution that is of the median's sign, typically varying between 50% and 100%, and representing the certainty with which an effect is positive or negative.

Second-generation p-values extend the concept of p-values by not considering extremely small, practically irrelevant effect sizes as significant.

See also

• Student's t-test
• Bonferroni correction
• Counternull
• Fisher's method of combining p-values|Fisher's method|Fisher's method of combining p-values
• Generalized p-value
• Harmonic mean p-value
• Holm–Bonferroni method
• Multiple comparisons problem
• p-rep
• p-value fallacy

Further reading

• Denworth L (October 2019). “A Significant Problem: Standard scientific methods are under fire. Will anything change?”. Scientific American 321 (4): 62–67 (63). "The use of p values for nearly a century [since 1925] to determine statistical significance of experimental results has contributed to an illusion of certainty and [to] reproducibility crises in many scientific fields. There is growing determination to reform statistical analysis... Some [researchers] suggest changing statistical methods, whereas others would do away with a threshold for defining "significant" results." 
• Elderton WP (1902). “Tables for Testing the Goodness of Fit of Theory to Observation”. Biometrika 1 (2): 155–163. doi:10.1093/biomet/1.2.155. https://zenodo.org/record/1431595. 
• Fisher RA (1925). Statistical Methods for Research Workers. Edinburgh, Scotland: Oliver & Boyd. ISBN 978-0-05-002170-5 
• Fisher RA (1971). The Design of Experiments (9th ed.). Macmillan. ISBN 978-0-02-844690-5 
• Fisher RA, Yates F (1938). Statistical tables for biological, agricultural and medical research. London, England 
• Stigler SM (1986). The history of statistics : the measurement of uncertainty before 1900. Cambridge, Mass: Belknap Press of Harvard University Press. ISBN 978-0-674-40340-6. https://archive.org/details/historyofstatist00stig 
• Hubbard R, Armstrong JS (2006). “Why We Don't Really Know What Statistical Significance Means: Implications for Educators”. Journal of Marketing Education 28 (2): 114–120. doi:10.1177/0273475306288399. hdl:2092/413. オリジナルのMay 18, 2006時点におけるアーカイブ。. https://web.archive.org/web/20060518054857/http://hops.wharton.upenn.edu/ideas/pdf/Armstrong/StatisticalSignificance.pdf. 
• Hubbard R, Lindsay RM (2008). “Why P Values Are Not a Useful Measure of Evidence in Statistical Significance Testing”. Theory & Psychology 18 (1): 69–88. doi:10.1177/0959354307086923. オリジナルの2016-10-21時点におけるアーカイブ。. https://web.archive.org/web/20161021014340/http://wiki.bio.dtu.dk/~agpe/papers/pval_notuseful.pdf 2015年8月28日閲覧。. 
• Stigler S (December 2008). “Fisher and the 5% level”. Chance 21 (4): 12. doi:10.1007/s00144-008-0033-3. 
• Dallal GE (2012). The Little Handbook of Statistical Practice. http://www.tufts.edu/~gdallal/LHSP.HTM 
• Biau DJ, Jolles BM, Porcher R (March 2010). “P value and the theory of hypothesis testing: an explanation for new researchers”. Clinical Orthopaedics and Related Research 468 (3): 885–892. doi:10.1007/s11999-009-1164-4. PMC 2816758. PMID 19921345. https://www.ncbi.nlm.nih.gov/pmc/articles/PMC2816758/. 
• Reinhart A (2015). Statistics Done Wrong: The Woefully Complete Guide. No Starch Press. p. 176. ISBN 978-1593276201. http://statisticsdonewrong.com 
• “The ASA President's Task Force Statement on Statistical Significance and Replicability”. Annals of Applied Statistics 15 (3): 1084–1085. (2021). doi:10.1214/21-AOAS1501. 
• Benjamin, Daniel J.; Berger, James O.; Johannesson, Magnus; Nosek, Brian A.; Wagenmakers, E.-J.; Berk, Richard; Bollen, Kenneth A.; Brembs, Björn et al. (1 September 2017). “Redefine statistical significance”. Nature Human Behaviour 2 (1): 6–10. doi:10.1038/s41562-017-0189-z. hdl:10281/184094. PMID 30980045. http://doi.org/10.1038/s41562-017-0189-z. 

External links

• Free online p-values calculators for various specific tests (chi-square, Fisher's F-test, etc.).
• Understanding p-values, including a Java applet that illustrates how the numerical values of p-values can give quite misleading impressions about the truth or falsity of the hypothesis under test.
• StatQuest: P Values, clearly explained - YouTube
• StatQuest: P-value pitfalls and power calculations - YouTube
• Science Isn’t Broken - Article on how p-values can be manipulated and an interactive tool to visualize it.

ja:有意#p値