「確率空間」という道具立ては数学的なもので、純粋に単なる記号列に過ぎない。いったいこの確率なるものがどういうものかについて、主観的／客観的という二つの解釈（意味論）があり、これに応じて正当化の理論（認識論）が異なってくる。
主観主義・ベイズ統計
主観主義において、確率とは「信念の度合い」である。この意味論から導かれる帰納推論の解釈はやはり内在的なものであり、その正当化の手段も内在的なものとなる。それがベイズ統計である。ベイズ統計とは、簡単にいえば、ベイズの定理を用いて、なにか証拠を得るたびにその仮説の確率（事後確率：証拠が与えられたもとでの仮説の確からしさ）を更新していくものである。データが出るたびにその仮説への見方を更新していくのだ。より詳しくいえば、なにか試行をなんらかの分布によってモデル化する。分布にはそれを定めるパラメータがあり、これについて仮説を立てる。新たに得られたデータによっては私たちはそれを以前とは同じ存在者とはみなせないかもしれない。それを表現しているのが事後確率の変化に伴う分布自体の変化なのである。
ベイズ統計のように帰納推論を行う場合、最新の仮説がもっとも確からしく、予測にあたってはそれに沿ったものに違いないと考えるのが正当である。その予測が正しいと考えるのはきわめて合理的な、根拠のあることなのは間違いない。
しかし一方、どこまでいっても信念関係にとどまる推論が、なぜ主体の外側にある世界の出来事と一致するのか、なんの保証も与えてはくれない。ベイズ定理がもたらすものは新たなデータと事前確率に整合的な、新たな確率である。それは単なる調整にすぎない。だがいかに整合的に調整しようが、そもそもの前提が大ハズレの見当違いなのだとしたら、どれだけ『あとのほうが確からしいぜ』と言われても困るのである。というわけでベイズ統計的なステップを支持するなら、その推論の出発点がいい線いってることを正当化しないといけないが、それにはベイズ統計的なステップをまた繰り返すしかなく、無限にこれが続く。：
「正しい」というためにはどこかの時点で目をつむらなければならない。
