重要性採樣

重要性採樣是蒙特卡洛方法中的一個重要策略。該方法不改變統計量，只改變概率分佈，可以用來降低方差 ^[1]  。

重要性採樣算法就是在有限的採樣次數內，儘量讓採樣點覆蓋對積分貢獻很大的點。

其目標是用一種受控的方式改變仿真，以便增加稀少事件的數目，同時還能正確地確定解調差錯概率。常規重要性採樣（CIS）是一種降方差的仿真方法，它通過提供有偏噪聲來實現，等效於使系統工作在一個較低的信噪比環境下。

假設

為概率空間上的一個隨機變量。我們想要估計X的期望值，記作E[X;P]。如果根據P隨機抽取樣本

，估計的期望值即 ^{[1]  [2]} 

這一估計的精確度取決於X的方差，

而重要性採樣的基本思想則是從另一個分佈中抽取樣本，用以降低E[X;P]估計的方差。進行重要性採樣時，首先選擇一個隨機變量

，使得E[L;P]=1，並滿足P上幾乎處處。由此，可以定義新的概率

於是，我們可以從P上抽樣，通過變量X/L估計E[X;P]。如果

成立，此時的估計便優於直接在原分佈上採樣得到的估計。

當X在Ω上不變號時，最優的L為

。此時X/L*即為要估計的E[X;P]，只需一個樣本便可得到該值。然而由於L*與要估計的E[X;P]有關，在實際操作中我們無法取到理論上最優的L*。不過，我們仍可以採用如下方式逼近該理論值：

於是，要估計的期望值可改寫為：

注意到，更優（即讓估計值方差更小）的P會使得樣本分佈的頻率與其在E[X;P]計算中的權重更加相關。這也是該方法得名“重要性採樣”的原因。

重要性採樣常用於蒙特卡洛積分。當P為均勻分佈、

時，E[X;P]即為實函數

的積分。