Microsoft 類神經網路演算法技術參考

培訓使用 Microsoft 類神經網路演算法的資料採礦模型，包括數個步驟。您針對演算法參數所指定的值，對這些步驟會有很大的影響。

演算法會先從資料來源評估和擷取定型資料。定型資料的百分比稱為「鑑效組資料」(Holdout Data)，保留供評估網路的精確度之用。在整個定型程序期間，定型資料的每一次反覆之後，網路就會立即接受評估。當精確度不再增加時，定型程序即停止。

SAMPLE_SIZE 和 HOLDOUT_PERCENTAGE 參數的值用於決定從定型資料取樣的案例數目，以及針對鑑效組資料暫擱的案例數目。HOLDOUT_SEED 參數的值用於隨機決定針對鑑效組資料而暫擱的個別案例。

接下來，演算法會決定採礦模型支援的網路數目和複雜度。如果採礦模型包含一或多個只用於預測的屬性，則演算法會建立單一網路來代表所有這些屬性。如果採礦模型包含一或多個同時用於輸入和預測的屬性，則演算法提供者會為每一個屬性建構網路。

針對具有離散值的輸入屬性和可預測屬性，每一個輸入或輸出神經分別代表單一狀態。針對具有連續值的輸入屬性和可預測屬性，每一個輸入或輸出神經分別代表該屬性值的範圍和散發。在任一案例中所支援的最大狀態數目，會視 MAXIMUM_STATES 演算法參數的值而定。如果特定屬性的狀態數目超過 MAXIMUM_STATES 演算法參數的值，則會選擇該屬性最常用或最相關的狀態 (不超過允許的最大狀態數目)，而其餘狀態則會分成遺漏值群組，做為分析用途。

然後，決定要為隱藏層建立的初始神經數目時，演算法會使用 HIDDEN_NODE_RATIO 參數的值。您可以將 HIDDEN_NODE_RATIO 設定為 0，以防止在網路中建立演算法為採礦模型所產生的隱藏層，而將類神經網路視為邏輯迴歸來處理。

演算法提供者反覆地同時評估網路上所有輸入的加權，使用先前保留的培訓資料集，以及將鑑效組資料中每一個案例的實際已知值與網路的預測做比較，這種程序稱為批次學習。在演算法評估整個培訓資料集之後，演算法會檢閱每一個神經的預測值和實際值。演算法會計算錯誤的程度 (如果有的話) 並調整與該神經的輸入相關聯的加權，從輸出神經回溯到輸入神經，這種程序稱為倒傳播。接著，演算法會對整個培訓資料集重複此程序。因為演算法可以支援許多加權和輸出神經，所以使用結合漸層演算法 (conjugate gradient algorithm) 來引導培訓程序，以指派和評估輸入的加權。結合漸層演算法的討論超出此文件集的範圍之外。

如果輸入屬性的數目大於 MAXIMUM_INPUT_ATTRIBUTES 參數的值，或者如果可預測屬性的數目大於 MAXIMUM_OUTPUT_ATTRIBUTES 參數的值，則會使用特徵選取演算法來降低包含在採礦模型中之網路的複雜度。特徵選取會將輸入屬性或可預測屬性的數目減少為在統計上與模型最相關的數目。

所有 Analysis Services 資料採礦演算法都會自動使用特徵選取來改善分析並減少處理的負載。在類神經網路模型中，特徵選取所使用的方法取決於屬性的資料類型。下表顯示用於類神經網路模型的特徵選取方法，並同時顯示用於羅吉斯迴歸演算法 (以類神經網路演算法為基礎) 的特徵選取方法，做為參考。

針對類神經網路模型控制特徵選取的演算法參數為 MAXIMUM_INPUT_ATTRIBUTES、MAXIMUM_OUTPUT_ATTRIBUTES 和 MAXIMUM_STATES。您也可以設定 HIDDEN_NODE_RATIO 參數，以控制隱藏層的數目。

「計分」(Scoring) 是一種正規化，在定型類神經網路模型的內容中表示一種程序，會將離散文字標籤之類的值轉換為可以與網路中其他輸入類型比較並加權的值。例如，如果其中一個輸入屬性為 Gender，且可能的值為 Male 和 Female，而另一個輸入屬性為 Income，且包含值的變數範圍，則每個屬性的值無法直接比較，因此必須編碼為一般小數位數，讓加權可以計算。計分是將此類輸入正規化為數值的程序：特別是正規化為機率範圍。用於正規化的函數也有助於針對統一的比例，更平均地散發輸入值，如此一來，極端值就不會扭曲分析的結果。

類神經網路的輸出也會經過編碼。當輸出 (也就是預測) 有一個單一目標，或有僅用於預測，而不用於輸入的多個目標時，模型會建立一個單一網路，而且它可能不需要將值正規化。不過，如果輸入和預測使用多個屬性，模型必須建立多個網路，因此，所有值都必須正規化，而且在離開網路時，也必須將輸出編碼。

輸入的編碼是以定型案例中每個離散值的總和為基礎，然後將該值乘以其加權。這就是所謂的「加權總和」(Weighted Sum)，這個加權總和會傳遞到隱藏層中的啟用函數。Z-score 用於編碼，如下所示：

離散值

μ = p – the prior probability of a state

StdDev  = sqrt(p(1-p))

連續值

存在的值 = 1 - μ/σ

沒有存在的值 = - μ/σ

這些值經過編碼之後，輸入會以網路邊緣當做加權，進行加權總和。

輸出的編碼使用 sigmoid 函數，其中包含的屬性對於預測相當實用。其中一個這種屬性是，不管如何調整原始值，也不管是負值還是正值，此函數的輸出永遠是介於 0 和 1 的值，也就是適合評估機率的值。其他實用的屬性是，sigmoid 函數具備緩衝效果，因此，當這些值與轉折點的距離比較遠時，該值的機率就會向前移到 0 或 1，但是移動速度很緩慢。

下表描述可搭配 Microsoft 類神經網路演算法使用的參數。

• HIDDEN_NODE_RATIO
  指定隱藏神經與輸入和輸出神經的比例。下列公式決定隱藏層中的初始神經數目：

  HIDDEN_NODE_RATIO * SQRT(Total input neurons * Total output neurons)

  預設值為 4.0。

• HOLDOUT_PERCENTAGE
  指定用來計算鑑效組錯誤之定型資料內的案例百分比，這可做為定型採礦模型時停止準則的一部分。

  預設值為 30。

• HOLDOUT_SEED
  在演算法隨機決定鑑效組資料時，指定用來植入虛擬隨機產生器的數字。如果此參數設定為 0，此演算法會依據採礦模型的名稱產生種子，以保證在重新處理期間，模型內容保持不變。

  預設值為 0。

• MAXIMUM_INPUT_ATTRIBUTES
  決定在運用特徵選取之前可提供給演算法之輸入屬性的最大數目。將此值設定為 0，會停用輸入屬性的特徵選取。

  預設值為 255。

• MAXIMUM_OUTPUT_ATTRIBUTES
  決定在運用特徵選取之前可提供給演算法之輸出屬性的最大數目。將此值設定為 0，會停用輸出屬性的特徵選取。

  預設值為 255。

• MAXIMUM_STATES
  指定演算法支援的每個屬性之離散狀態的最大數目。如果特定屬性的狀態數目大於針對這個參數所指定的數字，則演算法會使用該屬性最常用的狀態，並將其餘狀態視為遺漏。

  預設值為 100。

• SAMPLE_SIZE
  指定用來定型模型的案例數目。此演算法會使用此數字或不包括在鑑效組資料中之總案例數的百分比 (由 HOLDOUT_PERCENTAGE 參數指定)，以較小者為準。

  換句話說，如果 HOLDOUT_PERCENTAGE 設定為 30，則演算法將使用這個參數的值或等於總案例數 70% 的值，以較小者為準。

  預設值為 10000。

系統支援下列模型旗標，可搭配 Microsoft 類神經網路演算法使用。

• NOT NULL
  表示資料行不能包含 Null 值。如果 Analysis Services 在模型定型期間遇到 Null 值，將會產生錯誤。

  適用於採礦結構資料行。

• MODEL_EXISTENCE_ONLY
  表示模型應該只考量屬性的值是否存在，或者值是否遺漏。確實的值不相符。

  適用於採礦模型資料行。

系統支援下列散發旗標，可搭配 Microsoft 類神經網路演算法使用。旗標只能當做模型的提示使用；如果演算法偵測到不同的散發，它將會使用找到的散發，而不是提示中提供的散發。

• Normal
  表示資料行內的值應該被視為它們代表正常或高斯、散發。

• Uniform
  表示資料行內的值應該被視為它們以統一的方式散發，也就是說，任何值的機率都大致相等，而且是值總數的函數。

• Log Normal
  表示資料行內的值應該被視為散發 (根據 log normal 曲線)，也就是說值的對數會以正常方式散發。

Microsoft 類神經網路演算法支援下表所列的特定輸入資料行和可預測資料行。