A. 什麼是演算法的擬合能力，和泛化能力是一個概念嗎
演算法沒有這樣說法呀
B. bp神經網路提高泛化能力有幾種方法
常規的幾種增強泛化能力的方法，羅列如下：1、較多的輸入樣本可以提高泛化能力；
但不是太多，過多的樣本導致過度擬合，泛化能力不佳；樣本包括至少一次的轉折點數據。
2、隱含層神經元數量的選擇，不影響性能的前提下，盡量選擇小一點的神經元數量。隱含層節點太多，造成泛化能力下降，造火箭也只要幾十個到幾百個神經元，擬合幾百幾千個數據何必要那麼多神經元？
3、誤差小，則泛化能力好；誤差太小，則會過度擬合，泛化能力反而不佳。
4、學習率的選擇，特別是權值學習率，對網路性能有很大影響，太小則收斂速度很慢，且容易陷入局部極小化；太大則，收斂速度快，但易出現擺動，誤差難以縮小；一般權值學習率比要求誤差稍微稍大一點點；另外可以使用變動的學習率，在誤差大的時候增大學習率，等誤差小了再減小學習率，這樣可以收斂更快，學習效果更好，不易陷入局部極小化。
5、訓練時可以採用隨時終止法，即是誤差達到要求即終止訓練，以免過度擬合；可以調整局部權值，使局部未收斂的加快收斂。
C. 如何提高網路的泛化能力 – MATLAB中文論壇
1、加深網路深度
2、提升訓練及數據
3、多次訓練的同時，引入dropouts防止過擬合
D. 生成對抗網路怎樣來提高回歸網路的泛化能力
GAN啟發自博弈論中的二人零和博弈，由[Goodfellow et al, NIPS
2014]開創性地提出，包含一個生成模型（generative model G）和一個判別模型（discriminative model
D）。生成模型捕捉樣本數據的分布，判別模型是一個二分類器，判別輸入是真實數據還是生成的樣本。這個模型的優化過程是一個「二元極小極大博弈（minimax
two-player game）」問題，訓練時固定一方，更新另一個模型的參數，交替迭代，使得對方的錯誤最大化，最終，G
能估測出樣本數據的分布。
GAN主要應用於圖像領域，如高解析度圖像生成，人臉合成等。
E. 貝葉斯正則化演算法是怎麼提高泛化能力的！有點不懂原理！
由於造成過擬合的原因可能是太多的特徵量，所以可採用減少特徵量的方法。但是不妨換種思路，減少特徵量的權值（這個特徵乘以的 \theta 很小），來達到目的。
例如，對於 h_{\theta}(x)=\theta_{0}+\theta_{1}x_{1}+\theta_{2}x_{2}+\theta_{3}x_{3}+\theta_{4}x_{4}，已知 x_{3}\ x_{4} 的關聯度不大，我們需要減少它的權值（\theta_{3}\ \theta_{4}），可將代價函數修改為 J(\theta)=\frac{1}{2m}\sum_{i=1}^{m}(h_{\theta}(x^{(i)})-y^{(i)})^2+1000\theta_{3}^{2}+1000\theta_{4}^{2}，這樣為了降低 J(\theta)，就會使得 \theta_{3}\ \theta_{4} \rightarrow 0，達到了減小特徵的目的。
但是通常，我們不知道哪些特徵量是無關的，所以給出修改後的代價函數定義：
\large J(\theta)=\frac{1}{2m}[\sum_{i=1}^{m}(h_{\theta}(x^{(i)})-y^{(i)})^2+\lambda\sum_{i=1}^{n}\theta_{j}^{2}]
其中，\lambda 稱為正則化參數，\lambda\sum_{i=1}^{n}\theta_{j}^{2} 稱為正則項，目的是使得 \theta_{j} 減小。正則化使得假設函數更加簡單，減小發生過擬合概率。
註：如果 \lambda 過大，會造成 \theta_{j}\rightarrow 0 \ (j=1,2,...,n)，使得 h_{\theta}(x)=\theta_{0}，造成欠擬合。
F. 提高隨機森林泛化能力的方法有哪些
隨機森林是一種集成分類器,對影響隨機森林性能的參數進行了分析,結果表明隨機森林中樹的數量對隨機森林的性能影響至關重要。對樹的數量的確定方法以及隨機森林性能指標的評價方法進行了研究與總結。以分類精度為評價方法,利用UCI數據集對隨機森林中決策樹的數量與數據集的關系進行了實驗分析,實驗結果表明對於多數數據集,當樹的數量為100時,就可以使分類精度達到要求。將隨機森林和分類性能優越的支持向量機在精度方面進行了對比,實驗結果表明隨機森林的分類性能可以與支持向量機相媲美。
G. 貝葉斯正則化演算法，為什麼可以提高泛化能力，別的演算法也只是把訓練樣本，訓練好，為什麼泛化能力就不行了
因為貝葉斯這些是綜合考慮過去與未來進行整合的演算法，有些演算法只考慮預測值是否合適。貝葉斯是對預測值與當前值進行耦合，貝葉斯本身就是一種預測器，預測器模型都有泛化能力好的優點。
H. 有哪些手段可以提升深度神經網路的泛化性能
人工神經網路以其智能性見長，那麼神經網路能真的學到一個映射的本質嗎？也就是說，對一個映射給出一定的必要的訓練樣本訓練後，網路能否對樣本以外的樣本給出較為准確的預測。泛化能力也就是神經網路用於對未知數據預測的能力。神經網路對訓練樣本區間范圍內的樣本有較好的泛化能力，而對於訓練樣本確定的范圍外的樣本不能認為有泛化能力。常規的幾種增強泛化能力的方法，羅列如下：
I. 什麼演算法可以防止bp神經網路過擬合
你好，遺傳演算法在一定程度上可以防止過擬合。 遺傳演算法主要是針對神經網路的優化的。他是通過交叉和突變來實現對神經網路的優化。 過擬合其實是說模型太過嚴格，泛化不夠。容錯性不夠好。 因為遺傳演算法通過交叉和突變，他可以提升模型的泛化能力。
J. 神經網路的遺傳演算法可以防止過擬合嘛
你好，遺傳演算法在一定程度上可以防止過擬合。
遺傳演算法主要是針對神經網路的優化的。他是通過交叉和突變來實現對神經網路的優化。
過擬合其實是說模型太過嚴格，泛化不夠。容錯性不夠好。
因為遺傳演算法通過交叉和突變，他可以提升模型的泛化能力。