使決策樹更深將確保更好的擬合度，但會(huì)降低魯棒性。

數(shù)據(jù)索引就像給每條數(shù)據(jù)裝了個(gè)信箱。

通常，當(dāng)試圖從大量觀察中學(xué)習(xí)具有少量狀態(tài)的HMM時(shí)，我們幾乎總是可以通過允許更多隱藏狀態(tài)來增加訓(xùn)練數(shù)據(jù)的可能性。

通過統(tǒng)計(jì)學(xué)可以推測(cè)擲兩個(gè)撒子同時(shí)選中3點(diǎn)的幾率。

要將工作申請(qǐng)分為兩類，并使用密度估計(jì)來檢測(cè)離職申請(qǐng)人，我們可以使用生成分類器。

由于決策樹學(xué)會(huì)了對(duì)離散值輸出而不是實(shí)值函數(shù)進(jìn)行分類，因此它們不可能過度擬合。

根據(jù)數(shù)據(jù)科學(xué)家與數(shù)據(jù)工程師對(duì)于問題的理解并相互討論，然后確定需要收集數(shù)據(jù)的范圍以及種類，然后數(shù)據(jù)工程師使用數(shù)據(jù)收集工具，架構(gòu)，甚至編程的形式來進(jìn)行數(shù)據(jù)收集的工作，然后并把數(shù)據(jù)收集的數(shù)據(jù)放置到對(duì)應(yīng)的存儲(chǔ)系統(tǒng)。

小數(shù)據(jù)集的數(shù)據(jù)處理最好也由計(jì)算機(jī)手段來完成。

隨機(jī)梯度下降每次更新執(zhí)行的計(jì)算量少于批梯度下降。

使用偏差較小的模型總是比偏差較大的模型更好。