學習曲線

學習曲線hok6 zaap6 kuk1 sin3（英文：learning curve，LC）喺心理學等領域上係指一個數學模型，個模型用一條線描述一個學習者嘅表現隨住佢重複係噉做一樣工作嘅變化：設

• Y 軸做學習者喺工作 $T$ 上嘅表現，
• X 軸做時間，
• 工作 $T$ 可以係任何需要運用認知資源嘅工作－例如係喺裝配線上組裝零件；

一個單一受試者條學習曲線；Y 軸係一個會隨住學習而數值上升嘅指標，例如係「完全正確噉完成件工作嘅比率」。

一大柞人嘅學習曲線加埋；一班個體嘅群體學習曲線傾向平滑，因為個體隨機上落會互相抵消。

個受試者家陣一路係噉做作業 $T$ 做一段時間，正常嚟講，隨住時間過去，受試者喺工作 $T$ 上嘅表現正常嚟講會愈嚟愈好（做得愈嚟愈熟手），所以條學習曲線嘅斜率 $s$ 大致上會係正數，並且去到某一個點因為受試者技術去到最高點而變平。

對學習曲線嘅研究源於組織心理學（I/O psychology；心理學同管理學交界領域，研究一個組織成員嘅心理過程以及呢啲心理過程點樣影響生產力）：喺 1936 年，有美國嘅航空工程專家喺度研究工人組裝飛機嗰陣嘅生產效率，並且提出所謂嘅「80% 學習曲線」諗法，指出喺航空工業當中，隨住一班工人愈做愈熟手，組裝飛機嘅成本平均會下降 20% 。學習曲線嘅概念及後喺認知科學同人因工程等嘅領域上都受到採用。

概論

一個細路讀緊書；隨住時間過去，佢嘅表現（以「記得學過嘅內容嘅機率」等嘅指標量度）理應會變。

一個學生學芭蕾舞；隨住時間過去，佢嘅表現（以「跳錯步嘅頻率」等嘅指標量度）理應會變。

理論基礎

内文：學習

學習曲線定義上就係一種用嚟模擬學習（learning）現象嘅數學模型：學習喺認知科學（cognitive science）領域上被定義為一個個體吸收知識、技能同行為嘅過程，包括咗獲取新知識、新技能或者新行為，又可以係改變舊有嘅知識、技能同行為。

學習嘅現象無處不在－例子有喺教育上，學生會隨老師嘅教導而學到知識同技能，而佢哋嘅某啲行為指標理應會隨住學習有所變化，例如一個學生學木工，如果佢真係學到嘢，噉佢應該會愈嚟愈識做，而佢知識技能嘅增長理論上會反映喺「做一件木工作業嘅速度」同「做木工作業嗰陣嘅犯錯率」等嘅變數上－即係話呢啲數值會隨時間而變化，所以學習嘅現象可以抽象化噉當做一條表現指標（Y 軸）隨時間（X 軸）改變嘅曲線，呢種曲線就係所謂嘅學習曲線。

表現指標

喺廿一世紀嘅學習曲線研究上，「表現」呢家嘢可以用多種指標量度，包括：

• 每個單位生產所需嘅時間（數值會隨學習下降）、
• 每個單位時間嘅生產量（數值會隨學習上升）、
• 每個單位生產用嘅成本（數值會隨學習下降）、
• 反應時間（數值會隨學習下降）、以及
• 出錯率（數值會隨學習下降）或者正確率（數值會隨學習上升）

... 等等。

主要用途

除咗教育，學習曲線嘅概念仲喺以下領域上有用：

• 策略管理（strategic management）：管理者喺思考一間公司嘅管理嗰陣，往往會想用數學模型估計間公司嘅各種數值，當中經驗學習曲線（experience curve）就係表達緊產量同經驗之間嘅關係；而事實係，學習曲線嘅概念就係源於管理學嘅；喺 1936 年，有美國嘅航空工程專家研究工人組裝飛機嗰陣嘅生產效率，由數據當中發現，組裝飛機嘅工人會愈做愈熟手，而隨住工人學習，組裝飛機嘅成本平均會下降 20% 左右－因為噉，管理學上就有咗噉嘅做法，簡單講係用過往數據估一條學習曲線，再用所有員工嘅學習曲線加埋，計算產量跟住落嚟嘅變化。
• 遊戲設計（game design）：喺好多電子遊戲當中，玩家一開始都唔係咁熟隻遊戲要點玩，所以遊戲早期嘅關卡通常都會比較易，後期嘅關卡就會為咗迎合熟咗隻遊戲點玩嘅玩家而會難啲；因為噉，喺設計隻遊戲嘅難度變化嗰時，遊戲設計師有需要考慮玩家條學習曲線會係點樣，然後設計出唔係太易（太易會搞到玩家悶）又唔係太難（太難會搞到玩家冇癮），難度迎合玩家技術嘅關卡。
• 人因工程（ergonomics）：人因工程係研究點樣按生理同心理相關知識嚟改善產品同機械設計嘅一個領域；人因工程師好多時有興趣思考（例如）點樣將做嘢用嘅架生設計得易上手，而對人因工程師嚟講，用家嘅學習曲線可以攞嚟量度「一件架生設計有幾好」－假設第啲因素不變，如果一件架生容易學識用，噉用家條學習曲線應該會短時間內去到接近最理想點變平嘅狀態。

兩件產品，A 同 B，分別嘅學習曲線；產品 A 條學習曲線比較快到達平嘅最高點，即係 A 對於用家嚟講比較易學識點樣用。

歧義

學習曲線嘅正式學術定義係「表現隨時間變化嘅曲線」，不過一般日常英文當中「學習曲線」嘅意思可以有少少唔同：喺日常英文入面，「learning curve」好多時係指「表現需要隨時間變化嘅曲線」，例如英文入面話「steep learning curve」（險峻嘅學習曲線）通常係指某一樣工作嘅難度喺初期會提升得好快（例如一隻電子遊戲，設計到初期關卡嘅難度會快速提升），所以學習者焗住要喺初時學得好快。呢篇文當中使用嘅係學習曲線嘅正式定義。

單變量模型

對數線性模型

工人喺裝配線上組裝汽車。

基本模型

對數線性模型（log-linear model）係最基本嗰條學習曲線嘅數學模型，條式如下：

$y=C_{1}x^{b}$；$(1)$

當中 $y$ 係完成下一件生產所需嘅時間或者成本（一個理論上會隨住學習而數值下降嘅指標）；$x$ 係總共生產咗嘅件數；$C_{1}$ 係指第一件產出花咗嘅時間或者成本；而 $b$ 呢個參數（$-1<b<0$）會主宰條線嘅斜率，反映個工人嘅學習率（learning rate）－$b$ 嘅數值細（即係接近 -1）反映個工人完成一件生產所需嘅時間成本會快速下降，表示個工人學得快，而相反 $b$ 數值大（接近 0）就表示嗰個工人學得慢，做極 $y$ 嘅數值都唔明顯跌。

對數線性模型試過俾人喺電子工程、化學工程同汽車工業等領域當中攞嚟模擬工人嘅生產力。一般嚟講，過往嘅經驗顯示咗，對數線性模型可以準確噉模擬工人對重複性嘅工作（例如係喺裝配線上組裝啲機械）嘅學習，喺對生產嘅計劃上有用。

群體線

喺實際應用上，個體嘅學習曲線通常冇群體條線咁平滑：一個個體條學習曲線會有一啲隨機性嘅上落，可以想像成喺 $(1)$ 加個誤差值（error；$e_{i}$）：

$y=C_{1}x^{b}+e_{i}$；

當中 $e_{i}$ 喺每個時間點數值都唔同，而如果將包含 $e_{i}$ 嘅呢個 $y$ 畫做一條隨 $x$ 改變嘅線，條線會有好多隨機性嘅上上落落，但整體偏跌。 而家想像搵一柞人返嚟，計佢哋喺某個時間點嘅群體 $y$（$y_{group}$）：

$y_{group}=y_{1}+y_{2}+y_{3}+...$（$y_{i}$ 係第 $i$ 個個體喺呢個時間點嘅 $y$ 值）；

因為 $e_{i}$ 定義上係隨機性嘅，所以一大柞人喺某一個時間點嘅平均 $e_{i}$（$E(e_{i})$）會係 0，即係話：

$e_{1}+e_{2}+e_{3}+...=0$（$y_{i}$ 係第 $i$ 個個體喺呢個時間點嘅誤差值）；

$y_{group}=C_{1}x_{1}^{b}+e_{1}+C_{1}x_{2}^{b}+e_{2}+C_{1}x_{3}^{b}+e_{3}+...$；

$y_{group}=C_{1}x_{1}^{b}+C_{1}x_{2}^{b}+C_{1}x_{3}^{b}+...$（啲誤差值加埋係 0）；

即係話條群體線會冇嗮啲 $e_{i}$，所以會係一條平滑嘅線。

進階版本

對數線性模型仲有多個進階版本，包括：

• 史丹福-B（Stanford-B）模型增添對「工人經驗」嘅考慮；史丹福-B 加多一個參數 $B$，$B$ 反映嘅係個工人先前生產過幾多件產品－個工人經驗愈豐富，佢喺 $t=0$ 嗰陣嘅產量會愈高。史丹福-B 條式如下：

  $y=C_{1}(x+B)^{b}$；$(2)$

• 迪央模型（DeJong model）模型就考慮埋「用機械幫手做生產」；迪央模型嘅參數 $M$ 反映份工作有幾多成係由機械做嘅（$0\leq M\leq 1$），而一部普通嘅廿世紀機械唔識學習，所以 $M$ 對產量設下嘅限制係一個不可變嘅因素。迪央模型條式如下：

  $y=C_{1}[M+(1-M)x^{b}]$；$(3)$

• 史丹福-B 同迪央模型嘅結合版（叫 S-曲線模型；S-curve model）如下：

  $y=C_{1}[M+(1-M)(x+B)^{b}]$；$(4)$

• 穩定水平模型（plateau model）加咗一個常數 $C$，反映因為各種技術限制，一個工人無論點樣學習，佢做生產所需嘅成本梗會有個「下限」，條式如下－喺呢條式入面，無論 $x$ 變到幾大，常數 $C$ 嘅存在令 $y$ 梗會有一個正嘅數值，即係話 $y$ 會「最後去到一個大致穩定嘅水平」：

  $y=C+C_{1}x^{b}$；$(5)$

• 喺實際應用上，仲可以將多個對數線性模型出嘅 $y$ 加埋一齊，描述一個涉及 $n$ 件作業嘅生產過程嘅總成本（$C_{i}$ 表示第 $i$ 件作業嘅 $C_{1}$ 參數，$x_{i}$ 表示第 $i$ 件作業嘅 $x$ 數值... 等等）：

  ${\text{Total y}}=C_{1}{x_{1}}^{b_{1}}+C_{2}{x_{2}}^{b_{2}}+C_{3}{x_{3}}^{b_{3}}+...+C_{n}{x_{n}}^{b_{n}}$；$(6)$

總括：

模型	公式	參數數量	有考慮先前經驗	有考慮機械使用
基本對數線性模型	$y=C_{1}x^{b}$	2	---	---
穩定水平模型	$y=C+C_{1}x^{b}$	3	---	---
史丹福-B	$y=C_{1}(x+B)^{b}$	3	✔	---
迪央模型	$y=C_{1}[M+(1-M)x^{b}]$	3	---	✔
S-曲線模型	$y=C_{1}[M+(1-M)(x+B)^{b}]$	4	✔	✔

自然底數模型

自然底數模型大致嘅樣：$y$ 嘅數值慢慢趨向一個恆定嘅最大可能數值。

自然底數模型（exponential model）最基礎嗰條式如下：

$y=C_{1}x^{b}e^{cx}$；$(7)$

當中 $c$ 係一個特定嘅常數，其餘數值嘅定義同對數線性模型一樣。自然底數模型仲有以下呢啲版本：

$y=k(1-e^{{-(x+p)}/{r}})$；$(8)$

喺 $(8)$ 當中，$y$ 係指個工人嘅表現，以「$x$ 單位工作時間之後嘅產出量」做單位量度（$y\geq 0$ and $x\geq 0$）；呢條式有三個參數，

• $k$ 係學習過程後達到嘅最大產出量－隨住 $x$ 變大，$1$ 減嗰個數會愈嚟愈細，令 $y$ 數值慢慢接近 $k$，$k\geq 0$；
• $p$ 反映個工人嘅原先經驗（睇返 $(2)$）；而
• $r$ 反映學習率。

有學者指，$(8)$ 喺工人要做全新嘅工作（$x=0$）嗰陣唔能夠準確噉模擬現實情況，所以提出咗恆定時間模型（constant time model）呢一條新嘅式：

$y=y_{c}+y_{f}(1-e^{{-t}/{\tau }})$；$(9)$

喺 $(9)$ 當中，$y_{c}$ 表示工人初頭嘅表現（反映先前經驗），$y_{f}$ 代表工人學習結束去到嘅最大產量增長，$t$ 係花咗喺件工作上嘅時間總量（相當於 $(8)$ 入面嘅 $x$）。
總括：

模型	公式	參數數量	有考慮先前經驗	有考慮機械使用
三參數自然底數模型	$y=k(1-e^{{-(x+p)}/{r}})$	3	✔	---
恆定時間模型	$y=y_{c}+y_{f}(1-e^{{-t}/{\tau }})$	3	✔	---

雙曲模型

雙曲模型（hyperbolic model）最基礎嗰條式如下：

$y=k({\frac {x}{x+r}})$；$(10)$

喺呢條式入面，$k$ 係表現嘅最大可能值，$x$ 係正確產品嘅數量，而 $r$ 反映要達到理想表現所需嘅時間，所以 $y$ 反映咗個工人完全做啱件工作嘅比率－隨住時間過去，$x/(x+r)$ 理應會愈嚟愈接近 1（100%），即係話個工人完全做啱件工作嘅比率愈嚟愈接近 $k$ 呢個最大可能值。

雙曲模型亦可以加個參數 $p$ 代表個工人嘅經驗（睇返 $(2)$）：

$y=k({\frac {x+p}{x+p+r}})$；$(11)$

總括：

模型	公式	參數數量	有考慮先前經驗	有考慮機械使用
兩參數雙曲模型	$y=k({\frac {x}{x+r}})$	2	---	---
三參數雙曲模型	$y=k({\frac {x+p}{x+p+r}})$	3	✔	---

進階模型

工人喺度做建築施工。

多變量模型

多變量模型（multivariate model）喺學習曲線研究上係指條曲線有多過一個自變數：單變量模型得一個自變數 $x$，而好似 $B$ 同 $M$ 等都係數值由數據嗰度估計嘅參數；一個多變量模型會用多過一個自變數嚟預測應變數（表現 $y$）嘅數值，基本嘅結構如下：

$C_{x}=K\prod _{i=1}^{n}{x_{i}}^{b_{i}}$；$(12)$，呢條式等同

$C_{x}=K({x_{1}}^{b_{1}}\times {x_{2}}^{b_{2}}\times {x_{3}}^{b_{3}}\times ...{x_{n}}^{b_{n}})$。

一個簡單例子（可以睇返 $(1)$）：

• 想像 $C_{x}$ 係一個會隨學習下降嘅變數，例如犯錯率；
• 柞 $b_{i}$ 反映學習率－$\forall b_{i},-1<b_{i}<0$；
• 隨住學習，柞 $x_{i}$ 嘅數值上升，於是 ${x_{i}}^{b_{i}}$ 數值變到愈嚟愈接近 0－${x_{i}}^{b_{i}}$ → 0，而 $C_{x}$ 數值就會慢慢下降；

類似噉嘅式喺經濟學研究上有試過俾人攞嚟成功噉模擬生產成本隨時間嘅變化。

遺忘模型

睇埋：遺忘曲線

遺忘模型（forgetting model）喺學習曲線研究上係指模擬遺忘過程嘅模型：人類嘅記憶系統具有遺忘功能，即係話會隨時間忘記一啲俾個系統評定為冇用嘅資訊同技能，所以好多時當個工人冇做嗰樣工作一段時間後，佢再做嗰樣工作嗰陣嘅表現會變到冇咁好；喺現實應用上，一個組織好少可會能夠永遠淨係做死同一樣工作，同一個員工可能會同時做幾樣工作，又或者係做某一樣工作期間因為人力資源上嘅需要而俾上頭安排去做第個崗位，做完先返去做佢原本個崗位（有一輪冇做原本嗰樣工作）。因為呢啲緣故，對學習曲線嘅研究就會考慮遺忘呢個因素，探討遺忘會點影響學習曲線嘅形狀。例如係以下嘅模型：

$y=C_{1}e^{-t/s}$；$(13)$

例：$y$ 係過咗 $t$ 咁多單位時間冇做之後，再做返原本嗰樣工作嗰陣嘅表現，$C_{1}$ 係一個參數，$s$ 反映記憶嘅穩定性（$s>0$）－隨住時間過去（$t$ 數值上升），$-t/s$ 變得愈嚟愈負，$y$ 嘅數值會慢慢噉下降，最後去到一個穩定嘅低水平。

一條心理學上嘅遺忘曲線；Y 軸反映個記憶嘅「強度」，X 軸係時間。

應用

遊戲設計

一班人喺度玩德州話事啤；人玩遊戲往往會愈玩愈叻。

睇埋：動態難度調控

遊戲設計（game design）係研究點樣設計遊戲嘅一個領域－包括圖板遊戲、紙牌遊戲以至電子遊戲等嘅設計冚唪唥都屬於遊戲設計嘅範疇。喺遊戲設計理論上有所謂嘅心流（psychological flow）概念，指出一隻遊戲如果要令玩家投入，其中一樣最重要嘅嘢係隻遊戲要切合玩家嘅技術：一般嚟講，一隻遊戲易得滯會搞到玩家悶，而難得滯就會搞到玩家冇癮；如果一隻遊戲難度永遠不變，隨住玩家玩得愈嚟愈熟手（學習），隻遊戲話咁快就會變得太容易，長遠嚟講難以令玩家持續投入，所以電子遊戲往往會愈玩愈難，例如單人遊戲入面後啲嘅關卡會難過前啲嗰啲，而 PvP 多人網上遊戲就往往會按玩家技術將玩家分級，並且俾玩家同技術相約嘅玩家對局。噉亦即係表示，遊戲設計師要考慮玩家會點樣隨時間玩到愈嚟愈熟手，並且用呢樣資訊思考隻遊戲嘅難度調控－有可能需要考慮玩家嘅學習曲線。

對於難度曲線嘅設計，遊戲設計業界有多種做法：

• 難度可以係線性（linear）噉上升，呢種做法一般會形成一個對玩家嚟講好容易預測嘅遊戲環境；
• 難度又可以係波浪式（wave）噉上升，即係普遍上升但耐唔耐會突然噉有大起大落，例如係好多單人遊戲入面都有打大佬（boss fight）呢家嘢－遊戲突然出現一個零舍勁嘅敵人，令難度突然勁升，打完個敵人之後難度就回復正常。
• 間距式（interval）係指條難度曲線嘅難度值喺每個時間點有幾個唔同嘅可能數值，即係遊戲程式內部有個變數表示現時難度，而呢個變數 foreach 時間點可以有幾個唔同嘅可能數值，所以唔同玩家對遊戲難度可能有唔同體驗。

... 等等。

機械學習

兩條 ML 研究用嘅學習曲線；X 軸係讀取咗嘅數據個案嘅數量。

内文：訓練曲線

機械學習（machine learning，ML）係人工智能嘅一個子領域，專門研究點樣教電腦學習：機械學習演算法做嘅嘢係教電腦點樣運用讀取到嘅數據建立一個內部嘅數學模型，並且用個模型對未來作出預測；機械學習研究一般跟手就會用某啲指標量度個模型嘅表現，即係例如個程式用演算法同數據做完學習之後，睇吓個模型預測未來嗰陣有幾準。機械學習喺金融（用嚟教電腦預測股價）同醫療（用嚟教電腦做診斷）等領域上都相當有價值。

喺機械學習上，常見嘅做法好似下面嘅虛擬碼：

 建立一個數學模型，初始化將啲參數設做隨機數值；
 Foreach 數據庫入面嘅個案
   讀取個個案嘅數據；
   按讀到嘅數據調整個模型嘅參數；

機械學習上嘅學習曲線（又有叫訓練曲線；training curve）一般做法係，搵某啲指標做「個機械學習程式表現有幾好」嘅指標，例如係「個程式預測未來嗰陣，佢做嘅預測同實際數值之間嘅差距」（呢個數值係愈細愈理想），然後用呢啲指標做 Y 軸，總共讀取咗嘅個案數量做 X 軸。喺理想嘅情況下，隨住個機械學習程式見過愈嚟愈多嘅個案，佢會變到愈嚟愈叻擅長做預測，表現指標值會慢慢噉接近理想數值。如果條訓練曲線會慢慢趨近一個特定數值 $C$，$y$ → $C$，就表示個機械學習嘅表現有上限。訓練曲線喺機械學習研究上可以用嚟比較唔同嘅機械學習演算法嘅功效，又或者係用嚟睇吓個模型用乜嘢參數值比較好等等。

相關領域

• 教育學
• 管理學
• 組織心理學
• 遊戲設計
• 人因工程
• 人機互動

睇埋

• 學習
• 學習率
• 習慣性
• 迴歸分析
• 生產力
• 遊戲化
• 經驗學習曲線

文獻

遊戲設計文獻

• Adrian, D. F. H., & Luisa, S. G. C. A. (2013, August). An approach to level design using procedural content generation and difficulty curves. In 2013 IEEE Conference on Computational Inteligence in Games (CIG) (pp. 1-8). IEEE.
• Aponte, Maria-Virginia; Levieux, Guillaume; Natkin, Stéphane (2009). "Scaling the Level of Difficulty in Single Player Video Games" (PDF). In Natkin, S.; Dupire, J. (eds.). Lecture Notes in Computer Science. International Conference on Entertainment Computing 2009. 5709.
• Aponte, M. V., Levieux, G., & Natkin, S. (2011). Measuring the level of difficulty in single player video games. Entertainment Computing, 2(4), 205-213.
• Bostan, B., & Öğüt, S. (2009). Game challenges and difficulty levels: lessons learned From RPGs. In International simulation and gaming association conference (pp. 1-11).

其他領域文獻

• Anzanello, M. J., & Fogliatto, F. S. (2011). Learning curve models and applications: Literature review and research directions (PDF). International Journal of Industrial Ergonomics, 41(5), 573-583.
• Gallistel, C. R., Fairhurst, S., & Balsam, P. (2004). The learning curve: implications of a quantitative analysis (PDF). Proceedings of the National Academy of Sciences, 101(36), 13124-13131.
• Glock, C. H., Grosse, E. H., Jaber, M. Y., & Smunt, T. L. (2019). Applications of learning curves in production and operations management: A systematic literature review (PDF). Computers & Industrial Engineering, 131, 422-441.
• Karpicke, J. D., & Roediger III, H. L. (2007). Repeated retrieval during learning is the key to long-term retention (PDF). Journal of Memory and Language, 57(2), 151-162.
• Newell, A., & Rosenbloom, P. S. (1981). Mechanisms of skill acquisition and law of practice. In J. R. Anderson (Ed.), Cognitive skills and their acquisition (pp. 1–55). Hillsdale, NJ: Erlbaum.
• Schilling, M. A., Vidal, P., Ployhart, R. E., & Marangoni, A. (2003). Learning by doing something else: Variation, relatedness, and the learning curve (PDF). Management science, 49(1), 39-56.
• Wright, T. P. (1936). Factors affecting the cost of airplanes (PDF). Journal of the aeronautical sciences, 3(4), 122-128.

拎

• （英文）Difficulty Curves. Gamasutra.
• （中文）設計一堂精采的課程：善用教學曲線安排教學流程