進階理論大學

AI 系統設計:評估與人在迴路

大學・進階理論

把 AI 放進產品,要定義成功標準、建立評估方法、設計人工審核點,並準備好出錯時怎麼辦。

一句目標 為 AI 助教寫出能做與不能做的清單、一組 20 題的評估題組和計分方式,算出三個指標,並訂出轉給真人老師的規則(數字是示意)。

家長檢核 不看本頁,用自己的評估結果說明準確率、精確率、召回率各回答什麼問題,並說出你的轉人工規則在什麼情況啟動;題組裡沒有任何真實學生的資料。

情境

為一門大學課程設計 AI 助教:定義它能做與不能做的事,用自己寫、不含學生個資的題組評估它,並訂出何時轉給真人老師(本站整理)。

引導問題

  1. AI 助教答錯一題,影響有多大?怎麼及早發現?
  2. 準確率高,就可以上線嗎?

學科路徑

資訊 / 人工智慧 / AI 系統

階段
大學

能力標籤

這是網站自己的專才/通才標籤,不是課綱代碼。

專才

AI 原理

通才

跨域思考

人機分工

可以交給工具

  • 執行大量評估、產生測試案例(產生的題目要自己檢查,本站建議)

要自己經歷

  • 決定標準與界線、對使用者負責

先備

為什麼

沒有

怎麼用

相關

沒有

下一個深度

沒有

跨學門關聯:專案管理(決策、倫理與 AI 協作)、心理學(使用者行為)

練習

目標:為 AI 助教寫出能做與不能做的清單、一組 20 題的評估題組和計分方式,算出三個指標,並訂出轉給真人老師的規則(數字是示意)。 檢核:不看本頁,用自己的評估結果說明準確率、精確率、召回率各回答什麼問題,並說出你的轉人工規則在什麼情況啟動;題組裡沒有任何真實學生的資料。

在主線上的位置

作者:I-PING Huang

更新:

內容授權

授權:待定。授權文字尚未公告。