科技1分鐘:模型對齊
科技1分鐘:模型對齊
模型對齊(model alignment)是讓AI在發揮能力時,儘可能依照人類設定的目標與意圖行動,同時遵守系統與開發者指示、安全政策及適用法律,以降低傷害;遇到資訊不足時,應說明不確定性。不過,對齊是一項持續訓練...
科技1分鐘:模型對齊
模型對齊(model alignment)是讓AI在發揮能力時,儘可能依照人類設定的目標與意圖行動,同時遵守系統與開發者指示、安全政策及適用法律,以降低傷害;遇到資訊不足時,應說明不確定性。不過,對齊是一項持續訓練...
💬 留言板 — 歡迎分享你的想法!
登入 Google 帳號即可留言