香港浸會大學計算機科學學系韓波博士，於《IEEE Intelligent Systems》發表觀點文章，從學習（Learning）、推理（Reasoning）、規劃（Planning）與多模態（Multimodality）四方面，為可信機器學習（Trustworthy machine learning）提出新框架。

文章：

• https://ieeexplore.ieee.org/abstract/document/11278237

學習方面，他指出了一個學習悖論：高質量的小型數據集，表現往往優於低質量的海量數據集，在無數次迭代中，一個關鍵做法是「機器反學習」（Unlearning），即刻意降低模型產生特定回應的機率。他指出，一些研究人員觀察到截然相反的效果：有人發現這會損害模型的泛化能力，也有人認為機器反學習能引導預測走向更具前景的輸出。不過總體上仍極少被討論。

邏輯方面，他提到基礎模型的推理能力已從簡單的模式匹配，演變為結構化的邏輯推導，包括基於提示的技術（如思維鏈）、後訓練方法（post training approaches），及引入經驗證的知識數據庫等外部工具。然而，威脅無處不在，例如對抗性提示（Adversarial prompts）可能迫使模型產生有害的推理模式，而模型也必須處理現實世界中隨處可見的雜訊與不完整資訊。因此，未來需要的是可審核、人類能理解的邏輯路徑。

多模態方面，他警示了語言偏見與視覺刻板印象可能互相融合，顯著放大偏見和錯誤，使之更根深蒂固。此外，模型可能會生成視覺數據中根本不存在的物件描述。對於具身智能而言，感知錯誤更可能導致不良的物理後果，例如工業機械人將人類的手臂誤認為某個零件。

規劃方面，他認為不透明的推理過程及形式化保證的缺乏，使目前的人工智能顯得不夠可靠，應發展「神經符號人工智能」（Neurosymbolic AI），將神經網絡的適應性與符號的可驗證性相結合。

如欲知道更多教科相關消息，請留意京港 Facebook 專頁：https://www.facebook.com/BHKAEC