機器學習新模型減少偏見，增強人工智慧在醫學領域決策和知識組織的信任
研究人員旨在彌合人工智慧技術和人類理解之間的差距 滑鐵盧大學的研究人員開發了一種新的可解釋人工智慧（AI）模型，以減少偏見，增強機器學習生成的決策和知識組織的信任和準確性。
來源: ScienceDaily
傳統的機器學習模型往往會產生偏見的結果，偏向於具有大量人口的群體，或者受到未知因素的影響，並且需要大量的努力才能從包含來自不同類別或主要來源的模式和子模式的實例中識別出來。
醫學領域是一個偏見機器學習結果嚴重影響的領域。醫院工作人員和醫學專業人員依賴包含數千份醫療記錄和複雜的演算法的數據集來做出關於患者護理的重要決策。機器學習用於對數據進行排序，從而節省時間。然而，具有罕見症狀模式的特定患者群體可能會被忽視，並且錯誤標記的患者和異常情況可能會影響診斷結果。這種固有的偏見和模式交織導致了誤診和特定患者群體的不公平醫療結果。
滑鐵盧大學系統設計工程學的傑出教授Andrew Wong博士領導的新研究，一種創新模型旨在通過從數據中解開復雜的模式，將它們與不受異常和錯誤標記實例影響的具體潛在原因相關聯，從而消除這些障礙。它可以增強可解釋人工智慧（XAI）的信任和可靠性。
“這項研究對XAI領域做出了重大貢獻。在分析大量的X射線晶體學蛋白質結合數據時，我的團隊揭示了物理化學氨基酸相互作用模式的統計數據，這些數據由於結合環境中存在的多個因素的交織而在數據層面上被掩蓋和混合。這是我們第一次展示了交織統計可以被解開，以在科學證據的支持下給出在數據層面上錯過的深層知識的正確圖像。”
這一發現促使Wong和他的團隊開發了名為Pattern Discovery and Disentanglement（PDD）的新的XAI模型。
Wong團隊的首席研究員周培源博士說：”通過PDD，我們旨在彌合人工智能技術和人類理解之間的差距，以幫助實現可信的決策並從複雜的數據源中揭示更深層次的知識。”
多倫多大學的共同作者和合作夥伴Annie Lee教授專門從事自然語言處理，她預見到PDD對臨床決策的巨大價值。
PDD模型已經革命了模式發現。各種案例研究展示了PDD的能力，可以根據患者的臨床記錄預測其醫療結果。PDD系統還可以在數據集中發現新的罕見模式。這使得研究人員和從業人員都能夠檢測機器學習中的錯誤標記或異常情況。
研究結果表明，醫療專業人員可以依靠嚴格的統計數據和可解釋的模式進行更可靠的診斷，並為不同階段的各種疾病提供更好的治療建議。
※版權所有，歡迎媒體聯絡我們轉載；登錄本網按讚、留言、分享，皆可獲得 OCTOVERSE 點數（8-Coin），累積後可兌換獎品，相關辦法以官網公布為準※
