(資料圖)
蓋世汽車訊 據外媒報道，麻省理工學院（MIT）計算機科學與人工智能實驗室（CSAIL）的一組研究人員開發出一種名為Bayes-TrEx的新工具，使用戶和開發人員能夠深入了解他們的AI模型，以實現更好的人機交互。特別的是，該工具可識別驅動特定行為的真實世界實例。該工具采用“貝葉斯后驗推理（Bayesian posterior inference）”，即一種用于推斷模型不確定性的流行數學方法。
圖片來源：MIT
通過在實驗中對大量基于圖像的數據集使用Bayes-TrEx，研究人員發現以前僅考慮預測準確性的傳統評估方法所遺漏的重要信息。
Bayes-TrEx還可用于更好地了解模型在陌生環境中的行為。自動駕駛系統經常依靠攝像頭圖像來識別交通信號燈和自行車道等障礙物，其中攝像頭可以快速準確地識別頻繁發生的事件，但更具挑戰性的情況可能包含實際或虛擬障礙兩種。
賽格威（Segway，一種電動代步車）可能會被誤認為汽車，或是道路上的凸起，從而使得轉彎出現問題，或引發災難性撞車事故。但憑借Bayes-TrEx，上述意外場景都可以被預見，且開發人員可以避免悲劇發生。
除了圖像之外，研究人員還在研究一個靜態較少的區域：機器人。他們的“RoCUS”技術從Bayes-TrEx中汲取靈感，對機器人的特有行為進行了重大修改。最新研究還展示了人工智能如何使機器人成為種族主義者和性別歧視者。
盡管RoCUS仍處于測試階段，但實驗表明，如果評估者只關心工作是否完成，可能很容易忽略這些創新發現。例如，由于收集訓練數據的方式，基于深度學習的2D導航機器人會選擇在障礙物附近進行機動。但是，如果機器人的障礙物傳感器不完全精確，那么這種偏好可能會很危險。由于機器人運動學結構的不對稱性，機器人手臂到達桌子上左右側目標的能力也會有重大不同。
共同主要作者、麻省理工學院CSAIL博士生Serena Booth表示：“通過讓人類更深入地了解他們的AI合作者，我們希望使人機交互更加安全。人類應該能夠理解這些代理如何做出決定，并預測他們的行為，最關鍵的是，預測和規避失誤。”
延伸閱讀
會自己找車位的L4級自動駕駛來了，威馬+百度聯合研發AVP技術即將量產
