(資料圖)
蓋世汽車訊 據(jù)外媒報道，麻省理工學(xué)院（MIT）計算機科學(xué)與人工智能實驗室（CSAIL）的一組研究人員開發(fā)出一種名為Bayes-TrEx的新工具，使用戶和開發(fā)人員能夠深入了解他們的AI模型，以實現(xiàn)更好的人機交互。特別的是，該工具可識別驅(qū)動特定行為的真實世界實例。該工具采用“貝葉斯后驗推理（Bayesian posterior inference）”，即一種用于推斷模型不確定性的流行數(shù)學(xué)方法。
圖片來源：MIT
通過在實驗中對大量基于圖像的數(shù)據(jù)集使用Bayes-TrEx，研究人員發(fā)現(xiàn)以前僅考慮預(yù)測準(zhǔn)確性的傳統(tǒng)評估方法所遺漏的重要信息。
Bayes-TrEx還可用于更好地了解模型在陌生環(huán)境中的行為。自動駕駛系統(tǒng)經(jīng)常依靠攝像頭圖像來識別交通信號燈和自行車道等障礙物，其中攝像頭可以快速準(zhǔn)確地識別頻繁發(fā)生的事件，但更具挑戰(zhàn)性的情況可能包含實際或虛擬障礙兩種。
賽格威（Segway，一種電動代步車）可能會被誤認(rèn)為汽車，或是道路上的凸起，從而使得轉(zhuǎn)彎出現(xiàn)問題，或引發(fā)災(zāi)難性撞車事故。但憑借Bayes-TrEx，上述意外場景都可以被預(yù)見，且開發(fā)人員可以避免悲劇發(fā)生。
除了圖像之外，研究人員還在研究一個靜態(tài)較少的區(qū)域：機器人。他們的“RoCUS”技術(shù)從Bayes-TrEx中汲取靈感，對機器人的特有行為進行了重大修改。最新研究還展示了人工智能如何使機器人成為種族主義者和性別歧視者。
盡管RoCUS仍處于測試階段，但實驗表明，如果評估者只關(guān)心工作是否完成，可能很容易忽略這些創(chuàng)新發(fā)現(xiàn)。例如，由于收集訓(xùn)練數(shù)據(jù)的方式，基于深度學(xué)習(xí)的2D導(dǎo)航機器人會選擇在障礙物附近進行機動。但是，如果機器人的障礙物傳感器不完全精確，那么這種偏好可能會很危險。由于機器人運動學(xué)結(jié)構(gòu)的不對稱性，機器人手臂到達(dá)桌子上左右側(cè)目標(biāo)的能力也會有重大不同。
共同主要作者、麻省理工學(xué)院CSAIL博士生Serena Booth表示：“通過讓人類更深入地了解他們的AI合作者，我們希望使人機交互更加安全。人類應(yīng)該能夠理解這些代理如何做出決定，并預(yù)測他們的行為，最關(guān)鍵的是，預(yù)測和規(guī)避失誤。”
延伸閱讀
會自己找車位的L4級自動駕駛來了，威馬+百度聯(lián)合研發(fā)AVP技術(shù)即將量產(chǎn)
