摘要：許多傳統上由人做出的重要決策,現在都是由計算機做出的。算法統計選票、批準貸款和信用卡申請、指定公民或社區進行警務審查、選擇納稅人進行稅務審計、批準或拒絕移民簽證等。然而,監管此類決策流程的問責機制和法律標準,尚未跟上技術的步伐。目前,可供決策者、立法者和法院使用的工具,是為監督人類決策而設計的,當把它們應用于監督計算機決策時,通常會失靈。例如,如何判斷一個軟件的意圖?由于自動化決策系統可能會輸出不正確、不合理或不公平的結果,因此,我們需要采取其他手段,以使此類算法具有可問責性和可操控性。本文提出了一套新的技術措施,它能夠以法律公平為準繩,來驗證自動化決策。法學界的主流文獻認為,算法透明可以解決這些問題。本文對這一主流觀點提出挑戰。通常而言,源代碼的公開,既不必要(由于計算機科學中的替代技術),也不足以證明決策流程的公平性(由于分析代碼時所存在的問題)。此外,算法透明也可能是不可取的,例如,它可能會披露個人信息,也可能會幫助不法分子或恐怖分子與稅務審計或安全檢查的系統進行周旋。真正的核心問題是:如何使自動化決策更具可問責性,以確保公民個體和整個社會的利益?本文認為,技術正在創造新的機會——以比算法完全透明更巧妙、更靈活的方式,來設計自動化決策的算法,使其更好地順應法律和政策的目標。這樣做不僅可以改善當前對自動化決策的治理,而且在某些情況下,還可以改善普通決策的治理。人類決策者的內在(或外在)偏見,很難被發現和根除,但我們卻可以窺視算法的“大腦”:計算過程和目的規范可以在事前聲明,并在事后驗證。本文介紹的技術可以得到廣泛應用。它們可以用來設計私營機構和公共部門的決策流程,并可根據決策者、監管者或公眾的