信息產業服務等諸多方面發揮了重要作用，產生了強大的經濟效益外溢。監管信任危機的根源在於企業在數據和算法上的不對稱優勢。目前基礎數據的所有權和控制權主要集中在互聯網平臺企業。
簡介:
這些企業壹直控制著算法的設計、運行、測試和分析，從而占據了主導地位。監管部門在算法社會已經呈現出邊緣化的趨勢，很容易失去對關鍵數據和關鍵算法的監管和控制，這意味著算法黑箱的存在必然導致私人利益對公共利益的主觀攫取。
同時，算法黑箱客觀上隱藏了算法本身的缺陷，並可能引發安全風險，使得監管機構難以審核算法信息，監管算法的內容和手段有限，難以問責和及時糾正算法問題。