為降低人工智能發展過程中可能存在的技術風險和倫理隱患，近日，北京智源人工智能研究院在北京專門成立人工智能倫理與安全研究中心，著力加強人工智能倫理與安全研究，引導行業健康發展，中國科學院自動化研究所曾毅研究員任研究中心主任。

　　曾毅介紹，研究中心將圍繞人工智能倫理與安全的理論探索、算法模型、系統平臺、行業應用等開展一系列研究，目前主要包括四大方面：一是低風險機器學習模型與平臺的構建，建立機器學習模型安全性的評估體系；二是開展符合人類倫理道德的智能自主學習模型研究，實現人工智能行為與人類價值觀的校準，并在模擬環境與真實場景中進行驗證；三是建設數據安全示范應用系統，建立數據基礎設施、數據分級、權限控制、數據審計，最大限度防止數據泄密，降低風險；四是構建人工智能風險與安全綜合沙盒平臺，建設自動檢測平臺，針對數據與算法的安全性、公平性、可追溯性、風險類型、影響程度與影響范圍等方面，對人工智能產品及應用進行風險與安全綜合檢測與評估，引導行業健康發展。