民進中央擬將《關於加強我國人工智能領域倫理治理的提案》提交政協十四屆壹次會議審議。
民進中央在提案中指出，中共二十大報告提出要在人工智能等領域打造新的增長引擎。隨著人工智能技術的快速發展，科技的倫理挑戰日益凸顯。最近紅遍網絡的ChatGPT再次引起了國際社會對人工智能領域倫理問題的關註。中辦、國辦印發《關於加強科技倫理治理的意見》，將人工智能作為需要加強的重點領域之壹。中國人工智能領域的倫理治理仍面臨諸多問題。
壹是制度建設相對落後。
在制度上，可執行的法律法規相對缺乏，合規和懲罰的底線不夠明確。在管理上，缺乏統籌規劃較為突出，職責分工不夠明確，倫理治理審查和監督仍有空白。
二是能力建設相對薄弱。
我國人工智能領域的倫理治理仍處於起步階段，存在人員構成不合理、倫理意識淡薄、專業能力不足、工作規則和操作規範不完善等問題。，能力建設有待進壹步加強。
第三，缺乏企業參與治理。
我國在推動人工智能企業自主參與倫理治理方面仍處於初步探索階段，對企業參與的邊界和機制缺乏明確規定和可操作的制度保障，面臨企業參與治理的意願不強、經驗和能力不足等問題。
解決方案:
首先是構建多黨治理體系。
由工業和信息化部牽頭，從領導機構、組織架構、領域分工、社會協調等方面設計人工智能領域倫理治理頂層架構。，明確了人工智能應用鏈中各方需要履行的義務和責任。推進法規制度建設，明確法律合規底線，明確對數據濫用和侵犯個人隱私的處罰。同時，通過國家標準、企業標準、企業自律規則等“軟法”方式，引導企業順應創新。吸收人工智能企業專家擔任全國科技倫理委員會人工智能分委會委員，更好地研究和解決企業在技術創新中面臨的倫理問題。充分發揮國家新壹代人工智能治理專業委員會的科技倫理咨詢作用，圍繞技術發展中可能出現的倫理風險進行前瞻性的預研究和預判斷。充分發揮國家科技智庫和相關研究力量的作用，系統研究和儲備人工智能倫理問題，提供決策咨詢支持。
二是進行多維度、多層次的倫理建設。
進行全生命周期的價值敏感設計，在研發階段分析新技術可能產生的倫理問題，從源頭控制潛在的倫理風險；在設計和制造階段，從道德上權衡新產品被社會接受的成本和收益；在實驗推廣階段，根據社會價值選擇調整新產品，提高新產品與社會價值的兼容性；在部署和應用階段，分析用戶對新產品的認可和接受程度，審視和反思應用過程中引發的倫理風險。應對多應用場景進行倫理規制。人工智能在不同應用場景下的倫理問題和工作重點是不同的，其倫理規制需要單獨研究。自動駕駛、醫療診斷等日常應用需要企業和公眾根據應用場景特點和現實倫理問題進行倫理規制；人工智能技術在軍事對抗中的應用所帶來的倫理風險，需要國際協議加以約束。進行跨領域的倫理調控，人工智能與其他學科交叉應用形成新的領域，如人工智能與神經技術交叉形成類腦器官，需要根據各個交叉領域的特點進行差異化的倫理調控研究。
三是鼓勵企業自主參與治理。
界定企業倫理治理的驅動力主要包括:成為遵守倫理規則的企業，在行業內樹立企業形象；企業的產品不僅要在技術上有競爭力，還要在倫理上得到消費者和業界的信任；在全球範圍內引入負責任的新技術，引領人工智能發展方向。開展企業倫理意識培養，加強企業高管人工智能倫理培訓和學習，提高倫理認知和判斷能力；對於技術R&D人員，倡導他們進行負責任的技術R&D，樹立“誠信、責任”的道德觀念。借鑒微軟等國際人工智能企業設立倫理委員會的經驗，支持企業內部設立倫理委員會，審視人工智能可能帶來的失控、侵權、歧視、責任等風險，為其獨立開展工作提供必要條件。