【編者按】當前，人工智能技術加速向經濟社會各領域滲透，與之相伴的安全風險與倫理挑戰也日益凸顯。2026年國家網絡安全宣傳週期間，光明網聯合科普中國推出AI科技倫理系列科普視頻，引導公眾理性認知技術邏輯，秉持演算法向善理念，共建網絡安全生態。

　　AI在你看不到的地方，給你打分？信用評估、求職篩選、保險定價……這些決定你生活的重要關口，背後往往站著一個演算法。一個數字，可能決定你能不能貸款，能不能拿到一次面試，能不能用更合理的價格買到保險。演算法越來越聰明，被演算法做決定的人越來越多，而“被決定”的那一方，往往連解釋都得不到。好在，規則正在補上這一課。

　　過去，一個決定你人生的評價，你至少還能問一句 “為什麼”。面試官會告訴你哪不足，銀行會説明你的信用為什麼不夠。但現在，越來越多這樣的決定交給了演算法，而演算法常常是一個黑箱。你不知道它看了你哪些數據，不知道它用了什麼規則，不知道那個分數是怎麼一步步算出來的。

　　更隱蔽的問題是，數據本身可能存在偏差。過去的數據記錄中，可能隱藏著一些不易察覺的偏見。如果這些問題在訓練和評估過程中沒有被發現和糾正，AI模型就可能將這些偏差學習下來，並在後續決策中重復出現。

　　結果就是：過去的偏差可能影響未來的判斷，讓一些人面臨不公平的結果，而當這個過程隱藏在演算法背後時，你連申訴，都不知道該從哪説起。

　　這不是誇大其詞。演算法越來越聰明，被演算法做決定的人越來越多，而“被決定”的那一方，往往連解釋都得不到。

　　好在，規則正在補上這一課。

　　《個人信息保護法》第二十四條明確規定：通過自動化決策方式作出對個人權益有重大影響的決定，個人有權要求説明，並有權拒絕僅通過自動化決策的方式作出決定。

　　這句話翻譯過來，就是兩個最基本的權利：第一，你有權知道，演算法憑什麼這麼定；第二，你有權要求，不能只讓機器一錘定音，必要時得有人介入，給你解釋、給你復核的機會。因為演算法的作用是輔助判斷，而不是代替人作出決定。

　　為什麼這一點這麼重要?因為公平的前提是透明。一個影響你權益的決定，如果連理由是什麼、依據在哪都無法解釋，那就很難被監督，也很難糾正。

　　一個系統，如果出了錯卻沒有人能解釋，那它就是失控的。我們要求演算法透明，不是在苛求技術，而是在守住一個底線—— 任何影響你重大權益的決定，都要能説清楚理由，都要有糾錯的餘地。

　　所以，“演算法給你打分，你有權知道為什麼”是寫進法律裏的權利，是每個人都應該知道並敢於主張的權利。

　　下次當你發現自己的生活被一個看不見的數字決定時，可以多留一分清醒：這個分數是怎麼來的？我能不能要求解釋？我有沒有權利要求人工復核？

　　技術越強大，越要把這個道理講清楚。演算法給你打的分，你有權知道分數背後的規則——這是技術時代，每個人都該守住的底線。

　　這不是讓你對抗技術，也不是讓你拒絕演算法。演算法確實能在很多地方做得更快、更公平、更高效。我們要做的，是讓技術往前跑的時候，帶上規則、帶上透明、帶上對人的尊重。

　　出　品

　　科普中國前沿科技科普解讀

　　監　制

　　光明網科普事業部

　　科學性審核

　　段偉文 崔原豪

　　策　劃

　　宋雅娟

　　編　導

　　宋雅娟 王若昕