首頁 > 滾動 > 正文
2026網安周|明確人機邊界,別做“甩手掌櫃”
2026-09-18 10:33:05來源:光明網編輯:田媛媛

  【編者按】當前,人工智能技術加速向經濟社會各領域滲透,與之相伴的安全風險與倫理挑戰也日益凸顯。2026年國家網絡安全宣傳週期間,光明網聯合科普中國推出AI科技倫理系列科普視頻,引導公眾理性認知技術邏輯,秉持演算法向善理念,共建網絡安全生態。

  AI能幹的事情,正在變得越來越多。撰寫報告、語言翻譯、處理分析數據,甚至寫詩作畫,AI都可以高效完成。隨之而來的現實疑問也擺在所有人面前:到底還有哪些事情,只能由人完成,不能夠全盤託付給AI?

  重復勞作、計算推演、規則清晰明確的任務,適合交給AI處理。這類工作AI處理速度快、準確度高,把這類事務交付機器,是技術帶給人類的解放。

  但有三類核心事項,是絕對不能交出去的,這也是人與機器分工的底線。

  第一是最終判斷。AI能夠梳理信息、分析利弊,給出多種方案建議。但是接不採納方案、最終如何行動,決定權必須掌握在人的手中。AI輸出的只是參考,做出抉擇的人,要為這個選擇承擔全部責任。

  第二是價值選擇。AI可以羅列不同選項,拆解每一種選擇的利弊得失。可什麼樣的目標值得追尋,什麼事情值得去做,屬於價值層面的取捨,演算法無法替人類作答。演算法擅長解決“怎麼把事做好”,但“該不該做、為什麼要做”,只能由人來思考定奪。

  第三是承擔後果,也是最根本的底線。AI不會産生懊悔情緒,給出錯誤建議之後,也不會生出責任感。但人類會。很多事情之所以被我們鄭重對待,正是因為我們清楚,所有後果終究要自己扛下。承擔責任,是人和機器最深刻的分野。

  有一個簡單實用的尺規,可以用來衡量一件事能不能交給AI:倘若AI出錯,誰來為此負責?

  如果AI發生失誤,人類可以兜底、補救並且承擔責任,那麼交由AI輔助處理就無可厚非。可一旦事情出錯,找不到具體的人站出來承擔“這是我的決定,由我負責”,那這件事就不適合交給AI。

  就像醫療診斷,AI可以用來輔助分析病情,但給出診斷結論、對患者生命健康負責的必須是醫生;司法工作中,AI可以整理材料提供參考,但決定他人命運、背負司法責任的,只能是法官。在這類關鍵場景,人類必須始終在場。

  無論技術如何迭代進步,有些核心位置不能拱手讓出。一旦交出的不僅僅是一項工作任務,更是屬於人的判斷力、價值取向與責任意識。

  這並不是人和人工智能相互對立,而是人類為技術劃定合理邊界,也是身處智慧時代,我們需要守住的立身之本。

最新推薦
新聞
文娛
體育
環創
城市