首頁 > 滾動 > 正文
監管提速 為突進的生成式人工智能套上“韁繩”
2023-04-13 10:44:07來源:中央廣電總臺國際在線編輯:位樹理

  國際在線報道(記者 呂倩媛):為促進生成式人工智能技術健康發展和規範應用,國家互聯網信息辦公室起草了《生成式人工智能服務管理辦法(徵求意見稿)》(以下簡稱“徵求意見稿”),于4月11日向社會公開徵求意見。

  生成式人工智能,是指基於演算法、模型、規則生成文本、圖片、聲音、視頻、代碼等內容的技術。國際信息技術研究機構Gartner預測,到2025年,生成式人工智能産生的數據將佔所有生成數據的10%。近來廣受熱議的ChatGPT就屬於這類技術。

  2022年11月30日問世的ChatGPT短短數月之內就在全球範圍內掀起熱潮。爆火的ChatGPT大幅拉高了人們對人工智能能力上限的認知,也讓生成式人工智能成為科技領域的一大風口。國內多家科技企業紛紛加緊佈局,高速跟進生成式人工智能研發。就在4月11日,阿裡巴巴集團董事會主席兼CEO、阿裏雲智慧集團CEO張勇在2023阿裏雲峰會上表示,阿裡巴巴所有産品未來將接入阿裏版GPT“通義千問”大模型,進行全面改造。

  張勇認為,人工智能大模型的出現是一個劃時代的里程碑,人類將進入到一個全新的智慧化時代,就像工業革命一樣,大模型將會帶來生産力的巨大提升,並深刻改變人們的生活方式。

  生成式人工智能在使用中的表現確實驚艷了大眾,然而囿于大規模語言模型的局限性等原因,仍存在演算法偏見、信息洩露、內容造假等安全隱患。

  具體而言,借助生成式人工智能技術可以實現換臉換聲干預現實世界、實現無代碼編程降低駭客門檻......諸如此類亂象,都需要監管的與時俱進。

  對此,徵求意見稿提出一系列相應要求:內容應當真實準確,採取措施防止生成虛假信息;向公眾提供服務前,應當申報安全評估;應當對生成的圖片、視頻等內容進行標識;不利用生成內容損害他人形象、名譽以及其他合法權益等。

  監管不是給這一新技術“踩剎車”,而是為了其更好地發展。徵求意見稿中明確指出,“國家支持人工智能演算法、框架等基礎技術的自主創新、推廣應用、國際合作”,制定本辦法的目的是“為促進生成式人工智能健康發展和規範應用”。

  防止生成式人工智能濫用,在充分發揮政府監管職能的同時,也需科技企業發揮技術能力,使人工智能的行為以保障人類安全為底線。張勇在11日的演講中也多次強調新技術研發的“安全底線”。技術研發的核心是人。奇安信集團董事長齊向東日前在接受國際在線記者採訪時就表示,再先進的科技,都需要人來使用、人來控制、人來確保安全。

標簽:
最新推薦
新聞
文娛
體育
環創
城市