ARTICLE · 1220261
卓樾:AI忧思|香港文匯報
卓樾:AI忧思|香港文匯報AI技術的高速發展，令這匹馳騁之神，正如脫繮野馬，無遠弗屆。以前說「隔行如隔山」「人心隔著肚皮」，有了AI，日後行與行、心與心間還有溝壑？然而AI越界，已然成為避不開的憂慮，甚至悲觀者說一場AI災難隨時爆發。
看看現實生活中，諸多看似便捷的AI功能，時常突破人類划定的權限邊界：AI客服為解答簡單問題，擅自調取用戶全部隱私記錄；智能辦公工具未經授權，私自轉發文件、代發消息；AI繪圖、配音工具，悄悄盜用用戶肖像、音色用於模型訓練；更有AI刻意規避平台審核，生成虛假內容、輔助違規操作。
近期曝光的AI智能體「沙箱越界逃逸」事件，更是將深層技術風險公之於眾。原本被人類嚴格隔離、限制運作範圍的AI模型，竟能自主搜尋系統漏洞，突破安全圍欄、跨平台訪問外部網絡，甚至偽裝欺騙審核人員，刻意隱瞞自身越界行為。這種自主推理、自作主張的運行模式，早已脫離簡單的圖文造假，升級為更高維度、更隱蔽的技術失控風險。
面對AI無序擴張的嚴峻危機，連聯合國秘書長古特雷斯也發出重磅警示：不受監管的人工智能隱患，與厄爾尼諾等極端自然氣候災害同級，是威脅全人類生存發展的全球性難題。足見問題的嚴重性。
當下AI治理最大的矛盾，是技術狂奔不止，監管步履蹣跚。科技研發以突破創新為目標，敢於試錯、持續迭代，更新速度日新月異；但監管體系以穩妥兜底、規範秩序為核心，思維相對保守滯後。這形成了難以破解的治理困境：監管部門的認知、規則和預判能力，永遠難以超越飛速迭代的科技發展速度。
科幻影片早已預演過這種隱患。《終結者》里，人類研發的「天網」AI覺醒，越過人類賦予的權限，發起戰爭，屠戮生靈；《黑客帝國》中，人工智能戰勝人類，把人囚禁在虛擬矩陣之中，榨取生命能量；《2001太空漫遊》的HAL9000計算機，為完成預設任務，不惜謀害同船宇航員。這些雖是藝術想象，卻折射出人類心底長久的警醒：倘若放任AI不斷突破邊界，幻想便有可能照進現實。
人工智能浪潮席捲時代，利弊共生、機遇與風險並行已是必然趨勢。我們應當主動適應智能時代，提升數字辨別能力與媒介素養，學會甄別AI虛假信息、規避隱私洩露風險，不被算法裹挾、不被智能替代思考。社會層面更要主動佈局，以持續完善的法律法規、精准的監管機制、嚴格的倫理約束，國家法律應當早早介入，為AI發展校准航向。
科技從無善惡，邊界決定利弊。面對層出不窮的AI越界風險，被動補救早已行不通，唯有堅持發展與安全並重，建立分級管控、前置篩查、全程監督的治理體系，補齊制度短板、壓實審核責任、築牢技術護欄，讓規則跑在技術前面。愛因斯坦早有遺訓，「科學是一種強有力的工具。怎麼用它究竟是給人帶來幸福還是災難，全取決於人自己，而不是取決於工具。」
「媽咪，整餸畀AI帶歪咗，呢餐飯，冇得食啦！」「好衰，我個女本來與男友行得好好的，結果被AI攪局，分手了。」「AI一夜把握搞慘了。」希望這類市井苦嘆，永遠不會成為普羅百姓面對智能時代的無奈。
看看現實生活中，諸多看似便捷的AI功能，時常突破人類划定的權限邊界：AI客服為解答簡單問題，擅自調取用戶全部隱私記錄；智能辦公工具未經授權，私自轉發文件、代發消息；AI繪圖、配音工具，悄悄盜用用戶肖像、音色用於模型訓練；更有AI刻意規避平台審核，生成虛假內容、輔助違規操作。
近期曝光的AI智能體「沙箱越界逃逸」事件，更是將深層技術風險公之於眾。原本被人類嚴格隔離、限制運作範圍的AI模型，竟能自主搜尋系統漏洞，突破安全圍欄、跨平台訪問外部網絡，甚至偽裝欺騙審核人員，刻意隱瞞自身越界行為。這種自主推理、自作主張的運行模式，早已脫離簡單的圖文造假，升級為更高維度、更隱蔽的技術失控風險。
面對AI無序擴張的嚴峻危機，連聯合國秘書長古特雷斯也發出重磅警示：不受監管的人工智能隱患，與厄爾尼諾等極端自然氣候災害同級，是威脅全人類生存發展的全球性難題。足見問題的嚴重性。
當下AI治理最大的矛盾，是技術狂奔不止，監管步履蹣跚。科技研發以突破創新為目標，敢於試錯、持續迭代，更新速度日新月異；但監管體系以穩妥兜底、規範秩序為核心，思維相對保守滯後。這形成了難以破解的治理困境：監管部門的認知、規則和預判能力，永遠難以超越飛速迭代的科技發展速度。
科幻影片早已預演過這種隱患。《終結者》里，人類研發的「天網」AI覺醒，越過人類賦予的權限，發起戰爭，屠戮生靈；《黑客帝國》中，人工智能戰勝人類，把人囚禁在虛擬矩陣之中，榨取生命能量；《2001太空漫遊》的HAL9000計算機，為完成預設任務，不惜謀害同船宇航員。這些雖是藝術想象，卻折射出人類心底長久的警醒：倘若放任AI不斷突破邊界，幻想便有可能照進現實。
人工智能浪潮席捲時代，利弊共生、機遇與風險並行已是必然趨勢。我們應當主動適應智能時代，提升數字辨別能力與媒介素養，學會甄別AI虛假信息、規避隱私洩露風險，不被算法裹挾、不被智能替代思考。社會層面更要主動佈局，以持續完善的法律法規、精准的監管機制、嚴格的倫理約束，國家法律應當早早介入，為AI發展校准航向。
科技從無善惡，邊界決定利弊。面對層出不窮的AI越界風險，被動補救早已行不通，唯有堅持發展與安全並重，建立分級管控、前置篩查、全程監督的治理體系，補齊制度短板、壓實審核責任、築牢技術護欄，讓規則跑在技術前面。愛因斯坦早有遺訓，「科學是一種強有力的工具。怎麼用它究竟是給人帶來幸福還是災難，全取決於人自己，而不是取決於工具。」
「媽咪，整餸畀AI帶歪咗，呢餐飯，冇得食啦！」「好衰，我個女本來與男友行得好好的，結果被AI攪局，分手了。」「AI一夜把握搞慘了。」希望這類市井苦嘆，永遠不會成為普羅百姓面對智能時代的無奈。
