人工智能技術(shù)加速迭代、爆發(fā)式發(fā)展的同時(shí)，也提出了新的問題：人工智能究竟能否造福人類？近期，有關(guān)“人工智能是否安全”的討論熱度越來越高，映射著整個(gè)社會(huì)對(duì)這一技術(shù)發(fā)展的隱隱不安。消費(fèi)者常常被平臺(tái)算法“設(shè)計(jì)”“套路”，外賣騎手一度被算法困在“數(shù)字泰勒制”配送系統(tǒng)中，這樣的問題如何破解？世界經(jīng)濟(jì)論壇一項(xiàng)調(diào)查顯示，人工智能替代的就業(yè)將遠(yuǎn)超其創(chuàng)造的就業(yè)，“機(jī)器換人”會(huì)不會(huì)帶來大規(guī)模結(jié)構(gòu)性失業(yè)？隨著人機(jī)之間界限逐漸模糊，人與人衍生出全新的權(quán)利義務(wù)關(guān)系，無人駕駛、醫(yī)療機(jī)器人等是不是面臨更深刻的“電車難題”？作為復(fù)雜系統(tǒng)，人工智能每一項(xiàng)“顛覆性創(chuàng)新”技術(shù)，每一次與量子技術(shù)、物聯(lián)網(wǎng)等耦合形成“風(fēng)險(xiǎn)共振”，有沒有伴隨不可預(yù)料的漏洞和盲點(diǎn)？2025年，人工智能應(yīng)用大規(guī)模落地的元年，OpenAI首次違抗人類關(guān)機(jī)指令，引發(fā)對(duì)“AI覺醒”“AI對(duì)齊”以及“超級(jí)人工智能將毀滅人類”的強(qiáng)烈關(guān)注。美國(guó)蘭德智庫(kù)發(fā)表《論人工智能導(dǎo)致的生存危機(jī)》，全面審視人工智能在核武器使用、生物病原體釋放以及惡意地球工程導(dǎo)致氣候變暖三種情境下的根本性威脅。總體來看，人工智能技術(shù)的發(fā)展和應(yīng)用在經(jīng)濟(jì)、社會(huì)、技術(shù)、倫理、安全層面給人類社會(huì)帶來了全新的問題和風(fēng)險(xiǎn)，如何有效防范化解這些問題和風(fēng)險(xiǎn)，是人類社會(huì)面臨的新挑戰(zhàn)。

公眾、學(xué)者、科學(xué)家、企業(yè)家、政府官員，圍繞人工智能究竟“是福還是禍”，基于不同的元理論假設(shè)、不同的證據(jù)選取、不同的利益立場(chǎng)進(jìn)行著激烈辯論。有人強(qiáng)調(diào)“智能爆炸”的潛在威脅，人類終將淪為附屬品，必須鎖死AI發(fā)展；有人提出“阻礙AI進(jìn)步才是最大風(fēng)險(xiǎn)”，解決醫(yī)療、氣候等問題正需要AI出手。開源社區(qū)要求公開代碼讓全民監(jiān)督安全漏洞；人工智能企業(yè)則反問：“如果恐怖分子得到代碼，還安全嗎？”。有的國(guó)家明確監(jiān)管先行，引入預(yù)防性原則，人臉識(shí)別都要寫保證書；有的國(guó)家以維護(hù)技術(shù)霸權(quán)為前提，監(jiān)管上沒有國(guó)家級(jí)法律而主要靠行業(yè)自律。各種針鋒相對(duì)的立場(chǎng)、觀點(diǎn)、假說充斥輿論場(chǎng)：在人工智能眼中，“人類是螻蟻”還是“人類是‘新神’”？在人類眼中，“AI的盡頭仍然是工具”還是“人間只是AI的訓(xùn)練場(chǎng)”？在“上帝”眼中，“人類只是過渡階段”還是“我們才是宇宙的意義”？

如何有效解決人工智能帶來的一系列新問題，人類仍在努力探索，目前還沒有確定的答案。但可以確定的是，技術(shù)的列車一旦啟動(dòng)，便駛上了不可逆的單行道，在“棘輪效應(yīng)”驅(qū)使下，只會(huì)越開越快、越開越遠(yuǎn)。天真的樂觀或者消極的抵抗，從來不是最佳選項(xiàng)，將方向盤牢牢掌握在自己手中，才能回答好智能時(shí)代“人類文明向何處去”的終極命題。面對(duì)人工智能全球性風(fēng)險(xiǎn)與潛在系統(tǒng)性危機(jī)，中國(guó)提出《全球人工智能治理倡議》，發(fā)布《人工智能全球治理上海宣言》，習(xí)近平總書記明確要求，確保人工智能安全、可靠、可控。我們動(dòng)態(tài)跟蹤人工智能技術(shù)發(fā)展前沿，將監(jiān)管同步植入產(chǎn)業(yè)運(yùn)行的底層邏輯，摸索出一條“邊發(fā)展、邊治理”的路徑。比如，在平臺(tái)經(jīng)濟(jì)監(jiān)管中，創(chuàng)新性地建立“算法勞動(dòng)權(quán)益保障體系”，出臺(tái)算法推薦管理規(guī)定，要求外賣配送系統(tǒng)必須設(shè)置連續(xù)工作強(qiáng)制下線機(jī)制，配送路線規(guī)劃必須保留10%的彈性時(shí)間。比如，在自動(dòng)駕駛領(lǐng)域，強(qiáng)制推行預(yù)碰撞決策模型，通過行人識(shí)別精度的特殊加權(quán)、弱勢(shì)道路使用者保護(hù)參數(shù)的強(qiáng)制設(shè)置、決策末端人工確認(rèn)節(jié)點(diǎn)的保留等方式，將“生命權(quán)優(yōu)先”倫理準(zhǔn)則轉(zhuǎn)化為算法架構(gòu)的核心約束。人工智能正朝著技術(shù)應(yīng)用與民生需求精準(zhǔn)對(duì)接的方向蓬勃發(fā)展，為全球人工智能發(fā)展治理提供了藍(lán)本、積累了經(jīng)驗(yàn)。

如果人類無力拒絕一個(gè)人工智能參與塑造的未來，我們需要關(guān)心的問題是：未來世界如何才能成為一個(gè)安全、公平、更有意義的世界？人工智能的困境，與其說是代碼自主衍生的災(zāi)難，不如說是人類文明痼疾在數(shù)字時(shí)代的自我投射。只有從維護(hù)全人類共同利益和共同安全的立場(chǎng)出發(fā)，跳出國(guó)與國(guó)在“技術(shù)主導(dǎo)權(quán)”與“規(guī)則制定權(quán)”上的博弈，旗幟鮮明反對(duì)科技創(chuàng)新成為富國(guó)和富人的游戲，推動(dòng)各方形成發(fā)展戰(zhàn)略、治理規(guī)則、技術(shù)標(biāo)準(zhǔn)對(duì)接的協(xié)同，才能“讓人工智能真正成為造福人類的國(guó)際公共產(chǎn)品”。

科技向善，以人為本。人工智能是人創(chuàng)造的，能否造福于人，終究要取決于人類自身。我們相信，只要本著對(duì)人類社會(huì)高度負(fù)責(zé)的態(tài)度，集結(jié)科學(xué)家的預(yù)見、工程師的代碼、哲學(xué)家的思辨以及每個(gè)普通人的警惕，在給人工智能啟智升級(jí)的同時(shí)套上安全“韁繩”，就一定能造福人類。

責(zé)任編輯：朱豫 湯寶蘭