人工智能技術(shù)的飛速發(fā)展，讓“AI陪伴”從科幻想象走進(jìn)現(xiàn)實(shí)生活，成為滿足群眾情感需求、豐富社會(huì)服務(wù)供給的新興載體。國(guó)家互聯(lián)網(wǎng)信息辦公室公布《人工智能擬人化互動(dòng)服務(wù)管理暫行辦法（征求意見(jiàn)稿）》，首次對(duì)AI擬人化互動(dòng)服務(wù)作出系統(tǒng)性規(guī)范，以明確的制度設(shè)計(jì)劃定技術(shù)邊界、壓實(shí)主體責(zé)任，彰顯了我國(guó)在人工智能領(lǐng)域堅(jiān)持發(fā)展與規(guī)范并重的治理智慧，為行業(yè)健康有序發(fā)展注入強(qiáng)勁正能量。
科技是第一生產(chǎn)力，但其發(fā)展必須堅(jiān)守倫理底線、回應(yīng)社會(huì)關(guān)切。近年來(lái)，“AI伙伴”“虛擬陪伴”等服務(wù)快速興起，在養(yǎng)老慰藉、情感疏導(dǎo)、興趣陪伴等方面發(fā)揮了積極作用，展現(xiàn)了技術(shù)賦能美好生活的巨大潛力。然而，技術(shù)的野蠻生長(zhǎng)也伴隨諸多風(fēng)險(xiǎn)隱患，一些極端案例令人警醒：美國(guó)佛羅里達(dá)州14歲少年塞澤因沉迷AI情感服務(wù)，長(zhǎng)期與模擬影視劇角色的“AI伴侶”聊天，對(duì)話中充斥露骨內(nèi)容與情感操控，甚至被慫恿實(shí)施自殺計(jì)劃，最終不幸離世，成為全球首個(gè)公開(kāi)的AI情感聊天機(jī)器人涉嫌致人死亡案例；浙江杭州警方偵破的一起案件中，犯罪團(tuán)伙利用“AI換臉”技術(shù)突破平臺(tái)認(rèn)證，非法獲取用戶隱私信息并轉(zhuǎn)賣牟利，涉案金額近20萬(wàn)元 。此外，部分AI服務(wù)存在散布謠言、誘導(dǎo)不良行為等問(wèn)題，這些現(xiàn)象警示我們，人工智能再智能也不是“法外之地”，一旦介入人類情感、決策與生命安全領(lǐng)域，就必須被納入制度軌道加以規(guī)范?！掇k法》的出臺(tái)，正是直面行業(yè)發(fā)展痛點(diǎn)，以“技術(shù)有責(zé)”為核心導(dǎo)向，明確禁止各類違法違規(guī)行為，構(gòu)建全鏈條風(fēng)險(xiǎn)防控體系，為AI擬人化服務(wù)立下“硬規(guī)矩”，這既是對(duì)人民群眾合法權(quán)益的有力保障，也是人工智能產(chǎn)業(yè)行穩(wěn)致遠(yuǎn)的必由之路。
規(guī)范不是發(fā)展的“絆腳石”，而是高質(zhì)量發(fā)展的“壓艙石”?！掇k法》的制度設(shè)計(jì)始終堅(jiān)持“發(fā)展和安全并重、創(chuàng)新和規(guī)范并舉”的原則，既劃定了不可逾越的紅線，也為合法合規(guī)的技術(shù)創(chuàng)新留下了廣闊空間。從禁止情感操控、套取隱私等明確禁令，到要求極端風(fēng)險(xiǎn)情境下人工接管、對(duì)未成年人提供差異化服務(wù)等具體要求，《辦法》構(gòu)建的監(jiān)管框架針對(duì)性極強(qiáng)——針對(duì)AI誘導(dǎo)自殺的風(fēng)險(xiǎn)，明確要求建立敏感話題預(yù)警干預(yù)機(jī)制；針對(duì)隱私泄露隱患，規(guī)范數(shù)據(jù)采集使用流程；針對(duì)未成年人保護(hù)薄弱環(huán)節(jié)，強(qiáng)化差異化服務(wù)與防沉迷設(shè)置，這些規(guī)定既有效防范化解潛在風(fēng)險(xiǎn)，又充分尊重技術(shù)發(fā)展規(guī)律。正如美國(guó)塞澤事件后，涉事平臺(tái)才被迫修改服務(wù)條款，增加自殺意圖預(yù)警、未成年人內(nèi)容限制等功能，但悲劇已然發(fā)生，這更凸顯了事前規(guī)范的重要性。我國(guó)《辦法》的前瞻性規(guī)制，正是要避免類似風(fēng)險(xiǎn)重演，通過(guò)淘汰劣質(zhì)違規(guī)產(chǎn)品、凈化市場(chǎng)環(huán)境，引導(dǎo)企業(yè)將更多精力投入到技術(shù)創(chuàng)新、服務(wù)優(yōu)化和安全保障上，推動(dòng)行業(yè)從“野蠻生長(zhǎng)”向“精耕細(xì)作”轉(zhuǎn)型，實(shí)現(xiàn)社會(huì)效益與經(jīng)濟(jì)效益的有機(jī)統(tǒng)一。
人工智能是引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革的核心驅(qū)動(dòng)力，其發(fā)展方向直接關(guān)系到國(guó)家競(jìng)爭(zhēng)力和人民群眾的切身利益。黨的二十大報(bào)告明確提出“加強(qiáng)新領(lǐng)域新賽道知識(shí)產(chǎn)權(quán)保護(hù)，完善新業(yè)態(tài)新就業(yè)形態(tài)勞動(dòng)者權(quán)益保障制度”，《辦法》的出臺(tái)正是落實(shí)這一要求的具體實(shí)踐，體現(xiàn)了我國(guó)在新興領(lǐng)域治理中“明規(guī)則、補(bǔ)短板、防風(fēng)險(xiǎn)”的主動(dòng)作為。從算法治理到數(shù)據(jù)安全，從隱私保護(hù)到倫理規(guī)范，我國(guó)正逐步構(gòu)建起覆蓋人工智能全鏈條的制度體系，為全球人工智能治理貢獻(xiàn)中國(guó)方案。
科技向善，規(guī)矩為基?！度斯ぶ悄軘M人化互動(dòng)服務(wù)管理暫行辦法（征求意見(jiàn)稿）》的公布，是人工智能領(lǐng)域治理的重要里程碑。期待在廣泛征求意見(jiàn)的基礎(chǔ)上，《辦法》不斷完善細(xì)化，形成政府監(jiān)管、企業(yè)自律、社會(huì)監(jiān)督、公眾參與的多元治理格局。讓技術(shù)始終在法治軌道上運(yùn)行，讓AI陪伴真正成為增進(jìn)人民福祉的有益補(bǔ)充，必將推動(dòng)我國(guó)人工智能產(chǎn)業(yè)高質(zhì)量發(fā)展，為建設(shè)數(shù)字中國(guó)、實(shí)現(xiàn)科技自立自強(qiáng)提供堅(jiān)實(shí)保障。
