4月11日,國(guó)家互聯(lián)網(wǎng)信息辦公室就《生成式人工智能服務(wù)管理辦法(征求意見(jiàn)稿)》(簡(jiǎn)稱《征求意見(jiàn)稿》)公開(kāi)征求意見(jiàn),其中提出生成式人工智能產(chǎn)品提供服務(wù)前需申報(bào)安全評(píng)估。
生成式人工智能,是指基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內(nèi)容的技術(shù)?!墩髑笠庖?jiàn)稿》指出,國(guó)家支持人工智能算法、框架等基礎(chǔ)技術(shù)的自主創(chuàng)新、推廣應(yīng)用、國(guó)際合作,鼓勵(lì)優(yōu)先采用安全可信的軟件、工具、計(jì)算和數(shù)據(jù)資源。
《征求意見(jiàn)稿》要求,利用生成式人工智能產(chǎn)品向公眾提供服務(wù)前,應(yīng)當(dāng)按照《具有輿論屬性或社會(huì)動(dòng)員能力的互聯(lián)網(wǎng)信息服務(wù)安全評(píng)估規(guī)定》向國(guó)家網(wǎng)信部門申報(bào)安全評(píng)估,并按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》履行算法備案和變更、注銷備案手續(xù)。
《征求意見(jiàn)稿》強(qiáng)調(diào),提供者在提供服務(wù)過(guò)程中,對(duì)用戶的輸入信息和使用記錄承擔(dān)保護(hù)義務(wù)。不得非法留存能夠推斷出用戶身份的輸入信息,不得根據(jù)用戶輸入信息和使用情況進(jìn)行畫像,不得向他人提供用戶輸入信息。提供者應(yīng)當(dāng)建立用戶投訴接收處理機(jī)制,及時(shí)處置個(gè)人關(guān)于更正、刪除、屏蔽其個(gè)人信息的請(qǐng)求;發(fā)現(xiàn)、知悉生成的文本、圖片、聲音、視頻等侵害他人肖像權(quán)、名譽(yù)權(quán)、個(gè)人隱私、商業(yè)秘密,或者不符合本辦法要求時(shí),應(yīng)當(dāng)采取措施,停止生成,防止危害持續(xù)。
奇安信集團(tuán)安全專家認(rèn)為,《征求意見(jiàn)稿》的發(fā)布,意味著數(shù)據(jù)安全和隱私保護(hù)已經(jīng)成為生成式人工智能發(fā)展的前提和關(guān)鍵。隨著生成式人工智能技術(shù)的日益成熟和普及,企業(yè)應(yīng)該更加重視數(shù)據(jù)安全和隱私保護(hù)問(wèn)題,確保業(yè)務(wù)的安全和可靠性。