生成式人工智能作為新一輪的技術(shù)革命成果，在賦能千行百業(yè)，給經(jīng)濟社會發(fā)展帶來新機遇的同時，也產(chǎn)生了個人信息泄露、數(shù)據(jù)安全風險等問題。在此背景下，中國信息通信研究院(簡稱“中國信通院”)聯(lián)合抖音、百度、阿里巴巴、科大訊飛、合合信息等科技企業(yè)，共同參與了《生成式人工智能個人信息保護技術(shù)要求》系列標準(下稱“標準”)的編制。

　　如今，人類社會已經(jīng)深度嵌入到互聯(lián)網(wǎng)中，AI技術(shù)的廣泛應用為公眾提供了更加智能化的服務，但是在提供服務的同時，AI需要收集更多類型的用戶信息作為“養(yǎng)料”，增加了個人信息泄露的風險。如何去評估企業(yè)收集個人信息的目的和頻率、在數(shù)據(jù)訓練和使用過程中避免信息濫用，以及如何更好地保障用戶個人信息權(quán)益，都是亟待回答的問題。

　　經(jīng)過充分的研討，《生成式人工智能個人信息保護技術(shù)要求》系列標準覆蓋了生成式人工智能的設計、訓練與應用三個階段，主要圍繞總則、隱私聲明告知、訓練數(shù)據(jù)構(gòu)建、模型規(guī)制控制、供應鏈保障、二次開發(fā)管理、輸出階段管理、個人權(quán)利響應，共計從八個方面提出個人信息保護指引。

　　近期，社會上出現(xiàn)了不少不法分子利用人工智能從事犯罪活動的案例，嚴重侵害了公民的合法權(quán)益。從用戶角度看，標準的制定有利于保護個人合法權(quán)益;從企業(yè)發(fā)展角度看，標準為企業(yè)研發(fā)生成式人工智能降低了不確定性;從行業(yè)發(fā)展角度看，能為監(jiān)管機構(gòu)指導企業(yè)活動提供參考和依據(jù)，引導生成式AI行業(yè)健康發(fā)展。除此之外，標準也有利于企業(yè)積極承擔個人信息保護義務，為用戶提供更安全、更可靠的信息服務。

　　在數(shù)據(jù)安全和隱私保護方面，合合信息積極響應號召，針對產(chǎn)品設計、運營多個維度建立起了一套標準完善的體系、流程、控制措施和規(guī)范，獲得了多方認可。合合信息曾榮獲上海市網(wǎng)信辦“2023年度網(wǎng)絡數(shù)據(jù)安全風險評估試點工作優(yōu)秀單位”稱號，旗下的掃描全能王、名片全能王、啟信寶等產(chǎn)品在中國網(wǎng)絡安全產(chǎn)業(yè)聯(lián)盟(CCIA)數(shù)據(jù)安全工作委員會個人信息保護影響評估專題工作(簡稱“PIA專題工作”)中榮獲“PIA二星級標識”。

　　此外，合合信息還發(fā)布了AI圖像安全技術(shù)方案，包括AI圖像篡改檢測、生成式圖像鑒別等重點技術(shù)，可用于對抗惡意的圖像篡改、虛假生成圖片和非法個人信息的獲取。

　　科技向善不僅是一項理念，更是一個實踐過程。合合信息將始終堅持擁抱創(chuàng)新，用技術(shù)的力量造福社會群眾，發(fā)現(xiàn)潛在風險，積極尋求行業(yè)共識和解決方案，讓人們在AI發(fā)展的高速列車上享受科技帶來的便利生活。