新規(guī)出臺(tái)在即，AIGC風(fēng)控如何跑贏風(fēng)險(xiǎn)？

2023年4月11日，國(guó)家互聯(lián)網(wǎng)信息辦公室發(fā)布了《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》（以下簡(jiǎn)稱《辦法》），生成式人工智能服務(wù)在我國(guó)的規(guī)范化發(fā)展從此將有章可循、有據(jù)可依。這一文件的出臺(tái)，為開(kāi)普云的內(nèi)容安全產(chǎn)品提供了更大的用武之地。

《辦法》明確提出“提供生成式人工智能產(chǎn)品或服務(wù)應(yīng)當(dāng)遵守法律法規(guī)的要求，尊重社會(huì)公德、公序良俗”，并列舉了5項(xiàng)要求，包括內(nèi)容應(yīng)該遵守社會(huì)主義核心價(jià)值觀、不得涉及歧視性內(nèi)容、尊重知識(shí)產(chǎn)權(quán)和公平公正、不得生成虛假信息、保守隱私秘密等。這些要求與UGC時(shí)代一脈相承，貫穿始終。開(kāi)普云始終恪守人類道德準(zhǔn)則和社會(huì)主義核心價(jià)值觀，緊密圍繞針對(duì)互聯(lián)網(wǎng)中涉政涉敏、危害黨和政府形象、人民群眾合法權(quán)益、以及不符合構(gòu)建和諧社會(huì)和清朗網(wǎng)絡(luò)空間要求的有害內(nèi)容管控場(chǎng)景，持續(xù)打造提升針對(duì)AIGC的內(nèi)容安全核心技術(shù)和全系產(chǎn)品。

?

《辦法》要求AIGC的生產(chǎn)者要對(duì)其產(chǎn)生的任何結(jié)果負(fù)責(zé)，從事AIGC相關(guān)活動(dòng)前必須向有關(guān)部門申請(qǐng)備案，用于訓(xùn)練的數(shù)據(jù)模型和生產(chǎn)的成果，都必須有合法的來(lái)源，不得侵害各類實(shí)體的合法權(quán)益，并接受全社會(huì)的監(jiān)督。開(kāi)普云為全國(guó)各級(jí)網(wǎng)信監(jiān)管部門打造屬地網(wǎng)監(jiān)平臺(tái)，集信源報(bào)送、常態(tài)化監(jiān)測(cè)、專項(xiàng)任務(wù)調(diào)度、安全態(tài)勢(shì)感知、糾錯(cuò)舉報(bào)與大數(shù)據(jù)可視化展示于一體，真正實(shí)現(xiàn)了從數(shù)據(jù)采集、治理、問(wèn)題識(shí)別、預(yù)警，到處置結(jié)果反饋的全生命周期閉環(huán)管理。

AIGC異軍突起的背后，是生成算法、預(yù)訓(xùn)練模式、多模態(tài)等AI技術(shù)的累積與融合。開(kāi)普云未來(lái)科技研究院于2022年提前布局，構(gòu)建完成了大數(shù)據(jù)全生命周期能力和人工智能平臺(tái)能力的兩大底座，基于開(kāi)源大模型和領(lǐng)域數(shù)據(jù)集，自主研發(fā)出了AIGC內(nèi)容安全審核能力，可針對(duì)AIGC內(nèi)容多模態(tài)、海量化、碎片型、變異快、反檢測(cè)等特征，進(jìn)行快速識(shí)別。在政務(wù)領(lǐng)域AI作品鑒偽、偽造政治人物識(shí)別、謠言甄別、網(wǎng)絡(luò)水軍鑒別等方面已取得了不俗的實(shí)驗(yàn)室成果，即將賦能產(chǎn)品投入市場(chǎng)，用更優(yōu)質(zhì)的產(chǎn)品和服務(wù)，助力實(shí)現(xiàn)各級(jí)各類監(jiān)管部門對(duì)互聯(lián)網(wǎng)AI生成式內(nèi)容的識(shí)別和監(jiān)管需求。

?

????作為一家以數(shù)據(jù)智能化為核心技術(shù)賦能行業(yè)數(shù)字化轉(zhuǎn)型的公司，開(kāi)普云自成立以來(lái)，累計(jì)服務(wù)了包括中辦、國(guó)辦、中紀(jì)委、國(guó)家發(fā)改委、新華社、中投、中石油、國(guó)家電網(wǎng)在內(nèi)的2000多家黨政、媒體和企事業(yè)客戶。公司不斷加大投入內(nèi)容安全業(yè)務(wù)，部署千余臺(tái)服務(wù)器用于服務(wù)全國(guó)80%以上的省級(jí)政府、60%以上的中直機(jī)關(guān)和國(guó)務(wù)院組成部門、60%以上的市級(jí)政府客戶，積累了PB級(jí)數(shù)據(jù)資產(chǎn)，處于行業(yè)領(lǐng)先地位。隨著AIGC的爆火出圈，軟件服務(wù)行業(yè)即將邁入MaaS（模型即服務(wù)）新階段。開(kāi)普云將緊跟步伐，順勢(shì)而為，堅(jiān)持以科技力量堅(jiān)定守護(hù)網(wǎng)絡(luò)意識(shí)形態(tài)安全，使防范先于監(jiān)管，讓風(fēng)控跑贏風(fēng)險(xiǎn)。