瑞萊智慧RealAI參與人工智能安全國家級平臺任務(wù)
近日,由國家科技部主導(dǎo)的“科技創(chuàng)新2030重大項(xiàng)目—安全大腦國家新一代人工智能開放創(chuàng)新平臺”正式進(jìn)入實(shí)施評審階段,該項(xiàng)目由360牽頭,聯(lián)合清華大學(xué)、瑞萊智慧RealAI、中科院自動化所、中科院信工所共同協(xié)作完成。其中“面向人工智能算法的安全對抗攻防”的課題任務(wù)將由清華大學(xué)與瑞萊智慧RealAI共同承擔(dān)研發(fā)。
人工智能安全是廣泛智能應(yīng)用的基礎(chǔ)。在推動新一輪科技革命的同時(shí),人工智能自身存在的嚴(yán)重安全問題引入了全新的安全威脅,尤其是涉及國防、經(jīng)濟(jì)、民生的人工智能設(shè)施系統(tǒng),一旦遭受攻擊,可能威脅到國防安全、企業(yè)安全、公民財(cái)產(chǎn)和生命安全。
科技創(chuàng)新2030重大項(xiàng)目是體現(xiàn)國家戰(zhàn)略意圖的重大工程,人工智能算法模型安全研究作為提升人工智能自身安全的重要課題參與其中,體現(xiàn)了國家新一代人工智能發(fā)展規(guī)劃對人工智能安全治理的重要布局。
由RealAI負(fù)責(zé)的“面向人工智能算法的安全對抗攻防”課題項(xiàng)目主要針對深度學(xué)習(xí)對抗攻防中存在的問題,深度學(xué)習(xí)的對抗攻擊、魯棒防御和算法庫等方面進(jìn)行研究,為人工智能模型的安全性和可信賴應(yīng)用提供理論基礎(chǔ)和技術(shù)儲備。
本課題的開展將本著開源開放的原則,技術(shù)層面圍繞人工智能算法對抗安全,強(qiáng)調(diào)功能性和安全性的有機(jī)結(jié)合,在基礎(chǔ)理論和基本算法等共性技術(shù)面向新一代人工智能“OpenI”的建設(shè)進(jìn)行開源,服務(wù)國家新一代人工智能開源開放平臺的建設(shè),為我國和全球人工智能行業(yè)發(fā)展保駕護(hù)航,也為人工智能長久穩(wěn)健發(fā)展提供重要積累。
RealAI之所以能參與本次重大項(xiàng)目,與其雄厚的技術(shù)實(shí)力密不可分。作為清華大學(xué)的人工智能研究院的核心孵化企業(yè),RealAI是國內(nèi)率先對深度學(xué)習(xí)的對抗攻擊與防御進(jìn)行深入研究的課題組之一,在人工智能的對抗安全領(lǐng)域具有深厚的積累,在ICML、NIPS、CVPR、AAAI 等頂級會議期刊發(fā)表論文數(shù)十余篇,提出多種代表性的深度學(xué)習(xí)對抗攻防算法,被主流開源軟件收錄為標(biāo)準(zhǔn)方法,榮獲英偉達(dá)先鋒研究獎。在 2017NIPS對抗攻防競賽、2018 DEFCON CAAD CTF對抗攻防賽等多項(xiàng)國際競賽中,RealAI戰(zhàn)勝多支頂尖參賽隊(duì)伍斬獲冠軍,在2019 國際安全極客安全大賽GeekPwn上更是一舉獲得“CAAD CTF圖像對抗樣本挑戰(zhàn)賽”及 “CAAD隱身挑戰(zhàn)賽”兩項(xiàng)冠軍。
對于項(xiàng)目的未來規(guī)劃,RealAI表示將持續(xù)強(qiáng)化對抗攻防關(guān)鍵技術(shù)的研發(fā),同時(shí)構(gòu)建對抗攻防算法系統(tǒng)平臺和對抗安全基準(zhǔn),打造行業(yè)應(yīng)用示范,助力建設(shè)國家級AI安全防護(hù)體系,為科技創(chuàng)新2030的實(shí)現(xiàn)貢獻(xiàn)力量。

發(fā)表評論
請輸入評論內(nèi)容...
請輸入評論/評論長度6~500個(gè)字
最新活動更多
-
7月22-29日立即報(bào)名>> 【線下論壇】第三屆安富利汽車生態(tài)圈峰會
-
7.30-8.1火熱報(bào)名中>> 全數(shù)會2025(第六屆)機(jī)器人及智能工廠展
-
7月31日免費(fèi)預(yù)約>> OFweek 2025具身智能機(jī)器人產(chǎn)業(yè)技術(shù)創(chuàng)新應(yīng)用論壇
-
免費(fèi)參會立即報(bào)名>> 7月30日- 8月1日 2025全數(shù)會工業(yè)芯片與傳感儀表展
-
即日-2025.8.1立即下載>> 《2024智能制造產(chǎn)業(yè)高端化、智能化、綠色化發(fā)展藍(lán)皮書》
-
8月5日立即報(bào)名>> 【在線會議】CAE優(yōu)化設(shè)計(jì):醫(yī)療器械設(shè)計(jì)的應(yīng)用案例與方案解析
推薦專題
- 1 AI產(chǎn)業(yè)的新高度!英偉達(dá)成為全球首家市值破4萬億美元的公司
- 2 一文讀懂:到底什么是 “具身智能” ?
- 3 豆包前負(fù)責(zé)人喬木出軌BP后續(xù):均被辭退
- 4 “支付+”時(shí)代,支付即生態(tài) | 2025中國跨境支付十大趨勢
- 5 中國最具實(shí)力AI公司TOP10
- 6 深圳跑出40億超級隱形冠軍:賣機(jī)器人年入6.1億,港股上市
- 7 特斯拉Robotaxi上路,馬斯克端上畫了十年的餅
- 8 “AI六小虎”到了下一個(gè)賽點(diǎn)
- 9 北京,跑出150億超級獨(dú)角獸:物流機(jī)器人全球第一,揭示3大機(jī)會
- 10 張勇等人退出阿里合伙人