加入收藏

蚂蚁集团发布AI安全检测平台“蚁鉴2.0”,可一键识别生成式AI模型安全漏洞

2023-07-07 22:30:50 来源:新浪财经


(资料图)

新浪科技讯 7月7日下午消息,2023世界人工智能大会期间,在“聚焦·大模型时代AIGC新浪潮—可信AI”论坛上,蚂蚁集团联合清华大学发布AI安全检测平台“蚁鉴2.0”。蚁鉴2.0可实现用生成式AI能力检测生成式AI模型,可识别数据安全、内容安全、科技伦理三大类的数百种风险,覆盖表格、文本、图像等多种数据和任务类型,是业内首个实现产业级应用的全数据类型AI安全检测平台。

在该论坛上,蚂蚁集团同时宣布,“蚁鉴2.0”全面开放,面向全球开发者免费提供AIGC安全性、AI可解释性、AI鲁棒性三项检测工具,可服务于数字金融、教育、文化、医疗、电商等领域的大规模复杂业务场景。

蚂蚁集团大安全事业群技术部总裁李俊奎表示,“生成式大模型是一种‘深黑盒’技术,‘蚁鉴2.0’通过智能博弈对抗技术,模拟黑产以及自动化生成海量测试集,可实现‘生成式机器人’对‘AIGC生成式模型’的诱导式检测计算,很像一个24小时不眠不休的‘安全黑客’在找茬大模型,从而找到大模型存在的弱点和安全问题所在。”

据了解,“蚁鉴2.0”集成了蚂蚁近10年可信AI实践、1000余项可信AI专利,支持零编码测评。开发者通过API接口,将AI模型接入蚁鉴,就可以一键识别和挖掘模型漏洞。

此次论坛上,中国信通院、上海人工智能实验室、武汉大学、蚂蚁集团等多家单位共同发起《AIGC可信倡议》,围绕人工智能可能引发的经济、安全、隐私和数据治理等问题,提出构建AIGC可信发展的全球治理合作框架,采用安全可信的数据资源、技术框架、计算方法和软件平台等全面提升AIGC可信工程化能力,最大限度确保生成式AI安全、透明、可释。

关键词:

相关新闻

资讯

广和通(300638.SZ):拟推210万股限制性股票激励计划
广和通(300638.SZ):拟推210万股限制性股票激励计划

格隆汇7月7日丨广和通(300638)(300638 SZ)公布2023年......更多>

如何解决荣耀笔记本蓝屏
如何解决荣耀笔记本蓝屏

荣耀笔记本蓝屏怎么解决是很多用户都会遇到的问题,虽......更多>

免疫学基础与病原生物学教案_基础生物学和普通生物学的区别
免疫学基础与病原生物学教案_基础生物学和普通生物学的区别

1、工程生物学叫基础生物学,其实和普通生物学在内容......更多>

深圳机场:今年已恢复7条洲际直飞客运航线
深圳机场:今年已恢复7条洲际直飞客运航线

据深圳机场发布,“深圳=布鲁塞尔”“深圳=莫斯科”两......更多>

国家能源局科技司组织召开新型储能工作(东北、西北区域)座谈会
国家能源局科技司组织召开新型储能工作(东北、西北区域)座谈会

参会人员还调研了国家光伏、储能实证实验平台(大庆基......更多>

四川省教育厅副厅长石静一行莅临乐山师范学院调研指导工作
四川省教育厅副厅长石静一行莅临乐山师范学院调研指导工作

(文 杨小丽图 孟繁森)7月5日,四川省委教育工委委......更多>

珍爱生命 远离毒品 “红领巾”争当禁毒小卫士
珍爱生命 远离毒品 “红领巾”争当禁毒小卫士

为提升青少年识毒、防毒、拒毒意识,营造全民禁毒的良......更多>

优雅与时尚并存!全新奔驰E级标轴版曝光 重拾“花生大灯” 外观酷似S级
优雅与时尚并存!全新奔驰E级标轴版曝光 重拾“花生大灯” 外观酷似S级

优雅与时尚并存!全新奔驰E级标轴版曝光重拾“花生大......更多>

全地形百公里“骑”迹,新日再刷双芯双动力性能上限
全地形百公里“骑”迹,新日再刷双芯双动力性能上限

踏黄沙戈壁,穿茫茫大漠,饮映月湖水,享古色古香,继......更多>

清华大学教授周伯文:AGI是人工智能的高级形态,现在还没有到来
清华大学教授周伯文:AGI是人工智能的高级形态,现在还没有到来

腾讯科技讯7月7日,世界人工智能大会人工智能治理创新......更多>

关注

基金研究周报
基金研究周报
基金研究周报 更多>
基金研究周报
基金研究周报 更多>
花65万找关系想把丈夫放出来 一群人“帮忙”获刑!
何忠民律师北京市盈科律师事务所案情2020年6月13日,... 更多>
闽南理工学院艺术类专业有哪些?
闽南理工学院艺术类专业有视觉传达设计、环境设计、产... 更多>
要市容也要繁荣 菏泽城管设置24处瓜果临时销售点
中国山东网-感知山东7月6日讯(记者吴鲁刚)一座“高颜... 更多>
读书、非遗、戏剧等题材丰富,在播文化综艺吸睛
记者 师文静近日,《我在岛屿读书2》《登场了!北京... 更多>
韩政府发布日本核污染水研究报告,声称日方若按规定排放将符合国际标准
【环球网报道】据韩联社7日报道,韩国政府当天发布有... 更多>
玻尿酸防晒衣,冰皮防晒衣……五花八门的防晒衣可能并不防晒?
原标题:玻尿酸防晒衣,冰皮防晒衣……五花八门的防晒... 更多>
快乐8第2023178期麒麟八侠预测:1路码详情
唯彩看球分享快乐8第2023178期麒麟八侠预测,查看专家... 更多>
官宣!2交易3签约,勇士双喜临门,快船好消息,湖人马刺捡漏成功
勇士队官方宣布多个好消息,第一,球队正式与灰熊奇才... 更多>
安邦护卫成功过会!又一家浙江省属企业即将上市
潮新闻客户端记者方臻子记者从安邦护卫集团股份有限公... 更多>
上半年仅两个“卖地大户”城市卖地收入超千亿,更多城市不足百亿
冷热不均的半年度土拍市场,哪些城市是卖地大户?哪些... 更多>
后浪豆瓣开分3.9 这部电视剧你看过吗?
该剧讲述了中医药大学教授任新正致力于广传中医,辞职... 更多>