4月17日消息,第 27 届联合国科技大会(the 27th UN CSTD Annual Meeting)正在瑞士日内瓦召开。大会期间,世界数字技术院(WDTA)发布了两项国际标准:《生成式人工智能应用安全测试标准》、《大语言模型安全测试方法》。
这两项国际标准是由 OpenAI、蚂蚁集团、科大讯飞、谷歌、微软、英伟达、百度、腾讯等数十家单位的多名专家学者共同编制而成。蚂蚁集团牵头编制《大语言模型安全测试方法》,并参与制定了《生成式人工智能应用安全测试标准》。

图源:蚂蚁集团公众号
这次发布的两项标准是大模型及生成式 AI 应用程序方面的安全性测试标准,有助于行业构建安全、可靠的人工智能生态系统。
《生成式人工智能应用安全测试标准》由 WDTA 作为牵头单位,蚂蚁集团等多家单位共同参与。这项标准为测试和验证生成式 AI 应用的安全性提供了一个框架,特别是那些使用大语言模型(LLM)构建的应用程序。它定义了人工智能应用程序架构每一层的测试和验证范围,包括基础模型选择、嵌入和矢量数据库、RAG 或检索增强生成、AI 应用运行时安全等等。
《大语言模型安全测试方法》由蚂蚁集团作为牵头单位。这项标准则为大模型本身的安全性评估提供了一套全面、严谨且实操性强的结构性方案。它提出了大语言模型的安全风险分类、攻击的分类分级方法以及测试方法,并率先给出了四种不同攻击强度的攻击手法分类标准,系统地提供了大语言模型抗攻击测试的评估指标、能力分级、测试数据集构建要求和测试流程等。

WDTA 官网发布《大语言模型安全测试方法》标准 图源:蚂蚁集团公众号
蚂蚁集团机器智能部总经理、蚂蚁安全实验室首席科学家王维强表示,生成式 AI 将释放巨大的生产力,但也要对它带来的新风险高度警惕。大型科技公司应在促进生成式 AI 安全和负责任的发展中有所担当,利用其资源、专业知识和影响力推动最佳实践,构建一个优先考虑安全、隐私、可靠和伦理优先的生态系统。
新快报讯 据中山纪检监察3月1日披露,中山翠亨新区党工委委员,南朗街道党工委副书记、办事处主任许行涉嫌严重违纪违法,目前正接受中山市纪委监委纪律审查和监察调查。 采写:新快报记者 李红云 受国务院委托,国家发展和改革委员会3月5日提请十四届全国人大二次会议审查《关于2023年国民经济和社会发展计划执行情况与2024年国民经济和社会发展计划草案的报告》。摘要如下:一、20 近日,贾跃亭炮轰丁磊和高合汽车,指责其盗窃知识产权,给FF带来巨额经济损失,严重破坏了行业的创新源动力,扭曲了行业的价值观。贾跃亭表示,这种行为是行业的耻辱,呼吁法院判令丁磊和高合汽车赔偿巨额商业损失,并停止侵权行为。 近年来,随着我国养宠人群数量不断增加,宠物经济因此呈现迅猛的增长态势,萌宠赛道上的品牌竞争也日益白热化。天元宠物身处这一快速发展的行业,凭借自身在产品开发和供应链管理体系方面的强大积累,以及公司 21世纪经济报道记者周慧 北京报道农村居民如何更好的就业和增收?全国人大代表、辽宁省沈阳市辽中区潘家堡镇于家台村党总支书记佟亮,提出了《关于发挥好直播带货的作用 促进农民就业 21世纪经济报道记者 易佳颖 实习生林昱彤 上海报道全国两会期间,全国政协委员、联泰集团副主席及首席执行官陈亨利在接受21世纪经济报道记者采访时表示,建议让香港发挥“超级联系人” 。本文链接:蚂蚁集团、腾讯、百度等联合编制大模型安全国际标准正式发布http://www.sushuapos.com/show-1-10922-0.html
声明:本网站为非营利性网站,本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。
上一篇: 抖音本地生活大赚超1000亿
下一篇: 美团重拳整治,这类商家要凉了