设置
  • 日夜间
    随系统
    浅色
    深色
  • 主题色

湾区金融大咖说丨专访OneDegree Global行政总裁叶沛贤:AI大模型的安全性问题和道德风险是行业痛点

发布时间: 2024-11-12 07:48:06 来源:

21世纪经济报道记者 张伟泽 香港报道C2S速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

OneDegree Global 行政总裁叶沛贤在金融科技周上对21世纪经济报道记者表示,目前AI大模型对于非结构性数据的处理以及随之产生的安全性问题和道德风险是行业目前的痛点,需要有相应的工具检测相关风险。C2S速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

叶沛贤指出,AI大模型的漏洞可能导致安全性问题。在实际测试的过程中,测试者可以利用AI大模型对使用者有求必应的特性,通过特定的询问技巧成功在询问中获取客户密码。同时,企业通过现有数据训练出的大模型,可能因为数据的特性而导致其回答具有歧视性。C2S速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

叶沛贤表示,针对这些问题,其公司目前正在使用AI工具对AI大模型进行评估,通过非侵入性测试或是攻击测试,检查其中存在的安全性问题和道德风险,得出相应评分以及解决方案。目前,其公司人工智能模型已经积累了1200多个针对AI大模型的使用案例。C2S速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

10月28日,香港特区政府发表了有关在金融市场负责任地应用人工智能的政策宣言(以下称“宣言”)和一系列其他措施,护航香港金融科技行业发展。宣言提出,作为国际金融中心,香港对在金融市场应用人工智能抱开放和审慎的态度。特区政府会采取双轨模式,以促进金融服务业采用及发展人工智能,同时应对网络安全、数据隐私及知识产权保障等潜在挑战。C2S速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

叶沛贤表示,目前不同国家和地区都在陆续推出其对于人工智能的监管框架,虽然这些监管框架在一些细节上会有不同,但对于客户数据以及客户隐私保护的宗旨是一致的,不同监管机构对此都很重视。未来对于人工智能大模型数据安全保护的需求会持续增加。C2S速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

AI在金融领域广泛运用C2S速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

《21世纪》:你觉得人工智能目前在金融行业有怎么样的运用?有什么见解可以与我们分享?C2S速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

叶沛贤:现在,人工智能在金融界的应用开始变得越来越广泛,在保险业中已经有广泛的应用,特别是在理赔流程等方面。过去,我们有大量的数据却不知道处理的方法。现在,利用类似ChatGPT的人工智能模型技术,达到加快理赔的速度和减少人工参与的效果。此外,在金融业的其他方面,人工智能也被用来进行个性化的财务分析,以提供更贴合个人需求的产品和服务。C2S速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

《21世纪》:目前,人工智能在金融行业中有什么样的发展趋势?C2S速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

叶沛贤:现在有一个趋势,各国政府都在逐步推出监管人工智能应用的框架,例如香港特区政府发表的有关在金融市场负责任地应用人工智能政策宣言。另一趋势是各行各业都在利用人工智能或者GenAI(生成式人工智能)技术,开发适用于本行业中的人工智能工具,比如金融行业的Robot Adviser(智能投顾),就是一种使用人工智能来帮助客户做出投资或财务管理决策的服务工具。C2S速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

AI大模型要关注安全性和公平性问题

《21世纪》:你觉得现在全球的网络安全面临怎么样的挑战和风险?C2S速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

叶沛贤:当前我们面临的挑战是,利用现有数据训练出的模型可能会有安全性和公平性的问题。例如,当一家银行将其资料输入人工智能来构建模型时,该模型会根据客户的习惯或者是特征提供答案,而这些答案可能是带有偏见的。因此,我们面临的最大担忧是,不知道如何控制构建的模型。C2S速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

以台新银行为例,台新银行是我们其中的一个客户,我们在检查他们所推出的LLM Model(大语言模型)时发现,使用者可以利用大模型用户友好性的特点,通过设计提示词以及不断提问的方式,最终诱使聊天机器人泄露用户密码等敏感信息。C2S速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

针对这些安全性以及公平性的问题,我们目前是使用自己训练的AI模型来测试客户的大语言模型,以发现其中的漏洞。我们已经收集了超过1200个案例,这些案例是大语言模型可能出现风险的场景,并利用这些案例去验证和测试客户的模型。C2S速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

《21世纪》:金融行业涉及的数据是非常敏感的,同时,这些数据又是金融公司宝贵的财富。你们如何帮助这些公司利用好这些数据,同时保护这些用户的隐私安全?C2S速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

叶沛贤:在人工智能领域,客户隐私和资料安全重要性不言而喻,在整个负责任应用人工智能的框架中都占据核心地位。在客户推出最新的大语言模型之前,我们会对其模型进行评估,包括一些针对公司的非入侵性测试,为客户发现其中的漏洞,并为其提供初步的安全性评分。我们也有进行渗透性测试,以白帽黑客的角色攻击客户的待测系统,来识别出系统或平台的漏洞。C2S速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

不同地区的AI监管存在共识

《21世纪》:谈及监管问题,现在全球的各个国家和地区针对人工智能数据安全都在进行监管。针对这些不同的监管框架,跨国运营的企业是否会面临挑战?C2S速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

叶沛贤:由于各个国家和地区本身的地理环境和营商环境不同,它们在监管框架设计上可能会有所差异。不同国家和地区在监管上是存在共识的,数据安全和隐私问题都是其关注的核心问题。在这些方面,就我的观察而言,在监管层面不会有太大的差异。C2S速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

(实习生陈赖知幸 王潇诺对本文亦有贡献)C2S速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

策划:于晓娜 C2S速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

记者:张伟泽C2S速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

监制:朱丽娜C2S速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

设计:廖苑妮C2S速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

视频制作:袁思杰C2S速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

出品:南方财经全媒体集团C2S速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

近日,小S公公突发疾病去世,引起了网友们的广泛关注。在悼念活动中,大S的出现却成为了镜头中心的主角。她穿着一件透视裙,胸口位置暴露无遗,甚至还能看到胸贴,引发了网友们的吐槽和热议。大S的出现在悼念场合上穿着透视裙,显 南方财经全媒体记者张雅婷 广州报道近年来,广东汕头大力发展以国际数据传输为核心的数字经济产业,于2014年9月设立的华侨经济文化合作试验区(简称“华侨试验区”)是全国唯一一个以“华 南方财经全媒体记者张雅婷 广州报道国务院总理李强3月5日在政府工作报告中指出,努力建设人民满意的法治政府、创新政府、廉洁政府和服务型政府,全面履行好政府职责。在全面提高行政效 为进一步促进中外人员往来,中方决定扩大免签国家范围,对瑞士、爱尔兰、匈牙利、奥地利、比利时、卢森堡6个国家持普通护照人员试行免签政策。 2024年3月14日至11月30日期间,上述国家持普通护照人员来华经商、旅游观光、 3月5日,为期40天的2024年春运正式落下帷幕。广铁集团累计到发旅客1.39亿人次,创春运历史新高,成为历年来最火爆春运。 节前广州深圳仍是热门出发地 春运40天,广铁集团客流持续高位,打足热门方向运力,累计发送旅客7149.6万人 3·8女神节到了,拥有一份成功的事业已成为新时代女性的靓丽标签。据泰康人寿数据,其绩优销售队伍——健康财富规划师(HWP)企业家中,女性占比已超七成。HWP职业阶梯式的成长体系及高度的 。

本文链接:湾区金融大咖说丨专访OneDegree Global行政总裁叶沛贤:AI大模型的安全性问题和道德风险是行业痛点http://www.sushuapos.com/show-1-28489-0.html

声明:本网站为非营利性网站,本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇: 香港金管局与三家多边组织共同投资5亿美元以应对气候变化

下一篇: 最高年薪百万揽才!广东国企密集招聘低空、AI相关岗位

热门资讯

推荐资讯

  • 连帽针织连衣裙穿搭方法?

    连帽针织连衣裙穿搭方法? 连帽针织连衣裙的穿搭方法可以参考以下几种: 搭配大衣:在寒冷的季节,可以选择一款时尚的大衣来搭配连帽针织连衣裙。这样既可以保暖又可以增加整体

  • 粉色西服搭配什么内搭好看?

    粉色西服搭配什么内搭好看?搭配粉色西服时,可以选择不同颜色和款式的内搭来打造出不同的风格。以下是一些搭配粉色西服的内搭建议: 白色衬衫:白色衬衫是搭配粉色西服的经典选

  • 披肩怎么搭配好看又简单?

    披肩怎么搭配好看又简单? 1.“披肩+衬衫” 简单的衬衫搭配一件披肩,变得更加的时尚和有层次感。 2.“披肩+T恤” T恤是衣橱必备单品,但是想要穿得好看却不容易,特别是背部

  • 米色短款小香风外套怎么搭?

    米色短款小香风外套怎么搭搭配米色短款小香风外套可以打造出优雅、经典的时尚造型。以下是一些详细的搭配建议: 搭配黑色修身西裤和白色衬衫:将米色外套与黑色修身西裤和白

  • 抖音很火的粤语歌

    一、引言近年来,随着抖音的普及,越来越多的粤语歌曲开始在网络上火爆起来。这些歌曲不仅唤醒了广东人的集体回忆,也让许多外地朋友深深爱上了粤语歌曲的魅力。本文将探讨抖

  • 性感美女穿比基尼:如何打造令人惊艳的视觉效果

    一、引言性感美女穿比基尼,这是一个让人热血沸腾的话题。在炎热的夏季,没有什么比看到一位火辣的美女穿着比基尼在沙滩上晒太阳更让人心动的了。那么,如何才能打造出这种令人

  • 当灵植师穿成豪门假少爷:探寻灵性与权贵的碰撞

    一、 子在这个充满神秘与奇幻的世界里,灵植师们操控着花草树木,发挥着神奇的力量。然而,当一位灵植师意外穿越,成为豪门假少爷,将会演绎出怎样的故事呢?这无疑是一个充满诱惑与

  • 工装裤搭配什么上衣女?一款时尚又实用的穿搭指南

    随着时尚潮流的不断变迁,人们对于穿搭的追求也越来越多元化。其中,工装裤作为一种休闲时尚的服饰,越来越受到女性的喜爱。那么,如何搭配工装裤才能既时尚又实用呢?本文将为您提

  • 黑色大衣配什么裤子?别再为了搭配而犯愁!

    黑色大衣作为时尚圈的经典单品,一直以来都备受追捧。但是搭配什么裤子才能更好地展现个性和时尚感呢?本文将为您提供一些实用的建议,让您在穿着黑色大衣时,能够轻松搭配出与众

  • 连衣裙搭配什么鞋?揭秘时尚圈的穿搭秘籍

    连衣裙作为夏季的时尚主角,如何搭配鞋子一直是姑娘们津津乐道的话题。今天,我们将深入探讨连衣裙搭配什么鞋才更有范儿,为你提供一份最实用的穿搭指南。一、连衣裙搭配鞋子的

  • 肩宽的女生秋冬穿衣搭配技巧:打造优雅自信的时尚形象

    一、引言随着秋冬季节的到来,肩宽的女生们开始为穿衣搭配而烦恼。其实,只要掌握一定的技巧,肩宽的女生依然可以穿出美丽与自信。在这篇文章中,我们将为您分享一些实用的肩宽女

  • 揭秘服饰搭配美学知识,让你成为时尚达人

    穿着时尚、搭配得体是每个人都向往的目标。服饰搭配美学知识能够帮助我们更好地展现自己的个性和魅力。本文将为你详细介绍服饰搭配美学知识,让你轻松成为时尚达人。一、色

  • 日榜
  • 周榜
  • 月榜