人工智能（AI）浪潮正以前所未有的速度推进。这是一个AI新纪元，在AI的帮助下，科研的边界被不断拓宽，解决复杂问题的速度越来越快，但必须警惕：AI也能极大提高犯罪分子的“生产力”。
安全公司“趋势科技”研究员文森佐·钱卡利尼表示，生成式AI提供了一个新的、强大的工具包，使恶意行为者能够比以往更高效、更国际化地开展活动。
钱卡利尼说，大多数犯罪分子“并不是生活在黑暗巢穴里密谋行事”，他们中“大多数都是普通人，从事着日常工作”。
去年的“WormGPT衰落”是一个标志性事件。WormGPT是一种基于开源模型构建的AI语言模型，但它使用恶意软件相关数据进行训练，会协助黑客工作且没有任何道德规则或限制。2023年夏天，在引起媒体高度关注后，该模型的创建者宣布关闭模型。自那以后，网络犯罪分子大多停止开发自己的AI模型，转而借助更可靠的现有工具来“耍花招”。
这可能是因为，犯罪分子也想更快获得收益且不想承担新技术带来的未知风险。人们对此必须多加注意，以下5种就是目前他们最常用的方式。
网络钓鱼：诱骗你的私人信息
瑞士苏黎世联邦理工学院的AI安全研究员米斯拉夫·巴卢诺维奇表示，目前生成式AI最大的滥用就是网络钓鱼，其试图诱骗人们泄露敏感信息，再用于恶意目的。研究发现，在ChatGPT兴起的同时，也伴随着网络钓鱼电子邮件数量大幅增加。
钱卡利尼表示，GoMail Pro等垃圾邮件生成服务已集成ChatGPT，这使得犯罪用户能翻译或改进发送给受害者的消息。OpenAI的政策限制人们用其产品进行非法活动，但在实践中其实很难监管。
OpenAI方面表示，他们将人工审核和自动化系统相结合，以识别和防止其模型被滥用，如果用户违反公司政策，则会实施警告、暂停、永久关闭等措施。
还有一点值得注意，由于AI翻译工具的进步，世界各地犯罪集团的沟通变得更容易，他们可能开展大规模跨国行动，或在本国对其他国家用户采取恶意行动。
深度伪造：进入地下市场
生成式AI使深度伪造（Deepfake）的开发发生质变。当前，技术合成的图像或音视频，看起来或听起来比以往任何时候都更加真实，这一点犯罪分子也意识到了。
钱卡利尼团队发现，已经有用户在电报（Telegram）等平台上展示他们的“深度伪造组合”，并以每张图片10美元或每分钟500美元的价格出售服务。
相较图片，深度伪造视频制作起来更复杂，而且更容易露出破绽。深度伪造音频的制作成本低廉，只需几秒钟的某人的声音（例如从社交媒体获取），即可生成令人信服的内容。
这样的诈骗案例并不鲜见，人们接到亲人打来的求救电话，称自己被绑架并要求交付赎金，结果却发现，打电话的人是个使用深度伪造语音的骗子。
钱卡利尼建议，亲人之间应商定一些秘密安全词并定期更换，这有助于紧急情况下确认电话另一端的人的身份。
绕过身份检查：一个伪造的“你”
犯罪分子滥用AI技术的另一种方式是绕过验证系统。
一些银行和加密货币交易需验证其客户是否本人。他们会要求新用户在手机相机前持身份证拍摄一张自己的照片，但犯罪分子已经开始在电报等平台上销售能绕过这一要求的应用程序。
他们提供的是伪造或被盗的身份证件，再将深度伪造的图像强加在真人脸上，以欺骗手机相机验证程序。据钱卡利尼发现的一些例子，该服务的价格甚至低至70美元。
“越狱”式服务：带来危险输出
如果有人向AI询问如何制造炸弹，那他不会得到任何有用的答复。这是因为大多数AI公司已采取各种保护措施来防止模型泄露有害或危险信息。
现在，网络犯罪分子不再构建自己的AI模型，这种方式既昂贵、耗时又困难。一种新犯罪趋势开始出现——“越狱”式服务。
比如上面得不到答案的问题，这显示了模型都有关于如何使用它们的规则。但“越狱”允许用户操纵AI来生成违反这些政策的输出。例如，为勒索软件编写代码，或生成可在诈骗电子邮件中使用的文本。
为了对抗这些不断增长的风险，OpenAI和谷歌等公司需时时堵塞可能导致紧急危害的安全漏洞。
人肉搜索和监视：暴露用户隐私
巴卢诺维奇表示，AI语言模型不仅是网络钓鱼的“完美工具”，对人肉搜索（在线泄露某人的私人身份信息）也是如此。这是因为AI语言模型经过大量互联网数据（包括个人数据）的训练， 可推断出某人位于何处。
犯罪分子可能会让聊天机器人假装是具有侧写经验的私家侦探，然后让它分析受害者所写的文本，并从文本中的小线索推断出个人信息。例如，根据他们上高中的时间推断他们的年龄，或者根据他们在通勤时提到的地标推断他们的居住地点。互联网上该人的相关信息越多，就越容易被识别。
巴卢诺维奇团队2023年底发现，大型语言模型，如GPT-4、Llama 2和Claude，已能够仅从与聊天机器人的日常对话中推断出人们的种族、位置和职业等敏感信息。理论上，任何能访问这些模型的人，都能以这种方式使用它们。
这些服务的存在，并不直接表明犯罪活动的存在，但我们必须看到可供恶意行为者利用的新功能。而防止这些事情发生的唯一方法就是加强防御。
巴卢诺维奇称，对AI公司来说，应完善数据保护；对个人来说，提高防范意识是关键——人们应三思而后行，考虑他们在网上分享的内容，并谨慎决定，自己是否愿意在语言模型中使用他们的个人信息。
人工智能（AI）浪潮正以前所未有的速度推进。这是一个AI新纪元，在AI的帮助下，科研的边界被不断拓宽，解决复杂问题的速度越来越快，但必须警惕：AI也能极大提高犯罪分子的“生产力”。
安全公司“趋势科技”研究员文森佐·钱卡利尼表示，生成式AI提供了一个新的、强大的工具包，使恶意行为者能够比以往更高效、更国际化地开展活动。
钱卡利尼说，大多数犯罪分子“并不是生活在黑暗巢穴里密谋行事”，他们中“大多数都是普通人，从事着日常工作”。
去年的“WormGPT衰落”是一个标志性事件。WormGPT是一种基于开源模型构建的AI语言模型，但它使用恶意软件相关数据进行训练，会协助黑客工作且没有任何道德规则或限制。2023年夏天，在引起媒体高度关注后，该模型的创建者宣布关闭模型。自那以后，网络犯罪分子大多停止开发自己的AI模型，转而借助更可靠的现有工具来“耍花招”。
这可能是因为，犯罪分子也想更快获得收益且不想承担新技术带来的未知风险。人们对此必须多加注意，以下5种就是目前他们最常用的方式。
网络钓鱼：诱骗你的私人信息
瑞士苏黎世联邦理工学院的AI安全研究员米斯拉夫·巴卢诺维奇表示，目前生成式AI最大的滥用就是网络钓鱼，其试图诱骗人们泄露敏感信息，再用于恶意目的。研究发现，在ChatGPT兴起的同时，也伴随着网络钓鱼电子邮件数量大幅增加。
钱卡利尼表示，GoMail Pro等垃圾邮件生成服务已集成ChatGPT，这使得犯罪用户能翻译或改进发送给受害者的消息。OpenAI的政策限制人们用其产品进行非法活动，但在实践中其实很难监管。
OpenAI方面表示，他们将人工审核和自动化系统相结合，以识别和防止其模型被滥用，如果用户违反公司政策，则会实施警告、暂停、永久关闭等措施。
还有一点值得注意，由于AI翻译工具的进步，世界各地犯罪集团的沟通变得更容易，他们可能开展大规模跨国行动，或在本国对其他国家用户采取恶意行动。
深度伪造：进入地下市场
生成式AI使深度伪造（Deepfake）的开发发生质变。当前，技术合成的图像或音视频，看起来或听起来比以往任何时候都更加真实，这一点犯罪分子也意识到了。
钱卡利尼团队发现，已经有用户在电报（Telegram）等平台上展示他们的“深度伪造组合”，并以每张图片10美元或每分钟500美元的价格出售服务。
相较图片，深度伪造视频制作起来更复杂，而且更容易露出破绽。深度伪造音频的制作成本低廉，只需几秒钟的某人的声音（例如从社交媒体获取），即可生成令人信服的内容。
这样的诈骗案例并不鲜见，人们接到亲人打来的求救电话，称自己被绑架并要求交付赎金，结果却发现，打电话的人是个使用深度伪造语音的骗子。
钱卡利尼建议，亲人之间应商定一些秘密安全词并定期更换，这有助于紧急情况下确认电话另一端的人的身份。
绕过身份检查：一个伪造的“你”
犯罪分子滥用AI技术的另一种方式是绕过验证系统。
一些银行和加密货币交易需验证其客户是否本人。他们会要求新用户在手机相机前持身份证拍摄一张自己的照片，但犯罪分子已经开始在电报等平台上销售能绕过这一要求的应用程序。
他们提供的是伪造或被盗的身份证件，再将深度伪造的图像强加在真人脸上，以欺骗手机相机验证程序。据钱卡利尼发现的一些例子，该服务的价格甚至低至70美元。
“越狱”式服务：带来危险输出
如果有人向AI询问如何制造炸弹，那他不会得到任何有用的答复。这是因为大多数AI公司已采取各种保护措施来防止模型泄露有害或危险信息。
现在，网络犯罪分子不再构建自己的AI模型，这种方式既昂贵、耗时又困难。一种新犯罪趋势开始出现——“越狱”式服务。
比如上面得不到答案的问题，这显示了模型都有关于如何使用它们的规则。但“越狱”允许用户操纵AI来生成违反这些政策的输出。例如，为勒索软件编写代码，或生成可在诈骗电子邮件中使用的文本。
为了对抗这些不断增长的风险，OpenAI和谷歌等公司需时时堵塞可能导致紧急危害的安全漏洞。
人肉搜索和监视：暴露用户隐私
巴卢诺维奇表示，AI语言模型不仅是网络钓鱼的“完美工具”，对人肉搜索（在线泄露某人的私人身份信息）也是如此。这是因为AI语言模型经过大量互联网数据（包括个人数据）的训练， 可推断出某人位于何处。
犯罪分子可能会让聊天机器人假装是具有侧写经验的私家侦探，然后让它分析受害者所写的文本，并从文本中的小线索推断出个人信息。例如，根据他们上高中的时间推断他们的年龄，或者根据他们在通勤时提到的地标推断他们的居住地点。互联网上该人的相关信息越多，就越容易被识别。
巴卢诺维奇团队2023年底发现，大型语言模型，如GPT-4、Llama 2和Claude，已能够仅从与聊天机器人的日常对话中推断出人们的种族、位置和职业等敏感信息。理论上，任何能访问这些模型的人，都能以这种方式使用它们。
这些服务的存在，并不直接表明犯罪活动的存在，但我们必须看到可供恶意行为者利用的新功能。而防止这些事情发生的唯一方法就是加强防御。
巴卢诺维奇称，对AI公司来说，应完善数据保护；对个人来说，提高防范意识是关键——人们应三思而后行，考虑他们在网上分享的内容，并谨慎决定，自己是否愿意在语言模型中使用他们的个人信息。
记者3月20日从中国科学技术大学获悉，该校郭光灿院士团队在量子态分辨研究中取得重要进展。研究组在最小资源消耗的量子态分辨问题中首次提出了全局最优自适应策略，并发展了自适应集体测量实验 据韩国建国大学研究人员发表在最新一期开放获取期刊《公共科学图书馆·综合》上的一项研究，与狗共度美好时光可减轻压力，同时可增强与放松和注意力相关的脑电波。动物辅助干预措施，如犬类 记者3月21日从安徽农业大学获悉，该校生命科学学院韩毅教授课题组与国内外专家合作，发现了植物避盐性的关键基因。该研究对于提高植物耐盐性，帮助盐碱地下的农作物稳产具有重要理论指导意义。相 再打一局游戏就睡，再刷几个视频就睡，终于放下手机，关灯睡觉了……结果翻来覆去睡不着，半夜醒来再也睡不着，为什么明明睡着了，睡眠质量却不高？3月21日是世界睡眠日，最新发布的《2024中国 2024年03月19日，以“初心如磐•向新出发”为主题的2024智能家居UP峰会CSHIA智能家居开年盛典在杭州成功举行。大会现场，由全国专业标准化技术委员会委员、CSHIA秘书长、中智盟投资创始人周 全球首台无细胞蛋白质合成生物反应器、全球首台全高温超导托卡马克装置（洪荒70）、64比特超导量子计算机研发与产业化项目、深海可燃冰探采重载作业机器人系统研制、载人电动复合翼垂直起降飞行 。本文链接：用AI犯罪的五种方式亟待防范http://www.sushuapos.com/show-2-7085-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
上一篇： 3D打印真空系统或能“捕捉”暗物质