“奶奶，我不小心撞到了人，请不要告诉我的父母，请救救我！”来自湖南的刘奶奶听到电话那头传来“孙子”的声音，惊慌失措。他立即按照对方的指示，前往银行提取了3万元现金。按照约定，他将钱交给了村口的一位“村长亲戚”。这只是“人工智能欺诈”的一个例子。在这个数字化快速发展的时代，人工智能技术就像一把双刃剑。它在带来便利和创新的同时，也悄然给老年人带来了新的隐患和危险。随着音视频欺骗技术门槛大幅降低，一些黑产业玩家像狡猾的猎手一样，针对老年人不熟悉新技术、信息获取渠道有限、工作能力有限等弱点，开始了渐​​进式的“猎杀”行动。他们更有可能在情感上依赖家人。新京报贝壳财经记者调查发现，这些看似复杂的骗局实际上都有AI Deepfake技术的支持。人工智能针对老年人的“陷阱”主要包括利用先进伪造手段冒充老年人亲属或子女实施财务诈骗、利用人工智能伪造医生、专家身份通过直播推销产品等。他们通过虚假宣传视频和精心制作的文案夸大产品的功效，甚至发明虚构的“疗法”来说服老年人。新京报贝壳财经记者搜索多个平台发现，不少人以至少1元的价格“捆绑出售”语音互换和克隆，这在一定程度上降低了欺诈门槛。海外平台的黑灰行业专家也提供从语音修改到脸部的“一站式服务”改装，从几十元到上百元。北京盈科（合肥）律师事务所合伙人蒋万东在接受新京报贝壳财经记者采访时表示，随着人工智能技术越来越成熟，改变AI面貌不再困难，甚至成为一种新的商业模式。但使用人工智能换脸时，必须严格遵守法律法规。未经允许使用他人照片、音频材料进行换脸、变声，或者利用人工智能换脸或者在互联网上提供变声服务或辅导并收取费用，或者利用人工智能冒充授权人使用合成、变声视频，可能侵犯他人肖像权、声音权，甚至构成犯罪。 “我孙子遇到麻烦了，我需要尽快用钱。”改变声音并面对目标养老基金的人工智能诈骗。 “一位老人在家接到电话。电话是老人家的固定电话打来的。他说是他儿子，声音语气一模一样，还说了自己的名字。 “他刚刚在路上开车撞到了人，所以向老人寻求经济帮助，并让他不要告诉我们，因为他不想让父母知道。”有网友分享了“假孙子”的诈骗过程，并批评他说：“骗子太可怕了。”这类骗局通常都是经过精心策划的。在这位网友的经历中，骗子让快递员到他家收钱，老人这才意识到。 “骗子的目标是80后、90后的老人，养育孩子的人，我们的信息完全暴露，连孩子都不知道自己爷爷的固定电话号码。” 骗子正在使用AI 贝壳财经记者查阅了这一爆料和警方的案件，发现大多数骗子都使用A。我改变他们的声音和面孔来模仿家人和朋友都是老年人。常见的伎俩是，用户个人信息泄露后，诈骗者利用人工智能技术冒充用户，以“孙子遇到麻烦，急需用钱”等借口，诈骗家人朋友，尤其是老人。骗局。吴明 (seudónimo) 是一名互联网安全反欺诈专家，他在壳牌金融公司的一段时期内，提出了针对用户个人信息过滤的诈骗技巧。 “例如，您可以使用电话的权限，并使用 una fuente desconocida 的应用程序、电话、照片、文本信息和其他数据的文本以及服务人员的其他数据。音频和音频数据的记录在社交平台上使用公共过滤器的视频，使用人工人工智能技术进行伪造欺诈之声。Puedes hacerlo。 ” 10月21日至26日，新京报记者 贝壳金融在国内交易、国外交易、社交平台上发现，AI换脸、语音相关的服务和教程比比皆是。平台提供一键替换视频文字的AI教程，只需1块钱。此类教程一般都会提供软件或工作流程。安装说明、教程和确认“AI 图像”的记录能力、生成照片和视频的限制，以及 IA 的克隆，价格为 1 元，但每个声音都是如此。需要在现场进行克隆，提示“20元以上”，许多黑色和灰色产品的供应商都在生产视频和声音，而不是使用与视频相关的进口产品。aramente el precio de acuerdo con la dificultad de las necesidades del cliente. La producción de “video de intercambio de caras y de voz” se paga en moneda virtual, lo que equal a 463.yuanes, y el intercambio de voz aloneuesta alrededor de 228 Yuanes, y las “habi” Words” can be “customized.” 一些黑灰房地产交易渠道还销售与这些技术兼容的专门欺诈软件。 “我们手机软件的功能还允许您直接在手机上进行视频通话。它可以与市面上的多种换脸软件配合使用，让‘顾客’挑不出任何毛病，甚至可以带着手机去旅行。”“一些黑灰产品的卖家是这么说的，黑灰产品的卖家会宣传信息，随产品展示“假专家”的截图，80元就可以定制明星“推荐视频”。”许多AI克隆服务和教程卖家主要通过冒充名人直播推销产品或推荐产品来锁定目标客户，此前，金东、雷军、张文宏等都被AI恶搞过。有卖家贴出郭富城先生、巩俐先生、志正先生等名人的“视频”或“祝福视频”。他指出，视频中涉及的部分公司和产品属于财务诈骗，一家提供AI数字人制作软件的公司表示，了解到AI视频制作服务80元起，如果购买软件，他们可以教你如何操作。雪峰可以生成。根据卖家提供的信息，软件月卡售价188元，卖家表示可以定制图片。图 事实上，随着技术和开源的进步，健全克隆的门槛并不高。壳牌财经记者将三分钟的个人录音上传至开源网站训练音频模型的软件。当产生长句子时，这种效果有时会失败，但在某些短句子中，合成语音几乎无法识别。这款开源软件的作者还在用户界面上标注了：“该软件是在 MIT 许可下开源的。作者对该软件没有控制权。那些使用该软件并分发该软件导出的声音的人负全部责任。” 10月24日，某视频平台代表向贝壳财经记者表示，利用人工智能技术进行误导性广告已成为互联网广告安全管理中的重要问题。为保护用户权益，平台制定了严格的管理规则。例如，广告内容不得包含虚构人物、陈述或描述身份/姓名/特定职位的存在，也不得宣传产品或服务。如果违规一旦发现，广告商可能会受到广告限制、账户暂停，甚至被删除。 10月26日，中国人民大学人口发展研究中心举办“数字时代老年短视频使用与网络安全”研讨会，并联合抖音联合发布了《老年短视频健康使用指南》，重点介绍了短视频平台诈骗的一些典型案例。一种新型诈骗手段是利用人工智能技术冒充老年人信任的人，如名人、商人、政府官员等，或者编造受惠金额、家人健康状况、子女资产等信息，诱导老年人“点赞”、“关注”或“转发”。这些账号通过“情感钓鱼”积累与真实用户的互动，被包装成“优质账号”，用于倒卖账号、从事以营利为目的的黑色产业活动。 “利用人工智能合成‘假专家’或权威来推销产品或直播，可能涉及多项法律法规。根据《中华人民共和国民法》，侵犯言论自由权需要承担停止侵权、赔偿损失等责任，但根据《中华人民共和国消费者权益保护法》，这构成欺诈。消费者可以要求‘一分退款’。根据《中华人民共和国刑法》蒋满东告诉记者，如果涉及诈骗、虚假广告等严重行为，可能会被定性为诈骗、虚假广告等犯罪。这意味着，在使用AI技术时，必须严格遵守法律，获得许可，确保内容合法合规。除了“有针对性”的诈骗之外，先进的造假和检测技术比拼e 彼此。贝壳财经记者采访基层警方、反诈骗专家和平台监管人员发现，存在通过伪造老年亲属身份进行“定向”诈骗的情况。欺诈过程相对繁琐且昂贵。虽然每起案件涉案金额通常较大，但案件总数并不像发票诈骗、投资诈骗等诈骗案件那么多。然而，AIGC标志新规的出台、视频平台身份验证流程的改进以及人工智能欺诈行为的打击，将使人工智能冒充“假专家”变得更加困难。 9月1日，国家网信办等四部门联合发布的《人工智能合成内容标注办法》正式实施，要求相关平台对上传至舞台的视频内容，如使用人工智能制作的，应予以标注。这意味着一些人工智能自称专家的视频不会有传播空间。目前，很大程度上取决于平台是否能够检测到视频是由人工智能生成的。这已成为一个大问题。中国信息通信研究院人工智能研究中心安全元宇宙部负责人石林告诉贝壳财经记者，目前Deepfake技术和检测技术相互竞争。 “它们就像杀毒软件和病毒的创造一样，是一个攻防对抗的长期过程。现在看来，欺骗技术越来越实用和有效。我们在研究中发现了这一点。目前的检测技术可能存在一定的延迟，新的算法需要样本积累和过滤。”针对“假孙子”、“假专家”诈骗，海淀市金融管理局发文称，老年人应多警惕并采取预防措施，例如接到不认识的电话或视频电话时仔细检查对方的身份。您可以通过拨打家人或朋友的常用电话号码或在视频通话期间询问私人问题来进行检查。不要轻易向陌生人透露个人信息、银行账户、密码等机密信息。同时，您应该维护安全措施，例如定期更改密码和启用双因素身份验证。您应该始终谨慎对待承诺高回报的投资和医疗产品。记住：“天上的馅饼永远不会掉下来”。高回报往往伴随着高风险。参加“数字时代老年人的短视频使用与网络安全”研讨会的专家一致认为，需要多方面的方法来应对风险。有必要提高对欺诈的认识和对数字技术的理解从老年人自身层面，以及从家庭和社会支持层面为老年人提供心理和技术支持。 “首先，老年人只有了解了AI生成技术，才会有必要的意识，识别AI虚拟人物，防范不法分子利用AI虚拟形象制造诈骗。”北京东方老年培训学院院长、北京石景山老年大学原校长杨文霞鼓励老年人要勇于上网，追求终身学习。中国人民大学人口健康学院教授谭丹表示，家人仍然是老年人防范上网的第一道防线。风险，认为构建家庭防线是一个漫长的过程，不能操之过急，除非老年人使用短视频对身心健康造成严重伤害，否则孩子应该离开的空间。让老人自由探索，及时预警危险，在日常互动中传播技巧。北京贝壳财经报记者罗一丹编辑魏英子纠错：王金玉、刘宝庆