在新控制技术的护持下，AI招数不仅“工作效率”奇高，骗起人来也是孔图，一时之间，#漳州老板娘10两分钟被AI换脸偷走430万#、#AI诈欺获得错误率接近100％#等热门话题相继荣登热搜。
绘制地图 卿子秀
诈欺分子用上了AI换脸控制技术
近日，呼和浩特市检察院警政新浪网平台“奈良通辽”的最新消息显示，随着人工智慧的飞速发展，诈欺犯罪行为团伙的诈骗手段也越来越网络化，竟然用上了AI换脸控制技术。
日前呼和浩特市检察院电信子公司网络犯罪行为股庄发布一起使用智能化AI控制技术进行电信子公司诈欺的刑事案件，警银协同获得成功即时Kaysersberg被控电信子公司诈欺资本金330多余万元。
此案中，厦门市某科技子公司法人代表赵先生突然接到挚友的QQ音频，称想转作其子公司的帐户“走一下账”，而在他先后分多笔把430余万元打到旁人帐户后，却发现电话联系的挚友无人知晓此事，随即意识到是碰上了“中高档骗子”，旁人通过智能化AI换脸控制技术，假装成挚友对他实施诈欺。
在银行全力以赴帮助下，该诈欺帐户内的336.84余万元受骗资本金被获得成功截击，随即，莆田疑犯根据余下钱款93.16余万元资本金流入信息继续寻找查案蛛丝马迹，目前漳州疑犯与通辽疑犯已经开始全力以赴追回此笔资本金。
，需要严防控制技术误用”等论调不断涌现。
社会公众要从这些方面做好严防
上述最新消息裂解期间，中国公安部社会治安管理处hinet“中国疑犯新浪网”撰文提示信息称“提防AI换脸骗子”，并表示“AI诈欺已经开始全国爆发”。
有分析指出，AI诈欺中常用到的两种控制技术是声音合成和AI换脸。声音合成是指利用计算机控制技术将文本或其他形式的信息转换为语音输出。声音合成可以分为两个步骤：文本分析和语音合成。文本分析是指将文本转换为语音合成所需的参数，如语调、节奏、重音等。语音合成是指根据参数生成语音信号。
举例来说，“AI换脸”只需要提供一张照片，就可以把自己置换成音频、电视剧中的男女主角，而且拟真度非常高。据常德网警巡查介绍，AI新骗子来袭后，诈欺获得错误率竟接近100％。
此外，诈欺份子利用AI进行诈欺的环节还包括筛选阶段，即通过AI控制技术筛选受骗人群。例如，当进行金融诈欺时，经常搜集投资信息的小伙伴就会成为他们潜在的目标。
疑犯提示信息，针对花边翻新的智能化AI诈欺，社会公众要提高严防意识，不轻易提供人脸、指纹等个人生物信息给他人，不过度公开或分享动图、音频等；网络转账前要通过电话等多种沟通渠道核验旁人身份，一旦发现风险，及时报警求助。如果有“熟人”、“领导”通过社交软件、短信以各种理由诱导你汇款，务必通过电话、见面等途径核实确认，不要未经核实随意转账汇款，不要轻易透露自己的身份证、银行卡、验证码等信息。如不慎受骗或遇可疑情形，请注意证据保全并立即拨打96110报警。
数据安全、隐私保护需求上升
值得注意的是，在人工智慧的监管方面，国内目前已经开始逐渐加大力度。今年4月，国家互联网信息办公室起草了《生成式人工智慧服务管理办法（征求意见稿）》，对数据合规性、生成内容合法性提出进一步要求。
国外对于AI安全的监管也在发力。近日，欧洲议会以压倒性多数票通过《人工智慧法案》提案的谈判授权草案，向立法严格监管人工智慧控制技术的应用迈出关键一步。今年4月，美国联邦贸易委员会（FTC）表示，ChatGPT等最新的人工智慧工具可能导致诈欺行为激增，该机构将追究误用人工智慧控制技术来进行欺诈的子公司。
数据显示，目前部分A股上市子公司纷纷布局AI相关控制技术安全领域。美亚柏科在投资者互动平台上表示，子公司已经发布了AI-3300“慧眼”音频图像鉴真工作站，可以对生成式人工智慧产生内容进行检测识别和鉴定；奇安信也表示，目前已深入布局生成式人工智慧模型安全的各个方面。
东方证券认为，后续人工智慧的监管可能侧重以下重点：规范信息收集，保护个人信息与知识产权、确保相关应用内容的合法合规、健全人工智慧等控制技术所涉及的伦理规范。兴业证券表示，随着AI监管政策的落地，数据安全、隐私保护等安全需求将进一步上升，有望打开行业成长新空间。
本文源自金融投资报
