据报导，赵先生收到一位自称为是挚友的人的音频电话号码，旁人宣称亟需赵先生公司的帐户用于投标本息，并允诺提款430万元。赵先生所致对挚友的信赖，需经查证便迅速将钱款转至旁人选定的银行帐户。事前，赵先生才发现自己成了行骗的被害者。原来，诈欺者别出心裁利用了AI换脸和striking控制技术，扮作赵先生的挚友进行诈欺。
AI换脸控制技术只需两张相片方可将人分期付款成音频或剧中的配角，而且非常精巧，几乎无法察觉到。据互联网疑犯透漏，这种AI控制技术改变了诈欺表现手法，使诈欺错误率吻合100%。
AI控制技术的应用领域带来了信息安全可靠的关键性考验，多方已经开始积极应付。Open AI发布了这份关于AI安全可靠的非官方文档，意在构筑更稳定的AI产品，认同使用者隐私，保护幼儿，提高聚合统计数据准确度等多方面制订政策。国内多方面，国家互联网信息服务部于4月11日草拟了《聚合式人工智慧服务管理办法（提案稿）》，并申明提案，进一步棋对统计数据合规和聚合内容正当性提出要求。在欧美国家，欧洲委员会外部市场理事会和ACLU理事会前段时间以绝对优势绝对多数通过了《人工智慧法令》决议案的磋商许可提案，迈进了严苛市场监管人工智慧控制技术应用领域的重要一步棋。
