索尼新专利用AI模拟未成年人 主动钓鱼识别恶意用户

资讯摘要

据外媒mp1st报道，索尼SIE近日提交了一项编号为18/314775的新专利申请，提出一套由AI驱动的安全机制方案。该方案通过创建由大语言模型控制的AI账号，模拟未成年人聊天行为，并将其放置在潜在恶意用户可能寻找目标的社交场景中，旨在主动识别诈骗者、垃圾信息发送者、儿童侵害者等恶意用户。当可疑用户与AI账号建立联系后，系统会根据互动内容进行风险研判，若表现出可疑行为，则将其标记为潜在危险账号并持续观察。待该用户后续联系真实玩家时，平台可提前发出警告或采取保护措施。值得注意的是，系统不会因用户与AI账号聊天就直接处罚，而是将互动作为参考，结合后续行为综合判断。该专利显示了索尼在平台安全治理上的新思路，利用AI主动出击而非被动响应，或将对行业产生示范效应。尽管目前仅为专利，尚未确认是否实际应用，但此举引发了关于AI伦理与隐私边界的讨论。对玩家而言，这可能意味着更安全的游戏环境，但也需关注技术背后的潜在风险。