秘鲁一些学校收到的通知,看上去来自当地的地区教育主管部门,内容是请学校组织和乌克兰有关的活动。
发通知的其实是俄罗斯的一个影响力行动团伙,文案是用ChatGPT写的。
这是OpenAI最新一期威胁报告里披露的案例。按报告的说法,这伙人冒充秘鲁的地区教育机构,向学校推动乌克兰相关活动,事情后来还在欧洲引起了反应,至少一位波兰籍的欧洲议会议员就此表了态。
冒充教育局,选的是一个很少有人设防的目标。学校习惯了服从上级通知,很少会去核实一封公文是不是真的从教育部门发出来的。至于为什么是秘鲁,报告没有给出解释。
同一份报告里还有伊朗的案子。
伊朗那边的操作更像内容农场:虚构了7个作者身份,用他们的名义写了将近100篇文章,投到包括美国进步派网站Daily Kos在内的多个平台上发表。这类网站允许用户投稿,审核主要看内容本身,作者是不是真人很难查。
两边用ChatGPT干的活其实差不多,都是批量产出看起来像本地人写的文字。过去这种行动要养一批懂当地语言的写手,现在几个账号就能顶上,成本下来了,被发现的痕迹也更少。
OpenAI的处理是把涉及的俄罗斯和伊朗账号全部封禁。这类报告它已经定期发了好几期,每次的模式都类似:发现、封号、公开案例。能抓到的,是用了它家模型、又留下足够痕迹的那一部分。
© 版权声明
文章版权归作者所有,未经允许请勿转载。





冒充秘鲁教育部门给学校发通知:OpenAI封了一批俄伊操纵账号