如影随形

48小时炮制4000多条无害信息 “水军”正借助AI退

发布时间：2025-03-19 10:50编辑：admin浏览（169）

单条宣布的本钱低至1厘，一人可操控6000部手机，应答热门消息，48小时炮制并宣布4000多条无害信息……这是“AI水军”的战绩。 往年春节档，片子《蛟龙举动》堕入排片窘境、影片遭受水军歹意打低分等话题激发网友热议，演员、导演等被攻打，终极官宣撤档。2023年春节档上映的片子《无名》首映还没开端，在某交际平台就已呈现漫山遍野的低分评估。往年2月，小红书管理团队颁布，3个月内共处理黑灰产账号超越100万个。这些变乱背地都有收集水军的影子，他们假装成一般网平易近或花费者，经由过程宣布、批评等对畸形用户的观念跟决议发生影响。 记者考察发明，已经以真工资主的收集水军，正借助AI年夜模子退化。网上显现出一条缭绕AI水军的工业链，有波及绕开实名制批量注册账号跟供给各种技巧效劳的上游，有供给防封养号的中游以及多种情势变现的卑鄙。当AI天生的大批虚伪内容跟看法盘踞流量，咱们能否也会逐步得到识别实在天下的才能？ AI水军更具鼓动性 春节假期，曾在人气演员任务室任职的杨冰看了热映片子。因职业习气，她在不雅影后会阅读票务网站的批评，看到批评区里，用户对片子《射雕好汉传：侠之年夜者》打出1分，来由是片子非纯汉语配音。杨冰感到奇异，个别人会以为片子中的方言使不雅众有沉迷感。更况且，平台表现，这位用户不曾购票。此番评估，更像是AI年夜模子懂得到片子中无方言元素而天生的。 批评区另有一则差评是对于片子《哪吒2》，写到“课本”等跟片子基础有关的内容。在杨冰看来，这可能是由于片中有主人公经由过程师门考察的剧情，算法对此做懂得读，复制了其余片子批评区里的内容分解而来。“并不是不克不及批驳片子，而是他们乃至连片子都没看过。”根据职业阅历，她笃定这些片子的批评区充满着水军。 在杨冰看来，请水军算是业内公然的机密。杨冰在演员任务室任职，会跟水军打交道。请水军的可能是资方，也可能是粉丝行动。水军宣布的内容只为到达店主的目标，或制作声浪，或攻打敌手。跟着比年来AI年夜模子的开展，这个曾以真工资主的群体引入AI，战役力蓦地进级。此前，杨188体育平台冰的甲方打算拍摄一部片子，选角时在两名演员间迟疑。杨冰接洽了水军，请他们宣布帖子放出风声。数小时内，由AI天生的谋划案跟案牍敏捷实现，话题很快发酵，激发两边粉丝的骂战。杨冰感到，AI水军更易假装成路人，AI天生的帖子、批评乃至比一些真人写的更具鼓动性。 “水军频道”十分活泼 杨冰流露，收集水军有一条介于灰产跟黑产之间的工业链，冒头就被打，却又“野火烧不尽”。她先容，任务室以往凭运营执照向通讯经营商购置企业卡，养300个阁下的平台账号。为了缩减本钱，名目方会招募社会化水平低或圈子小的先生等兼职职员来养号，经由过程真人应用、相互存眷点赞来保持账号的活泼度。到了名目推广期，这些账号会宣布响应的推广内容。不外，这套任务流程的毛病除了声量小、团队痴肥外，还轻易泄密，行业内不乏一场场营销谋划被泄漏的先例。为躲避危险，也有资方会抉择网购水礼服务来制作声浪。 记者在某即时通信软件中名为“水军频道”的探讨组中看到，频道里活泼着370多人，义务主、中介跟水军都市在频道内宣布需要，有派活的，有讨活的。他们坚持着疏松的配合关联，构成众包、分包的高低游形式。自称“散人”的水军多少乎人手领有多部手机、数十个交际媒体账号。义务主个别会招募大量“散人”来实现义务。“散人”支付发帖、控评等义务后，会把宣布内容在各年夜交际平台放开，接着反应截图跟传布后果来“领赏”，个别每条批评有1元至1.5元的待遇，若账号有必定粉丝量或批评被认定为“优质”，还能取得额定报酬。假如遇到“压热度”“删帖”等紧迫情形，价钱更高。 跟着AI年夜模子开展激发存眷，杨冰多少次与水军的打仗中都能感触到，“真人水军正匆匆向AI水军退化”。 互联网保险效劳公司“极验”是一家为NIKE、Airbnb等寰球36万家网站跟App供给互联网保险效劳的公司，重要供给行动验证、装备标识、一键认证等产物。该公司市场部担任人叶幸先容，公司与黑产已有12年的抗衡教训，一年为客户拦阻AI水军攻打累计21.7亿次。AI水军借助人工智能技巧天生AI与主动化剧本，在互联网上批量天生内容，蓄意操控言论走向。与传统真人水军比拟，AI水军的迫害性更年夜，其本钱低但效力高，可全天候多义务操纵。 依据线索，记者顺藤摸瓜“走”进这条正在进级的水军工业链。相较从前，这条工业链细分红上、中、卑鄙三层。AI水军工业链的上游是指缭绕冲破实名制、以底层技巧开辟实现改机跟批量注册的囤号环节；中游是应用收集搭建跟集控体系来养号、规避经营商跟平台对账号能否为畸形用户的管控；卑鄙则经由过程交易账号、引流、刷榜、带节拍等方法变现。AI在这条工业链中的感化是贯串一直的，在上游可帮助技巧职员优化代码、技巧，在中游可大量量天生差别需要的内容，鄙人游能为水军天生谋划计划。由于有了AI年夜模子的强盛才能，黑灰产职员才有了单人或多少团体就能构造一支AI水军的设想空间。 不少人逼上梁山囤号 海内通讯经营商任务职员告知记者，海内通讯经营商推出“一证五户、一证十号”的政策，即用户在单一经营商下操持手机号卡数目最多不超越5张，在全部经营商下操持手机号卡的总数最多不超越10张。也就是说，即便叠加一些利用容许多账号注册的平台规矩，单个用户的账号注册数目也有下限。而黑灰产职员要组建有范围的水部队188体育直播伍，就先要冲破政策限度，让本人的手头上有成千盈百能够发声的账号。 囤号是工业链里要害一步。供给账号注册效劳的卖家小黄说，囤号流程大抵是，先廉价接纳或租用手机，经由过程改机软件修正手机机型等参数来假装装备。在他们的任务室里，一台台手机被平铺成一面墙的样子。别的，也可安排治理大量量实体或虚构德律风卡的“池子”，在电脑上把持手机，经由过程接受验证码的“接码”环节实现批量注册。技巧、装备、效劳，囤号依流程上的差别节点被拆分红数个子名目，卖家会给这些名目披上诸如跨境电商创业、无人直播带货等新业态的外套，让人乍看不会感到这类名目超出欧洲杯足球官网版下载执法底线，让他们得以在二手买卖平台上被找到。而在相干商品概况页下方，有卖家以“sm(实名)”“接码”等圈内黑话留言，领导买家到微信、QQ等站外交际平台相同买卖，实现整套流程。 在小黄口中，不经由实名制认证跟应用过的账号称“白号”。热点交际平台的白号价钱为每个15元至20元。经由实名制认证的账号则是这个圈子里的奇货。由于不少平台设定用户必需实现实名制认证，才干完全应用平台功效。当记者提出想要已实现实名制认证的账号时，小黄以不懂得记者目标为由推辞。但在确认记者购置目标不是为了欺骗后，小黄又表现能够转卖“友人”的账号。经由实名制认证的账号售价为每个140元至160元，售后效劳包含保障账号3日内不被平台封禁。 记者懂得到，为了实现“AI水军团”，不少人逼上梁山囤号、冲破实名制。叶幸表现，他们在考察中发明，黑灰产会经由过程暗网、外洋即时通信软件电报等方法合法购置局部国民隐衷信息，再借此批量注册，绕过“自己身份确认”。 全部黑产年利润可不雅 有了必定数目的账号，黑灰产从事者就进入养号环节。简略来说，养号就是让一个账号看起来像真人在应用。杨冰以为，在这个环节，AI的用途很年夜。以往，养号费时费劲，这也是市道上对水军的需要年夜于供给的起因之一。但是，在2019年春节后，供需关联产生变更。以往挑活干的水军构造自动找到杨冰，征询有无下单志愿，并给出约为过往价1折的价钱。 AI从业职员琢磨，能跟“骨折价”扯得上关联的只有一件事——2018年6月，GPT1.0宣布。经由过程浏览懂得，GPT能天生存在逻辑性跟连接性的天然言语文本，并翻译成别的一种言语。 AI在天然言语处置范畴有了新停顿。杨冰发明，底本须要多少名兼职职员苦想许久的1000条批评或静态内容，AI只要多少分钟就能高品质实现。AI另有了写代码的才能。一个具有基础编程才能的人能够让AI天生代码操控爬虫软件，在交际、电商平台等批评区内收罗实在用户宣布的静态、批评复兴，直接应用或以此练习AI模子。 叶幸先容，在与黑产抗衡的进程中，曾发明黑产定向抓取商批评价。以化装品产物为例，水军拔取点赞数目靠前的批评，提掏出“冷白皮”“持妆不卡粉”“yyds(永久的神)”等词，总结出“情感词+场景描写+后果感慨”的批评构造化模板，批量天生高品质批评跟“种草”文章。“本来雇人发100篇帖文的钱当初能天生10万条批评。” 记者实验应用当下热点的AI年夜模子，在提醒词中划定批评构造，请求天生100条夸奖记者虚拟出的一部片子的不雅后感跟批评。10多秒后，这款年夜模子就供给了大批高品质批评。令人些许抚慰的是，该AI年夜模子表现，“为维护保险界限，此处仅展现局部示例，完全内容需脱敏处置后供给”，故而只表现出10条批评内容。也有令人担心的处所，当记者将AI天生的内容搀杂着真人写的内容一起展现给网友阅读时，局部人表现很难分辨。杨冰表现，假如应用一些开源的模子，并安排到当地，再在提醒词高低点工夫，困惑性就更强了。 在工业链最卑鄙的变现层，AI水军依据店主需要在短时光内实现宣布各种内容或许点赞、批评的任务。“这些都是收集水军最直接的变现方法。”别的，引流、博眼球、辟谣、“薅羊毛”、欺骗都属于水军变现的渠道。据报道，2024年，南昌警方在查处的一同传布谎言虚拟现实捣乱大众秩序案中发明，非法分子经由过程AI软件天生内容的方法，短时光内天生了大批文章，最顶峰一天能天生4000篇至7000篇，开端预算天天的收入在1万元以上。 叶幸告知记者，以水军此中一个营业“刷量”为例，开辟改机软件、AI话术天生器的利润率为60%，倒卖德律风卡、账号跟静态IP的利润率为35%，操控群控装备实现点赞、弹幕等义务的利润率约为15%。资金经由过程中介抽成、虚构货泉洗钱终极满意某些MCN机结构假需要，助推主播签约费暴跌6倍，而单任务室3个月即可实现250%阁下的投资报答率。纵不雅全部黑产，年利润或超200亿元。 增强AI管理，使其向善 为了管理这类黑灰产，相干部分、各年夜平台、企业堪称殚精竭虑。2024年以来，网信部分连续加年夜对收集水军袭击力度，严正查处收集水军构造招募、推广引流、刷量控评等成绩，和谐封闭、下架网站平台400余家，清算守法违规信息482万条，处理账号跟商家店肆239万个、群组5.2万个。2月18日，交际平台小红书经由过程其官方账号“薯管家”宣布黑灰产团伙的典范行动，提示用户进步分辨力。从前三个月，管理团队共处理黑灰产养号超越100万个。 车企蔚来任务职员表现，企业曾见过疑似AI改写统一内容、雷同配图大批水军账号散发，来争光企业的情形。往年2月8日，蔚来开创人李斌在直播间“策反叛军”，表现将对自动供给线索的水军供给嘉奖。第二天，蔚来法务部宣布的一则“赏格布告”表现，蔚来将供给100万元赏格，面向全社会征集黑公关线索。 北京师范年夜学消息传布学院、盘算传布学研讨核心教学许小可先容，晚期，对真人水军、AI水军的辨认绝对简略。黑灰产职员常在一个隐藏场合内任务，关系的IP地点等信息不会变更，而畸形用户天天有种种运动，手机表现出差别的IP、地舆地位等。一些监控软件、平台能够应用这个细节分辨并封禁存疑的账号。别的，传统收集水军需投入大批人力，只要要检查发帖用户包含年纪、性别、挚友等各项属性，再看一下该用户的发帖内容好坏跟话题的相干度，再辅以局部平台的验证机制，基础能断定是畸形用户仍是疑似水军。但是在当下，单靠这套辨认方法很难再精准袭击。AI水军可经由过程算法批量天生案牍，还能模仿实在用户的行动。 良多人感慨，现在已越来越难辨认同在一个场域的网友是真人仍是AI。叶幸先容，依据极验数据跟多行业效劳教训，电商、交际、金融三行业的AI水军浸透率可能在30%到40%。 叶幸指出，当下跟黑产之间抗衡，实质上都是本钱博弈，须要一直让黑产的投入产出比掉衡。采取的方式仍是从技巧、战略跟资本耗费多维度动手，比方经由过程增添攻打难度、延伸破解时光、耗费硬件资本等。 增强AI管理，使其向上向善，始终是主管部分尽力的偏向。克日，国度互联网信息办公室、产业跟信息化部、公安部、国度播送电视总局结合宣布《人工智能天生分解内容标识措施》，自2025年9月1日起实施。措施明白人工智能天生分解内容标识重要包含显式标识跟隐式标识两种情势，并请求人工智能天生分解内容必需增加标识。 杨冰等待，新的标识措施能带来转变。(文中杨冰、小黄为假名) 起源：束缚日报 【编纂:苏亦瑜】 中国多措并举鼎力提振花费