上海打卡攻略别踩坑!这些AI造假套路竟让本地人也懵了

上海打卡攻略别踩坑!这些AI造假套路竟让本地人也懵了

在社交网络上,你是否也刷到过这类帖子?

“来上海,必去这一站”

“免费打卡上海绝美秘境”

“本地人私藏的宝藏地”

……

每逢暑期,上海始终是旅行市场的热门选择。不少博主热衷于在平台上发布各类上海旅游攻略,以此吸引游客目光。这些帖子往往以精美的城市风光照作为封面,无论是摩登挺拔的高楼大厦,还是旖旎动人的自然景致,都极易让人产生向往之情。

但那些“有图有真相”的所谓“上海打卡地”,真的如宣传那般存在吗?

许多上海本地居民反映,帖子里推荐的诸多景点根本不存在。记者近日经过核查发现,其中相当一部分图片和视频实为AI生成,其余部分则是挪用其他地区的影像素材。

虚假景点背后,暗藏着引流牟利的套路。

近期,记者在多个社交平台浏览了大量“上海旅行攻略”内容,发现被网友指出造假的帖子,大多遵循着高度相似的固定模式:

这类帖子通常包含大量画面精美、日常生活中难得一见的场景。封面极具诱惑力——漫天红灯笼连成绵延长廊;临水穿行的红色轨道飞车热闹鲜活;成群游客乘坐敞篷缆车掠过田园上空……

然而,所有发布此类内容的博主,均未明确指出这些场景具体位于上海的何处。经多名文旅行业从业者逐一辨认,这些场景与上海毫无关联。其中占比不小的内容由AI直接生成,剩下的部分则是张冠李戴,将其他地区的照片和视频直接冠以“上海”之名。

此外,这些经不起推敲的帖文中,还穿插了不少上海本土的经典打卡点位,包括外滩、豫园、陆家嘴等知名景点,以及部分热门商业场所。这种真假参半的内容呈现方式,使得从未到访过上海的网友难以辨别真伪。

真实的旅行攻略才能赢得长久关注。那么,相关博主为何要使用假照片、假视频呢?

原来,在这些虚实混杂的“上海打卡地”内容里,隐藏着发布者的真实目的——为特定商业场所引流。

例如,两个内容高度同质化的自媒体账号,在所有发布的笔记中都会统一推荐同一家家居商场,并刻意将该家居商场与上海的经典知名景点放在同一维度进行介绍。

这两个自媒体在发布“上海攻略”时使用的部分封面,其对应的相关场景均不属于上海。发帖者在内容中暗示,乘坐配图里的轨道交通即可抵达该家居商场,但上海实际运营的地铁车型与图片中的完全不符。

其中一个账号的营销手段更为激进:除了利用AI生成图片进行“种草”,还将AI生成的视频与网传素材剪辑拼接,制作出洪水泛滥、人流拥堵、城市险情等各类惊悚灾害类视频,搭配“出大事了”“全国都知道了”等夸张文案。随后话锋一转,点明所谓的“大事”其实是该家居商场正式开业。也就是说,这个账号炮制各类惊悚画面的核心目的,就是靠虚构的险情博取大众眼球,最终为目标商场导流。

至此,这类虚假攻略背后的商业逻辑已十分清晰:用AI生成精美景观的成本极低、产出效率极高,发布者无需实地取景,即可批量生产大量虚假帖文;同时,这些虚构出来的绝美景观天然更容易获得流量关注,方便发布者在内容里植入推广信息,赚取对应的推广佣金。但不断扩散的虚假旅行攻略,不仅会误导游客的出行规划,还会歪曲城市原本真实的文旅风貌。

用AI生成虚假景观的行为,已经触碰了多条法律红线。

记者注意到,不少发布包含AI生成内容的虚假攻略的博主,都没有按照对应社交平台的规则要求,给自己的帖子标注AI生成相关标识。也正是因为这个原因,这类帖子的迷惑性被进一步放大。

也有公众提出疑问:如果博主主动声明自己发布的攻略里包含AI生成内容,是不是就不需要承担相关责任了?

针对这个问题,相关专业人士给出了明确解答:

首先,我国相关法律已经作出明确规定,发帖者必须清晰明示自己发布的帖子里包含AI生成内容。博主刻意隐瞒图片由AI制作的事实,本身就已经违反了AI内容监管的相关法规。

其次,即便发帖者明确告知帖子里存在AI生成内容,其发布行为也必须严格遵守《广告法》的相关要求。根据《广告法》规定,把现实中不存在的景观作为噱头诱导消费者前往消费,或是披着“旅游攻略分享”的外衣隐性投放商业广告,却不标注“广告”“推广”等相关字样,都已经涉嫌构成虚假宣传。

一旦相关事实被查实,监管部门可以对发帖者、合作的商业机构处以罚款;如果有游客被这类虚假宣传误导,自身权益遭受损失,发帖者还需要承担对应的民事赔偿责任。

除此之外,如果存在账号矩阵批量造假开展推广的情况,账号背后的实际控制人或相关机构,还可能被认定为团伙式虚假营销,被依法从严追责。

最后,部分博主使用灾难相关的惊悚图片、视频博取流量,涉嫌造谣滋事,已经违反了《治安管理处罚法》。如果大范围传播虚构的洪水、人流踩踏、城市险情等不实内容,引发公众恐慌、扰乱公共秩序,情节严重的还将触犯《刑法》,需要承担对应的刑事责任。

法律界相关人士提醒:

AI本质上只是一种创作工具,发帖者始终是法律层面明确的责任主体。因此,发帖者不能以“内容由AI生成”作为借口推卸自身的违法责任,反而需要在发布内容前,全面了解自己应当遵守的各项法律规定。

“照骗”升级,对应的管理措施需同步跟进。

值得关注的是,虚假旅行攻略的出现,也反映出社交平台上的内容造假现象正在持续升级:

第一阶段是普通照片变成“照骗”。部分博主使用修图软件,把实拍的照片或视频的光线、色彩调整美化后发布到社交平台,这些被美化后的照片被网友俗称为“照骗”。

第二阶段是虚实拼接改造。部分博主截取真实景点的局部画面,搭配AI生成的建筑、背景、人物等内容进行拼接改造,轻微改动实景的原有样貌。因为AI生成的效果更加多元自然,这类内容也被称作“照骗2.0”。

如今,相关造假行为已经进入了第三阶段,也就是纯AI生成引流模式:博主全程不需要实地拍摄,完全依靠人工智能创造现实中不存在的景观,再混杂部分真实场景发布图文、视频内容。

不难看出,在当前的新阶段,社交平台原本使用的内容审核机制也需要同步升级:

一方面,要通过技术手段落实“AI生成”内容的强制标注要求;

另一方面,社交平台应当升级自身的算法风控模型,针对性打击同质化的矩阵营销行为;

最后,社交平台还应当鼓励用户产出真实的旅行攻略内容。比如平台可以专门开设网友甄别举报专区,在帖文展示页面增设“疑似AI造假”的专属举报入口。

新民晚报(xmwb1929)综合上海网络辟谣、新闻坊

编辑:尹尚胜男

编审:周春晟