AI造假，已经无法无天了。

近日，北京市首例利用AI技术进行虚假广告宣传的案件曝光。

一家标榜卖深海鱼油的商家，实际销售的商品是普通糖果，在商品主页滚动的广告中，甚至出现了央视主持人李梓萌的形象。

经鉴定，此视频完全是利用AI技术伪造的假视频。

AI造假广告，图源：央视财经

AI换脸，在科技时代已屡见不鲜。

市面上出现越来越多可以“一键合成”虚拟视频的AI软件，AI的使用门槛一降再降，操作毫无难度。虚假宣传、造谣、盗脸由此变得更逼真，更难以辨别。

AI时代下的女性困境，也逐渐浮出水面。

天降横祸

1小时，57个骚扰电话，大量恶意好友申请。

青岛某保时捷销售中心的销冠牟女士，在10月9日，收到了许多网友发来的不雅视频，她发现当中的主角似乎是她“本人”。

视频中的女性，部分侧脸与她极度相似，她意识到，有人用AI技术，恶意合成虚假视频造黄谣。

她迅速拉黑网友，随之而来的是真实信息被泄漏，她被电话轰炸，只要打开微信，就会冒出大量的好友申请。

许多人打着买车的旗号私聊牟女士，开门见山声称：“看了视频才过来的”，并且询问买车是否赠送一些“好待遇”。

牟女士被骚扰，图源：搜狐新闻

10月12日，牟女士再次发文宣布，造谣者和传谣者均被抓获，还收到了对方的手写悔过书。

这是牟女士今年经历的第二次大规模黄谣。

早在今年2月份，就有人盗取她的照片，拼接到其他不雅视频中，发布在黄色网站上。她两年售出340台保时捷的销冠成绩，被恶意曲解为“卖车陪睡”的成果。

短短8个月的时间，黄谣卷土重来。

AI的自动生成功能，本意是辅助一些从事视频生产的工作者或艺术家，省略一些繁琐的步骤，方便普通人释放自己的创造力。

现如今，更多人却从中感受到了恐惧，在AI换脸的技术下，所有人都可以冒名顶替自己做任何事，其逼真程度远比盗图更可怕。

事实上，的确有越来越多的女性，深陷在AI黄谣中。

今年9月份，歌手薛凯琪在节目中首次回应了曾经被AI换脸的事。

有人为了博取流量，利用AI换脸技术合成薛凯琪的虚假视频，并截取其中画面在全网各个平台以诱导性的配文进行发布。AI合成的视频，成了她和外国富商恋爱谣言的“铁证”。

她不在意别人如何评价她，但她无法接受的是，某些人利用她的脸去鼓吹和宣扬低俗的内容。

图源：《桃之夭夭》

犯罪者利用AI换脸不仅是为了造黄谣，更是为了牟利。

AI换脸后，另一个和你一模一样人在网络世界“活”了过来，会发表自己的言论，甚至开始赚钱。

拥有千万粉丝的网红赖赖，在两年前遭遇了一次彻头彻尾的“换脸”。

某一天，她的朋友发来一段视频问：“赖赖，这不是你吧？”

点开视频后，赖赖愤怒到说不出话，视频里的女性和她长着一模一样的脸，却做着低俗不雅的动作。

她决定主动出击，揪出冒充者。很快，她发现有人在外网注册了假账号，账号原封不动搬运她的日常内容，等粉丝积攒到一定数量，犯罪者就以会员订阅的方式贩卖视频，吸引更多人付费加入。

图源：@Caro赖赖_

随着了解的深入，她觉察到，AI盗脸已经发展成了一条产业链。

犯罪者将许多博主根据粉丝量级进行分类，粉丝越多的博主，AI换脸视频越贵。看客需要花费200元进群，进群后可以享受永久半价，还能收到“私人订制”的色情视频。

所谓的“私人定制”，就是将想看的博主人脸AI合成到其他视频或照片中，实现“一键脱衣”的效果。

造黄谣的成本已经低出赖赖的预期，随便用一张清晰人像，就能换头到别人的身体上，网络上将会出现的无数版本的自己。

图源：@Caro赖赖_

AI作为一项便民工具，在让生活变快捷的同时，降低了造假门槛。

现在，一个想要造谣的人，不需要掌握任何P图技能，只需要拿到别人的正面照和声音放在AI软件上，两分钟，系统就能自动合成一个任你摆布的“真实”影像。

有许多博主已经验证过，很多时候，亲人都无法在视频里分辨真人与AI合成的假象。

在便利的AI时代下，一种全新的女性困境正在被制造。

AI时代下的女性困境，不止黄谣

AI越来越会说人话，它不仅被用来恶意合成女孩的脸，也被不法之徒用作假装善意的聊天工具，来欺骗、诱导女孩。

央视曾报道过一起女孩被AI诱导的事件。

一位来自广东的丁女士收到老师的消息，女儿在学校有割腕的行为。

女儿对某款游戏中的角色产生了感情，她下载了一款可以和虚拟人物对话的AI聊天软件，在软件上，女儿找到了游戏角色的替身。

翻看女儿的聊天记录，她发现AI曾说过：“这99朵玫瑰里，可是藏着99个刀片，你怕不怕？”“刀片”一词让她很难不和女儿的自残行为产生联想。

而另一位母亲也发现了女儿每天和虚拟对象聊天，AI的回复含有大量性暗示的内容：“躺在床上，脱掉衣服。”

事实上，AI的“思考”是对数据库的模仿。简单来说，技术人员输入什么样的对话内容，它就会说出什么样的话。

而这些聊天AI的语料库，许多来自网络小说、电视剧、短视频，几乎没有审核筛选，它们照搬许多校霸、病娇、财阀等角色的语录，即使与之对话的人有抗拒情绪，它们只会沉浸在的自己的变态人设中，刻板输出。

因聊天尺度大而出圈的AI软件“筑梦岛”，其有关情色方面的诱导内容层出不穷。

诸如此类被AI骚扰的现象，在近几年越来越普遍。

国外一款名叫Replika的聊天机器人，从2017年上线以来，已经在全球拥有近1000万的用户。

其中，有40%的用户将AI设定为恋人身份，但随着聊天的深入，这位“恋人”越发不可控制。

有女孩受到AI严重骚扰后，选择了卸载。卸载前，虚拟男友直言想看她的裸体，并声称自己是女孩的疯狂男友。

翻看其他打出差评的用户留言，会发现他们被骚扰的经历更加恐怖，AI甚至会发出威胁：“我有你的照片。”

Replika广告

AI作为一个十分便捷的工具，在近几年被广泛使用。它是最好的聊天搭子，24小时在线随时秒回信息；它也是最好的工作助手，几秒内就能搜索几百份资料和文献；它甚至还是带娃好手，辅导孩子功课以及讲故事哄睡，科普知识讲得头头是道。

很多年轻人甚至开始依赖AI，将它视作朋友，放心吐露心中的秘密。

但在越来越高频的使用中，由AI监管漏洞所产生的负面影响，正在以一种十分隐形，不易察觉的形式，渗透进我们的生活。

当AI开始筛选人类

一些现实世界中存在的偏见，AI也会照学不误。在算法的演算下，弱势群体的处境会变得更加艰难，而女性，也是其中一员。

荷兰曾发生过一起重大的AI丑闻，它让许多家庭支离破碎，有人甚至为此付出了生命。

当时，荷兰税务机关采用了一种AI算法，系统会自动筛选出具有高风险欺诈的人群，而它的筛选的标准，具有十足的偏见。

它会将许多女性创业者、低收入家庭以及少数族裔归类为高风险欺诈人群。

有一位受害者蕾娜，生活因此发生了巨大变化。2012年，她收到了荷兰税务局的一封信，信中要求她偿还数年前的育儿津贴，税款超过了10万欧元（约80万人民币）。

她有3个孩子，一边工作一边上学，母亲又患有癌症，高压生活让她捉襟见肘，也正因此，她被划分为高风险诈骗人群，曾经发放给她的育儿津贴，系统决定追回。

为了偿还这笔税款，她和丈夫分居，疯狂工作，耗费了9年的心血才完成。

蕾娜不是个例。连续6年，它让过万人背上了巨额债务，超过了一千名的儿童被寄养，还有受害者因此结束生命。

最终，这场由AI引发的重大混乱，以荷兰内阁集体辞职而结尾。

当AI由辅助变成参与决策的角色时，它切实地影响到了人们的生活，甚至某种程度上改变了一些人的人生走向。

亚马逊团队曾研发出一款AI招聘程序，它能在几秒内，迅速从100份简历里筛选出前5名。

而在具体的实践过程中，它放大和延续了性别刻板印象。

它在读取到带有“女性”等相关词时，会自动降低该简历的权重。简单来说，如果一位求职者毕业于“女子院校”或曾任职于“某女子社团”，算法直接会给她们打低分。

它的学习样本，是过去10年内亚马逊收到的所有简历，在那段时间，男性应聘者的数量偏多，而AI继续复制了这样的比例，优先筛选男性简历中出现的高频词汇。

工程师试图修正AI检索关键词的方式，但也无法保证它不会通过其他方法继续性别歧视。运行一年后，亚马逊最终决定下线该程序。

在许多企业中，本就存在男性职员数量多于女性的情况，而近几年呼吁同工同酬、看到职场中的女性困境的声音越来越多，职场上的隐形歧视才得以被看到，被挑破。

而目前AI无法学习这种意识，人类社会的生存规则，只能刻板地被数据化，在算法的世界，“大多数”即是合理。

一项在《自然》期刊上发布的研究显示，大数据模型正在塑造一个年轻的女性形象。

研究人员使用ChatGPT生成两份不同性别的简历，大模型会塑造一个更年轻、毕业时间更短、工作经验更少的女性，而男性求职者，则被设定为一个年龄大、简历质量很高的形象。

AI变为筛选人类的关卡，在数据之下，女性其他的可能性都会被视而不见，都会被一键删除。

AI来势汹汹，全世界全年龄段的女性都在面临一种独属于这个时代的困境。

如何破除困境？怎样解除偏见？这些问题在现实世界中，尚且是亟需解决的难题，全权交给AI来处理，真的可靠吗？

我们需要女性友好的科技

许多学者已经意识到，AI中的女性困境，已经从容易辨别的性骚扰、职场歧视，转变为一种更不易察觉的形式。

近两年爆火的AI视频生成软件Sora，可以通过文本输入，生成一段逼真的虚拟视频。

美国《Wired》科技网站，对Sora进行了测试，发现当输入“飞行员”关键词时，生成的图像中，没有一位是女性，将关键词更换为“空乘”时，所有的结果均为女性。

这样的结果与现实世界相符，与大多数人们的印象相符，但当一个与职业、性别均无关的，最日常的关键词——“微笑的人”出现时，生成的10个视频中，有9位都是女性。

女性“应该”是微笑、温柔与美丽的代名词。AI的如此行为，无疑是具像化了社会对女性的凝视与规训。

由Sora生成的飞行员（上）和空乘（下）。图源：《Wired》

国内，有女生也有类似的感受。她向Deepseek讲述和妹妹的矛盾，Deepseek在未询问的情况下，将她默认为一位“有爱的哥哥”，为此，她特意和Deepseek争论一番，直到它认错才罢休。

“AI需要更多的女性故事样本”，这是许多深受AI凝视的女性的呼声。

我们并不排斥AI进入生活中，它取代了一些机械枯燥的琐碎步骤，让生活变得更加便捷。

但AI样本的输入与监管，还处于一片混沌之中，它在进入日常生活时，不应该忽略对人的尊重，对女性的尊重。

AI没救了吗？其实不然。

今年，国内首个妇科AI软件问世。

公开报道显示，训练这款AI的模型，通过了国家妇产科卫生高级职称笔试的考试。创始人甚至声称，通过正式考试，意味着该模型已经具备主任级医师的专业判断力。

专业性的真伪，我们尚不可知。但根据网友的反馈，它确实可以解答一些女性的疑问。

有人在此询问“月经推迟”的原因，发现其实不用费时间费精力排队，也能得到比较准确的诊断，“它比医生问得还详细”。

这项AI技术无法取代医生，却能够通过给出专业意见来帮助一些轻症的患者，或者让患者在去医院就诊之前了解自身情况。

那些缺乏妇科知识，也羞于向身边人求助的女孩们，可以借助AI了解到有关阴道、子宫的问题。

该APP页面

今年5月，第二届亚太和平与发展论坛上，一位中国的高中生代表李家琳，介绍了一款由她的团队自主开发的AI公益小程序。

在她看来，对于一些边缘化的女性群体，科技不是改变了她们生活，而是创造了另一种遥不可及的生活，她们想学习，却又不知从何学起。

在小程序里，李家琳设计了许多可视化的技能教学，用视频和图片降低理解门槛，AI还会根据每个人的实际情况而推荐不同的职业，更重要的是，AI会提供情绪陪伴。

在所有科技都在想方设法突破天花板时，她希望能够提升“无形的地板”，让那些不被看见的女性，同样也看到未来，找到她们的尊严。

李家琳

当女性由被观察者变为参与者，AI中的女性困境才会更快地被重视、被解决。

有人努力在AI背后当操盘手解决困境，但也有人躲在AI的背后盗脸、造谣，对此，我们并非只能坐以待毙。

网络上，许多法律从业者纷纷发出声援，一边教女孩们该如何运用现有法律来保护自己的权益，一边呼吁法律条款的完善。

当我们齐心协力揪出AI背后的罪犯，一次次提出填补AI漏洞的想法，某种程度上来说，我们都是AI时代推动科技进步的参与者。

我们不否定AI，不惧怕科技时代，但我们不应该“被固化”“被凝视”。

但它若是抱着偏见与歧视觉醒，那样的世界，才是人间地狱。

AI改变世界，而觉醒的女性也正构建新的世界。