AI被警告成致命武器之后：靠AI接单的人，哪三类活别碰

为什么一个做软件的人，会对着镜头说AI像武器

2026年9月25日，微软的联合创始人在美国NBC《与媒体见面》节目的采访里说了一句话，第二天被国内媒体大量转载，#某位科技大佬警告AI成致命武器# 冲上了热搜。他的原话是：「从未有过任何一种武器，能比得上怀有恶意的人借助最新AI工具所形成的威胁。」

有网友把这句话前后的意思总结成了一句更像中文的表述：「科技发展有利有弊，就看大家是怎么利用了。」这句总结其实比原话更接近普通人关心的部分，AI到底是好是坏，不取决于AI，取决于用它的人。

他这次讲的重点不是「AI很危险」这种笼统判断，而是三件很具体的事：一是AI已经强大到可能被恶意使用者用来引发大规模伤亡事件，二是自我监管远远不够，必须让执法部门和政界参与，三是保障措施与监督机制「必须成为一项强制性要求」。

他还点了名，恶意使用者可能拿AI去做的事包括：网络攻击、欺诈、虚假信息传播，以及攻击医院、金融机构、电网和政府系统。

对一个正在用AI接单的人来说，这些词听着远。但把「欺诈、虚假信息」翻译成日常语言，就是那几个最常被问到的活：能不能帮我把这张脸换到另一个人身上、能不能克隆一段声音、能不能让某个名人「说」一段话。

为什么科技圈自己先吵起来了

这条热搜有意思的地方在于，它不是一个外部批评者的指控，是一次内部人的表态。而且表态之前，业内已经吵过一轮了。

2026年9月初，一家AI公司的员工宣布辞职，指责两家前雇主「竞相开发超级人工智能」，是在拿大家的生命冒险；同一家公司的另一位员工表示，他认为人工智能在未来十年内消灭所有人类的可能性超过10%。这些话出来之后，该公司的首席执行官敦促放缓研发速度，这个提议很快得到另外几家头部公司的负责人支持。

分歧在哪？一边认为风险是真的，先减速、先把安全机制建起来；另一边认为企业没有执法权、跨境监管标准不一，靠自律堵不住滥用，所以必须走强制监管。他这次的表态站在后者，行业自律远远不够。

这里要看清一件事：这两拨人不是「反对AI」和「支持AI」的区别，他们都是这个行业的建设者。他们争的是「谁来管、管到什么程度」。对一个靠AI吃饭的普通人来说，这个争论的实际含义是：接下来这一年，对AI生成内容的规则只会更细、更严，不会更松。

反推一次。如果你现在的接单模式里，有一部分收入是靠「客户看不出这是AI做的」，那这部分收入的前提就是「没人管」；一旦强制标注落地、平台开始比对元数据，最先被清出去的就是这类单子。不是你运气差，是这门生意本来就建在一条会缩窄的缝里。

靠AI接单的人，哪三类活别碰

现在说主体。这门活本身不是新东西：用AI出图、做口播、剪视频、生成配音，按张或按条交付，客户是电商卖家、短视频账号、本地商家。门槛低、起步快，所以这几年进场的人多。

它的分界线不在「会不会用工具」，在「你交付的东西是给谁用、有没有拿真人做素材」。按风险从高到低，这三类活我建议直接不接：

第一类，给真人换脸。把甲的脸换到乙身上，不管是照片、视频还是直播切片，这是这一行里风险最高的一类。它涉及的是肖像权，跟你有没有收钱、对方有没有同意，是两件事。

第二类，克隆真人声音。包括模仿某位具体的人的声音去生成语音、做口播、做客户服务电话。这类活最容易被拿去做欺诈，一旦对方拿你交付的素材去骗人，你的交付链条就是证据链的一部分。

第三类，以名人名义生成口播或形象。哪怕只是「做个演示样本」，只要最终内容里出现了某个真实人物的面孔或声音并被传播出去，风险就落到你头上。

那什么样的活能接？把真人元素去掉的那一类：产品图、场景图、虚拟数字人形象、不指向具体个人的配音、商家自己的素材做二次加工。判断标准很简单，如果这段内容播出去，会被误以为是某个真实的人说过或做过的，就别接。

交付前必须做的三件事

不管接哪一类活，交付前有三件事是硬性的，来自2025年9月1日起施行的《人工智能生成合成内容标识办法》。这份办法由国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局四部门联合发布，配套的强制性国家标准同日实施。

第一件，加显式标识。生成合成内容要在文本的开头、结尾或关键位置标注「人工智能生成」或「AI生成」，字体要清晰可辨，不得刻意缩小或模糊；图片加水印，音频加语音提示，视频在画面上标注。原则是让普通用户「一眼可见」。

第二件，留隐式标识。文件元数据里要加入标识，字段名称必须包含「AIGC」标识符号，内容要涵盖生成确认状态、生成服务提供方信息、内容编号、数字签名或哈希校验值。这一层用户看不见，但它是溯源和取证用的。

第三件，不碰标识。任何组织和个人不得恶意删除、篡改、伪造、隐匿这些标识，也不得为他人实施上述行为提供工具或者服务。这一条对做二创和分发的人尤其关键，客户拿你的成片去把水印裁掉，你如果帮着裁，就是踩线的一方。

再说钱这一头为什么值得认真做。这不是道德问题，是生意问题：标识是内容能不能上架、能不能投流的前置条件。违反规定的，会由网信、电信、公安和广播电视等有关主管部门按职责依规处理，处理的结果直接对应你的账号和交付物能不能继续用。

规模上，这门活的底盘不小。截至2025年6月，我国生成式人工智能用户规模已经达到5.15亿人。用的人多、平台多、商家多，但对AI内容的标注要求是一致的，所以「能合规交付」这件事本身，会慢慢变成筛选接单人的一道门槛。

哪一步最容易翻车？三处。第一处是把客户的「帮我处理一下水印」当成普通需求，这是最典型的坑。第二处是交付时把元数据压没了，很多转码、压缩、二次导出的工具会顺手清掉元数据，你以为只是压缩了一下，实际上把隐式标识删了。第三处是用别人已经生成的素材做二创，源头有没有标识你不知道，交付出去责任在你。

常见问题

某位科技大佬警告AI成致命武器，跟做AI副业的人有什么关系？

关系是它把「AI被滥用」从一个技术议题变成了监管议题，而监管的直接对象就是内容标识。 对靠AI接单的人来说，实际含义是交付标准会变严：不做标注的内容会越来越难上架、难投流。

AI生成的图、视频、配音，现在必须标注吗？

必须。2025年9月1日起施行的《人工智能生成合成内容标识办法》要求AI生成的文字、图片、音频、视频等内容都要「亮明身份」。 标注分两种：显式标识让用户一眼看到，隐式标识放在文件元数据里、字段名必须含「AIGC」。

做AI接单，哪些活风险最高？

给真人换脸、克隆真人声音、以名人名义生成口播形象，这三类风险最高，建议直接不接。 相对安全的活是把真人元素去掉的那些：产品图、场景图、虚拟形象、不指向具体个人的配音。

交付时最容易在哪一步踩线？

最容易踩在两件小事上：帮客户去掉水印，以及用转码压缩工具二次导出把元数据清掉。 这两件事都属于删除或隐匿标识，办法里明确禁止，也禁止为他人这么做提供工具或服务。

今天就能做的三件事

1. 把最近三个月交付过的作品翻一遍，检查有没有用真人面孔、真人声音或名人形象做素材，有的话标记出来，以后不再接同类需求。
2. 打开你常用的AI绘图、配音、视频工具的导出设置，找到「AI生成」水印或元数据开关，确认默认是打开的，别在压缩环节把它关掉。
3. 在自己的接单话术里加一句话：成品自带AI生成标识，如需去除标识这单不做。把它提前说清楚，比交付之后再解释有用。

这份活不适合所有人。它要你不断学新工具，工具一换手头的经验就贬值；单价被压得很低，同一个效果会有几十个人报更低的价；还要随时跟着标注规则调整交付流程。只想接单不想管合规的人别做，觉得「标注影响成片效果、客户肯定不乐意」的人也别做，客户不乐意的那些单，本来就是风险最高的那些单。

我见过做内容的人栽跟头，很少是因为技术不行，多半是因为接了一单「客户说不要留痕迹」的活。这门生意的顺序应该是：先把不能接的单划出去，再去谈能接的单。