新闻详情

新闻详情

首页 / 资讯中心 / 详情

“训练AI的人不准用AI!”曝OpenAI外包人员因用AI被解雇:我只是需要一点帮助……

发布时间:2026/11/17 2:51:57来源:尧图网络
“训练AI的人不准用AI!”曝OpenAI外包人员因用AI被解雇:我只是需要一点帮助……
整理 | 郑丽媛出品 | CSDNIDCSDNnews一边让全世界的程序员、写作者和职场人「多用 AI」另一边负责训练 AI 的人却因为用了 AI被直接踢出项目——这听起来像一个段子但据 404 Media 最新调查它确实发生在 OpenAI 的模型训练体系里。本周 404 Media 披露多名参与 OpenAI AI 模型训练的外包人员因为在工作过程中使用 AI被解雇或移出项目。有意思的是他们的工作本身就是阅读真实用户与 ChatGPT 的对话、评价 AI 回答再把这些人工判断反馈给模型。而这场“训练 AI 的人不能用 AI“的冲突也让此前OpenAI曝光的「Project Lily」浮出水面。第一类人每天给 ChatGPT 的回答「打分」要理解这件事首先得知道这些外包人员到底在干什么。9 月中旬404 Media 曾曝光 OpenAI 内部代号为「Project Lily」的项目。根据其获得的内部文件OpenAI 会让数百名外包人员阅读真实 ChatGPT 用户提交的 Prompt甚至完整对话然后对 ChatGPT 的回答进行评分。他们需要判断 AI 的回答是否准确、是否过度迎合用户以及有没有把 ChatGPT 说得太像一个“真人”等。简单来说这就是一种典型的人工反馈流程AI 生成回答人类负责判断这个回答到底好不好再把结果反馈给模型。而这项工作规模并不小。根据 404 Media 此次获得的另一份内部文件显示OpenAI 某些相关项目的参与者规模甚至可能超过 1 万人。虽然这并不代表所有人都在做 Project Lily但足以说明人类外包劳动依然是大型 AI 模型训练体系中的重要一环。更值得注意的是这些人处理的并不一定是 OpenAI 专门编造的测试数据而可能是真实用户提交给 ChatGPT 的内容。此前关于 Project Lily 的报道指出经过隐私过滤后部分敏感信息仍可能出现在审核人员看到的内容中。对此OpenAI 的回应是承认过滤器可能漏掉罕见标识符或模糊的私密表述——换句话说你用来当树洞、当心理咨询师的那些对话可能正在被大洋彼岸的某个承包商细细品读。第二类人专门检查第一类人有没有「偷偷用 AI」除了直接评价 ChatGPT 回答的人员之外OpenAI 相关项目还有另一类外包人员他们负责审核其他外包人员的工作。这两类人的工作并不是一回事● 前者负责「训练数据」看 ChatGPT 的回答 → 评价质量 → 提供人工反馈。● 后者负责「质量监督」看外包人员提交的工作 → 判断是否符合要求 → 检查有没有违规使用 AI。而 404 Media 获得的一份内部工作指南明确规定后者同样不能使用 AI。文件写道审核人员不得使用 AI 检测工具也不得自己使用 AI包括 Grammarly 和 AI 翻译工具在内也不能用于撰写反馈、评论或完成审核工作。原因很简单如果负责抓 AI 的审核人员自己也依赖 AI那么这套监督机制就失去了意义。因此整个流程实际上变成了训练人员负责给 AI「打分」审核人员负责检查训练人员有没有违规——而两类人都必须证明自己的工作来自本人。这也解释了为什么审核人员会拿到一份专门的「AI 使用痕迹」指南他们需要留意一些可能意味着 AI 参与的特征包括重复性措辞、明显的 AI 写作风格以及工作完成速度异常快等。甚至连标点符号都可能成为判断依据例如过度使用破折号等。不过这份内部文件也提醒审核人员不要依赖单一线索也不要用 GPTZero 等 AI 检测工具来直接判断而是要关注整体不能看到某一个符合的特征就下草草下结论。「我只是需要一点帮助」最后却丢了工作404 Media 采访的几名外包人员中有人承认自己曾在参与 OpenAI 模型训练时使用 AI。其中一人甚至向媒体提供了一封据称是自己的解雇通知。通知称雇主发现其工作存在「真实性」Authenticity方面的问题。这名外包人员表示“我不是一个坏人也不是一个糟糕的员工。我只是需要一点帮助于是向 AI 寻求支持但最终却因此走向了失败。”他还坦言自己已经无法从这份工作中感受到快乐也觉得自己没有真正为社会作出贡献。另外在 404 Media 采访的人员中还有 2 人曾为 Mercor 工作——Mercor 是一家 AI 训练公司负责招募专家和外包人员让他们参与包括 ChatGPT 在内的 AI 模型训练工作。而对于外包人员使用 AI 的问题Mercor 发言人也向媒体表示公司招聘这些专家看重的正是他们的专业知识和判断能力合同明确禁止使用LLM完成项目并会通过工具和系统检测违规行为。一旦确认工作人员使用 AI 完成任务公司会立即将其移出项目。AI 越会干活训练 AI 的人反而越不能让 AI 干活截至目前OpenAI 暂未就外包人员因使用 AI 被解雇一事作出回应。而这起事件有意思的地方并不只是「训练 AI 的人不能用 AI」而是它实际上暴露了 AI 产业正在面对的一个现实问题当 AI 成为越来越多人的生产力工具时哪些工作仍必须由人亲自完成对于普通办公人员来说用 AI 润色一句话、翻译一段文字可能只是效率问题但对于训练 AI 的人来说情况完全不同因为他们的「人类判断」本身就是产品的一部分。如果本来负责告诉模型“这个答案好不好”的人让另一个 AI 替自己做了判断那么训练数据的来源就发生了变化如果这种 AI 生成内容又被拿去训练下一代模型就可能进一步引发人们对所谓“模型崩溃”的担忧——即模型反复学习 AI 生成的数据后输出质量将逐渐下降。所以这场看似荒诞的「AI 禁令」其实也是 AI 产业的一道新难题AI 越来越擅长替人完成工作AI 公司却必须想办法确保在最关键的训练环节里人类还没有被 AI 替掉。而这或许也是 AI 进入大规模生产之后一个越来越难绕开的悖论。参考链接https://www.404media.co/people-training-openais-ai-fired-for-using-ai-to-train-the-ai/
网站建设高端定制企业官网
RELATED

相关资讯

更多精彩内容,欢迎继续阅读

较早相关资讯

最新相关资讯

【外设】之大彩串口显示屏 2026/11/15 4:54:16

【外设】之大彩串口显示屏

大彩串口屏初步使用 1 .官网下载 STM32 屏幕 GUI 设计资料 http://www.gz-dc.com/category/typeid/4112 找到 STM32 Keil 工程,移植相关代码因项目而异进行移植,由于项目简单,本人只对用到的指令接口进行修改。 比如:注意事项&…

阅读更多 →
无法下载Windows系统iso文件 2026/11/15 2:04:12

无法下载Windows系统iso文件

当我遇到这个问题的时候,我打开了一个网站: 登录 然后我打算下载的时候: 突然那个官方的连接就可以下载了:

阅读更多 →
【清华代码熊】DeepSeek V4.1 Flash 后训练详解 2026/11/16 19:23:38

【清华代码熊】DeepSeek V4.1 Flash 后训练详解

📌 上期解析了 DeepSeek V4.1 Flash 模型架构改进,本期解析 DeepSeek V4.1 Flash 预训练/后训练技术: 🌟 预训练:45T 文本 多模态混合语料、直接训练 sparse attention(取消 DeepSeek V4 的 dense 冷启动&…

阅读更多 →
Shuffle-R1: Efficient RL framework for Multimodal Large Language Models via Data-centric Dynamic ... 2026/11/16 6:47:19

Shuffle-R1: Efficient RL framework for Multimodal Large Language Models via Data-centric Dynamic ...

文章主要内容和创新点 主要内容 本文聚焦于多模态大语言模型(MLLM)强化学习(RL)训练中的效率问题,提出了一个名为Shuffle-R1的框架。研究发现,当前RL训练存在两个关键缺陷: 优势值坍缩(Advantage Collapsing):批次中大多数优势值集中在零附近,导致有效梯度信号被淹…

阅读更多 →
PRvL: Quantifying the Capabilities and Risks of Large Language Models for PII Redaction 2026/11/14 16:35:50

PRvL: Quantifying the Capabilities and Risks of Large Language Models for PII Redaction

一、文章主要内容总结 本文聚焦于利用大型语言模型(LLMs)实现个人身份信息(PII)脱敏的研究,旨在解决传统脱敏方法(如基于规则的系统、领域特定命名实体识别(NER)模型)泛化能力差、跨格式/跨语境适应性弱的问题。 研究通过全面评估多种LLM架构(包括密集型LLM(D-LLM…

阅读更多 →
LLaVA-RE: Binary Image-Text Relevancy Evaluation with Multimodal Large Language Model 2026/11/16 17:28:18

LLaVA-RE: Binary Image-Text Relevancy Evaluation with Multimodal Large Language Model

文章主要内容和创新点 主要内容 本文聚焦于二进制图像-文本相关性评估任务(判断图像与文本“相关”或“不相关”),针对该任务中文本格式多样、相关性定义随场景变化等挑战,提出了基于多模态大语言模型(MLLM)的解决方案LLaVA-RE。 模型设计:LLaVA-RE基于LLaVA 1.5架构,…

阅读更多 →

今日资讯

本周资讯

本月资讯

看完文章仍有疑问?

联系尧图顾问,获取一对一建站咨询

立即免费咨询 📞 400-888-8888
📞 ✉