一系列来自AI技术行业内部人士的视频呼应了近期一些外部人士发出的末日论警告。包括OpenAI、谷歌和Anthropic的现任及前员工在内共有十几位AI研究者接受了采访。这些采访由非营利机构Palisade Research收集整理并发布在frominside.ai网站上该机构专门研究AI的能力与动机。在我看来人类灭绝的概率大约是对半的机会曾在OpenAI和谷歌DeepMind工作过的杰弗里·欧文Geoffrey Irving在一段新采访中这样说道。多位研究者也和欧文一样对AI可能导致人类灭绝的可能性发出了警告。谷歌DeepMind研究科学家尼尔·南达Neel Nanda表示至少有10%的概率会导致人类灭绝这个数字已经高得离谱了。此前有报道注意到南达和欧文的类似言论探讨了AI安全这一社区面临的困境——很难明确界定这个术语到底意味着什么或者人们应该采取什么行动即便是这些视频也没能给出一个统一的解决方案。前OpenAI研究员丹尼尔·科科塔约Daniel Kokotajlo的言论更为激进他声称超级智能AI基本上会拥有神一般的力量并补充道不幸的是我们完全不知道该如何控制它们。所以很可能没有人能控制得住。这真的有传言中那么危险绝不能让这种情况发生。除了完整版视频外该网站还收录了多位受访者就相似话题发表看法的片段包括这一切是否只是炒作或营销手段以及他们为什么明知危险却仍要投身其中。谷歌的玛丽·福昂Mary Phuong在其中一段回应中说我认为你们完全应该对我说的话持怀疑态度因为我是拿着实验室的薪水说这些话的。而南达则解释道如果我不相信自己的工作真正在降低这些生存性风险我会选择辞职……但这些公司不会因为我一个人辞职就停止研发这些系统。QAQ1这次AI研究者发出的警告主要讲了什么A来自OpenAI、谷歌DeepMind等公司现任及前员工的十几位AI研究者通过视频警告超级智能AI可能带来人类灭绝的风险部分研究者给出的灾难概率高达10%甚至50%。Q2这些视频是谁发布的A这些采访视频由非营利机构Palisade Research收集整理并发布在frominside.ai网站上该机构专门研究AI的能力与动机。Q3既然AI研究者认为风险这么高为什么他们还继续在这些公司工作A谷歌DeepMind研究科学家尼尔·南达解释说如果他不相信自己的工作能真正降低这些生存性风险他会选择辞职但即便他辞职这些公司也不会因此停止研发相关系统。