Nate Soares

内特·苏雷斯（Nate Soares，1989年—），是美国人工智能研究者，研究关注人工智能带来的生存风险。 2014 年， 苏雷斯与人合著论文《可修正性》（Corrigibility），发表于2015年人工智能促进协会会议论文集。 苏雷斯和艾列泽·尤考斯基（Eliezer Yudkowsky）在该文引入“对齐问题”，描述驱使日益强大的人工智能系统按预期运行将面临的挑战。 苏雷斯是机器智能研究所(MIRI) 所长 。机器智能研究所是伯克利的非营利性研究机构。

2025年，苏雷斯与艾列泽·尤考斯基（Eliezer Yudkowsky）合著《如果有人建造它，所有人都会死》（If Anyone Builds It, Everyone Dies） 。书中，作者认为，如果“使用任何与当前技术类似的手段”创造出比人类能力强得多的人工智能，很可能会导致人类灭绝。进一步指出，人工智能对齐研究仍处于早期阶段，需要国际监管，以防止开发人员竞相构建可能造成灾难的危险系统。

经历

2011年，苏雷斯获取乔治·华盛顿大学计算机科学与经济学理学学士学位。 苏雷斯曾在美国国家标准与技术研究院担任研究员，并曾担任美国国防部的承包商，为美国国防大学开发软件工具。之后又在微软和谷歌工作。

2014年，苏雷斯离开谷歌，成为机器智能研究所的研究员。 苏雷斯是机器智能研究所议程的主要作者。2015年1月，《稳健有益人工智能的研究重点》（Research Priorities for Robust and Beneficial Artificial Intelligence）引用苏雷斯的议程，并与一封公开信呼吁人工智能科学家在技术研究上应优先考虑，“不仅要提高人工智能的能力，还要最大限度地增加人工智能的社会效益”。 该文关注“超级智能机器快速、持续的自我改进（即智能爆炸）的可能性”。

2015年，苏雷斯接替Luke Muehlhauser，成为研究所执行主任。 2017 年，苏雷斯在谷歌发表演讲，概述人工智能对齐领域的开放性研究问题以及其困难。

2023年，机器智能研究所将研究重点从人工智能的对齐，转向向政策制定者和公众发出人工智能潜在的风险警告，并同时继续支持技术研究。 另一方面，苏雷斯从执行董事升任所长，而Malo Bourgon 则成为机器智能研究所的首席执行官。

2025年，在《大西洋月刊》上 ，苏雷斯表示比起技术研究，更关注公众意识，认为人工智能的发展速度太快，以至于无法采取足够的保障措施。

出版物

Garrabrant, Scott; Benson-Tilsen, Tsvi; Critch, Andrew; Soares, Nate; Taylor, Jessica. A Formal Approach to the Problem of Logical Non-Omniscience. Proceedings Sixteenth Conference on Theoretical Aspects of Rationality and Knowledge: 221-235. 2017.

Soares, Nate. The Value Learning Problem (PDF). Yampolskiy, Roman (编). Artificial Intelligence Safety and Security. Chapman & Hall. 2018. ISBN 9780815369820.

Soares, Nate; Fallenstein, Benya. Agent Foundations for Aligning Machine Intelligence with Human Interests: A Technical Research Agenda (PDF). Callaghan, Victor; Miller, James; Yampolskiy, Roman; Armstrong, Stuart (编). The Technological Singularity. Springer. 2017. ISBN 9783662540312.

Soares, Nate; Fallenstein, Benja; Yudkowsky, Eliezer; Armstrong, Stuart. Corrigibility (PDF). AAAI Workshops: Workshops at the Twenty-Ninth AAAI Conference on Artificial Intelligence, Austin, TX, January 25–26, 2015. AAAI Publications: 74-82. 2015.

Soares, Nate; Levinstein, Benjamin. Cheating Death in Damascus (PDF). The Journal of Philosophy. 2020, 117 (5): 237-266. doi:10.5840/jphil2020117516.

Yudkowsky, Eliezer; Soares, Nate. If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All. Little, Brown and Company. 2025. ISBN 9780316595643.