展开抓取的正文（本地存档，已排版）
今天，OpenAI 首席执行官山姆·奥尔特曼（Sam Altman）在联合国安理会就人工智能问题发表了讲话。他讨论了人工智能扩大机遇的潜力、保持强大系统处于人类控制之下的重要性，以及在国际人工智能安全方面开展合作的必要性。
致辞全文
主席先生，各位阁下：
我很荣幸能在此重要时刻与各位交谈。
我们谈论人工智能已有数年，但近几周和几个月来，情况似乎有所不同。模型的快速进步使得时间线显得更加紧迫，其积极影响更加切实可见，但其风险和 stakes（利害关系）也变得更加迫在眉睫。
我们面临一个选择。人工智能要么成为创造力与发现的新文艺复兴，要么成为动荡与混乱的新工业革命。
文艺复兴是一个新工具、新思想和新机构扩展了人们所能想象之能力的时期。人工智能可以为我们这个时代扮演这一角色。我相信人们的能力远超他们的自我认知，但他们一直受到技术局限的制约——这些本应赋能的技术反而分散了注意力，甚至常常窃取人们的关注。
最好的版本的人工智能，并非让人成为巨大机器中的齿轮，也不是将生活的方方面面优化到人类部分消失的地步。它关乎赋予人们在日益复杂的世界中更多的自主权：更强的学习能力、创造能力、发现能力、构建能力和参与能力。有许多事情人工智能无法做——也不应该自动完成。
人工智能应为人而建，而非仅仅为了加快机器运转的速度而存在。一些致力于开发人工智能的人士曾指出某些场景令人极度不安，听起来就像糟糕科幻电影的剧情。
如此强大的事物也令人敬畏。此刻我们既感受到巨大的潜力，又感到完全可以理解的焦虑，形势十分复杂。
这些模型可以帮助人们发现新知识：新药、更好的医疗保健、更优质的教育，以及构建更具生产力的经济体。它们可以成为人们追求梦想和抱负的新工具——而这些梦想和抱负在今天看来似乎遥不可及。普通人的生活复杂性已急剧增加。人工智能既可以作为应对这种复杂性的防御工具，也可以作为前所未有的发现与创新工具。
另一方面，随着人工智能系统变得更加强大和自主，它们的发展速度可能快于我们的机构，权力可能集中在少数人手中，或者做出人们不再理解或无法控制的决策。
当接近能够自我改进及其未来版本的系统时，这一担忧尤为重要——这类系统通常被称为“递归自我改进”。随着人工智能开发过程的自动化程度提高，人工智能的进步步伐可能会急剧加速。此刻需要极度谨慎。
我大体同意本杰明教授（Professor Bengio）的观点。不过我想补充两点而非三点——我认为有两种方式会导致人工智能发展出现严重问题，我们必须避免。
首先，我们可能将未来的控制权让渡给人工智能。风险在于其发展速度过快，人们无法跟上事态发展或进行必要的干预。这显然是可怕的。
行业不应仅仅因为利益巨大、自身地位重要而接受过高的技术风险，从而放慢脚步。在竞争节奏中击败其他公司并非做出鲁莽决策的理由。我们也并不认为我们被困在一场无法控制的竞赛中。过去我们曾单方面放缓步伐，未来也会如此。我们不希望构建那些我们无法确保对齐性、可监控性和安全保证的系统——我们认为每个人都应避免构建此类系统。
我们需要理解这些系统在做什么，并有充分证据表明它们会按人们的意愿行事，即使它们变得非常、非常聪明。实际上，越是如此，这一点越重要。人们将灾难风险定为 10%、1%、12% 还是 0.1%，都不重要——所有这些水平都完全不可接受。我们不应训练那些我们无法强烈论证能够保持人类控制的模型。
因此，这是事情可能出错的一种方式。在另一个方向上，这些系统可能导致权力过度集中在少数人手中。任何个人、公司或国家都不应能够利用最强大的人工智能模型将自己的世界观强加于他人。如果某家公司或国家认为只有它能被信任掌握这项技术，它可能会以此为由合理化几乎任何事情。我们必须拒绝这种逻辑，即使它对某个行为体而言很方便。
我相信存在一条务实的路径可以同时应对这两种风险。在 OpenAI，我们面对这些问题有着明确的目标：人工智能应赋予人们对自己生活的更多掌控权。更多的自由去过上自己希望的生活。更强的能力去解决大小问题，并改善其所在社区。我们不希望陷入盲目乐观的陷阱，也不希望陷入末日论的陷阱。被拉向任一极端都无法帮助我们成功应对眼前的挑战，尤其是在世界及其人民面临如此巨大挑战、而这项技术有助于解决这些挑战的时刻。因此，我们努力在这两个极端之间走中间道路。
对我们而言，这意味着三项原则。
首先，随着人工智能能力不断增强，人们必须始终处于人工智能决策的核心。对齐（alignment）不是一个抽象的研究问题。它是确保这些系统可靠地保持在人类控制之下、反映人类价值观并帮助人们指导下一阶段发展的工作。我们既无意也绝不能自动化人类的判断或人类价值观。
其次，科学进步和经济增长的红利必须惠及人民、由人民共享。人工智能应助力研究人员取得突破、帮助医生救治患者、支持教师教育学生、扶持创业者创办企业、协助社区解决那些曾看似无法攻克的难题，等等。人类进步的连续故事并非工具取代人的能动性，而是合适的工具使人更加强大；我相信这一点将远超我们目前的想象。
第三，这项技术必须赋能个人。美好的未来源于人们实现自身潜力，并为自己、所在社区、国家乃至更广阔的世界创造价值。我们或许是这项技术的构建者之一，但我们并非这个故事的主角。我们的角色是赋能全球各地的人们，并信任人类技能与能力的非凡力量。
如今，我们已经拥有了能够发现前所未有知识的模型。以数学领域的进展为例：三个夏天前，我们的模型在小学数学方面表现尚可；两个夏天前，它们在高中数学竞赛中表现相当不错；去年夏天，我们在最负盛名的国际数学竞赛中达到了金牌水平；就在本夏初的几周前，我们的一款模型解决了千禧年大奖难题之一——纳维 - 斯托克斯方程。
这些方程用于飞机设计、天气预报和血液流动研究等领域。我们并非为了解决数学问题本身而做这些，而是为了赋能人们发现新知识，并利用这些知识改善医疗保健、提高生活水平、拓展全球每个人的潜力。仍有大量待发现的奥秘。
但非常重要的一点是：公司不应取代民主进程。
若人工智能要体现民主精神，最重要的决策不能仅由旧金山的实验室做出。它们必须通过民主程序形成，并由对人民负责、服务于人民的政府来塑造。
在国际层面，这将需要合作。回顾历史，曾有过这样的时刻：即使国家之间竞争激烈、彼此并不总是友好，面对一项强大的新技术时，仍能为了共同利益和集体福祉携手合作。我们相信，此刻正是其中之一。
我们需要建立互补的国家与国际前沿人工智能标准机制：用于衡量能力、评估风险、判断 safeguards（保障措施）是否充分，并在系统日益自主的过程中保留有意义的人类监督。
我们需要通用标准，以便各国能够比对证据、验证合规性，并就正在发生的情况形成共同的语言和理解。
我们需要准确且迅速的事故报告机制、分类与报告协议，使世界能够在灾难发生前从失败中汲取教训。
我们还需要在政府、关键基础设施运营商和技术专家之间建立安全渠道，以共享新兴漏洞和新威胁。
显然，这些标准不应锁定现有企业或偏袒某种商业模式。它们必须支持开放和封闭模型的开发者、新进入者和既有实验室，兼顾国家权威与国际合作。每个政府应自行决定如何将标准纳入其法律体系。但如果我们能在全球层面就什么是良好的证据、有效的保障措施以及适当的人类监督达成共识，那么所有人都会受益。
我们并非拥有所有答案，也持开放态度欢迎任何更优的构想。我们已准备好与各位携手合作，竭尽全力探索前进之路。
我们正处于十字路口。一条路径通向一个权力集中、决策不透明、人们感到自己时代最重要的技术正被强加于他们的世界；另一条路径则通向一个人工智能服务于人民的世界——因为人民通过民主机构决定其发展方向并加以引导；在那里，科学进步切实改善生活；更多人能参与塑造未来；这项技术持续赋予个人和社区更大的自主权，让他们按自己的意愿生活。这是一个潜能得以实现、充满兴奋与惊奇的未来。
而这正是我们认为值得构建的未来。谢谢大家。