很少更新博客的奥特曼，今天一反常态，连发两篇，回顾了自己创办 ChatGPT 的心路历程，并再次阐述了他对通用人工智能（AGI）的愿景。
从 ChatGPT 的横空出世，到 OpenAI 迅猛成长所经历的风波与挑战，奥特曼在文章中坦诚分享了自己的思考。他回忆了那场突如其来的解雇风波，坦言当时的震惊与迷茫，并反思了公司治理、团队协作与领导力的深远意义。而在 AGI 日益逼近之际，他提出了对技术演进的三大核心观察，并展望了智能体（AI Agents）如何重塑社会结构的未来。
在奥特曼看来，AI 的崛起不仅是一场技术革命，更是一场不可逆转的社会变革。短期内，AI 将成为人类最强大的工具，使个体拥有前所未有的创造力与影响力。长期来看，超级智能（Superintelligence）或许将加速科学发现，推动生产力跃迁，甚至重塑全球经济秩序。然而，在技术狂飙突进的同时，如何确保 AI 造福全人类，成为摆在所有人面前的关键命题。这不仅需要技术层面的探索，更依赖政策制定、全球治理以及社会共识的建立。
作为 OpenAI 的掌舵者，奥特曼始终站在风口浪尖，既被视为科技创新的引领者，也饱受争议与质疑。这两篇博文，或许既是他对过往历程的深刻剖白，也是面对未来挑战时的自我激励！
以下是他博客的全文。
反思
原文链接：https://blog.samaltman.com/reflections
ChatGPT 的第二个生日刚刚过去一个多月，而我们已经进入了能够进行复杂推理的新模型时代。新的一年总会让人陷入沉思，我想分享一些个人的想法，回顾一路走来的历程，以及我在其中学到的一些东西。
随着我们逐步接近 AGI（通用人工智能），现在是一个重要的时刻，值得回顾公司的发展进程。仍然有许多未知需要探索，我们依然处于早期阶段。但相比最初，我们已经掌握了更多的知识。
我们在大约九年前创办了 OpenAI，因为我们相信 AGI 是可能的，并且它可能成为人类历史上最具影响力的技术。我们希望找到构建 AGI 的方法，并使其造福全人类。我们渴望在历史上留下我们的印记。我们的目标非常宏大，同时我们也相信，这项工作可能会给社会带来同样巨大的益处。
当时，几乎没有人关心 AGI，甚至如果有人关注，也是因为他们认为我们没有成功的可能性。
ChatGPT 的横空出世
2022 年，OpenAI 还只是一个安静的研究实验室，正在开发一款暂时命名为 “Chat With GPT-3.5” 的产品。（我们在研究方面远胜于取名字。）我们观察到开发者们通过 API， 在 Playground 中与模型交互时非常投入，因此我们认为围绕这一体验构建一个演示产品，能够向人们展示 AI 未来的重要性，同时帮助我们改进模型的性能和安全性。
最终，我们将其命名为 ChatGPT，并于 2022 年 11 月 30 日正式发布。
我们一直在抽象地设想，某个时刻 AI 变革将迎来临界点，但我们并不知道那个时刻会是什么。让我们惊讶的是，它竟然是 ChatGPT 的发布。
ChatGPT 的推出引发了一场前所未见的增长浪潮——不仅在我们的公司和行业内，也席卷了整个世界。我们终于开始看到 AI 带来的巨大正面影响，并且可以预见更大的变革即将到来。
快速成长的挑战
这一路并不轻松。前进的道路并不平坦，正确的选择往往并不显而易见。
在过去两年里，我们几乎从零开始，围绕这项新技术建立了一整家公司。没有任何培训能让人完全准备好迎接这样的挑战，而当一个技术领域是全新的时，没有任何经验可以借鉴，也没有人能准确告诉你该如何做。
在高速发展、缺乏经验的情况下建立公司是一个充满混乱的过程。通常是前进两步，后退一步（有时甚至是前进一步，后退两步）。错误在过程中不断被纠正，但当你在开创性的领域中工作时，几乎没有现成的手册或指南可供参考。在未知领域高速前进是一种令人惊叹的体验，但对于所有参与者来说，也极具压力。冲突与误解时有发生。
这些年来，这是我人生中最值得回味、最有趣、最美好、最累人、最具压力感的时期——尤其是过去的两年，甚至可以说是最不愉快的两年。但我内心充满感激。我知道，总有一天，当我退休后在农场里看着植物生长，感到有些无聊时，我会回忆起自己曾经有幸实现儿时的梦想。我试着在每个普通的星期五提醒自己这一点，哪怕到了当天的下午一点，就已经有七件事出了大问题。
被解雇的那一天
大约一年前的某个星期五，那天主要发生的问题是——我在一次视频通话中突然被解雇，而电话刚挂断，董事会就发表了一篇博文宣布此事。当时，我正在拉斯维加斯的一间酒店房间里。这一切感觉就像一场走错了方向的梦。
在完全没有预警的情况下被公开解雇，开启了一段极其疯狂的几个小时，乃至几天的经历。 其中最奇怪的部分是 “战争迷雾” ——我们谁都无法获得令人满意的答案，解释到底发生了什么，或者为什么会发生。
在我看来，这整件事是一次公司管理上的重大失败，尽管所有相关人员（包括我自己）都是出于善意。如果可以重新来过，我肯定会做出不同的选择。我愿意相信，今天的我，比一年前的自己更加成熟和深思熟虑。
管理的重要性
这次事件让我深刻认识到，一个董事会需要具备多元化的观点和丰富的经验，以应对复杂的挑战。良好的治理需要 高度的信任和信誉。我非常感谢那么多人的努力，使 OpenAI 建立了一个更强健的管理体系，以支持我们实现 “让 AGI 造福全人类” 的使命。
最重要的收获是，我意识到自己有太多值得感恩的人：
感谢所有在 OpenAI 工作的人，他们选择将自己的时间和精力投入到这个梦想中；
感谢在危机时刻帮助我们的朋友；
感谢支持我们的合作伙伴和客户，他们信任我们，并依赖我们的技术来推动他们的成功；
感谢我生命中的那些人，他们让我感受到真挚的关怀。
迈向超级智能的未来
我们重新投入工作，以更具凝聚力和积极向前的方式前进。我为我们自那时以来的专注感到自豪。过去一年，我们完成了一些迄今为止最出色的研究，我们每周的活跃用户从约 1 亿增长到超过 3 亿，最重要的是，我们持续推出了真正受到人们喜爱并能解决实际问题的技术。
九年前，我们完全不知道自己最终会成为怎样的公司。即使是现在，我们也只是略知一二。AI 发展的道路充满曲折，我们预计未来还会有更多变化。
有些变化令人欣喜，有些则充满挑战。令人兴奋的是，我们见证了一系列研究上的 “奇迹” 发生，许多最初的怀疑者变成了坚定的支持者。当然，我们也看到了一些同事离开，成为竞争对手。随着 OpenAI 快速扩张，团队成员的流动性很大。新创公司在每个关键增长阶段都会经历大量人员变动，而 OpenAI 的扩张速度远超常规，每几个月，规模就会发生数量级的增长。这种快速演进使得利益自然分化，同时也让 OpenAI 作为行业领导者面临来自各方的挑战。
我们的愿景不会改变，但策略将持续演进。例如，最初我们并未意识到自己需要建立一家产品公司，我们以为自己只会专注于研究。同样，我们也没有预见到自己需要如此庞大的资本投入。未来，我们还将构建许多如今尚未完全理解的新事物。
我们对迄今为止在 研究和部署方面的成绩感到自豪，并承诺将继续推进安全性和利益共享的探索。我们仍然相信，让 AI 系统更安全的最佳方式，是通过迭代和逐步发布，让社会有时间适应和与技术共进化。
我们现在有信心知道如何构建 AGI，并认为 2025 年可能会是智能体（AI Agent）正式“加入职场”、实质性改变企业生产力的一年。
然而，我们的目标已经超越 AGI，瞄准了真正意义上的超级智能（Superintelligence）。超级智能可以极大加速科学发现和创新，带来前所未有的繁荣。
这听起来像科幻小说，甚至有些疯狂。但这没关系——我们已经经历过类似的情况，并且愿意再次经历。
三点观察
原文链接：https://blog.samaltman.com/three-observations
我们的使命是确保 AGI（通用人工智能）惠及全人类。
正在出现的系统已经开始迈向 AGI，因此我们认为理解当前所处的阶段非常重要。AGI 是一个定义较为模糊的术语，但通常指的是能够在人类水平上解决越来越复杂问题的系统，并涵盖多个领域。
人类是工具的创造者，天生具有理解和创造的驱动力，这使得世界对所有人来说变得更好。每一代人都在前人的发现基础上构建更强大的工具——从电力、晶体管、计算机、互联网，到即将到来的 AGI。
长期以来，尽管进展时有起伏，人类创新的稳步推进给人类生活的方方面面带来了前所未有的繁荣和改善。从某种意义上说，AGI 只是我们共同构建的人类进步“脚手架”上的又一项工具。但从另一个角度来看，它标志着一个全新的开始，让人不禁感叹：“这次真的不同了。” 未来的经济增长前景令人惊叹，我们甚至可以想象一个世界——所有疾病都被治愈，我们有更多时间陪伴家人，并能够充分发挥我们的创造潜力。
十年后，也许地球上的每个人都能比今天最具影响力的人实现更多成就。
人工智能的发展正快速推进，我们对 AI 经济学有以下三点观察：
1. AI 模型的智能水平大致等于其训练和运行所用资源的对数。
这些资源主要包括训练模型的计算能力、数据和推理计算能力。看起来，只要愿意投入足够的资金，就可以持续获得可预测的智能增长。而相关的扩展法则在多个数量级上都准确适用。
2. 使用某一水平 AI 的成本大约每 12 个月下降 10 倍，而更低的价格会带来更广泛的应用。
可以从 2023 年初 GPT-4 的 Token 成本到 2024 年中 GPT-4o 的价格变化中看到这一点，在此期间，每个 Token 的价格下降了约 150 倍。摩尔定律的影响是每 18 个月翻倍，而这个变化更加惊人。
3. 智能的线性增长，其社会经济价值是超指数级的。
由此可见，我们没有理由认为对 AI 的指数级投资会在短期内停止。
如果这三点观察继续成立，对社会的影响将是巨大的。
我们正在逐步推出智能体（AI Agents），最终它们将变得像你的虚拟同事一样存在。
以软件工程智能体为例，预计这类智能体将特别重要。设想未来它能完成大部分顶级公司的软件工程师，通过几年经验积累，需要耗费好几天才能完成的工作。虽然它不会提出最具突破性的想法，仍需要大量人类监督和指导，在某些领域表现出色，同时又在某些地方出乎意料地糟糕。
尽管如此，它仍然可以被视为一个真实但相对初级的虚拟同事。现在想象有 1000 个这样的智能体，或者 100 万个。再想象类似的智能体出现在所有知识工作领域。
从某种角度来看，AI 可能在经济活动中类似于晶体管——一种能够大规模应用的科学发现，最终渗透到经济活动的每个角落。如今我们很少特意关注晶体管或晶体管公司，但我们期望计算机、电视、汽车、玩具等设备能够实现各种“奇迹”。
世界不会一夜之间发生翻天覆地的变化——它从未如此。短期来看，2025 年的人们仍然会像 2024 年一样度过他们的日常生活：我们仍然会坠入爱河，组建家庭，在网上争吵，去户外远足等等。
但未来将以一种无法忽视的方式向我们袭来，对社会和经济的长期影响将是巨大的。我们将找到新的事情，发现新的方式去帮助彼此，以及新的竞争方式，但这些可能与今天的工作形式截然不同。
适应力、决策能力和意志将变得极为重要。
准确决定要做什么，并学会在快速变化的世界中“航行”，将变得极具价值，适应力和抗压能力将是值得培养的技能。AGI 将成为人类意志史上最强大的杠杆，使个体比以往任何时候都更具影响力，而非相反。
我们预计 AGI 的影响将是非均衡的。尽管某些行业可能变化不大，但科学进步可能会比今天快得多，这一影响甚至可能超越其他所有变化。
许多商品的价格最终会大幅下降（目前，智能成本和能源成本对许多产业构成了限制），而奢侈品及某些本质上有限的资源（如土地）的价格可能会急剧上涨。
从技术角度来看，前方的道路相对清晰。但 AGI 如何融入社会，公共政策和集体意见至关重要。我们之所以选择尽早且频繁地推出产品，部分原因是希望让社会和技术能够同步进化。
AI 将渗透到经济和社会的各个方面，我们将逐渐期待所有事物都具备智能。许多人认为，我们需要比以往更加赋予个人对技术的控制权，包括更多开源，并接受在安全性和个人赋权之间必须做出的权衡。
虽然我们绝不希望鲁莽行事，并且关于 AGI 安全性的某些重大决策和限制可能会引发争议，但整体而言，随着我们逐步接近 AGI，我们认为它对每一个人都非常重要。
确保能够更广泛地分配 AGI 益处至关重要。
历史表明，技术进步通常会使大多数关键指标（健康状况、经济繁荣等）在长期平均改善，但收入平等通常不会自动实现，这可能需要新的理念和政策介入。
尤其是，资本与劳动力之间的权力平衡可能会被严重破坏，这或许需要提前干预。我们愿意考虑一些听起来很奇怪的想法，例如提供“计算预算”，让全球所有人都能广泛使用 AI。同时，我们也看到，仅仅不断降低智能的成本就可能达成这一目标。
到 2035 年，任何人都应该能够调用相当于 2025 年全球所有人的智力水平；每个人都应拥有无限的天才资源，以实现自己的想法。目前，世界上仍有大量人才因资源不足而无法充分发挥潜力。如果这一状况改变，全球的创造力将带来巨大的共同利益。
特别感谢 Josh Achiam、Boaz Barak 和 Aleksander Madry 审阅本文草稿。
注：在本文中使用“AGI”一词的目的是清晰表达我们的观点，并不意味着改变或解读我们与微软之间的关系定义及流程。我们认为能够与微软长期保持合作。这一脚注或许显得多余，但我们清楚某些记者可能会为了博取流量而写出荒谬的解读，因此我们在此预防性地回应这一可能性……
评论(0)