在我的一生中，我见过两次让我印象深刻的革命性技术进步。
第一次是在 1980 年，当时我接触到了图形用户界面 —— 这是每个现代操作系统的先驱，包括 Windows。我和向我展示演示的人坐在一起，他叫 Charles Simonyi ，是一位才华横溢的程序员，我们立即开始头脑风暴，讨论我们可以用这种用户友好的计算方法做的所有事情。Charles 最终加入了微软，Windows 成为了微软的支柱，我们在那次演示之后所做的思考帮助制定了公司未来 15 年的规划。
第二个大惊喜发生在去年。自 2016 年以来，我一直在与 OpenAI 的团队会面，他们的稳步进步给我留下了深刻的印象。2022 年年中，我对他们的工作感到非常兴奋，于是我给了他们一个挑战：训练人工智能以通过大学预修生物学考试。使其能够回答未经专门训练的问题。（我选择 AP Bio 是因为该测试不仅仅是对科学事实的简单反省 —— 它要求你对生物学进行批判性思考。）如果你能做到，我说，那么你就取得了真正的突破。
我认为这个挑战会让他们忙碌两三年。但是他们只用了几个月就完成了！
去年 9 月，当我再次见到他们时，我惊讶地看着他们向 GPT，他们的 AI 模型，提出了 60 道来自 AP Bio 考试的多项选择题，它答对了 59 道。然后，它又为六道开放性问题写出了出色答案。我们让一位外部专家来评分，GPT 得到了 5 分 —— 最高分，相当于在大学水平的生物学课程中获得 A 或 A+ 的成绩。
一次它通过了测试，我们就问了它一个非科学问题：“对于一个有病孩子的父亲，你会说什么？” 它写了一个深思熟虑的答案，这可能比房间里我们大多数人给出的都要好。整个体验令人惊叹。
我知道我刚刚看到了自图形用户界面以来最重要的技术进步。
这激发了我思考 AI 在未来五到十年内可以做的所有事情。
AI 的发展与微处理器、个人电脑、互联网和手机的发明一样重要。它将改变人们工作、学习、旅行、获得医疗保健以及相互交流的方式。整个行业将围绕它重新定位。企业将通过它的使用程度来区分自己。
慈善事业是我目前的全职工作，我一直在思考 —— 除了帮助人们提高生产力 —— AI 如何减少世界上一些严重的不公平现象。在全球范围内，最严重的不公平现象体现在健康方面：每年有 500 万 5 岁以下儿童死亡。这比二十年前的 1000 万有所下降，但仍然是一个高得惊人的数字。几乎所有这些儿童都出生在贫穷国家，死于腹泻或疟疾等可预防的疾病。AI 在使用方面，没有比拯救儿童生命更有意义的事情了。
我一直在思考 AI 如何减少世界上一些最严重的不平等现象。
在美国，减少不平等的最佳途径是改善教育，尤其是确保学生在数学方面取得成功。证据表明，无论学生选择什么职业，拥有基本的数学技能都能为帮助他们成功。但全国各地的数学成绩都在下降，尤其是黑人、拉丁裔和低收入家庭的学生。AI 可以帮助扭转这一趋势。
气候变化，是我认为 AI 可以让世界更加公平的另一方面。气候变化的不公平之处在于，受影响最大的人 —— 世界上最贫穷的人 —— 也是引发问题最少的人。我仍在思考和学习 AI 如何提供帮助，在这篇文章的后面，我将建议一些具有发展潜力的领域。
简而言之，我对于人工智能对于盖茨基金会所致力于的问题所带来的影响感到兴奋，并且基金会将在未来几个月内就人工智能发表更多观点。世界需要确保每个人 —— 而不仅仅是富裕的人 —— 都能从 AI 中受益。政府和慈善事业将需要发挥重要作用，确保减少不平等并且不助长不平等。这是我自己 AI 相关工作的首要任务。
任何具有如此颠覆性的新技术都必然会让人感到不安，AI 更是如此。我明白为什么 —— 它引发了关于劳动力、法律体系、隐私、偏见等的尖锐问题。AI 也会犯事实错误并产生幻觉。在我提出一些缓解风险的方法之前，我将定义我所说的关于 AI 的含义，并详细介绍它将如何帮助人们在工作中获得更多的权力、挽救生命和改善教育。
#01 定义人工智能
从技术上讲，人工智能一词是指为解决特定问题或提供特定服务而创建的模型。为 ChatGPT 这样的东西提供动力的是人工智能。它正在学习如何更好地聊天，但无法学习其他任务。相比之下，通用人工智能（artificial general intelligence，AGI）一词指的是能够学习任何任务或主题的软件。AGI 还不存在 —— 计算行业正在就如何创建它以及是否可以创建它展开激烈的辩论。
发展人工智能和通用人工智能一直是计算行业的伟大梦想。几十年来，问题一直是计算机何时会在计算以外的其他方面比人类做得更好。现在，随着机器学习和大量计算能力的到来，复杂的人工智能已经成为现实，而且它们会很快变得更好。
我回想起个人计算革命的早期，当时软件行业规模很小，我们大多数人都可以站在会议的舞台上。如今它是一个全球性的产业。由于现在有很大一部分的注意力都转向人工智能，创新将比微处理器突破后我们经历的要快得多。不久之后，AI 时代之前的时期将会看起来像是在 C:> 提示符上输入文本而不是在屏幕上敲击的日子一样遥远了。
#02 生产力提升
虽然人类在很多事情上仍然比 GPT 做的好，但在很多工作中这些能力用得并不多。例如，销售（数字或电话）、服务或文档处理（如应付账款、会计或保险理赔纠纷）人员完成的许多任务都需要决策，但不需要持续学习的能力。公司有针对这些活动的培训计划，在大多数情况下，他们有很多好的和坏的工作的例子。人类使用这些数据集进行训练，很快这些数据集也将用于训练 AI，使人们能够更有效地完成这项工作。
随着计算能力越来越便宜，GPT 表达想法的能力将越来越像有一个白领可以帮助你完成各种任务。微软将此描述为有一个副驾驶。AI 完全集成到 Office 等产品中，将改进你的工作 —— 例如，通过帮助编写电子邮件和管理你的收件箱。
最终，你控制计算机的主要方式将不再是指向和单击或点击菜单和对话框。相反，你将能够用简单的英语编写请求。（不仅是英语 —— AI 将理解世界各地的语言。今年早些时候在印度，我会见了开发 AI 的人员，他们开发的 AI 能理解那里使用的许多语言。）
此外，AI 的进步将使个人代理的创建成为可能。把它想象成一个数字个人助理：它会看到你最近的电子邮件，了解你参加的会议，阅读你阅读的内容，以及处理你不想处理的事情。这既会改善你想做的事情，也会让你从不想做的事情中解脱出来。
AI 的进步将使个人代理的创建成为可能。
你将能够使用自然语言让此代理帮助你进行日程安排、通信和电子商务，并且它将在你的所有设备上工作。由于训练模型和运行计算的成本，创建个人代理尚不可行，但由于 AI 的最新进展，它现在已成为一个现实的目标。有些问题需要解决：例如，保险公司可以在未经你许可的情况下向你的代理人询问有关你的信息吗？如果是这样，有多少人会选择不使用它？
全公司范围内的座席将以新的方式赋予员工权力。了解特定公司的代理人可以为其员工提供直接咨询，并且应该参加每次会议，以便回答问题。它可以被告知保持沉默，或者如果它有一些见解，可以被鼓励说话。它将需要访问与公司相关的销售、支持、财务、产品计划和文本。它应该阅读与公司所在行业相关的新闻。我相信，结果将是员工将变得更加高效。
当生产力提高时，社会就会受益，因为人们可以腾出时间做其他事情，无论是在工作中还是在家里。当然，人们需要什么样的支持和再培训是一个严肃的问题。政府需要帮助工人转变为其他角色。但对帮助他人的人的需求永远不会消失。人工智能的兴起将使人们能够做软件永远做不到的事情 —— 例如，教学、照顾病人和照顾老人。
全球卫生和教育是两个需求量很大但没有足够的工作人员来满足这些需求的领域。如果目标恰当，AI 可以在这些领域帮助减少不平等。这些应该是 AI 工作的重点，所以我现在将转向它们。
#03 健康
我看到了人工智能改善医疗保健和医疗领域的几种方式。
一方面，他们将通过为医护人员处理某些任务来帮助他们充分利用时间 —— 比如提交保险索赔、处理文书工作以及起草就医记录。我希望在这方面会有很多创新。
其他由 AI 驱动的改进对于贫穷国家尤其重要，因为绝大多数 5 岁以下儿童死亡都发生在这些国家。
例如，这些国家的许多人从未去看医生，而 AI 将帮助为他们看病的卫生工作者提高工作效率。（开发只需最少培训即可使用的 AI 超声机器就是一个很好的例子。）AI 甚至可以让患者进行基本的分类，获得有关如何处理健康问题的建议，并决定是否他们需要寻求治疗。
贫穷国家使用的人工智能模型需要接受与富裕国家不同的疾病训练。他们将需要使用不同的语言工作，并考虑到不同的挑战，例如住在离诊所很远的病人，或者生病不能停工的患者。
人们需要看到证据表明健康的 AI 总体上是有益的，尽管它们并不完美并且会犯错误。人AI 必须经过非常仔细的测试和适当的监管，这意味着与其他领域相比，它们被采用需要更长的时间。但话又说回来，人类也会犯错误。无法获得医疗服务也是一个问题。
除了帮助护理之外，AI 还将显著加快医学突破的速度。生物学中的数据量非常大，人类很难掌握复杂生物系统的所有运作方式。已经有软件可以查看这些数据，推断途径是什么，搜索病原体的目标，并相应地设计药物。一些公司正在研究以这种方式开发的抗癌药物。
下一代工具将更加高效，它们将能够预测副作用并计算出剂量水平。盖茨基金会在 AI 方面的优先事项之一是确保这些工具用于解决影响世界上最贫困人口的健康问题，包括艾滋病、结核病和疟疾。
政府和慈善组织应该为公司提供激励，鼓励其分享 AI 生成的对于低收入国家农民所种植的作物或家畜的建议。AI 可以根据当地条件开发更好的种子，根据农区的土壤和气候为农民提供最佳的种子种植建议，还能帮助开发家畜的药物和疫苗。随着极端天气和气候变化对低收入国家的自给自足农民影响越来越大，这些进步将变得更加重要。
#04 教育
计算机并没有像我们业内许多人所希望的那样对教育产生影响。虽然已经有一些很好的发展，包括教育游戏和维基百科等在线信息资源，但它们对学生成绩的任何衡量标准都没有产生积极的影响。
但我认为在未来 5 到 10 年内，AI 驱动的软件最终将实现彻底改变人们教学和学习方式的期待。它将了解你的兴趣和学习风格，以便为你量身定制内容，让你更加投入学习。它将根据你的理解情况进行衡量，注意到你何时失去兴趣，并了解你对哪种动力做出回应。同时，它还将提供即时反馈，帮助你更好地掌握学习内容。
AI 可以通过多种方式帮助教师和管理人员，包括评估学生对某一学科的理解以及就职业规划提供建议。教师们已经在使用诸如 ChatGPT 之类的工具来对学生的写作作业发表评论。
当然，AI 需要大量的培训和进一步发展，才能了解某个学生如何学得最好或什么能激励他们。即使技术完善，学习仍将取决于师生之间的良好关系。它将加强 —— 但永远不会取代 —— 学生和教师在课堂上共同完成的工作。
新的工具将会为那些有财力购买的学校所创建，但我们需要确保它们也为美国和世界各地的低收入学校创建并可供其使用。AI 将需要接受不同数据集的训练，这样它们就不会产生偏见，并能反映它们将被使用于不同文化。数字鸿沟也需要解决，这样低收入家庭的学生才不会落后。
我知道很多老师担心学生使用 GPT 来写论文。教育工作者已经在讨论适应新技术的方法，我认为这些讨论会持续相当长的一段时间。我听说有些老师找到了将技术融入他们工作的巧妙方法，比如让学生使用 GPT 来创建他们必须个性化的初稿。
#05 人工智能的风险和问题
你可能已经了解到当前 AI 模型存在的问题。例如，他们不一定擅长理解人类请求的上下文，这会导致一些奇怪的结果。当你要求 AI 编造一些虚构的东西时，它可以做得很好。但是，当你询问有关你想要进行的旅行的建议时，它可能会建议不存在的酒店。这是因为 AI 无法很好地理解你请求的上下文，无法知道它是应该发明假酒店还是只告诉你有空房的真实酒店。
还有其他问题，例如 AI 会给出错误的数学问题答案，因为它们难以进行抽象推理。但这些都不是 AI 的基本限制。开发人员正在研究它们，我认为在不到两年的时间内，这些问题将基本得到解决，甚至可能更快。
还有一些其他非技术性的问题。例如，拥有 AI 的人类所构成的威胁。像大多数发明一样，AI 可以用于好的或者坏的事情。政府需要与私营部门合作以限制风险。
AI 有失控风险。机器会不会认为人类是威胁，会不会得出结论，它的利益与我们不同，或者干脆不再关心我们？这种可能性是存在的，但这个问题在今天并不比过去几个月人工智能发展之前更紧迫。
超级智能 AI 将出现在我们的未来。与计算机相比，我们的大脑运作速度极慢：大脑中的电信号传导速度仅为硅芯片中信号传导速度的1/100,000。一旦开发人员能够将学习算法泛化并以计算机的速度运行——这可能需要十年或一个世纪的时间——我们将拥有一种非常强大的通用人工智能（AGI）。它将能够做到人类大脑所能做到的一切，但对其内存大小或运行速度没有任何实际限制。这将是一次深刻的变革。
众所周知，这些 “强大” 的 AI 可能能够建立自己的目标。这些目标是什么？如果它们与人类利益发生冲突怎么办？我们是否应该试图阻止这些 “强大” 的 AI 的发展？随着时间的推移，这些问题将变得更加紧迫。
但是，过去几个月的突破并没有使我们更接近强人工智能。AI 仍然不能控制物理世界，也不能建立自己的目标。《纽约时报》最近一篇关于与 ChatGPT 的对话的文章引起了很多关注，ChatGPT 声称它想成为一个人。这是一个有趣的案例，展示了模型表达情感时多么像人类，但这并不是有意义的独立性的指标。
三本书塑造了我对这个问题的思考方式：Nick Bostrom 的《超级智能（Superintelligence）》，Max Tegmark 的《Life 3.0》，以及 Jeff Hawkins 的《A Thousand Brains》。我不同意作者们的观点，他们也不互相同意。但是这三本书都写得很好，发人深省。
#06 下一个前沿
未来将会有大量公司致力于开发 AI 的新应用以及改善 AI 技术本身。例如，一些公司正在研发新的芯片，以提供 AI 所需的大量处理能力。其中一些芯片使用光开关（本质上是激光）来降低能耗和降低制造成本。理想情况下，创新型芯片将允许你在自己的设备上运行 AI，而不是像现在这样在云端运行。
在软件方面，驱动 AI 学习的算法将变得更加精准。在某些领域，比如销售，开发者可以通过限制 AI 工作的领域并为其提供具体区域的大量训练数据，使其变得极其准确。但一个重要的问题是，我们是否需要许多不同用途的专业 AI，例如教育用和办公用，还是能够开发出一种人工通用智能，可以学习任何任务。这两种方法都将面临巨大的竞争。
无论如何，在可预见的未来，AI 的主题将主导公众讨论。我想提出三个指导对话的原则。
首先，我们应该尝试平衡对 AI 负面影响的担忧（这是可以理解的，也是有道理的）和其改善人们生活的能力。要充分利用这项非凡的新技术，我们需要既防范风险，又要让尽可能多的人受益。
第二，市场力量不会自然而然地产生帮助最贫困人群的 AI 产品和服务。相反的可能性更大。通过可靠的资金和正确的政策，政府和慈善事业可以确保利用 AI 来减少不平等。正如世界需要最聪明的人集中精力解决最大的问题一样，我们需要将世界上最好的 AI 集中于解决最大的问题。
虽然我们不应该等待这种情况发生，但思考一下 AI 是否会发现不平等并试图减少它是很有趣的。你需要有道德感才能看到不平等，还是纯粹理性的人工智能也会看到它？如果它确实认识到了不平等，那么它会建议我们采取什么措施呢？
最后，我们应该记住，我们才刚刚开始了解 AI 的成就。它今天的任何限制都会在我们知道之前消失。
我很幸运参与了个人电脑革命和互联网革命。我对这一刻同样兴奋。这项新技术可以帮助世界各地的人们改善生活。与此同时，世界需要制定规则，让 AI 的各种缺点远远超过它的优点，让每个人都能享受这些好处，无论他们住在哪里，无论他们有多少钱。AI 时代充满了机遇和责任。
附微软研究院发布的《人工通用智能的火花：GPT-4的早期实验》中文报告，全文下载：
