GPT-4 终于发布了！资本市场狂欢之后，GPT-4 在万众瞩目下诞生，OpenAI 在其官网以《GPT-4是 OpenAI 最先进的系统，能够产生更安全、更有用的响应》为题发布了这一最新模型。这一迭代速度不可谓不快，仅仅四个月前，ChatGPT 刚刚推出，并成为历史上增长最快的消费者应用程序。
总的来说，GPT-4 提高了 ChatGPT 的核心技术，使得它相比此前的版本，具有更广泛的一般知识和解决问题的能力，使得聊天软件能够以更高的准确度解决更难的问题。
另外，它还增加了一些新功能，比如接受图像作为输入，生成标题、分类和分析。GPT-4 还能够处理超过25000字的文本，允许用例如长形式的内容创建、扩展会话、文档搜索和分析等。
新能力：识图推理无障碍
GPT-4 模型中最大的更新之一是它引入了图像作为输入，并对其生成标题、分类和分析，而 GPT-3.5 只能接受文本。
比如下面这个例子：
问题：这幅图有什么好笑的? 一点一点描述它。
GPT-4 回答：该图像显示了一个包含三个图片的“Lightning Cable”适配器。
图1: 一个智能手机与 VGA 连接器(一个大型，蓝色，15针连接器通常用于计算机显示器)插入其充电端口。
图2: “Lightning Cable”适配器的封装，上面有一个 VGA 连接器的图片。
图3: VGA 连接器的特写镜头，最后是一个小型 Lightning 连接器(用于为 iPhone 和其他苹果设备充电)。
这张图片中的幽默来自于将一个过时的大型 VGA 连接器插入一个小型的现代智能手机充电端口的荒谬。
目前，虽然 GPT-4 的能力不足以实现文本到视频的生成和其他动态生成内容，但它确实提供了一个多元素聊天在未来将会是什么样子的一瞥，很容易想象，在未来，视频、音频、图像和所有其他形式的内容将如何集成到聊天中。
GPT-4 比 GPT-3.5 更靠谱
GPT-4 作为 OpenAI 在扩展深度学习方面的最新里程碑，本质上是一个大型的多模态模型(接受图像和文本输入，发出文本输出) ，虽然在许多现实世界的场景中不如人类，但在各种专业和学术基准上，其能力已经接近甚至超过人类水平的表现。
例如，它通过了模拟律师资格考试，成绩在前10% 左右; 相比之下，GPT-3.5 的成绩在后10% 左右。
如果只是随意的交谈，GPT-3.5 和 GPT-4 之间的区别可能是微妙的，但是当任务的复杂性达到一个足够的阈值时，差异就会显现出来ーー与 GPT-3.5 相比，GPT-4 更可靠、更有创造性，并且能够处理更多细微差别的指令。
为了理解这两个模型之间的区别，OpenAI 测试了各种基准，包括模拟最初为人类设计的考试，可以看出，在更高级的测试中，GPT-4 表现比 GPT-3.5 好很多。
再比如下面这个例子，可以看出，GPT-4 确实理解能力更胜一筹。
OMT：引入更多人工反馈
为了增加模型的复杂性，GPT-4 还加入了更多的人工反馈，包括 ChatGPT 用户提交的反馈，以改进 GPT-4的行为。OpenAI 表示，该公司“与50多位专家合作，在包括人工智能安全和安保在内的领域提供早期反馈。”
作为声明的一部分，OpenAI 分享了几个已经测试过 GPT-4 的公司用例，包括 Duolingo，Stripe，Morgan Stanley 和冰岛政府。该公司还分享了一个 GPT-4 的研究博客，并强调“ GPT-4 仍然有许多已知的限制，我们正在努力解决，如社会偏见，幻觉和对抗性提示。”
计算机科学家、布朗大学(Brown University)教授苏雷什•文卡塔苏布拉曼尼亚(Suresh Venkatasubramanian)对这一消息仍持谨慎乐观态度。在VentureBeat的一次采访中，他说:
我很想看看 ChatGPT 在公众注视下进行的压力测试中，它是如何表现的，我特别感兴趣的是，它是否以及如何产生欺骗性的真实内容，以及有什么保护措施可以防止这种情况发生。
ChatGPT 的现象级爆发
ChatGPT 现在有多火相信大家已经是有目共睹。根据 ARK 风险投资公司首席未来学家 Brett Winton 统计的数据，ChatGPT 日活量突破千万，只用了不到两个月的时间。作为对照，上一个现象级软件 Instagram 达到这一成就花了355天。
早在1月中旬，《纽约时报》报道称，北密歇根大学的哲学教授 Antony Aumann 在世界宗教课程评分时，惊喜地读到了一篇“全班最好的论文”。学生用简洁的段落、恰当的举例和严谨的论据，探讨了罩袍禁令的道德意义。然而，在 Aumann 的追问之下，学生承认论文用ChatGPT写的。
类似的例子还有很多。也正是随着 ChatGPT 在全球范围内的爆火，OpenAI 也被迅速推到了舆论的“风口浪尖”。可以说，OpenAI 目前处于聊天机器人军备竞赛的领头地位。
单以 ChatGPT 为例，公开发布和微软数十亿美元的合作不仅刺激了谷歌和亚马逊紧急在产品线中布局人工智能，OpenAI 还与贝恩合作，将机器学习引入可口可乐的运营，并计划扩展到其他企业合作伙伴。
毫无疑问，OpenAI 的人工智能已经成了笔大生意，但其实这与 OpenAI 最初的计划有些出入。
“人类的未来应该由人类来决定”
OpenAI首席执行官 Sam Altman 发表了一篇博文，题为“规划 AGI 和超越”（Planning for AGI and beyond）。在文章中，他宣称 OpenAI 的通用人工智能（AGI）目前还远没达到要求，许多人怀疑它能否造福全人类，是否“有可能给每个人带来令人难以置信的新能力”。
文章链接：https://openai.com/blog/planning-for-agi-and-beyond
Altman 用一种宽泛的、理想主义的语言来论证人工智能的发展不应停止，“人类的未来应该由人类来决定”，这里暗暗指向了 OpenAI。几乎是在 ChatGPT 爆火的周期内，这篇博文和 OpenAI 近期的行动不断提醒着大家，OpenAI 的基调和使命与它成立时相比发生了多大的变化。
成立初期的 OpenAI 只是一个非营利组织。虽然公司一直着眼于 AGI 发展，但成立时他们承诺不追求利润，免费分享开发代码。而今天，这些承诺已经无处可寻。
OpenAI的动力变成了速度和利润
2015年，Altman 、马斯克、 Peter Thiel 、 Reid Hoffman 宣布成立一家非营利性研究机构 OpenAI。在成立声明中，OpenAI 宣布，研究承诺“以最有可能造福全人类的方式推进人工智能，不受产生经济回报的限制”。
该博客还称，“由于我们的研究没有财务义务，可以更好地专注于对人类的积极影响”，并鼓励所有研究人员分享“论文、博客文章或代码，我们的专利（如果有的话）将与世界共享”。
8年后，我们面对的是一家既不透明也不以积极的人类影响为动力的公司。相反，正如包括马斯克在内的许多批评者所认为的那样，OpenAI 的动力变成了速度和利润。
同时，OpenAI 正在释放技术。当然其中存在缺陷，但仍准备以牺牲人类员工为代价增加工作场所的自动化转变。例如，谷歌强调了自动完成代码的人工智能带来的效率提升，从而导致数千名工人被裁。
OpenAI 初期，媒体与从业者们都将其设想为以开放的方式进行基础人工智能研究，目的不确定。联合创始人 Greg Bockman 曾说：“我们现在的目标……是做最好的事情。这有点模糊不清”。
这也无形之中促成了公司在 2018 年方向的转变。当时，OpenAI 向资本资源寻求一些方向，“我们的主要受托责任是对人类。我们预计需要调集大量资源来完成我们的使命”。
到 2019 年 3 月，OpenAI 已经完全摆脱了其非盈利的头衔，建立了一个“封顶利润（capped profit）”部门。这使得 OpenAI 开始接受投资，并会为投资者提供封顶为投资100倍的利润。
这项决定被视为是与谷歌等大科技公司的一次竞争，而不久后公司也如愿获得了微软 10 亿美元的投资。在宣布成立营利性公司的博文中，OpenAI 继续使用相同的说法，宣称其使命是“确保通用人工智能惠及全人类”。
但正如 Motherboard 写道，当风险投资家的主要目标是利润时，很难相信他们能拯救人类。
OpenAI 还值得公众的信任吗？
2019年，OpenAI 宣布和发布 GPT-2 语言模型时面临了舆论反弹。起初，该公司表示，由于“担心该技术的恶意应用”，它不会发布训练模型的源代码。虽然这在一定程度上反映了其对开发有益人工智能的承诺，但它也不是很“开放”。
批评者想知道为什么 OpenAI 会在宣布了一个工具之后却不发布，于是不少人认为这只是宣传噱头。直到三个月后，OpenAI 才在 GitHub 上发布了该模型，并表示这一行动是“负责任地发布人工智能的一个重要基础，特别是在强大的生成模型方面”。
调查记者 Karen Hao 在 2020 年期间在公司内部待了几天，根据他的说法，OpenAI 的内部文化开始不再反映谨慎的、研究驱动的人工智能开发过程，而是更注重出人头地，这也导致人们指责其助长了“人工智能炒作周期”。员工现在也被要求对手头的工作保持沉默，以遵守公司新的章程。
“公司公开支持的内容和闭门造车的方式之间存在着错位。随着时间的推移，它已经允许激烈的竞争和不断增加的资金压力侵蚀其透明、开放和合作的创始理想。” Hao 写道。
但总的来说，GPT-2 的推出对 OpenAI 而言无疑是一件值得庆祝的事，也是公司发展至今的重要基石。“这绝对是成功故事框架的一部分”，现任政策研究主管 Miles Brundage 在一次会议上说，“这一部分的剧情应该是这样的：我们做了一件雄心勃勃的事情，现在有些人正在复制它，这里还应该有一些对这项创新益处的解释”。
从那时起，OpenAI 保留了 GPT-2 发布公式中的炒作部分，但取消了开放性。2020 年，GPT-3 正式推出，并迅速“独家”授权给微软。GPT-3 的源代码仍未发布，该模型只是通过 ChatGPT 的 API 向公众开放，OpenAI 还推出了一个付费层以保证对该模型的访问。
这样做当然是有一些考量。首先就是钱。OpenAI 在 API 公告博客中表示，“将技术商业化有助于支付我们正在进行的人工智能研究、安全和政策工作”。第二个原因是偏向于帮助大公司。“除了大公司之外，任何人都很难从底层技术中获益”。最后，公司还表示，通过API而不是开源发布更安全，因为该公司可以应对滥用情况。
“你们一直告诉我们 AGI 快了，但在你们的网站上甚至没有一个一致的定义。”计算机科学家 Timnit Gebru 在推特上表示。
华盛顿大学语言学教授 Emily M. Bender 在推特上说，“他们不想解决实际世界中的实际问题（这将需要让出权力）。他们想相信自己是神，不仅可以创造一个‘超级智能’，而且有恩惠，以一种与人类‘一致’的方式这样做”。
这种人工智能是否会像该公司最初设想的那样，负责任地分享，公开开发，没有盈利动机？或者它是会被匆匆推出，有许多令人不安的缺陷，但主要是为 OpenAI 带来收益？OpenAI 是否会将其科幻的未来保持在闭源状态？
结合了 ChatGPT 之后，微软的必应聊天机器人处于“走火入魔”的状态，不断欺骗和呵斥着用户，传播错误信息。OpenAI 不能可靠地检测自己的聊天机器人生成的文本，尽管教育工作者对学生使用该应用程序作弊的情况越来越关注。
人们也已经轻易地对语言模型进行了越狱，无视 OpenAI 在其周围设置的护栏，机器人在输入随机的单词和短语时会崩溃。没有人能说清楚原因，因为 OpenAI 没有分享底层模型的代码，可能在某种程度上，OpenAI 自己也不太可能完全理解它的工作原理。
考虑到这一切，我们都应该仔细考虑 OpenAI 是否值得它要求公众给予的信任，而对此，OpenAI 没有做出任何实质性的回应。
原文：
OpenAI发布GPT-4，做题能力更强，还接受图片输入，看懂梗图无障碍！
ChatGPT火了，OpenAI却飘了？ 作者：Caleb
相关报道：
https://www.vice.com/en/article/5d3naz/openai-is-now-everything-it-promised-not-to-be-corporate-closed-source-and-for-profit
https://venturebeat.com/ai/openai-releases-highly-anticipated-gpt-4-model-in-surprise-announcement/
https://openai.com/product/gpt-4
https://openai.com/research/gpt-4
出处：大数据文摘
