真不是凡尔赛！ChatGPT如此成功，OpenAI也不理解

新智元

+ 关注

2023-03-09 11:28

1569次阅读

新智元报道

编辑：Aeneas Britta

【新智元导读】ChatGPT的爆火，是OpenAI完全没有想到的是。现在，对于自家模型的人气和种种问题，他们还在慢慢适应中……

这家公司做出了或许能引爆第四次工业革命的产品，但他们却百思不得其解：为啥自家的产品能这么火？

就，真的不是凡尔赛。

最近，MIT Technology Review采访了ChatGPT的几位开发者，让我们近距离地了解了这个大爆的AI产品背后的故事。

火成这样，没有丝毫防备

当OpenAI在202211月下旬悄无声息地推出ChatGPT时，这家初创公司并没有报多大的期望。

OpenAI的员工也没想过，自家模型即将走上的，是一条属于顶流的爆红之路。

ChatGPT仿佛在一夜间大红大紫，还引发了关于大语言模型的一场全球淘金热，而OpenAI还没有丝毫准备，只能匆忙地赶上自己顶流模型的脚步，试图抓住商机。

在OpenAI从事政策工作的Sandhini Agarwal说，在OpenAI内部，ChatGPT一直被视为「研究预览」——它是一个两年前技术的更完善的版本，更重要的是，公司试图通过公众的反馈，来消除模型的一些缺陷。

谁能想到，这样一个「预览」产品，阴差阳错出道后就爆红了呢。

对此，OpenAI的科学家很懵逼，对于外界的鲜花和掌声，他们也很清醒。

「我们不想把它夸大为一个巨大的基础性进步，」参与研发ChatGPT的OpenAI科学家Liam Fedus说。

真不是凡尔赛！ChatGPT如此成功，OpenAI也不理解

ChatGPT团队成员当中，有5位被评为2023年度 AI 2000 全球人工智能学者

为此，MIT Technology Review的记者Will Douglas Heaven采访了OpenAI的联合创始人John Schulman、开发者Agarwal和Fedus、对齐团队的负责人Jan Leike。

ChatGPT为什么这么火，我们自己都不明白

创始人John Schulman表示，ChatGPT发布后几天，他时不时就会刷推特。有那么一段疯狂的时期，推特信息流中全是ChatGPT的截图。

他想到了这是一个对用户很直观的产品，也想到它会有一些粉丝，但没想到它会变得这么主流。

Jan Leike表示，一切都太突然了，所有人都很惊讶，努力地跟上ChatGPT爆火的节奏。他很好奇，到底是什么在推动它的人气飙升，难道有什么幕后推手？毕竟，OpenAI自己都搞不清为什么ChatGPT能这么火。

Liam Fedus解释了他们如此惊讶的原因，因为ChatGPT并不是第一个通用的聊天机器人，此前就已经有很多人尝试过了，所以Liam Fedus觉得他们的机会并不大。不过，私人测试版也给了他信心——或许，这款A是用户们真心会喜欢的东西。

Sandhini Agarwal总结道，对所有人来说，ChatGPT一炮而红都是个惊喜。此前，大家在这些模型上做了太多的工作了，以至于都忘记了对于公司外部的普罗大众来说，它是这么惊人。

的确，ChatGPT内的大部分技术并不新鲜。它是GPT-3.5的一个微调版本，而在ChatGPT几个月前，OpenAI就发布了GPT-3.5。而GPT-3.5本身就是GPT-3的更新版本，GPT-3出现于2020年。

真不是凡尔赛！ChatGPT如此成功，OpenAI也不理解

ChatGPT团队参与此前七大技术研发人数

在网站上，OpenAI以应用编程接口或API的形式提供了这些模型，其他开发者可以很轻易地将模型插入自己的代码中。

在2022年1月，OpenAI还发布了GPT-3.5的前一个微调版本InstructGPT。只不过，这些技术没有向公众推介罢了。

微调过程

根据Liam Fedus的介绍，ChatGPT模型是由与InstructGPT相同的语言模型微调而来的，使用的微调方法类似。研究人员增加了一些对话数据，并对训练过程进行了一些调整。所以他们不想把它夸大为一个巨大的基础性进步。

事实证明，对ChatGPT起了大作用的，是对话数据。

根据标准基准的评估，实际上两个模型之间的原始技术能力并没有很大差别，ChatGPT最大的不同是，更容易获得和使用。

Jan Leike解释说，在某种意义上，可以把ChatGPT理解为OpenAI已有一段时间的AI系统的一个版本。ChatGPT的能力并没有更强。在ChatGPT问世之前，同样的基本模型已经在API上使用了将近一年时间。

而研究者们的改进可以概括为，在某种意义上，让它更符合人类想用它做什么。它会在对话中和用户交谈，是一个聊天界面，很容易访问。它更容易推断出意图，而用户可以通过来回试探，来达到自己想要的目的。

秘诀就是，人类反馈强化学习（RLHF）技术，这和InstructGPT的训练方式很像——教会它人类用户实际喜欢的样子。

Jan Leike介绍说，他们让一大群人阅读了ChatGPT的提示和回应，然后对回应进行二选一的选择，看看大家认为哪个回应更好。然后，所有这些数据都被合并到一次训练中。

它的大部分内容与他们在InstructGPT上所做的是一样的。比如你希望它有帮助的，希望它是真实的，希望它不会恶毒。

另外还有一些细节，比如如果用户的询问不清楚，它应该问后续的问题去细化。它还应该澄清，自己是一个人工智能系统，不应该承担它没有的身份，不应该声称拥有它不具备的能力。当用户要求它做它不该做的任务时，它必须明确拒绝。

也就是有一个清单，列出了人类评分员必须对模型进行排名的各种标准，比如真实性。但他们也会偏爱某些做法，比如AI不要假装自己是人。

准备发布

总的来说，ChatGPT用的都是OpenAI已经使用过的技术，所以团队在准备向公众发布这个模型时，没有做任何特别的事情。在他们看来，为以前的模型设定的标准已经足够了，GPT-3.5已经足够安全。

而在ChatGPT对人类偏好的训练中，它自学了拒绝行为，拒绝了很多请求。

OpenAI为ChatGPT组建了一些「唱红脸的」人：公司里的每个人都坐下来，试图打破这个模型。也有外部团体做同样的事情。值得信赖的早期用户也会提供反馈。

Sandhini Agarwal介绍道，他们确实发现了它会产生某些不需要的输出，但这些都是GPT-3.5也产生的东西。因此，只看风险的话，作为一个「研究预览」，ChatGPT已经够好了。

John Schulman也表示，不可能等到一个系统100%完美了，才去发布它。几个月来，他们对早期版本进行了beta测试，beta测试人员对ChatGPT的印象很好。

OpenAI最担心的，其实是事实性的问题，因为ChatGPT太喜欢捏造东西了。但是这些问题在InstructGPT和其他大型语言模型中都存在，所以在研究者们看来，只要ChatGPT在事实性和其他安全问题上比那些模型更好，就已经足够了。

而根据有限的评估，在发布之前，可以确认ChatGPT比其他模型更真实，更安全，因此，OpenAI决定继续发布。

发布后的反馈

ChatGPT发布后，OpenAI一直在观察用户是如何使用它的。

一个大型语言模型被放在数以千万计的用户手中，这种事还是史上第一次。

用户们也玩疯了，想测试ChatGPT的极限在哪里，bug在哪里。

当然，问题很多，比如ChatGPT给黑客们大开方便之门，帮忙窃取信用卡号的恶意软件代码，OpenAI也在针对这些问题不断改进。

ChaatGPT的走红，也让许多问题涌现出来，比如偏见问题，比如黑客通过prompt诱导的问题。

Jan Leike表示，某些在推特上疯传的东西，其实OpenAI已经有人悄悄出手了。

比如越狱问题，绝对是他们需要解决的。用户就是喜欢尝试通过一些弯弯绕绕让模型说不好的话，这在OpenAI的意料之内，也是一条必经之路。

当发现越狱时，OpenAI会把这些情况添加到训练和测试数据中，所有数据都会被纳入未来的模型。

Jan Leike表示，每当有一个更好的模型，他们都会想把它拿出来测试。

他们非常乐观地认为，一些有针对性的对抗性训练，可以使越狱的情况得到很大的改善。虽然目前还不清楚这些问题是否会完全消失，但他们认为，自己可以使很多越狱行为变得困难。

当一个系统「正式出道」时，很难预见到所有实际会发生的事情。

因此，他们只能把重点放在监测人们使用该系统的目的上，看看会发生什么，然后对此作出反应。

如今，微软已经推出了必应Chat，很多人认为它是OpenAI官方未宣布的GPT-4的一个版本。

在这个前提下，Sandhini Agarwal表示，现在他们面临的赌注，肯定比六个月前高得多，但仍然低于一年后的水平。

这些模型是在什么背景下被使用的，有极其重要的意义。

对于谷歌和微软这样的大公司，即使有一件事不符合事实，也会成为巨大的问题，因为他们本身就是搜索引擎。

真不是凡尔赛！ChatGPT如此成功，OpenAI也不理解

谷歌的第23位员工、创建了Gmail的Paul Buchheit，对谷歌持悲观态度

作为搜索引擎的大语言模型，和一个只为了好玩的聊天机器人是完全不同的。OpenAI的研究者们也在努力弄清楚，如何在不同用途之间游走，创造出真正对用户有用的东西。

John Schulman承认，OpenAI低估了人们对于ChatGPT政治问题的关心程度。为此，在收集训练数据时，他们希望做出一些更好的决定，来减少这方面的问题。

Jan Leike表示，从自己的角度来看，ChatGPT经常出现失败。有太多问题需要解决了，但OpenAI并没有解决。这一点，他坦诚地承认。

尽管语言模型已经存在了一段时间，但仍然处于早期。

接下来，OpenAI需要做的事情，就更多了。

参考资料：

https://futurism.com/the-byte/openai-confused-people-impressed-chatgpt

https://www.technologyreview.com/2023/03/03/1069311/inside-story-oral-history-how-chatgpt-built-openai/

本文来自微信公众号“新智元”（ID:AI_era），作者：新智元，36氪经授权发布。

新智元

Copy.ai

3.7

40条点评

咨询产品

免费试用

体验AI内容生成器的全部功能，可以在几秒钟内提供优质结果。

树熊文思捕手

2.0

6条点评

咨询产品

免费试用

文思捕手是全球同步采用驱动ChatGPT的OpenAI原生API的商用AI人工智能创作平台。

客户案例

暂无

合作品牌

DOCQ

3条点评

咨询产品

免费试用

一家文档办公服务提供商，为用户提供多样的云端存储与办公条件

百度智能创作平台

0条点评

咨询产品

免费试用

集合领先的自然语言处理和知识图谱技术，拥有丰富的自动创作和辅助创作能力

客户案例

暂无

合作品牌

Elephas

0条点评

咨询产品

免费试用

与Mac、iPhone、iPad集成的个人写作助手

真不是凡尔赛！ChatGPT如此成功，OpenAI也不理解

【新智元导读】ChatGPT的爆火，是OpenAI完全没有想到的是。现在，对于自家模型的人气和种种问题，他们还在慢慢适应中……

ChatGPT为什么这么火，我们自己都不明白

微调过程

项目管理SaaS为什么很难一家独大？答案藏在中小企业的痛点里

医疗器械进销存怎么选？UDI溯源+效期管理+渠道分销合规方案

吉客云SaaS系统对接京东工业品全场景解决方案：合规库存同步•KA履约单据•承运物流一站式业财ERP

实体门店+线上店铺怎么统一管理？一体化方案详解

产销一体企业怎么做生产管理？进销存+商城一站式方案