AI新规则（三）：“算法推荐”的烂摊子还得人来收拾

神译局是36氪旗下编译团队，关注科技、商业、职场、生活等领域，重点介绍国外的新技术、新观点、新风向。

编者按：人工智能诞生至今已有60多年，美国的一些最大型的科技公司（Amazon、微软、Google、Facebook等）才刚刚开始挖掘AI的潜能，并设法弄清楚人工智能将如何改变我们的未来。本文是《Fast Company》汇编的系列文章“AI的新规则”的第三部分，介绍的是由于推荐算法存在的缺陷，人工编辑正在气势汹汹地卷土重来。原文作者是Jared Newman，标题为：How human curation came back to clean up AI’s messes

AI的新规则（一）：亚马逊的AI正在向不良UGC宣战

AI的新规则（二）：在这个容易分心的时代，微软希望AI能成为你的同事

AI的新规则（四）：谷歌押注量子计算，这对人类意味着什么？

AI新规则（五）：Facebook赌下一代接口是“对话”

上个月，HBO推出了一个帮助确定观看哪一个原创节目的便捷网站。但是，该公司没有用计算机算法来对其庞大的目录进行分类，而是雇人通过制作推荐视频来主张应该看哪一系列。

名为“Recommended by Humans”的这个网站更像是营销噱头而不是产品策略——HBO并不打算推出针对手机或电视设备的app版，也拒绝透露即将推出的HBO Max服务里面人会扮演什么样的角色。但是这个网站的存在本身就是对我们当今技术现状的一种声明。我们现在已经意识到，推荐算法并没有像科技公司曾经声称那样的可靠，把内容管理工作交给人来做仍然是有价值的。在HBO的这个网站推出几周后，Netflix就开始在自己的应用里面测试人来进行内容策划，这并非偶然。

HBO和Netflix并不是唯一重新发现人文气息的公司。以下是其他一些例子：

• 苹果在2017年为Apple News app聘请了总编辑，现在又聘用了大概十多名记者来决定要突出宣传哪些故事。

• 2017年苹果还围绕人工编辑的精选重新设计了iOS App Store，主屏上会展示特写文章和推荐列表。

• 2018年，为了应对要求YouTube Kids必须更安全的压力，YouTube推出了 “Collections”，里面包括了YouTube和PBS等值得信赖的合作伙伴人工挑选出来的视频。

• Roku 最近还在其Roku Channel app里面增加了一个儿童版块，里面的内容有内部编辑团队的推荐。

• 上个月，Facebook再次开始雇用记者，这次是为该app即将推出的新板块“News Tab”挑选热点新闻。

类似地，Google最近也重新雇用了Google News的发明者Krishna Bharat，可以说算法内容策划时代就是2002年Google News首次出台时开启的。Bharat 不在Google的这段时间，他曾批评该公司没有尽到责任，去审查头条新闻的来源。

即使有了算法推荐，科技公司仍然需要依靠人来训练他们的机器学习模型，对可疑内容进行审核管理（有时候需要版主付出巨大的个人代价）。我们现在看到的是，更大力度地推动由人去进行内容策划。不过，直到算法自己成为更好的潮流引领者之前，我们还不清楚相关公司把这种努力看作是一笔永久投资还是权宜之计。

人工策划如何卷土重来

科技公司热衷人工策划的想法由来已久，2015年推出Apple Music时更是如此。时任Apple Music负责人的Jimmy Iovine 表示，光有算法并不能胜任在适当的时间选择合适的歌曲这种“情感类任务”，因此该公司邀请了DJ以及音乐界的名人来运营Beats 1广播电台，还雇人创建播放列表。同期苹果还开始为发展迅速的新闻业务聘请编辑人员，Twitter也正在筹备一个代号为Project Lightning的人工策划新闻功能，后来这项功能最终成为了Twitter Moments。

不过，即使这种趋势在四年前就已经蔓延，但随着科技公司因为自家产品的负面影响而面临强烈抵制，这种趋势正变得更加紧迫。Facebook和Google都承认，他们的算法推荐在传播错误信息以及向年轻观众展示不当内容方面扮演了不光彩的角色。至于Neiflix这边，尽管所带来的社会灾难性没前两者那么糟糕，但Netflix的批评者也开始怀疑该服务钢铁般的算法是否已经无法为新受众推荐好节目。

把人引进来显然是弥补算法缺陷的办法之一。比方说，据《the Information》报道，Facebook即将推出的“News Tab”功能，人工编辑就收到了指示，要避免发布会导致读者两极分化的文章，优先考虑有公开发布来源的报道。算法可能很难进行此类推断，因为算法其实并并不了解原始资料的含义。

Jean-Louis Gassée 说：“距离机器学习（或者随便你把这些算法叫做什么）能理解一句话的意思还有很长一段路要走。” 过去曾是苹果高管现在是一名风险资本家的他呼吁科技产品要引入更多的人工策划。

苹果App Store上的推荐是经过编辑的，这是是算法能力不足的又一个例子。虽然推荐引擎可以根据你过去的行为来推荐应用，但它无法解释使用特定应用的感觉是什么，或者也无法就一个比应用为什么比另一个好给出看法。有了人工编辑之后，苹果开始不断在主屏、分类页面甚至搜索结果页面上提供推荐，上面均写上了为什么受推荐的app值得你花时间的描述。

《Curation: The Power of Selection in a World of Excess》一书作者Michael Bhaskar表示，这种讲故事的能力算法几乎没有效仿的机会。

Bhaskar 说：“我认为机器驱动的东西是要有的，就因为信息和媒体量太大了。但之后呢，人更喜欢人。”

减少人为因素

我们现在看到的大部分人工策划的问题在于，它们往往是一种非此即彼的定位。Facebook的“News Tab”中可能有一个板块是新闻记者挑选出来的热门新闻，但其他板块则由算法运营。App Store有很多很好的编辑之选，但是如果你想到人迹罕至的地方去看看的话，比方说想找Markdown编辑器的话，那就得该靠你自己了。科技公司之所以采用推荐算法的原因，就是因为推荐算法可以无限地个性化，并能以很少的成本去处理大量数据。

光靠人的努力永远无法达到这种程度：就算是苹果也不雇不了足够多的经验丰富的作家来处理上百万甚至更多的app。因此，其以人为本的内容策划的复兴可能只是权宜之计，等到算法改进了前者就会慢慢偃旗息鼓。今年早些时候，YouTube曾称其YouTube Kids应用的Collections之所以存在，部分是为了帮助该公司的算法从垃圾食品中识别出优质节目。Facebook可能对News Tab也有类似的计划，这已经是该公司第二次尝试由人来策划热门新闻了。（几年前，因为被指责存在自由主义偏见，该公司解雇了一直在为其“趋势新闻”侧边栏选择故事的人工编辑。然后该栏目一直由算法运营，直到2018年Facebook将其完全关闭。）

尽管如此，一种人与算法共存进行内容策划甚至互助的模式依然可以想象。新闻应用Flipboard就是一个很好的例子，它使用了算法来进行个性化设置，但在整个过程中仍需要人的干预。

首先，Flipboard 自己的用户会充当策划者的角色，把文章添加到自己的数字杂志中供其他用户阅读。这些策划人反过来又可以帮助Flipboard的算法确定用户搜索给定主题时该推荐哪些故事和来源。

但是Flipboard 并没有到此为止，而是雇用了一群人工编辑人员来对每个主题的输出进行细粒度的调整。比方说，如果某人在找主题为划船或汽车的文章，算法可能会会推荐很多跟事故或犯罪有关的文章，因为这种文章耸人听闻性往往会获得最多的点击次数。但人工编辑随后可以把这些文章的优先级下调，转而推荐更有价值的故事。

Flipboard 的机器学习工程师Arnie Bhadury 说：“ 我们有一些模型正在尝试向我们的社区策划学习，其实那是是我们的编辑和主题策展团队的输出，他们对所有事情都拥有最终决定权。建立类似的工具可以帮助我们扩大人工策划的范围。”

另一种做法是根据自身的特点加大在人工策划上的投入，不管这种做法可扩性如何。比方说，苹果的Beats 1电台不仅只是让有资格的人来负责。他们请来的是著名的DJ或音乐家，并让这些策划人实况演奏，然后谈谈对歌曲的看法。作者Bhaskar说，人工策划的元素是不可替代的。

他说：“有一个东西是你永远也无法从算法得到的，那就是背后的故事。”

所有这些让我在想：如果Apple News或Facebook的News Tab不仅推荐文章，而且也有他们的报头并允许编辑公开解释自己为什么选择了那篇文章呢？如果Netflix的Collections可以有来自导演或评论家的输入呢？YouTube Kids通过前奏或者热门角色的公益广告提供儿童节目选集的“最佳榜单”如何？为什么不能有Beats 2、3、4、5呢？

所有这些都无法取代算法提供的那种颗粒度的推荐，而且它们的制作成本也不会像算法那么便宜。但是，如果足够吸引人的话，它们还可以提供一定程度的信任、责任以及人与人的联系，这些都是无法从冷冰冰的算法身上获得的。在我们当前对技术的抵制下，这些可能是宝贵的资源。

译者：boxi。