【编者按】这是田进的客串文章。我们强调这个应用程序，因为我们认为它是一个新颖的用例。具体而言，我们认为推荐系统在我们的日常生活中具有难以置信的影响力，关于LLM将如何影响这些系统，目前还没有大量的讨论。
我们都经历过使用推荐系统的痛苦：你注册了推特来跟上最新的人工智能研究，但点击一个有趣的模因会让你的时间线充满类似的分心。这些系统的作用是最大限度地提高所有者的利润，而不是你的福利。在这里，我们概述了我们以LangChain为动力的解决方案背后的基本原理，以解决其核心问题。
透明度和可配置性。
在布莱恩·克里斯蒂安（Brian Christian）的《结盟问题》（the Alignment Problem）一书中，他分享了一则轶事：他的朋友正在从酒精成瘾中恢复，但推荐系统可能有点太了解他对酒精的热爱，并在他的推送中充斥着酒精广告。这一集生动地说明了一个反复出现的问题——推荐系统善于迎合我们今天的样子，但几乎没有给我们留下什么自由来决定我们想要成为什么样的人。目前的推荐系统缺乏透明度和可配置性。因此，我们很难识别推荐系统对我们的偏好做出的任何有问题的推断，更不用说修改它们了。
利益冲突。
我们不能指望推荐系统（如推特）的所有者解决由于利益冲突而导致的透明度和可配置性不足的问题：系统所有者的目标是实现收入最大化，通常将这一目标优先于用户的其他理想目标。这让我们相信，要改进推荐系统，我们必须解决潜在的利益冲突。用户必须直接控制他们认为是推荐的内容。
解决方案。
我们建议使用大型语言模型（LLM），如ChatGPT，作为社交媒体订阅源的智能内容过滤器，这是社交媒体平台上推荐系统的输出。我们开发了一个开源Chrome扩展RecAlign(https://github.com/tjingrant/RecAlign)你可以用“我喜欢阅读人工智能研究”之类的词来指定你的观看偏好。然后，我们要求LLM智能地确定社交媒体订阅源中的每个条目是否符合用户偏好，并删除所有违反用户偏好的条目。我们计划在不久的将来开发其他高度可配置的增强功能，如订阅源重新排名。
基于LLM的智能内容筛选器具有以下优点：
- 可配置。在ChatGPT时代，英语是新的编程语言。我们允许用户轻松配置智能内容过滤器，并立即查看其效果。
- 透明的.你的偏好就在那里，用文字完整地表达出来。
- 灵活的. 我们的偏好可能是短暂的。易于配置的偏好使用户能够在不同的偏好之间灵活切换。
加入这项事业。请在Github上尝试RecAlignhttps://github.com/recalign/RecAlign! 考虑关注我们的未来发展！
LangChain。LangChain在我们的项目中发挥着核心作用。我们使用LangChain作为符合人体工程学的接口与OpenAI后端进行通信。我们还依赖LangChain的能力来轻松格式化和解析LLM的输入和输出。我们强烈推荐LangChain，因为它可以在使用LLM构建的项目上实现快速原型设计和快速迭代。
我们是谁。我们最初是由麻省理工学院和哈佛大学的两名计算机科学博士生组成的团队。这个项目是在Xin离他的博士答辩只有两周的时候开始的。尽管他的判断力很好，但他还是决定从事这个项目。多亏了LangChain，我们发布了我们的第一个原型，辛有足够的时间为他的防御做准备！
- 登录 发表评论