人工智能与记忆馈进

内容简介

本期播客介绍《控制论》核心思想，强调反馈机制在技术和社会系统中的重要性，影响产品设计和人工智能。重点包括：1. 反馈机制的理念，可应用于科技和社会治理；2. 人工智能与人脑模拟的关联；3. 技术对社会的影响，特别是技术批判。尽管某些领域有进展，反馈机制设计理念仍具现实和哲学价值，强调信息反馈和记忆馈进的重要性。最后，播客突出了人作为智能系统在控制论中的作用，掌握信息输入和建立记忆馈进系统，实现深刻发现和人生体验。

正文

控制论的了解

本期我想做一个简短的分享，在近期的学习和思考过程当中，维纳的《控制论》引起了我的兴趣。在做产品设计的早期我就听过控制论很值得阅读，因为它的一些核心思考很大程度地影响了我们今天的产品设计和人工智能的发展。

比较偶然的机会在清华的邺架轩书店看到了这本书《人有人的用处》，书名真的是一个比较具有嘲讽意味的书名。好像在安慰人：人确实没什么用，让我来讲讲人到底有什么用。但是在查阅时才发现这是是《控制论》作者维纳自己写的控制论的通俗读本。我觉得有几个点值得分享：

我始终在关注的工具产品设计，在形而上的领域总是与技术哲学相关的，在看这本《人有人的用处》的时候，我也很大程度地感受到了维纳对于人类与技术关系的关心。

1. **控制论中反馈的理念：**首先我觉得非常值得分享是控制论的理念，也就是落脚点在“反馈机制”来控制和调节技术系统和社会系统。书中不仅讨论了关于科技应该如何利用反馈机制，甚至在社会治理和组织上也可以利用类似的思维进行指导。

2. **人工智能与人脑模拟：**另外就是对人工智能的讨论，在这本书成书的 1954 年，人工智能还是比较早期的概念，虽然很难想象几十年后它书中的很多假设已经成为现实。但我觉得值得关注的是，它的假设的来源通常来源于对于默认人类智能的理解，或者说对于人脑的神经机制和反馈机制的推导。

3. **技术批判和其对人类社会影响：**另外就是书中对技术对人类社会的影响的讨论。成书那时候正值二战后的战后重建，自动化大量的被应用，但是已经经历过第一和第二次工业革命的人们十分深刻地记得技术和劳动异化所带来的影响，所以技术批判和技术对人类社会的影响的讨论，也是书中十分值得关注的点。

反馈机制的现实与哲学意义

但值得一提的是，很多技术类的讨论会随着时间的发展而过时，那么一本 70 年前的书还值得读的原因一定是它还保留着一些不变的东西。

上面的内容介绍当中，对于人工智能和脑科学的讨论已经大部分成为了现实，或者近期的科学和技术发展已经对其内容做了非常大程度的刷新。尤其是脑科学领域如《千脑智能》等的讨论我觉得更值得了解。

而同时，作者维纳的技术批判在与更大名鼎鼎的哲学家相比，也显得点到为止，并不深入。包括海德格尔在内的众多哲学家有过更加精彩而深刻的讨论。

但控制论中的反馈机制的设计理念，这一核心思想非常大程度的引起了我的注意。反馈机制的思想包括：一个有效的行为必须通过某种反馈过程取得信息，所以反馈主要是用于取得信息。

这句话颇具现实和哲学的双重意味：

• **现实意义：**从现实来看，反馈作为必要一环，而不是指令式的自动机，在控制系统中的地位变得不可或缺。比如要设计自动驾驶，传感器数据的获取主要给驾驶决策系统作为输入来用以决策。而如果一个系统无法通过反馈来进行决策或自我改进，那么它仅仅能作为单纯的工具。
• **哲学意义：**而从哲学意义上讨论，我们的思考和感知过程就可以被抽象为一种信息反馈过程。我们的学习过程也可以被看成一种接受信息并做出反馈的过程。

但是进一步讨论，由和控制论相关的信息论来看，信息的传递过程必然带来损耗，维纳这样描述：用任何方法传递信息或者从外部来干预它们，都会降低它们所含的信息量，除非利用新的感觉或原先处于信息系统之外的记忆馈进新的信息。

维纳对它的举例更加有说服力，一个人对于画作或者音乐的欣赏过程，其实就是一个输入了信息，并将原本处于这个音乐或视觉信息系统之外的记忆馈进来的过程。

一个人由于过往的经历和审美教育，能够在欣赏艺术的过程中额外调动和向这个过程中加入更多信息，从而强化了这个智能过程。

这就将信息反馈的过程分成了两个必要组成部分：

• **信息反馈：**一方面是信息反馈，尽可能以符合事实的方式去获取信息，并向自己反馈，是这里的必要条件。
• **记忆馈进：**而由于信息的传递的必然损耗，只有引入新的感觉和加工过程，也就是记忆馈进，才能让信息发挥更大作用。

这里的记忆馈进，正是智能系统和个人的人都应该关注的部分。让我最后回归到人上，信息输入是很多人所关注的，塞涅卡说我们不用摄入过多的内容，只用读经典就行了。

但控制论的反馈机制同时强调，对信息的再加工过程同样重要，只有这样，我们才能获得比输入信息更多更有效的信息，这也是个人能够建立的控制机制。

所以就像维纳的书名所描述的：人有人的用处。也就像书中常提的爱因斯坦的名言：上帝精明，但无恶意。所以我想再强调一下信息反馈和记忆馈进的作用。尽可能以符合事实的方式获取信息，并向自己反馈。同时引入新的感觉和加工过程，让信息再次放大和优化。

我觉得可以更好地解释《人有人的作用》这一标题：人在控制论中的作用正是作为天然的智能系统，不仅可以控制信息输入，还能自行建立记忆馈进系统，从而形成特别的发现和独特人生体验，甚至无与伦比的创造，人有人的作用，这也就是人的作用。

参考：

• 人有人的用处. 诺伯特·维纳
• 控制论. 诺伯特·维纳
• 塞涅卡道德书简：致鲁基里乌斯书信集. 塞涅卡
• 纯粹理性批判. 康德
• 配乐：Oppenheimer. Can You Hear The Music