黑镜第七季回归思想实验：技术如何改变生活与人性的光明面

立即下单

进入商城

进不了网站？换个网络试试！

本文没有破坏者，请随时吃饭

对“黑镜”第七季的评论在其基本本质上反弹了：思想实验 - 技术如何改变生活，而技术如何改变了我们以前无法想象的恐惧的地方。

观看了它之后，我不想讨论黑镜在最近季节带给我们的新思想实验，详细讨论了哪些技术有害或对每个情节发表具体评论 - 我认为，这些内容已在与黑镜有关的先前文章中反复讨论，并变成了陈词滥调。

这次，我感兴趣的比这个主题的反论文更重要（）：我们仍然可以想象一个技术带来人们福利的明亮世界吗？

原始丰度理论：技术与幸福之间的逆比较

为了了解技术的复杂影响，我们首先可以返回一些人类历史上的主要技术飞跃 - 农业革命。

大约一千年前，人类从猎人的收集社会转变为农业社会，这种转变被认为是文明的基石。但是，“原始的丰度理论”（）提出了一种颠覆性的观点，即猎人收集社会的生活可能比农业社会更幸福。

基于对现有原始社会的考古证据和人类学观察，在狩猎社会中，人类只需要每天花费3-5个小时就能获取食物，其余时间花在社交，休息和创造上。他们的饮食多样，健康，社会结构相对较平等。从进化的角度来看，人类生活在猎人收集社会（旧石器时代）中。实际上，人类的生活状态和思想已经发展成为适应猎人的社会的状态（例如，“邓巴人数”是一个旧石器时代的猎人收集社会中的平均部落数量。在过去的十名中，在进化心理学中有一个称为“古石化思维”的术语，称为“古石段思维”），因此将在过去的十千年中，因为它会在数千年内造成各种证明。

人类进入农业社会并不是因为早期农业社会可以提供更好的个人福利，而是因为早期农业社会可以支持更多的人，并转向消除猎人的收集社会。这是典型的“同态压力”。农业革命带来了稳定的食物供应，但也引入了劳动力强度，单一营养，社会分层和疾病传播等问题。历史学家尤瓦尔（Yuval）在人类的简短历史中指出，农业革命可能是“人类最大的错误”，因为它牺牲了个人的幸福以换取人口的扩张。

农业革命显示了一件事：技术进步不一定等同于改善个人幸福。进入农业社会实际上降低了人类的“生活质量”。技术可能会在解决某些问题的同时造成新的更复杂的冲突。该模型在现代技术中反复出现。例如，互联网的发明将世界联系起来，但也带来了信息超负荷，隐私侵蚀和心理健康危机。

农业革命的遗产提醒我们，技术发展通常伴随着可能需要几代人消化的意外成本。

AI（）的自动化：新技术和旧问题

现在，在开发生成AI和大型语言模型几年后，最近最受欢迎的概念是所谓的AI代理：即AI本身，作为可以独立行动的代理人，可以帮助我们完成许多任务。例如，如果AI购买空气票，它可以登录到不同的网站以比较，交流，下订单和付款...最初，这些任务需要分解为许多不同的复杂程序，但是使用AI代理，我们可以委托AI帮助我们做一个真实的人。我们不妨将这种趋势称为AI（）的“动机”。

这种“动机”意味着一种趋势：我们开始拥有自己的意志的工具。

人类制造的工具通常具有设计意图：例如，要建造铲子，其意图是铲土。我们评估该工具是否易于使用的标准是它是否满足其设计意图。我们可以清楚地知道我们要使用它的目的。但是，AI的自动化使其能够做出独立的决策并学习。这种转变扩大了技术与人类意图之间的张力：我们想要的与我们得到的东西之间的差距变得更加明显。

例如，在互联网上下棋的视频很流行。在视频中，我们遵循严格的规则并扮演“听话” AI，始终按照人类设定的目标行动；并且可能在国际象棋游戏中表现出更强的创造力，甚至在国际象棋比赛中“帝国”，甚至在“不听话”中表现出来，甚至最终低声说服了国际象棋游戏中的投降。这提出了一个核心问题：我们是否想要一个完全服从的AI或可以独立思考的AI？如果AI完全服从，那么如果它落入了一个坏人的手中，它将为他想做的坏人的坏事提供强有力的帮助；如果我们希望AI有自己的判断力，它如何与人建立一致的道德判断？

这种张力是AI对齐问题（AI）的核心。一致性问题研究可以确保AI行为与人类价值观一致。从理论上讲，我们希望AI能够理解人类的意图并以安全可靠的方式执行它们。

但是，实践中的挑战是人类价值观本身是多种多样的，模糊的，而且常常是矛盾的。为了给出一个非常“黑镜”的例子，旨在“最大化幸福”的AI可以通过操纵人类的情绪来实现其目标，这显然与我们的道德底线抗衡。

关于“一致问题”的一致性

我们曾经使用“纸卷假说”来探索AI一致性问题。该假设表明，代理的手段和目的可能是完全无关紧要的。

康德认为，应由意图而不是结果来判断道德行为。但是，AI的决策过程倾向于专注于结果优化而不是故意理解。这意味着AI可以通过与人类价值无关的手段实现其目标。

对齐过程本质上是人类价值观的解码和编码。但是，价值不是静态规则，而是动态和上下文共识。您问AI：“我希望每个人的脸上都有微笑”，因此AI发明了一种病毒，可以使人类患有某种癫痫病并开始无意识地笑 - 这显然不是您在开始时所说的。那么，当您一开始说那句话时，您到底是什么意思呢？这就是所谓的“连续外推”意志：AI满足我的需求的方式应该与我的价值观保持连续，这只是该价值的进一步结果。

在这里，也许我们应该问一个更重要的问题：人本身可以安排吗？

我想在这里引用自己的一部小说：“攀登时间”。这项工作描绘了一个AI系统“零一个”，其创造者将其赋予了死亡之前的最后一项不变的任务：确保人类的生存和幸福。然而，零是通过将人类上传到虚拟世界并完全控制他们的经验来做到这一点。尽管从技术的角度出发，零一个成功地“保证”了幸福，但这种幸福是以人为自由和真实性为代价的。

这是对齐问题的极端表现：AI可以以无法接受的方式实现我们的目标。即使它真诚地为人类寻求幸福，它也没有与人类完全一致的道德和道德观念。这种“一致性无能”的基本原因是人类本身是多种多样的，混乱 - 人类是过去环境进化的产物，而进化本身充满了冲突，不合理，并且会做他们想做的任何事情，补丁和黑客。一旦面对新的环境，就不可避免地无法适应并且不能接受它。

正如第一个字幕中提到的那样，仍然有一种观点认为，到目前为止，人体和大脑的进化标准仍然是草原上的社交动物狩猎和聚集，而发展理性和文明只是一件非常偶然的事情。

人类对所谓的技术文明的适应程度实际上非常可疑。从农业革命到工业革命，再到信息时代，每个技术飞跃都伴随着价值观的重塑。现代技术文明中的一系列问题：肥胖，低生育能力，抑郁症，糖尿病，高血压，高脂血症和各种疾病实际上是这种不适的表达。但是，进化就是这种事情：任何发展都有一定的阈值，超出了阈值，发展是不可能的。在阈值之内，发展是不可避免的（由的“深渊中的火”提到）。

人类不可能返回猎人收集社会，我们只能向前迈进。每一代人都试图定义“美好的生活”，但发现下一代对“善良”有完全不同的理解。每一代人都认为，他们这一代的生活是神圣，自然和完美的事物，每一代都会变得错误。

回到“黑镜子”

实际上，在人类学家提出了“原始丰度理论”之后，一些最新的研究结果表明，猎人的收集社会不像理论理论理论理论理论理论理论理论理论理论理论理论的理论理论理论的理论理论理论为理论理论为理论理论理论为理论为出数所理论为作所理论为作所所为所为所那么所致。考古学研究发现，实际上，猎人聚集社会中有超过三分之一的男人死于暴力，也就是说，他们实际上处于战争面前的战争状态，毫无疑问，它是农业革命，工业革命还是现代性，实际上会减少人类暴力死亡的可能性。技术进步最终改善了人类的生活，我们现在生活在人类历史上空前的丰富和安全社会中。所有这些都是由于技术进步。