当我开车横穿整个城市去和朋友共进午餐时，我看到前面一辆 SUV 的保险杠上贴着“让奥威尔再次成为小说”的标语。本着尼尔·波兹曼（Neil Postman）的精神，我想，哥们儿，我们应该更关心赫胥黎式的现在，而不是潜在的奥威尔式可能。
我们担心在这个世界上，我们会因为与技术和媒体的关系而受到压迫。我们不喜欢被迫使用监视我们的设备来从事商业活动。我们不喜欢被迫接受以灌输观点为主要目的的内容，比如广告。我们害怕有恶人利用我们如此痴迷的互联网技术和社交媒体来压迫我们。
当然，所有这些担忧都有道理。各类恶人和操纵者每天都在寻找无数创造性的方法来利用技术压迫他人。然而，有些人仍然坚持认为，技术创新一般都是好的，在涉及隐私和其他问题时，新的互联网技术和功能应该是用一种“无罪推定”来评价。如果说我们从互联网世界最近的发展中学到了什么，我们就应该知道，这种技术乌托邦式的观点说好听点是不明智的，说难听点则是愚蠢的。《巨网》（Meganets）一书有助于解释其中的原因。
该书作者大卫·奥巴赫（David Auerbach）曾是微软和谷歌的工程师，他的著作对当前有关技术，特别是人工智能的讨论产生了重大影响。
在《巨网：我们无法控制的数字力量如何支配我们的日常生活和内心现实》（Meganets: How Digital Forces Beyond Our Control Commandeer Our Daily Lives and Inner Realities）一书中，奥巴赫指出，我们的互联网技术超出了创造者的控制能力。因此，我们不应该只关心这些技术如何被用来影响我们，而更应该关心这些失控的技术会如何直接伤害我们。
奥巴赫认为，许多互联网技术的紧迫威胁在于它们从根本上来说已经无法控制。
美国亚马逊对该书的介绍如下：
《巨网：我们无法控制的数字力量如何支配我们的日常生活和内心现实》
大卫·奥巴赫
奥巴赫解释说，“巨网”有自己的生命，它们积极抵制控制它们的企图，因为它们积累数据，产生自发的、意想不到的社会群体和反抗，在二十年前这些都无法想象。它们会根据用户的行为不断自我修改，从而产生我们都无法预料或控制的集体创作算法。这些巨大的无形架构对我们的生活施加着巨大的影响，它们是世界的新思想，日益支配着我们的日常生活和内心世界。
公共事务出版社（Public Affairs），352 页。
从技术上来说，互联网只是一个由世界各地相互连接并共享数据的计算机组成的网络。但事实上我们往往不会从这样的技术角度来看待互联网——相反，提到互联网，我们会想到我们经常使用的网站。
“巨网”则更为复杂。奥巴赫认为，“巨网是一个持续存在、不断发展和不透明的数据网络，它控制着我们看世界的方式。”（45 页）巨网依赖于互联网的存在，但又超越了互联网。
就像让鱼解释水是什么很不容易一样，准确定义巨网也是一项挑战。“巨网”无处不在，与社会结构紧密交织。网络革命将几乎所有事物的方方面面都推向网络，并将我们生活中的大部分内容都转化为数据并且提供给算法，而算法又为我们提供一系列建议、影响我们的选择。“巨网”负责接收、消化和转换这些数据，从而悄无声息地塑造我们所体验的数字世界。
“巨网”的存在可以解释为什么一个陌生人在你面前提到一个新的洗发水品牌，就会导致你访问的网站上出现一系列该品牌的广告。并没有人手动调整任何设定，这些广告就是专门针对你的。你之所以能看到该新产品的广告，是因为有一连串复杂的算法，再加上不知情的营销助理购买了互联网广告投入。
整个广告周期始于某人在你的智能手机麦克风和允许应用程序监听的隐私设置（通常无法更改）面前不经意的提及。你对广告的反应（或没有反应）提供了数据，这些数据用于创建更多广告、确定广告位置，以及更有效地针对你推销其他产品。你无法逃避巨网。
巨网的持久性“源于它们从不离线，也从未重置。”（45 页）巨网会不断进化，“因为成千上万甚至数百万个实体，无论是用户、程序员还是人工智能，都在不断修改它们。”巨网是不透明的，因为“很难甚至经常不可能判断巨网为什么会以某种特定的方式行事。”
奥巴赫在下面列出了巨型网络的基本要素：
奥巴赫总结道：“巨网既不完全是机器，也不完全是人类，而是两者前所未有地大规模结合带来的结果。”（178 页）
在日常生活中，你可能会遇到或听到一些巨网的例子，包括 Facebook、YouTube、亚马逊和加密货币。这些事物起初都很简单，我们中的许多人每天都在使用，但现在却变得错综复杂、瞬息万变，很难准确解释它们是如何运作的。几乎不可能理解它们在如何以微妙的、看似不可抗拒的方式影响着我们的生活。
以下是巨网不断演变的过程：
当我们继续使用这些技术及其所承载的内容时，我们就为数据存储和传播的“飞轮”做出了贡献。飞轮用于储存机械能，以保持平稳旋转。随着飞轮转速的增加，其中储存的能量也会呈指数级增长。
数据量如此之大，以至于这些巨网开始失控。奥巴赫认为，问题非常严重，以至于这些网络的创建者和管理者往往已经不知道如何才能最好地控制它们。
即使没有恶人蓄意控制我们的生活，我们也可能受到巨网的影响。一旦我们依赖亚马逊或 Facebook 这样的服务，其算法就会在很大程度上影响我们购买什么产品，了解什么事件。
巨网让社会变得更加脆弱。算法中的一个小瑕疵就可能造成产品短缺，或掩盖某些世界性事件。
目前还不清楚，创建这些系统的人除了简单地关闭电源外，是否知道如何重新获得控制权。但我们并不想关闭其中的许多系统，因为它们现在已经与我们的日常生活交织在一起——从查看天气到购买卫生用品。
如果不完全断开连接，我们就无法摆脱巨型网络。但希望还是有的。我们的目标是停止向机器提供过多的信息，并制造动荡，使算法不得不不断调整。奥巴赫还提出了其他一些大规模的建议，帮助我们抵御“巨网”对生活的影响。我怀疑其中一些建议是否可行。但我们可以实施他的一些想法来改善我们的数字生活。
他认为，我们应该在社交媒体上关注与我们想法不同的人，尤其是在文化或政治问题上，从而为我们的互联网体验注入一些混乱。这可以混淆算法，帮助我们避免意识形态泡沫。
此外，奥巴赫还建议建立一个让网民“轮流”分享内容的系统，在足够多的人分享内容后，用户才能再次发布。这可以让我们在使用平台时更加深思熟虑。同时，这也会减少巨网所能获得的信息，从而削弱其影响力。
奥巴赫提出了一种自上而下的解决方案来规范人们的发帖行为，这不太可能为许多用户所接受。不过，我们可以自己实施这种规则。例如，如果我不注意的话，很容易在一天内发 10 条微博。因此，我为自己设定了个人限制，在一周内发布推文的次数不能超过几条。少分享是件好事。哪怕是减少一点使用巨网的方式，也能让我们与巨网的互动变得更好。
奥巴赫在解释“巨网”上花了很多时间。他的一些解释非常详细，即使是精通技术的读者也可能难以理解。这将是一个很难进入对话的地方。
不过，这本书为我们提供了一个重要的窗口，让我们了解人类在应对似乎已经失控的技术时所面临的挑战。重要的是，我们要在事情变得过于失控之前，与这些技术的伦理影响进行搏斗。
译：DeepL；校：JFX。原文刊载于福音联盟英文网站：In Our Pockets, Out of Control.
