我们追求的民主是否会影响大数据和人工智能
启蒙是人类从自我造成的不成熟状态中解脱出来。不成熟是指缺少他人的教导就没有能力运用自己的理智。
——康德《什么是启蒙?》(1784)
数字革命未来将如何改变我们的世界呢?现在，我们生产的数据量每年都会翻番，每一分钟，成千上万的谷歌搜索和Facebook帖子被生产出来，这些数据包含着我们的想法和感觉。而且很快，我们周围的每一样东西，甚至衣服都将与互联网连接。据估计，未来十年，将出现150亿个网络测量传感器，数据量将每12小时增加一倍。而且，很快我们不仅会拥有智能手机、智能家居，智能工厂、智能城市，甚至可能出现智慧国家和智慧地球。
人工智能领域现今确实取得了惊人的进步。它不再逐行编程，而是能够学习，从而不断发展自身。算法现在可以像人类一样识别手写语言和图像，甚至比人类做的更好：他们能够描述照片和视频的内容。今天，70%的金融交易中是通过算法完成的，一些新闻内容也是计算机自动生成的。这一切造成的后果就是：未来10至20年，今天一半左右的工作都将受到算法的威胁，40%的500强公司将在十年内消失。
可以预期，超级计算机已经拥有很快在几乎所有领域内超越人类的能力，特斯拉汽车公司的Elon Musk，微软公司的Bill Gates和苹果联合创始人Steve Wozniak都警告说，超级智能对人类的危险程度，甚至比核武器更厉害。
这是危言耸听吗?
我们正经历着自第二次世界大战结束以来最大的变革时代，在生产自动化和自动驾驶汽车实现后，下一步就是社会的自动化。这是一次巨大的机会，但也面临着相当大的风险。
20世纪40年代，美国数学家诺伯特维纳(1894-1964)发明了控制论。据他介绍，系统的行为可以通过适当的反馈手段控制。很快，一些研究人员就想根据这一基本原则控制经济和社会，但迫于技术条件未能实现。
新加坡被视为以数据控制社会的一个完美的例子。作为保护其公民免受恐怖主义侵害的计划，最终影响了新加坡的经济和移民政策，甚至房地产和学校。
随着越来越频繁的信用检查和网购行为，每一个公民都成为政府监督的重点。2015年公开的为英国政府秘密服务的“Karma警察”计划的详细信息中，显示了其对每个人互联网使用情况的全面筛选。
程序化社会，程序化公民
一切从搜索引擎和推荐平台开始为我们提供产品和服务的个性化建议开始。此信息基于对我们先前的搜索、购买和移动行为以及社交互动数据的手机。虽然用户的身份是受保护的，但在实践中可以很容易地推断。
今天，算法知道我们做什么，我们的想法和感觉——比我们的朋友和家人甚至我们自己都知道。通常，它提供的建议非常合适，以至于我们误以为是自己做出的决定，即使实际上那不是我们的决定。一些软件平台正在朝着“说服性计算”的方向发展，从编程计算机到编程人。
这些技术在政治世界中也越来越受欢迎。“大的微移”意为大数据与微移的组合。对许多人来说，这似乎是一种数字权杖，能有效地管理群众，而不必让公民参与民主进程。如果这样，公民可以由一个数据授权的“聪明的国王”管理，然后产生预期的经济和社会结果，像一个数字魔术棒。
预编程灾难
无论如何，罪犯，恐怖分子和极端分子会试图控制数字魔法棒——甚至没有我们注意到。几乎所有的公司和机构都被黑客攻击过了，甚至五角大楼，白宫和国家安全局。
当缺乏足够的透明度和民主控制时，出现了另一个问题：系统从内部受到侵蚀时，可以影响搜索算法和推荐系统。公司可以对某些字词组合进行出价，以获得更有利的结果。政府也能影响结果。
如果国家在单个搜索引擎或社交媒体平台占有主要的市场份额，这一问题会更加严重。它可以决定性地影响公众和远程干扰这些国家。尽管欧洲法院在2015年10月6日作出的判决限制了欧洲数据的无限制出口，但欧洲内部仍然没有解决这一根本问题。
操纵方法改变了我们做出决定的方式，加剧了社会的分化。
法律问题
超级智能可能会违反哪些法律呢?首先，很明显，操纵技术限制了我们选择的自由。如果遥控够完美，那我们就成为了数字的奴隶，因为我们将只执行实际上由他人做的决定。
虽然目前操纵技术只是部分有效，但事实上，我们的自由正在慢慢消失，因为迄今为止，人们几乎没有抵抗。
个性化定价的合法性是有问题的，因为可能违反平等和不歧视原则以及竞争法，因为自由市场准入制度和价格透明度制度不再得到保障。
事实上，大调整的目的是使许多人的行为一致，并操纵他们的观点和决定。个性化信息在我们周围建立了一个“过滤泡沫”，一种我们思维的数字监狱。
最终，使用超智能信息系统的技术专家行为和社会控制的集中系统将导致一种新的独裁形式。
更好的数字社会是可能的
尽管全球竞争激烈，但是民主国家最明智的做法是不要把多个世纪的成就淹没。与其他政治制度相反，西方民主国家的优势是他们已经学会了处理多元化和多样性。现在他们只需要学习如何更好地利用它们。
未来，这些国家将实现商业、政府和公民之间健康的平衡状态。通过允许追求各种不同的目标，多元化的社会能够更好地应对来自未来的各种挑战。
集中式，自顶向下控制是过去的解决方案，仅适用于低复杂度的系统。随着经济和文化演变，社会复杂性将继续上升。因此，未来的解决方案是集体智慧。这意味着公民科学、众包和在线讨论平台将提供更多知识、想法和资源。
总之，大数据，人工智能，控制论和行为经济学正在塑造重塑着我们的社会。如果这种广泛的技术不符合我们社会的核心价值观，就可能造就一个极权自动化社会。最坏的情况，集中的人工智能将控制我们所知道的，我们的想法和行为。因而，我们必须决定正确的道路——这条道路使我们所有人都能从数字革命中受益。因此，我们需要遵守以下基本原则：
1.分散信息系统功能;
2.支持信息自主和参与;
3.提高透明度，以实现更大的信任;
4.减少信息的扭曲和污染;
5.启用用户控制的信息过滤器;
6.支持社会和经济多样性;
7.提高互操作性和协作机会;
8.创建数字助理和协调工具;
9.支持集体智慧;
10.通过数字素养的提升，让公民在数字世界中行为的更负责任。
根据这一数字议程，我们将从数字革命的成果中受益：经济，政府和公民。我们还在等什么?
原文：https://www.scientificamerican.com/article/will-democracy-survive-big-data-and-artificial-intelligence/?WT.mc_id=SA_TW_POLE_NEWS
作者：Dirk Helbing, Bruno S. Frey, Gerd Gigerenzer, Ernst Hafen, Michael Hagner, Yvonne Hofstetter, Jeroen van den Hoven, Roberto V. Zicari, Andrej Zwitter
