第一百零一章 对话：人类会变成数据僵尸
“前些年，智能和大数据概念刚热起来的时候，有家公司提出了这样的想法，他们想把冰箱免费送给用户，条件是冰箱里的情况由他们完全掌握。”
“这是个很有前瞻性的想法，他们想通过这种途径，了解到千千万万个用户的家庭里，每天吃了些什么，喝了些什么，喜欢什么调味料，甚至拿到每天的饮食日程表，这样他们就可以掌握到人们的饮食喜好和消费情况。”
“他们的目的是建立一个新的商业模式，以这样的大数据为基础，通过智能分析和关联的手机APP，实现广告和电商的精准投放。”
“或许是因为感应技术、网络环境和数据处理的问题还没办法解决，或许是投入太高和回报太慢的原因，总之那家公司没有把这个想法变成现实。但随着人工智能的进步，我相信在不远的将来，这个想法一定会成为现实。”
“只是这一点上，我就有很多想象。”
“设想未来有公司依靠人工智能做到了这一点，最初会让我们觉得它很了解自己，送到冰箱里的东西都是我们喜欢的。但商业模式决定了它必须赚钱，就像搜索引擎的‘竞价排名’一样，向我们推销商业价值更高的食品，它可以通过人工智能用各种手段，比如智能冰箱的‘健康扫描’之类的功能，或者更人性化的友情提示，潜移默化地影响我们，让我们接受这样的食品。”
“哈萨比斯先生，您应该知道，当人工智能懂得了自然语言后，它分析人的心理和行为的能力也会超越人类中最厉害的专家。当我们教会人工智能怎么读懂人心的同时，它也就具备了扭曲人心的能力。”
“所以未来的人工智能，一定知道该怎么从心理层面潜移默化地影响人心，改变人的想法。还因为在未来，我们接收信息，我们进行交互。我们的所有行为，都会处于人工智能的管理下，它可以很轻易地运用这样的能力。”
“渐渐的，我们不再按照自己真正的喜好选择吃什么。而是按照人工智能的安排去吃，但我们还不觉得是被强迫的，是外来意志的干涉，而是自己的选择。”
“这不就是人工智能在剥夺人的自主意识吗？而背后的动力是什么呢？是商业资本的力量。”
夏鸣的讲述很长，但很有力量。哈萨比斯一直没有打断，就和现在无数听众一样，静静地听着。
“既然人工智能可以在吃上面消灭我们的自主意识，那么在其他方面也一样能做到，甚至于在教育和就业上也能做到。”
“在商业时代，文化也是商品。因此我们的思想，我们的信仰，也将会有人工智能在我们脑子里‘刻写’。到时候我们所拥有的一切，从外到里，包括我们对自己的认识。都不再属于自己。”
“最后是怎样的局面呢？拥有更强人工智能的那些人和那些组织，他们会按照他们的利益，他们的需求，来推动人工智能完成这样的事情。我们会像一具承载数据的僵尸一样，无助地接受着这一切，但我们完全意识不到，自己从心理和行为上，已经是另一些人的奴隶。”
“我们会遵从他们安排的信仰和思想，会遵从他们安排的人生，会实现他们所需要的个人价值。而这一切。都是由他们通过更强的人工智能，在我们要做选择的时候，替代我们做了选择。”
“这不就是《黑客帝国》所描述的未来吗？只不过统治着这一切的不是机器，依旧是人。他们通过更强大的机器来统治我们，而我们毫无抵抗之力，未来也完全没有希望。”
夏鸣的话让哈萨比斯沉默了很久，大概半分钟后，才听到他有些艰涩地说：“你谈到的情况，更多属于社会学的范畴。我在这方面不是很精通，从根本上说，我觉得……我觉得不是我们这些科学家应该去考虑的事情。”
夏鸣轻笑着说：“科学家是有信仰的，不然我们无法解释牛顿会追索上帝，爱因斯坦会逃离纳粹。”
这似乎激发了哈萨比斯的勇气，他不再回避：“好吧，我尽量试着谈谈我的看法。我觉得，您提到的这些前景，在理论上是存在的，但现实是复杂而混沌的。”
“就如您所说的自主意识，在我们的语境里，经常将人的自主意识跟自由意志通用，因为它是一个跨越了科学、哲学和文化的概念，它标定了我们之所以成为生灵之主的高度，我非常赞赏您将它视为珍宝的态度。”
“不过，就像我们一直提及自由，但真正的自由从未在现实里存在一样。一个人从小到大，他的自主意识，都是受外界影响形成的。小时候是家庭的影响和学校的影响，当我们独立的时候，我们从外界获取信息，媒体也是有各种倾向，我们看到的都不是绝对的真相，而是各种观点加工过的。”
“我承认商业资本在利益驱动下，会推动人工智能做一些您提到的那些事情。但我认为，这在人类总体上并不会造成太大的影响，因为您所认为的人的自主意识，基本上都很少存在，不是吗？”
哈萨比斯接下来的话就相当刻薄了，如果是在公开场合，他绝对不会这么说：“我们都看得到，在这个世界上，绝大部分的人都不会去计较‘我一定得是我’这种事情。他们只在意吃饱穿暖住得舒服，在满足这些**的同时，他们还屈服于心中的魔鬼，受着贪婪和嫉妒这些情绪的折磨，他们追求的只是原始的感官刺激。”
“人类里的95%，或许我还说多了，总之人类中的绝大部分是不在意自我意识这东西的，这也是商业资本肆虐的原因之一，所以我不认为未来会比现在变得更糟。”
“只有极少数人，他们对自己有特别的期许，他们有远大的理想，他们会鞭策自己，不让自己在现实下低头，这样的人才拥有自主意识。也就是自由意志。不管是过去环境的影响，还是未来人工智能的影响，都不会让他们埋没。”
“人类一直是靠极少数人所引发的变革，推动社会整体的变革。人是有竞争性的。不管社会发展到什么程度，也一定会有阶层的划分。我觉得没有必要把目光放在人类社会的内部，就算技术带来了大变革，人类社会也会进行自我调整。”
“作为科学家，我们追求的是继续扩展无限之中人类那个圆的半径。只要这个半径继续扩大。人类内部的冲突和矛盾就有了更大的空间去缓和。我相信，这是……嗯，至少绝大多数科学家的共识。”
哈萨比斯开始了反攻：“我很好奇，就连很多科学界的权威，谈到人工智能的时候都只担心人工智能作为独立个体时对人类的威胁，为什么您想到的是对自主意识的威胁？”
他接下来的话让三个大佬五味杂陈：“我猜测，是不是跟你们国家的商业环境有关。在你们国家，千寻、卡里和传奇这样的领导者，在方方面面都以强营销的模式压迫消费者，一些具体的行为。比如搜索引擎里的信息欺诈，移动应用的诱导消费，游戏里放大人性负面的营销模式，这些我都有亲身体验，是不是这样的环境，激起像您对自主意识的加倍重视？”
“的确有些关系”，夏鸣没有否认，三个大佬的脸色更加难看。
不过接下来的话让他们稍稍轻松了一些：“但我们国家的情况并不是独有的，甚至各种模式还是从美国学来的，只是我们的消费者对付商业资本的经验还不足。这跟几十年前美国的情况差不多。而且在互联网时代，信息传播和物流交付的深入和加速，危害也被放大了。”
“在欧美也存在同样的状况，只不过经过了多年的博弈。商业资本变得更加精明，他们的眼光更长远了些，手段更隐蔽了些，但两边在本质上并没有差别。你看，就连暴雪也扩大了游戏的免费模式，苹果也在搜索里加入了付费排名。现在是欧美商业资本在学习我们这边的‘先进经验’，因为这是个新的时代。”
夏鸣把话题拉了回来：“哈萨比斯先生，我认同您对自主意识现状的判断，我们的分歧在于，您觉得未来不可能变得更糟，您也无意改变这种现状。我却认为，未来会变得更糟，而现状，我们也可以去改变。”
哈萨比斯笑道：“我喜欢跟同行交流的原因就在这，我们的对话更精确，更有效率！我想先听听您在前一点上的见解。”
“我有同样的感受，那么我就先谈第一点”，夏鸣说：“您说得没错，就像人在成年后，很少再去追问我是谁一样，绝大多数人的自主意识都被方方面面的现实埋没了。但您要注意，这些现实就像无序的热运动，在宏观层面上看虽然能看出规律，但到微观层面，也就是每一个人身上，还是一种不规律的自然过程。”
“人可以依靠自主意识，去突破这个过程，去改变现实，实现自我，不管他主观是否愿意，客观上这种可能性是存在的，因为还有这样的空间。”
夏鸣的结语有点耸人听闻的味道：“当人工智能成熟后，可以影响自主意识的运动就变得规律起来，这样的空间就被压缩了。如果商业资本或者更强的组织愿意，他们可以从未成年人开始，将消除自主意识这个过程变成流水线式的驯化作业，即便是极少数还能拥有自主意识的人，在这个过程之下，也不可能继续保有精神上的独立。”
哈萨比斯笑着说：“我相信科幻作家听到您这样的预言后，会推出一系列的科幻小说。我不是贬低您的推论，只是觉得……觉得您未免太悲观了。”
夏鸣嗯了一声：“我也认为这是个悲观主义的推论，因为前提是，我们什么也不做。”
“我对您提到的改变很感兴趣，我们能做什么？”哈萨比斯问。
“这就是我最初说到的，我们需要思考人工智能与人类的关系，我们要给它一个定位。我不是说所有的人工智能都必须服从这样的定位，但至少……”
夏鸣接下来的话像是一股寒风，在三个大佬的心里呼呼刮了起来，当然，对其他听众来说，到底是寒风还是暖风，就看各自的屁股怎么放了。
他说：“未来的人工智能里，至少有一类必须是人人都有的，那就是保护自己的自主意识。”
“我希望，在未来，人人都有这样一个人工智能，它服从人的真实意志，它依据人的真实意志去接触信息世界，去做网络交互，去做各种选择，它就是自主意识的延伸，它会成为人与信息世界的保护屏障，抵御那些恶意的意识影响。”
“甚至人可以借助它，不断地修正对自己对现实的认识，不断完善自我，提升自我，在新时代里找到自己的定位，实现自己的价值。”(未完待续。)
</br>
“这是个很有前瞻性的想法，他们想通过这种途径，了解到千千万万个用户的家庭里，每天吃了些什么，喝了些什么，喜欢什么调味料，甚至拿到每天的饮食日程表，这样他们就可以掌握到人们的饮食喜好和消费情况。”
“他们的目的是建立一个新的商业模式，以这样的大数据为基础，通过智能分析和关联的手机APP，实现广告和电商的精准投放。”
“或许是因为感应技术、网络环境和数据处理的问题还没办法解决，或许是投入太高和回报太慢的原因，总之那家公司没有把这个想法变成现实。但随着人工智能的进步，我相信在不远的将来，这个想法一定会成为现实。”
“只是这一点上，我就有很多想象。”
“设想未来有公司依靠人工智能做到了这一点，最初会让我们觉得它很了解自己，送到冰箱里的东西都是我们喜欢的。但商业模式决定了它必须赚钱，就像搜索引擎的‘竞价排名’一样，向我们推销商业价值更高的食品，它可以通过人工智能用各种手段，比如智能冰箱的‘健康扫描’之类的功能，或者更人性化的友情提示，潜移默化地影响我们，让我们接受这样的食品。”
“哈萨比斯先生，您应该知道，当人工智能懂得了自然语言后，它分析人的心理和行为的能力也会超越人类中最厉害的专家。当我们教会人工智能怎么读懂人心的同时，它也就具备了扭曲人心的能力。”
“所以未来的人工智能，一定知道该怎么从心理层面潜移默化地影响人心，改变人的想法。还因为在未来，我们接收信息，我们进行交互。我们的所有行为，都会处于人工智能的管理下，它可以很轻易地运用这样的能力。”
“渐渐的，我们不再按照自己真正的喜好选择吃什么。而是按照人工智能的安排去吃，但我们还不觉得是被强迫的，是外来意志的干涉，而是自己的选择。”
“这不就是人工智能在剥夺人的自主意识吗？而背后的动力是什么呢？是商业资本的力量。”
夏鸣的讲述很长，但很有力量。哈萨比斯一直没有打断，就和现在无数听众一样，静静地听着。
“既然人工智能可以在吃上面消灭我们的自主意识，那么在其他方面也一样能做到，甚至于在教育和就业上也能做到。”
“在商业时代，文化也是商品。因此我们的思想，我们的信仰，也将会有人工智能在我们脑子里‘刻写’。到时候我们所拥有的一切，从外到里，包括我们对自己的认识。都不再属于自己。”
“最后是怎样的局面呢？拥有更强人工智能的那些人和那些组织，他们会按照他们的利益，他们的需求，来推动人工智能完成这样的事情。我们会像一具承载数据的僵尸一样，无助地接受着这一切，但我们完全意识不到，自己从心理和行为上，已经是另一些人的奴隶。”
“我们会遵从他们安排的信仰和思想，会遵从他们安排的人生，会实现他们所需要的个人价值。而这一切。都是由他们通过更强的人工智能，在我们要做选择的时候，替代我们做了选择。”
“这不就是《黑客帝国》所描述的未来吗？只不过统治着这一切的不是机器，依旧是人。他们通过更强大的机器来统治我们，而我们毫无抵抗之力，未来也完全没有希望。”
夏鸣的话让哈萨比斯沉默了很久，大概半分钟后，才听到他有些艰涩地说：“你谈到的情况，更多属于社会学的范畴。我在这方面不是很精通，从根本上说，我觉得……我觉得不是我们这些科学家应该去考虑的事情。”
夏鸣轻笑着说：“科学家是有信仰的，不然我们无法解释牛顿会追索上帝，爱因斯坦会逃离纳粹。”
这似乎激发了哈萨比斯的勇气，他不再回避：“好吧，我尽量试着谈谈我的看法。我觉得，您提到的这些前景，在理论上是存在的，但现实是复杂而混沌的。”
“就如您所说的自主意识，在我们的语境里，经常将人的自主意识跟自由意志通用，因为它是一个跨越了科学、哲学和文化的概念，它标定了我们之所以成为生灵之主的高度，我非常赞赏您将它视为珍宝的态度。”
“不过，就像我们一直提及自由，但真正的自由从未在现实里存在一样。一个人从小到大，他的自主意识，都是受外界影响形成的。小时候是家庭的影响和学校的影响，当我们独立的时候，我们从外界获取信息，媒体也是有各种倾向，我们看到的都不是绝对的真相，而是各种观点加工过的。”
“我承认商业资本在利益驱动下，会推动人工智能做一些您提到的那些事情。但我认为，这在人类总体上并不会造成太大的影响，因为您所认为的人的自主意识，基本上都很少存在，不是吗？”
哈萨比斯接下来的话就相当刻薄了，如果是在公开场合，他绝对不会这么说：“我们都看得到，在这个世界上，绝大部分的人都不会去计较‘我一定得是我’这种事情。他们只在意吃饱穿暖住得舒服，在满足这些**的同时，他们还屈服于心中的魔鬼，受着贪婪和嫉妒这些情绪的折磨，他们追求的只是原始的感官刺激。”
“人类里的95%，或许我还说多了，总之人类中的绝大部分是不在意自我意识这东西的，这也是商业资本肆虐的原因之一，所以我不认为未来会比现在变得更糟。”
“只有极少数人，他们对自己有特别的期许，他们有远大的理想，他们会鞭策自己，不让自己在现实下低头，这样的人才拥有自主意识。也就是自由意志。不管是过去环境的影响，还是未来人工智能的影响，都不会让他们埋没。”
“人类一直是靠极少数人所引发的变革，推动社会整体的变革。人是有竞争性的。不管社会发展到什么程度，也一定会有阶层的划分。我觉得没有必要把目光放在人类社会的内部，就算技术带来了大变革，人类社会也会进行自我调整。”
“作为科学家，我们追求的是继续扩展无限之中人类那个圆的半径。只要这个半径继续扩大。人类内部的冲突和矛盾就有了更大的空间去缓和。我相信，这是……嗯，至少绝大多数科学家的共识。”
哈萨比斯开始了反攻：“我很好奇，就连很多科学界的权威，谈到人工智能的时候都只担心人工智能作为独立个体时对人类的威胁，为什么您想到的是对自主意识的威胁？”
他接下来的话让三个大佬五味杂陈：“我猜测，是不是跟你们国家的商业环境有关。在你们国家，千寻、卡里和传奇这样的领导者，在方方面面都以强营销的模式压迫消费者，一些具体的行为。比如搜索引擎里的信息欺诈，移动应用的诱导消费，游戏里放大人性负面的营销模式，这些我都有亲身体验，是不是这样的环境，激起像您对自主意识的加倍重视？”
“的确有些关系”，夏鸣没有否认，三个大佬的脸色更加难看。
不过接下来的话让他们稍稍轻松了一些：“但我们国家的情况并不是独有的，甚至各种模式还是从美国学来的，只是我们的消费者对付商业资本的经验还不足。这跟几十年前美国的情况差不多。而且在互联网时代，信息传播和物流交付的深入和加速，危害也被放大了。”
“在欧美也存在同样的状况，只不过经过了多年的博弈。商业资本变得更加精明，他们的眼光更长远了些，手段更隐蔽了些，但两边在本质上并没有差别。你看，就连暴雪也扩大了游戏的免费模式，苹果也在搜索里加入了付费排名。现在是欧美商业资本在学习我们这边的‘先进经验’，因为这是个新的时代。”
夏鸣把话题拉了回来：“哈萨比斯先生，我认同您对自主意识现状的判断，我们的分歧在于，您觉得未来不可能变得更糟，您也无意改变这种现状。我却认为，未来会变得更糟，而现状，我们也可以去改变。”
哈萨比斯笑道：“我喜欢跟同行交流的原因就在这，我们的对话更精确，更有效率！我想先听听您在前一点上的见解。”
“我有同样的感受，那么我就先谈第一点”，夏鸣说：“您说得没错，就像人在成年后，很少再去追问我是谁一样，绝大多数人的自主意识都被方方面面的现实埋没了。但您要注意，这些现实就像无序的热运动，在宏观层面上看虽然能看出规律，但到微观层面，也就是每一个人身上，还是一种不规律的自然过程。”
“人可以依靠自主意识，去突破这个过程，去改变现实，实现自我，不管他主观是否愿意，客观上这种可能性是存在的，因为还有这样的空间。”
夏鸣的结语有点耸人听闻的味道：“当人工智能成熟后，可以影响自主意识的运动就变得规律起来，这样的空间就被压缩了。如果商业资本或者更强的组织愿意，他们可以从未成年人开始，将消除自主意识这个过程变成流水线式的驯化作业，即便是极少数还能拥有自主意识的人，在这个过程之下，也不可能继续保有精神上的独立。”
哈萨比斯笑着说：“我相信科幻作家听到您这样的预言后，会推出一系列的科幻小说。我不是贬低您的推论，只是觉得……觉得您未免太悲观了。”
夏鸣嗯了一声：“我也认为这是个悲观主义的推论，因为前提是，我们什么也不做。”
“我对您提到的改变很感兴趣，我们能做什么？”哈萨比斯问。
“这就是我最初说到的，我们需要思考人工智能与人类的关系，我们要给它一个定位。我不是说所有的人工智能都必须服从这样的定位，但至少……”
夏鸣接下来的话像是一股寒风，在三个大佬的心里呼呼刮了起来，当然，对其他听众来说，到底是寒风还是暖风，就看各自的屁股怎么放了。
他说：“未来的人工智能里，至少有一类必须是人人都有的，那就是保护自己的自主意识。”
“我希望，在未来，人人都有这样一个人工智能，它服从人的真实意志，它依据人的真实意志去接触信息世界，去做网络交互，去做各种选择，它就是自主意识的延伸，它会成为人与信息世界的保护屏障，抵御那些恶意的意识影响。”
“甚至人可以借助它，不断地修正对自己对现实的认识，不断完善自我，提升自我，在新时代里找到自己的定位，实现自己的价值。”(未完待续。)
</br>