智能陷阱《social dilemma》:被设计的人生

有氧运动后,疲倦袭来,什么也不想做。刚好放空大脑,便立刻看了昨日种草的Netfilx的纪录片《social dilemma》,中文译为《监视资本主义:智能陷阱》。对于技术的探讨一直是个经久不衰的命题,我们可以在玛丽.雪莱的笔下中窥见技术催生的科学怪人:弗兰肯斯坦,在科幻电影《机器姬》中看到异己力量的产生。

对于技术,一些人持乐观的态度,认为技术是福报,是驱动世界的力量。一些人持悲观的态度,认为技术对人异化,隔离现实生活。这些探讨不可避免陷入了二元对立的困境之中 世界从未有一好到底之说,也并非有一坏到底之说。很喜欢这样一个隐喻:技术就像一个“兔子洞”,当我们跳进去之时,我们并不知道这是一个怎样的世界。

我们容易陷入了单极的泥淖:竭尽鼓吹技术有多么的美好,它将世界变成了“地球村”,打破了前所未有的时空隔阂,使得人人手拉手诉说着各自的美好;它一改原有的血缘与地缘的圈层,我们可以到虚拟世界找到属于自我的那方天地,形成属于自我的群体;它延伸我们的知觉,视觉,让我们拥有了高度的视听能力。但我们无法掩藏技术所衍生的负面效应,地球村是否会带来文化的同质化,是否从武力的入侵转向非边界的网络入侵,是否有如巴别塔一般交流的无奈?微博丛生的群体骂战,将公共领域蚕食,本是意见公开的市场却变成了自说自话,容不得半点不同的声音的单极化领域。

的确,相较于前一代,我们是视觉和听觉的佼佼者,我们沉浸抖音短视频,但丧失了文字时代所带来的理性与线性思维,也丢失了人与人之间的信任。如此只会把自己变成一个容器人,难以表达真正的自我。

这个世界需要批判者们,他们并非唱衰技术,而是对技术保持审慎。在我看来,他们才是最乐观的那派,因为知道技术是不完美的,他们发声想要撼动这个世界,做着被人道主义等无形的力量所驱动的“无限的游戏”,与理性的AI和算法对抗,而并非是被商业所驱使的“有限游戏”(一切以流量与价值为尺度,迷失掉价值关怀、丢掉价值理性)。

最让我震撼的是,他们指出人工智能与算法下的智能并非是智能,它只不过是机器学习下的耗损函数。如何将耗损保持最低是它所 需要“思考”的,如何最优化(optimize) 也是它们的任务,我们只需要设定目标,它就会按照自我的逻辑无限接近目标,期间不会考虑任何道德的因素,任何人道主义的原则,如同韦伯所提出的工具理性。效率成为最重要的东西,忘却技术的源初是为人类服务,不是高效,人性化才是我们需要探讨的。

是啊,我们都很难彻底与这个世界断开联系,当我们从简单的技术关联走向关系互联,再到“万物互联”的时代。可穿戴设备广泛应用,apple watch等,还有未来想象的赛博格时代,身体与机器融为一体。这都是大势所趋,不可逆转。

如何在这种潮流中保持自己的清醒,也许很难做到韩秉哲在《倦怠社会》中所说的“愤怒”,但作为个体的我们的确拥有掌握这个“连接”的开关。我们可以在专注之时切掉与外界的联系,断开网络,进入属于自己的深度空间,当深度学习与工作后再进入连接的世界。

除此之外,Facebook、 Twitter等一系列大厂也需要对自己的商业模式进行革新。算法勾勒出来的理想模型,通过“推荐”进行自我商品的营销,诚然会让商业利润得到最大化 ,但无止尽的精准投放,无休止的算法推荐是否会让人产生厌恶的情绪,是否忘却了自己作为技术公司所承担起的责任。大厂已经接手了在宗教与教育所承担的那份责任。对于共识的塑造,对于公众展示出象征性现实,使之无限接近客观现实的责任,我想这些是缺位的,就如同大选中的fakenews,抑或推特中那些比真实新闻传播速度快6倍的假消息,抑或阴谋论的散播等。

“大厂”们在数据收集的时候,是否可以让用户自己拥有占有数据本身价值的能力,就像水和电的使用,每一次数据挖掘,收集与使用都要付费。这样,一方面平台在搜集手机数据的时候会忌惮“成本”,不会将边角料全部纳入囊中;另一方面用户自己可以把握信息公开的度,在大厂过度使用自我的数据时获得补偿,以无形的经济压力来制约他们的违规行为。

最后,作为一个身在网络里的人,建议大家去看看这部纪录片,了解技术背后工作的原理,我们需要拥有知情权,再做出自己的选择。