2.5 数字智能时代的设计伦理挑战

如果我们回看十年前各智库对于智能互联技术下世界的未来途径的预期，会发现基本上都是着眼于良性发展的，相对忽略了对互联网技术的双刃剑作用的分析。十年后的今天，我们看到世界的信息互联仍在不断深化之中，但产生的影响却是多方面的，世界并没有因此变成只存在一种经济和一个市场的情况，而是不同区域、不同文化群体之间形成了越来越复杂的连接和传播，这其中产生的不只是沟通和理解，还伴随着新的误解和冲突，政治和社会文化等方面的因素参与到了信息互联的关系塑造之中。

拆除信息阻隔所带来的指数化增长是阶段性的，粗放式的信息互联带来的爆发式增长从长期来看并不能长期持续，而进一步的精细化运作和新增长则面临很多困难。一方面，按照生态学的逻辑斯蒂曲线，我们必须要考虑信息环境中显现出来的多样化因素，通过研究人与信息环境的交互来把握现实中的“增长阻滞”因子，并寻找有效的解决办法。另一方面，我们也需要不断反思现实与未来，设计应该怎样引导技术以促进人的全面发展和社会的公平正义。

综合来看，数字智能时代的伦理影响是一个深远而广阔的问题，包括但不仅限于以下问题：

1）大数据精准交互与个人数字产权。

随着大数据和智能算法的广泛应用，数字智能技术对个人生活的影响将渗透到隐私保护、数字产权、社群治理、信息平等及言论自由等各个领域。

首先，从效用主义的角度，大数据和智能算法可以使决策变得更加明智。人们可以借助数据分析更深入地了解决策的风险和最优路径。互联网公司可以运用数据分析为用户提供更精准的交互服务。政府在面临紧迫的社会问题时，如提升公共医疗和公共交通的智能化等，大数据可以节省资源、提高流程效率，做出更好的决策。同时，对不同来源的数据进行综合分析，以揭示新的信息，帮助用户免受欺诈，帮助客户增进收益。随着存储和处理数据成本的不断降低，会持续扩展大数据的上述效益，提升数据的潜力和普及度。这些都可以用于改善社会生活。

尽管数字智能可以带来很多好处，但人们也越来越注意到它可能造成的危害。现在，我们每个人的大部分信息数据都存放在大公司的服务器上。虽然谷歌、亚马逊等大型互联网公司公开表示数据的所有权归用户，他们只使用数据改进产品和服务，但实际上用户并不真正拥有这些数据。因此，这就产生了数字所有权不清晰的问题。另一个严重的问题是，难以防止低成本的数据复制和被不良商家利用。例如，在Facebook的泄密案中，据了解Facebook将用户普通的点赞和评论信息泄露给一家名为“剑桥分析”的私营公司，而这家公司仅通过智能算法和5个点赞信息，就能准确地判断一个用户的政治倾向，如果再参照用户对应的转载和评论信息，甚至可以判断什么样的讯息能影响用户的政治判断。这个案例带给我们的启示是：我们每个平台用户，实际上都被智能技术描绘为一系列的数据轮廓，通过准确的数据轮廓的描绘，网络公司有可能将个体数据化为可以进行行为管理的对象[16]。这些都对数字伦理和数字产权的管理提出了新的挑战。

2）沉浸式体验与防过度沉迷。

根据中国互联网络信息中心发布的第47次《中国互联网络发展状况统计报告》显示，截至2020年12月，我国网民规模达9.89亿，互联网普及率达70.4%。现在，互联网和我们日常工作、生活、娱乐密不可分，其重要性相当于水和电。根据第三届网民健康状况调查报告显示，24.6%的网民曾经试过连续上网24小时以上，并且有22%网民习惯连续上网，中间不休息。根据CNNIC发布的《2014—2015年中国手机游戏用户调研报告》显示，使用手机或平板电脑进行游戏的日均使用时长在两小时以上的用户比例由 14.6%上升至 25.3%，这表明用户在由“高频低时长”的碎片化使用习惯向“低频高时长”的重度化使用习惯过渡，这一现象与游戏行业越来越强调设计的心流感和沉浸式体验有密切关系。

所谓沉浸式体验，是指用户通过感官与认知活动，持续地潜心于某种信息交互和情绪体验之中。网络信息通过图文、音频、视频、游戏等多样化的创作形式，相比于传统的信息媒介更具有让人沉浸的吸引力。但随着对沉浸式体验设计与研究的不断深入，新的问题暴露出来，比如网络沉溺和成瘾性造成的人文关怀缺失。

数字信息世界的沉浸式体验具有以下特点：

第一，用户的自主性更强。在传统的看电视、听广播、看电影等情境中，用户的身份是信息的被动接受者——观众，而在网络环境中，用户成了自主选择和制造新信息的主体，这种自主性和自由的体验感比传统的媒体情境要强很多。

第二，数字网络环境能够低成本实现多元化的信息供给，这种即时性的回应为网络终端的用户提供了累加性的美好体验。

第三，用户与网络平台之间，以及用户通过平台与其他用户之间能够实现更多实时的互动体验，如在论坛或游戏中的对话、协作活动等。这些虚拟世界的即时互动能够更紧密地联系。

第四，用户可以利用头像和各种标签化的数字形象出现在网络中，借助新的数字化身份体验释放现实生活中被压抑的“自我”带来的快感。以上都是促成用户从沉浸到沉溺的情境因素。

什么是成“瘾”呢？一般来说，是指主体知道这种行为会产生不好的影响，但还是难以停止，形成重复性的自我强迫，并对这种行为产生精神上的依赖。脑科学研究显示，成瘾性主要是大脑的奖励机制出了问题。如果某种物质或者某项活动导致大脑负责奖励的区域分泌大量的多巴胺，大脑就会感到高度的愉悦。正常生活中平淡的愉悦，并不能让人体分泌的多巴胺达到足够浓度。于是，个体在追求愉悦的路上，只能依靠某种物质，或不断重复这种行为，最后形成依赖，并且停不下来。内容的设计者，是可以利用这一心理机制，创造出让人沉浸其中的游戏、短视频等内容的。游戏玩家越是沉浸其中，水平就会越高，对新技能、新场景的渴求就越强，于是在其中花费的时间、精力和金钱也就越多。同时，游戏玩家也付出了更多的机会成本，现实生活中的学业、工作和社交因为没有时间去维护，就逐渐荒废了。几年前，笔者在参加某个人工智能与设计的会议时，与会的一位人工智能专家就公开说自己已经删除了手机上的某个时下热门的App，原因是他个人很喜欢看可爱的小动物的视频，于是App就不断给他推送相关的内容，导致他浪费了很多时间。试问，有多少普通用户能像这位专家那样自我反思，并果断采取行动戒除沉溺呢？

任由这一趋势发展，不但会越来越背离体验设计原本的初衷，也会恶化整个数字网络空间的信息生态。因此，从网络生态的可持续性和人的身心健康出发，构建有节制的沉浸体验是数字智能时代的内在伦理要求。其实，在这种危机之下，也暗藏着机会。因为通过借助人的这种心理机制，同样也有机会设计出帮助人更好地沉浸于学习、自我提升及健康社交的活动的智能工具。

3）追求最优解与走出信息茧房。

相比于主要依靠人力、畜力的传统农业时代，工业社会的形成首先依赖于新动力的使用，于是人类的生产能力快速提高。为了更高效地应对不断扩大的生产规模，探索更高效的工作模式成为整个时代的要求。为了提高制造业的生产效率，降低成本，企业必须对生产过程进行优化。于是，泰勒的科学管理，福特的标准化的生产流水线，以及“形式追随功能”的现代主义设计潮流都应运而生。企业在制造出质量标准化的产品的同时，也塑造了“规范化”的现代工人群体：他们遵循规则，按要求完成标准的操作，就像企业这个庞大社会机器中的“标准件”。除了对人的规训，工业技术的“规约化”也进一步渗透到社会生活中。在现代主义设计盛行的年代，装饰和多样化甚至被认为是“不道德的”，几乎一切与以高效和节约为核心的功能主义价值观不相符的产品特征都被统一“修剪”了，人们生活在“现代性”的都市里，自然的人性在被纳入象征工业时代秩序的过程中受到了统一规范的“修剪”，农业时代生活的多样性也被“直线、直角、无色系”的现代主义环境所取代。从20世纪70年代以来，随着对基本生活需求的充分满足，发达国家的社会文化形态开始从以生产为中心的模式，向以消费为中心的模式转变[17]。为了满足消费欲望，倡导享乐主义的都市生活方式受到大众的推崇，视觉文化开始盛行，它打破了单调乏味的现代性审美规范，追求视觉愉悦的商品设计与各种消费价值的象征意义交织在一起，促成了消费主义的兴起。

在进入智能互联的时代后，基于大数据和智能算法，在技术上可以对细节信息进行广泛的收集和分析，通过反复的迭代优化，越来越精准地对个体的心理偏好和行为特征进行建模。于是，新媒体能够实现从传统的“一对多”传播转向“一对一”传播，即同一款产品做到界面推送“千人千面”。个性化信息的精准推送虽然会给用户带来便利和好的体验，但根据个人兴趣形成的算法优化造成的“信息茧房”效应也越发突出，算法规则甚至可以通过信息对人的行为进行引导，让看似自由的个人选择成为可以精准控制的对象[18]。

“信息茧房”的概念最早是桑斯坦提出的[19]，意指公众出于本能，会只注意自己选择的东西和使自己愉悦的信息领域，而回避与自己观点冲突和不一致的信息领域。久而久之，用户会将自身束缚于像蚕茧一般的“茧房”中。

如果说工业化时代的信息茧房是来自有形的工业秩序的“规训”，那么数字智能时代的信息茧房则更像是个人在自主选择接收让自己愉悦的信息过程中“作茧自缚”。这个过程是在不知不觉中达成的。在桑斯坦看来，公众在面对海量的信息时，必须做出取舍，如果每个人只以个人喜好为标准选择接收的信息，那么每个人就只能构建出他们所希望看到的世界图景，而不是世界本该呈现的样子。如果整个社会也是如此，那么现有很多的社会群体和社会共识必然会走向分裂。悖谬的是，沉浸其中的个体并未感到自我设限，相反，他们会认为自己是在做出“自由”的选择，也就是说，信息茧房的构建是基于个人的自由主义信仰，但其结果却让每个人只听到自己的回音，从而导致认知与现实的撕裂。这样的机制会阻碍社会公共价值目标的实现，并最终破坏整个社会的个体自由。

如果仅从当下一般意义上对设计职业的理解来看，以上问题的解决似乎与设计师的职业并无直接关系。但实际上，它们不但与我们每个人有关，还和设计师有特别密切的关系。因为设计师既是这个社会中对用户群体的需求和境遇敏感的人，也是近距离参与未来产品的创造活动的人。着眼未来，设计师应该联合更多的技术工程人员，在设计开发过程中注入更多的社会人文关怀，帮助更多的人走向更全面的自我发展之路。

---

[1] IDEO官网的案例：美国银行的“零头转存”。

[2] 彼得·德鲁克.管理的实践[M].齐若兰，译.北京：机械工业出版社，2009.

[3] 英文原文为：When I design，I don't consider the technical or commercial parameters so much as the desire for a dream that humans have attempted to project onto an object.

[4] 朱迪思·卡梅尔-亚瑟.菲利普·斯塔克[M].连冕，译.北京：中国建筑工业出版社，2002.

[5] 盛田昭夫.日本造：盛田昭夫和索尼公司[M].伍江，译.北京：三联书店，1988.David Marshall.盛田昭夫与索尼公司[M].魏克，译.北京：世界图书出版公司，1997.

[6] 引自设计师道格拉斯·鲍曼在2009年写的博客文章“Goodbye，Google”.

[7] 译文摘自Kingofark的博客文章，内容略有改动。

[8] 彼得·德鲁克.下一个社会的管理[M].蔡文燕，译.北京：机械工业出版社，2006.

[9] 张隆高，张农.德鲁克论电子商务[J].南开管理评论.2005，5.

[10] 史蒂夫·克鲁克.点石成金[M].De Dream，译.北京：机械工业出版社，2006.

[11] 史蒂夫·克鲁克.点石成金[M].De Dream，译.北京：机械工业出版社，2006.

[12] 德鲁克基金会.未来的社区[M].北京：中国人民大学出版社，2005.

[13] Facebook研究报告：重视社交网络“弱关系”。

[14] 丹·艾瑞里.怪诞行为学[M].北京：中信出版社，2008.

[15] 马克·伊尔斯.从众效应如何影响大众行为[M].钱峰，译.北京：清华大学出版社，2010.

[16] 蓝江.智能时代的数字——生命政治[J].江海学刊，2020（01）：119-127+255.

[17] 周宪.视觉文化与消费社会[J].福建论坛（人文社会科学版），2001（02）：29-35.

[18] 丁晓蔚，王雪莹，胡菡菡.论“信息茧房”矫治——兼及大数据人工智能2.0和“探索—开发”模式[J].中国地质大学学报（社会科学版），2018，18（01）：164-171.

[19] 凯斯·R.桑斯坦.信息乌托邦：众人如何生产知识[M].毕竞悦，译.北京：法律出版社，2008.