算法相对论｜当AI变成“监工”，我们将面临怎样的伦理与管理困境

近期支付通Qpos官网注意到：2019年4月，亚马逊开发了一套追踪每一名物流仓储部门员工工作效率的AI系统，甚至连员工离岗去厕所的时间都能被统计，然后由套系统会自动生成解雇指令，已有900多名亚马逊员工被这位严酷的监工解雇。2021年8月，俄罗斯一家游戏支付公司利用AI算法判定不敬业且效率低下的员工，解雇了150人，裁员的依据是通过人工智能分析了员工在工作中是否“摸鱼”。这些新闻报道在引发网友发出“打工不易”“人工智能治人工”的感慨之余，也让我们不得不思考技术进步背后所带来的伦理与管理困境。

现代企业管理倡导“以人为本”，但是企业追逐效率与利益是其天性。其实AI监工在本质上同过去的传统手段没有本质区别，只是因为技术进步，企业可以通过远程办公、软件嵌入、摄像头监控、大数据与算法分析等方式，了解到员工究竟在做什么，甚至统计出工作的“有效时间”，让员工的“摸鱼”行为无所遁形。这虽然可以视作管理方式的演变，但不免让人有种私权边界被冒犯的感觉，让我们不得不正视技术、伦理、管理三者的问题。

观点一：AI监工的出现得益于技术和社会的进步

人工智能之所以被称为是颠覆性技术，核心在于其能够模拟人类的思维和行为，并有机会生成与人相近的决策，从而对我们现有的法律体系、价值体系、伦理体系、管理体系、经济体系带来冲击，甚至有可能是最大的一次冲击。

AI监工的产生主要还是得益于这些年AI技术的发展，近些年困扰产业发展的很多问题，诸如芯片、算法、算力、大数据存储等都得到了很大程度的提升。比如，根据情绪算法和大数据分析，我们可以通过人的脸部表情、语言以及肢体动作，来简单分析某人当下的心理状态，比如高兴、愤怒、伤心等，也可以知道他当下的注意力是否集中。国内某家AI公司就做了这么一个场景，在员工参加企业培训的时候，企业通过AI来判断员工的听课状态，结合最后的考试成绩来综合判定是否录用或晋升。还有AI企业对学生的课堂活动进行了监测，统计每位学生的认真听课程度，包括有没有睡觉、回答了几次问题，甚至能帮助老师做一些客观量化的分析，但当时推出了引起了非常大的社会争议，所以很快就退出市场。

AI监工可以应用在很多地方，向企业、政府、学校、家长等监管需求方提供决策依据，也是数据驱动决策的实际应用。从某种程度上讲，AI在监工这个场景下的应用与弱人工智能的技术特性有关，现阶段的AI技术特别擅长做机械化、高强度的对比工作，在监管、审查、审阅、审批、订货、市场预测这些方面，很容易落地符合市场需要的应用场景。

而社会的进步，也使得过去不太被人关注的各种技术问题浮出了水面，引发对社会认知和道德伦理的冲击。社会对于个人信息保护和数据安全的感知也是不断在变化的，这种敏感程度随着经济的发展和个体权利意识的增强也在不断提升。欧洲人比我们更早地意识到这点，但我们在近些年也意识到个人信息和数据安全的重要性，国家也集中出台了一批重要法规。但法律法规往往出现在现象级案件发生后，比如大数据杀熟、数据泄露、算法歧视的问题在很多年前就已经出现了，但在没有出现一个重大的社会事件以前，政府并不会马上立法规制。基于法律人的立场，法律、伦理是创新过程中一个很重要的“刹车器”，目的是让社会这个车开得更快更稳；法律不能成为技术发展的障碍，我们要通过试错，才可能找到创新的机会以及控制试错的成本。

观点二：AI监工或将造成企业和员工对立情绪的扩大

企业是否使用AI监工，取决于企业家的价值观和经营理念，但更多与效益直接挂钩。虽然企业会把以人为本的口号挂在嘴边，但只有在面对利益的时候才能看清企业家内心的实际判断。从法律层面上讲，无论是欧盟的GDPR还是我国的《个人信息保护法》和《数据安全法》，对企业未经授权采集员工的个人信息都是持否定态度的，对于滥用技术的行为也给出了明确的处罚。从管理的角度来讲，员工的“摸鱼”行为未必没有创造价值，一些需要深度思考、创新的工作恰恰需要员工有闲暇的时间做“懒蚂蚁”，不能说员工的电脑屏幕停留在某一个页面的时间很长，就证明他没有在工作。这种一直被人“盯着”的感觉，在一定程度上造成了员工和企业对立情绪的扩大，甚至出现员工反向使用AI来监测老板，当AI发现老板要走过来的时候，就从游戏页面自动切换到工作页面。

短期来说，如果AI监工的介入的领域是能够直接跟公司KPI或者是管理目标一致，可能对于短期效益的提升是起到助推作用的，但很可能对员工造成心理上的不适，让人更加疲惫。不管是作为企业的管理者或政府的职能部门，可能都要投入更多的精力去思考技术与人究竟应该摆在什么位置上。

数据驱动决策本身并没有问题，这也是数字化转型的必然需要，AI监工之所以让人反感，是因为我们能够比较明显地感觉到 AI已经介入到我们的工作和生活空间了。在20年前计算机还没有大规模上网的年代，就已经存在类似的情况了，只不过很多分析是在后台由人工做出判断。现在，因为技术进步的原因，我们更直观地感受到AI程序走到了前台，让人能够切实地发现AI处理的结果会影响你后续的一些工作内容或者生活，从而产生了陌生、不适应的感受，甚至恐惧、对立的情绪。

当人类的能力与AI差距过大的时候，我们就要重新思考人和AI之间的关系。为什么员工“摸鱼”被老板抓住可能并不会引起反感，但是被AI抓住就很难适应了呢？除了AI不是人类的客观因素外，AI决策机制不透明、算法黑箱、数据选择等问题也是重要原因。我们必须接受一个特定的事实，无论是人还是AI都会犯错，哪怕AI的准确性达到了99%，仍然不是完美的，我们可能在很长的一段时间，要接受和这个不完美的新事物交朋友。

观点三：以人为本、可信赖是AI发展的未来方向

李飞飞教授提出的“Human-Centered AI”（以人为本的AI）希望可以更广泛、更深入，探讨与人类共同未来相关的东西，这种广泛的讨论和思维将带给我们一种更加以人为中心的技术，让每个人的生活都变得更好。2021年7月9日，在2021世界人工智能大会-可信AI论坛上，《促进可信人工智能发展倡议》正式发布，正式提出：坚持技术向善，确保可信AI造福人类；坚持权责共担，推广可信AI价值理念；坚持健康有序，推动可信AI行业实践；坚持多元包容，凝聚可信AI国际共识。我们相信技术企业的行业自治和政府的监管，将是AI发展的大趋势。反观区块链行业的发展也经历了一系列从乱到治的过程，从过去的到处都是链、虚拟货币漫天飞，到现在建立可信区块链、白名单等机制，都是一个必然经历的过程。

图片来源：中国信通院

前面提到，人工智能技术的特性是类人化，人类之所以会受到AI的影响，是因为AI在模仿人，这种技术与以往的技术有着本质差别，这就导致它对社会的影响很可能大于其他技术。我们讲可信AI，核心和实质是“让人放心”，其实从这个角度来说，人类似乎自认处在一个相对弱者的地位了，因为我们只有面对不可控或者害怕的事物，我们才说你要让我放心。当一种技术可以广泛对人、社会产生影响的时候，它就带有社会属性了。当我们在管理中应用这个技术的时候，就需要更多考虑是否与管理目标一致，怎么让员工从心理上可以接受，怎么和社会规范接轨，怎么让人们主动理解和适应而不是强迫接受。以人为本不光是法律的约束，还有社会道德、伦理和认知的判断。在未来的企业管理中，我们要更加慎重的处理人机协同的问题，约束AI与管理者的边界，在资本越来越不受欢迎的当下，企业家可能要扪心自问自己的初心，究竟是让企业和员工走向何方？

（本文作者彭嘉昊为上海人工智能研究院数字化治理中心主任，张诚为复旦大学管理学院信息管理系教授）(本文来自澎湃新闻，更多原创资讯请下载“澎湃新闻”APP) 支付通Qpos,一款集合刷卡，支付，二维码支付和云闪付的多功能智能型手机POS机，现面向全国招收代理加盟商！5年手机POS机稳定运作经验，数十万用户稳定安全使用的体验，绝对是您不错的选择！欢迎加盟支付通Qpos!