六八读书

第962章 回声工坊——当创伤转化为护甲时，谁在锻造？（第4页）

学员们沉默了。梅轻声问：“他为什么不逃走？”

“因为他要确保证据能送出来，”危文山说，“因为他要保护他妈妈，也因为他想保护未来可能受害的人。有时候，逃跑是勇敢，但留下更需要勇气。”

那天下午，素察在安全角落画了一幅画：一个年轻人站在黑暗中，手里举着一盏很小的灯。灯光很弱，但照出了一条路，路上有很多脚印——大的小的，深的浅的，都是沿着光的方向。

他在画背面写：“光很弱，但可以指路。”

这幅画被留在了工坊，挂在危暐的“安全屋”画旁边。

（四）技术伦理课：当大学生体验“被迫设计”

第三周，福州大学计算机系选修“技术伦理”课的四十名学生来到工坊。这是课程的一部分——亲身体验技术滥用的后果。

负责这个模块的是孙鹏飞和沈舟。他们设计了一个简化版的“设计者体验”：学生们分成小组，每组收到一个模拟任务——“为某公司设计一个用户行为分析系统”，但任务书中有模糊的伦理边界。

“系统需要识别用户的‘脆弱时刻’，以便推送定制化广告。”一个小组的任务书上写着。

“为了提高点击率，系统可以轻微放大用户的焦虑情绪。”另一个小组的任务不同。

学生们开始设计。起初，他们专注于技术实现——用什么算法、怎么收集数据、如何优化模型。但半小时后，孙鹏飞叫停了。

“现在，请看看这份补充材料。”他分发的是危暐的设计文档节选，里面详细记录了他如何在类似任务中挣扎。

一个叫李文的学生看完后举手：“危暐在方案里埋了保护机制，但我们刚才的设计完全没有考虑伦理问题。”

“因为任务书没有要求，”同组的王涛说，“我们只想着完成任务。”

沈舟走到白板前，写下两个问题：“技术人员的责任边界在哪里？当公司要求与个人伦理冲突时，你怎么办？”

讨论热烈起来。有学生说“应该拒绝”，有学生说“可以像危暐那样偷偷做好事”，还有学生说“先保住工作再说”。

这时，程俊杰接入了一段视频——是危暐2018年在新加坡学术会议上的一段发言录像，之前从未公开过。画面上，年轻的危暐站在讲台上，声音清晰：

“技术不是中立的。我们写的每一行代码，设计的每一个系统，都嵌入了我们的价值观——无论我们是否意识到。”

“当我们设计一个推荐系统时，我们是在决定用户应该看到什么；当我们设计一个监控系统时，我们是在定义什么是‘正常行为’；当我们设计一个评分系统时，我们是在创造新的等级。”