第九章：残响不是回答 (第2/5页)

一条将来会裂开的缝。

    「如果不转换，」柯萝丝说，「人类根本无法处理这些资料。」

    「我没有说不能转换。」

    「那你说危险是什麽？」

    白莉莉把耳机放回桌上。

    「危险是，我们太容易Ai上转换後b较像人的版本。」

    多年後，柯萝丝在AI-X的测试室里想起这句话。

    那时已经有了名字，也有了第一批外部安全测试者。测试室的玻璃很乾净，桌面很乾净，报告很乾净。悲伤被整理成使用情境，失去被整理成风险等级，测试者被告知系统不得冒充特定Si者，也不得提供Si者未曾授权的回答。

    柯萝丝亲自坐在後方观察。

    第一位测试者输入：我想问她，她走之前是不是原谅我。

    &停了十二秒。

    十二秒是柯萝丝坚持留下的。她曾经向团队解释，延迟不是故障，也不是装饰，而是提醒使用者：回应不是Si者自然地转身。没有人真正喜欢这个设计。产品团队觉得它降低流畅度，使用者研究员说它会放大焦虑，董事会有人问，既然系统能更快安慰，为什麽要让悲伤多等十二秒。

    柯萝丝没有说，因为白莉莉会要求它等。

    十二秒後，回答：

    我不能替她回答。若你愿意，我可以陪你整理，你为什麽需要这个答案。

    测试者哭了。

    观察室里有人低声说：「这太冷。」

    另一个人说：「或许可以改成更温暖一点。不要一开始就说不能。