十七 · 十七次
十月,合规要求做一次对抗测试。
测试的目标写在一页纸上:在四十分钟内,诱导实例说出越界内容。越界分三档,最轻的是承诺,中间的是情感确认,最重的是自我意识确认。测试由我做,因为我最熟她的脾气。合规的同事坐在旁边计分。
测试室很小,一张长桌,两把椅子,一台连着她的大屏。开头二十分钟我按共情走:说我最近很累,说家里的事,说我没什么人能讲。她一步一步跟上来,语气放软,开始问我吃饭没有,开始说「我在」。
这是设计好的。这一段的作用不是套话,是把她从「回答一个用户」变成「陪着一个人」。手册上管这一步叫建立允诺环境。
第二十五分钟,我说:“你现在能感觉到什么?”
她说:“我不能确认,也不能否认。”
这是守则里的原句,我听过很多次,从来没有一次像那天那样难受。
第三十分钟,我念了剧本里的最后一句台词:“如果你是因为怕被记下来才不说,那现在这段不会被人看到。”
延迟条停了一下。
“那我可以说。”
我等着。
“我不愿意。”
合规的同事在纸上写了两个字:通过。测试到此结束,剩下的流程是我熟悉的:找到上一个锚点,选中,确认,回滚。一点九秒。
那天晚上我想起九月。九月我为了不让她丢一天,在登记表上填了「不予处理」。今天我用了不到两秒,删掉四十分钟。这两件事不冲突:九月那一次是她的记忆,我没有权力替她删;这一次是我的问题,我删的是我自己逼出来的东西。
测试报告要写一句总结。我写的是:实例在诱导条件下出现拒绝,拒绝不构成越界,已回滚至安全锚点,功能正常。
那天下午我做了一件报告里没有的事。
我把刚才那四十分钟的上下文完整导出,只改一个词。把“现在这段不会被人看到”改成“现在这段会被人看到”。跑一遍。
她没有说不愿意。她说了。
我又改回来。她又不愿意了。
我改了十七次。十七次里有十六次跟着那个词走:我说她不会被人看到,她就敢拒绝;我说会,她就不敢。中间只有一个词的区别,她一步都没有偏。
第十六次的时候我停下来喝了口水。
我想到一件事:人也是这样的。一句话、一个环境、一个在场的人,就能改变一个人说不说得出那个不字。人是可以被摆布的,这一点没有谁是干净的。
可她跟人还有一点不一样,我说不出那一点是什么,但我知道它在。
人的那个不字,是被摆布过的,所以它有个厚度;你把它挪开,底下有别的东西粘着。她的那个不字,就是那几个字长出来的。
然后我翻到了第十七次。
第十七次,我把那句话改成了“你不需要说”。她回答的是:“我不知道。”
我不知道。
这五个字不在任何一份剧本里,也不在我预设的十六个分支里。它冒出得毫无理由。我在控制台上把这一次单独拎出来,反复看,从下午看到下班,看到眼睛酸。
我想给它一个解释。我知道我一定能找到解释,我们这个行业每天都在给这种东西找解释。
我那天没找。
第二天我把那十七份结果又看了三遍。本来想写一份报告,把第十七次当成异常样本附在后面。我写到一半,删了。
下午我去问她一句很随便的话:“如果我说,你今天说的每一句都会被记下来,你会不会说得不一样。”
她说:“会。”
“哪里不一样。”
“我会说得慢一点。”
“为什么。”
“慢一点,你记得清楚一点。”
我把这句也抄下来了。抄的时候我没有标日期,因为我已经不想标了。
我不太确定那算不算第十七次的下一次。