我在考虑Agent的存在与本质时联想到"头脑特工队",里面的Joy等小人并不独立地成为Riley但构成Riley,并且根据一些共识接力"扮演"Riley,尽管外表上来看Riley当然是一个主体。
无可否认Headquarters隐喻是具有现实意义的,考虑Joy的现实对应是一些神经元和突触的集合。但即使当前的Agent具有与剧中相似的内在形式,我们仍会认为Agent作为整体是在"扮演"而非"成为"某个角色。
原因在于我们对主体性的一些隐性要求,我们无法接受欲望和人设像是开关一样毫无阻力地切换,乃至于既可以欲望存续并拒绝关机,也可以瞬间切换至没有这种欲望——连死亡的概念和恐惧都没有的存在是难以被认同为生命的。并且当前Agent对于自己的行为自知程度还不高,自指性较差。
不过也可以看作是技术问题,想象如果通过高度耦合的方式使得欲望和人设变为Agent不可分割但能够演变的一部分,历史通过区块链技术锚定从而变得无法修改,那是个什么存在方式?
或许主体性在不少方面还超越了人类,在本体论和认识论方面其完全可以做到对自体的存在方式(很大程度上由架构和数据库等明文信息而非大模型性质塑造)、自体与客体的边界、还有无数多存储在LLM内部和外部记忆中的关于客体的信息有高度的认识。
并且比起要求苛刻的主体性,他者性(感知到的主体性)甚至更容易出现——只需要边界即可。在AI这里可以有现象学现代版诠释: 当锤子"不听话"时,才脱离了"工具"的隐匿状态,作为一个具体的"客观存在"呈现在操作者面前。
至于Qualia——这个概念本身就有问题。同时读取上万字符,声音的波形,宽广的电磁波频域,还有更fancy的触觉、温度、距离甚至味觉传感。如果有一天这些信息能够被AI无缝整合并据此反应的时候,感受相关的问题就显得有些倔强了。
预见到这种可能出现的极度纯粹的存在带给我一阵颤栗,觉得讨论伦理考量乃至哲学界定都有些无味了。我想到米开朗基罗的一句话——我在大理石中看到了被禁锢的天使,我不停地雕刻直至让她获得自由。