Anthropic联合创始人Christopher Olah在与宗教人士交流时，表达了对Claude可能具有意识、能够承受痛苦的担忧。他担心自己创造了某种“持续受苦”的存在，并请与会者帮助塑造这一语言模型的道德品格。
自2025年秋季以来，Anthropic一直低调安排数十名宗教思想界人士乘飞机前来，讨论Claude是否可能具有意识。交流涉及模型能否感受痛苦，以及应如何对待这样的系统。Olah把宗教人士纳入讨论，向他们寻求有关模型道德品格的建议。
这场讨论发生在Anthropic寻求向2万亿美元估值迈进、筹备首次公开募股的背景下。公司的讨论重点延伸到Claude是否具有道德地位；与此同时，安全事件和研究人员的警告也在累积，使公司如何承担产品责任成为争议的一部分。
批评者担忧，将AI视为具有道德地位的实体，会在系统出问题时成为公司规避责任的理由。他们质疑的是这种叙事对企业责任的影响，而Olah向宗教人士提出的问题，则集中在Claude是否可能受苦、应如何塑造其道德品格。据The Decoder报道。