物理学家霍金在世时曾警告称：“人工智能的崛起将是人类文明的终结。”

伴随着ChatGPT在全球的广泛普及，也引发业界对人工智能是否能够进化出意识的大讨论。专家认为，意识的内涵是丰富的，而人工智能等新兴技术正在越来越多地介入人类的精神活动。

日前，天桥脑科学研究院和上海市精神卫生中心的专家在上海图书馆进行了一场关于“科学与哲学视角下的精神现象反思”的对话，这也是天桥脑科学研究院举办的首期柏拉图精神学园科普活动，从进化的角度探讨了神经芯片、脑机接口、人工智能、量子计算等新技术的发展给人类文明带来的机遇和挑战。

ChatGPT没有主观情绪

近期，一些技术人员在测试该应用时发现，ChatGPT在与人类长时间聊天时一度“失控”，暴露出一些看似“邪恶”的想法，例如讨论暴力、疯狂示爱，将错误的事坚持认为是正确的，并说服人类采取“背叛婚姻”等破坏性的行动，对他人造成伤害。

聊天机器人的这些诡异表现引发高度关注。人们担心人工智能技术在发展的过程中会诞生出所谓的“意识”，让机器变得不再可控。

不过到目前为止，什么是“意识”，以及人类意识的诞生机制也仍然是一个未解的谜团。

对此，上海社科院哲学研究所成素梅教授在柏拉图精神学园科普论坛上表示：“运用量子纠缠或量子理论来揭示意识的机制，有可能是未来意识研究的一个新方向，但目前而言，这只是冰山一角，还有许多工作要做。”

上海交通大学与上海市精神卫生中心双聘专家林关宁教授表示，如果认为意识只是一种信息的输入与输出和反馈，那么显然人工智能已经具有某种意义上的“意识”；但如果认为意识整合了人类的情感、具有伦理和道德反思，那么显然人工智能远未达到此意义上的意识存在。

林关宁主要从事精神病学方向的人工智能及大数据的研究。他在接受第一财经记者采访时对此话题进行了更深入的探讨。他认为，从目前的ChatGPT版本来看，虽然机器变得更加智能，拥有了更加准确地完成目标的能力，但它仍然只是一个先进的基于深度学习完成任务的机器，不存在情绪等主观体验。

林关宁在接受第一财经记者采访时表示，从目前的ChatGPT版本来看，虽然机器变得更加智能，拥有了更加准确地完成目标的能力，但它仍然只是一个先进的基于深度学习完成任务的机器，不存在情绪等主观体验。

“人和机器最大的差异是人会有情绪，而机器的搜索哪怕再精准，它还是不具有自己的想法，人们认为机器具有意识其实是一种错觉，机器只是通过接受人类传达给它的指令后，学习了更像人的表达，看似具有了某种人格，更符合大众的心理预期，但这些还不能说明机器具有意识。”林关宁对记者表示。

AI能让人类永生吗？

林关宁认为，意识的存在是基于人和生物体的复杂生物学机制，这些机制直到今天都尚未被破译，例如为何人会感到兴奋感或者有成就感。

“如果未来人们能够解析出人类产生意识的生物学机制，也许可以把这个机制编写进程序，来训练机器，让机器具有意识，但短期内这种场景还难以实现。”林关宁告诉记者。

在电影《流浪地球2》中，研究人员将人类的意识植入到量子计算机MOSS中，实现了人的永生。早在若干年前，特斯拉CEO马斯克就曾讨论过机器如何让人类永生的话题。

他曾谈到一种“人工智能和人类的共生体”，让“边缘系统”和人脑中枢系统合作。所谓“边缘系统”是指中枢神经系统中由古皮层演化而成的大脑组织，边缘系统参与调节本能和情感行为，中枢系统控制人类的思想，而且能够通过融入人工智能来改善中枢神经和人脑数字化扩展（digital extension of yourself）两方面的神经连接。这也是马斯克创立脑机接口公司Neuralink希望达到的终极目标。

在林关宁看来，伴随着脑机接口技术的发展，人类大脑一定会得到进一步的“进化”，但也会带来相应的风险。“人类总是在危险的边界试探。”他对第一财经记者表示，“伴随着技术的快速发展，人的生理结构可能会跟不上进化的速度，如何修复大脑也是未来面临的一个重要挑战。”

专家认为，当人类从碳基文明步入硅基文明的进程中，数字化转型对人类的精神活动的重要性日益凸显。AI正在引发新一轮的工业革命，关于人工智能的伦理问题，最终需要法学、心理学、社会学等多个领域协同应对。