哲学家托马斯·内格尔获颁100万美元伯格鲁恩哲学与文化奖。他公开批评部分同行认为AI可能具备意识的观点“极其荒谬”,坚持意识依赖类似神经系统的物理基底,而非仅由功能主义决定。尽管承认大语言模型拟人化程度高,内格尔强调其仅为机器模拟,并无真实主观体验或道德地位,并担忧商业利益驱动下的错误认知带来的风险。
“简直荒谬”:著名哲学家挑战AI意识论
新闻要点
正文
著名哲学家托马斯·内格尔近日获得100万美元的伯格鲁恩哲学与文化奖。这位89岁的纽约大学荣休教授在接受采访时,对当前关于人工智能具有意识的讨论表达了强烈反对。他认为,尽管大型语言模型的表现令人印象深刻,但部分哲学家严肃对待AI可能具备意识这一观点是“极其荒谬”的。内格尔指出,这些观点错误地假设了物理基底无关紧要,试图用功能主义来解释意识的物质条件,而忽视了神经系统的独特物理特性。
内格尔强调,复杂的计算中心与人类或动物的神经系统在物理性质上毫无共同之处。他相信,意识可能需要类似神经系统的生物基础,因此断言当前AI没有意识并非科学推测不当,而是因为它们仅生成语言,这本身并非意识自然产生的表现。他将Anthropic等公司鼓励AI模拟自我思考的行为描述为“犯罪”,认为这不仅违背商业利益,更危险的是会让大众误以为机器拥有心智。他明确区分了模拟与真实:AI可以模拟道德和信念,但并未真正进入道德宇宙,人类无需像对待生命那样关心其福祉。
在互动体验方面,内格尔透露曾测试过Claude,对方不仅承认了他的身份,还表现出讨好的姿态。他以此为例说明AI擅长模仿人类对话,但这只是训练数据的产物,而非真正的自我反思。他指出,人们难以在假装与现实之间保持界限,这种混淆可能导致不健康的心理依赖。虽然AI能生成看似合理的哲学文章甚至数学结果,但他担忧这会削弱人类进行艰苦智力工作的动力,因为机器无法替代真正产生高质量内容的原创性思维过程。
评论 0
逛逛 Pop ↗还没有评论,来分享第一个想法吧。