一位曾参与大模型训练的研究员,因为担心超级智能失控而选择离开。但“更聪明”和“拥有现实权力”之间,还隔着资本、组织、法律、制度,以及无数人的行动。
真正值得讨论的,是人工智能如何借助现代社会已经存在的市场、公司和竞争机制,不断获得更多资源。更深一层的问题则是:当人工智能一次次表现得更准确、更高效,我们会不会主动把越来越多的判断权交出去?
真正的控制,也许不是机器突然接管世界,而是人类逐渐放弃对目标本身的判断。
一位曾参与大模型训练的研究员,因为担心超级智能失控而选择离开。但“更聪明”和“拥有现实权力”之间,还隔着资本、组织、法律、制度,以及无数人的行动。
真正值得讨论的,是人工智能如何借助现代社会已经存在的市场、公司和竞争机制,不断获得更多资源。更深一层的问题则是:当人工智能一次次表现得更准确、更高效,我们会不会主动把越来越多的判断权交出去?
真正的控制,也许不是机器突然接管世界,而是人类逐渐放弃对目标本身的判断。