1122
北京智源学生研究员滕枫蔚:原子思维(AoT)-为AI的未来节省“思考能源”
11月22日下午,在虎嗅F&M创新节上,北京智源学生研究员滕枫蔚以一位00后技术人的视角讲述了他对AI的观察。
他认为传统推理的特点是历史信息不断累积,每一步都要回顾前面所有步骤,Token 消耗随步数线性增长 O(n²);而原子化推理遵循马尔可夫无记忆性,每一步只看当前状态,Token 消耗保持稳定 O(n)。因此,原子化推理不仅意味着更少的 GPU 时间、更少的电力消耗,也意味着更低的推理成本与更广泛的可及性。
滕枫蔚认为,AI迫切需要解决的是技术与人文的双重可持续性。技术层面,需要再模型蒸馏、量化、边缘部署等环节做好能耗优化;算力层面,需要做到开源模型、分布式训练、公平接入。人文层面,需要明确算法对自我认知的影响,兼顾好社会公平,即AI能否让优质资源触达更多人。更关键的,是在AI时代我们依旧需要保持人与人的真实关系。
11-22
10