本文来自微信公众号： 爱范儿 ，作者：发现明日产品的，编辑：肖钦鹏，原文标题：《今年最激动人心的 AI 宣言，来自科技圈最不受待见的人》
扎克伯格最近开始让AI帮自己睡觉了。
准确来说，是一个24小时待命的个人AI Agent：它会读取他的睡眠情况，在训练时看着他的动作并给出建议；当扎克伯格脑子里冒出一个新点子，它也可以陪着他快速做出原型。
到了周末，这个Agent还有另一份工作。扎克伯格8岁的女儿喜欢烘焙，AI会提前设计好适合一家人的食谱，下单买好材料，等父女俩真正站到厨房里，再在旁边一步步提供建议。
图｜高通
这些听起来有点琐碎的生活片段，被扎克伯格写进了8月10日发布的长文《The Future is for Everyone:The Path to a Positive AI Future》（未来属于所有人：一条通往美好AI时代的路）。
这篇文章没有发布新模型，也没有新的Benchmark。扎克伯格花了更多篇幅讨论一些还没有标准答案的问题：AI会怎样改变工作，超级智能应该听谁的，足够强大的能力该掌握在谁手里，以及怎样避免它最终变成少数人的工具。
我们这个时代最重要的问题，是谁能够获得超级智能，以及我们将用它来做什么。它会集中在少数机构手中、受到严格限制，还是成为赋予每个人能力的工具？
扎克伯格选择后者。
在他描述的未来里，AI很少需要你主动打开一个聊天框。它了解你的工作、健康、家庭、财务和兴趣，在你睡觉的时候依然工作；它可以通过电脑和手机与你交流，也可以住进一副眼镜，看见你正在看见的东西。
它会成为老师、教练和助理，也可以陪你创业、做研究、创造以前做不出来的东西。Meta给这个听上去有些庞大的概念起了一个名字：「Personal Superintelligence」，个人超级智能。
一个人，和他身后的整支AI团队
文中，扎克伯格想象了不少今天听起来还有点古怪的职业。
有人可能经营一家「一人产品工作室」，从玩具、家具到衣服，一个人负责提出想法，身后的AI完成过去需要设计、工程、营销和运营团队才能完成的工作；有人会成为「世界构建者」，专门创造游戏、故事和虚拟体验；还有人可能拥有自己的「个人生物学家」，借助AI理解身体、参与研究，甚至寻找更加个性化的治疗方案。
图｜ChatGPT Health
这些职业背后，是扎克伯格对AI和工作的一个基本判断。今天我们讨论自动化，很容易把它理解成一道减法题：过去需要10个人完成的工作，现在5个人加AI就能做。
扎克伯格更感兴趣的，则是另一种可能。如果过去需要10个人才能完成的事情，现在一个人也有能力做，会不会有人因此开始尝试那些过去根本组不起团队、也拿不到钱去做的东西？
图｜Tepperspectives
公司也可能因此变小。少数几个人带着自己的AI Agent，就能经营过去需要几十甚至几百人的企业；与此同时，那些以前因为成本太高而没人做的产品和服务，也可能因此出现。
这是《The Future is for Everyone》里很典型的一种乐观。扎克伯格承认AI会淘汰工作，但相信它创造新能力、新需求和新工作的速度会更快。
接下来，他把同样的乐观带到了一个麻烦得多的问题上：如果超级智能真的强到足以改变就业、商业甚至战争，把这样的能力交给所有人，安全吗？
如果超级智能很危险，那就让每个人都有一个
扎克伯格不太相信，世界最后能够造出一个替所有人做正确选择的「善良AI」。
人类并不是一个价值观完全一致的群体。面对重要问题，不同的价值观意味着不同的取舍。没有一种技术方案，能够同时满足所有人彼此冲突的利益和价值。
图｜BBC
他的办法是把民主制度和市场那套思路搬过来：别只造一个中心，让不同的人、企业和机构都拥有自己的AI。
他举了一个很直观的例子。假如世界上只有一个人拥有「超级智能律师」，这个人会获得巨大的优势。哪怕案件本身并不占理，面对一个能够瞬间阅读法律、案例和证据，而且永远不会疲倦的AI律师，对手依然很难招架。
那怎么办？限制超级智能律师？扎克伯格却给出了另一个答案：让对面也有一个。
如果每个人都能获得类似能力，今天因为金钱、资源和律师水平形成的差距，反而可能缩小。
网络安全和商业竞争也一样，攻击者拥有更强的AI，防守者也需要同等级的能力。扎克伯格把它叫作「balance of power」，权力制衡。
这也影响了Meta对「对齐」的理解。今天谈AI对齐，通常是在讨论模型应该遵循什么规则、拒绝什么请求；扎克伯格希望个人Agent再往前走一步，它应该尽量理解使用者自己的目标和价值观，少替用户预设什么才是正确的选择。
这样的Agent不只要记住你的日程、兴趣和工作，还得知道你究竟想做什么，并且能够替你行动。一个永远在线、比你聪明得多，又足够了解你的第二大脑，确实很有吸引力。
图｜Siri AI｜Apple
一个Agent知道得越多，隐私问题就越难绕开。扎克伯格在这里做了一个很重的承诺：
我们认为，人们应该在个人智能体拥有一个完全私密的模式，在此模式下，即使是Meta或任何其他服务提供商也无法查看或授权访问你的信息。
扎克伯格描述的个人超级智能确实很诱人：它足够了解你，也尽量把隐私和选择留在你自己手里。光看这套设想，很难说有什么不对。
当「属于所有人」出自扎克伯格
如果把署名遮住，只看《The Future is for Everyone》这6500多字，其实是一篇相当精彩的文章。
文章并没有只讲一些「AI会让世界更美好」的空话。它讨论工作会怎样变化，为什么一个代表所有人的超级智能很难成立，能力为什么不能只集中在少数机构手里，以及未来的AI究竟应该听公司的，还是听用户自己的。
很多判断也确实有吸引力：超级智能最大的价值应该来自发明，而非自动化；既然人类本来就没有统一的价值观，与其寻找一个替所有人做决定的「善良AI」，不如让更多人拥有自己的AI，彼此竞争和制衡。
图｜TechCrunch
如果作者换成另一个人，这大概就是一篇逻辑完整、相当典型的技术乐观主义宣言。
但署名是马克·扎克伯格。
过去20多年，他几乎每次押注一种新技术，都会为它找到一套更大的说法。Facebook讲「连接」，元宇宙讲「在场感」（Presence）；到了AI，交到每个人手里的东西变成了「智能」。
图｜Investors Alley
这一次，扎克伯格把Meta放在了「个人」这一边。在他的叙事里，如果AI的未来由大公司和机构主导，权力也会继续留在这些机构手中；而Meta要做的，是把超级智能交到普通人手里。
他甚至把这件事写回了Meta从创立之初的使命：
从创立之初，Meta的使命就是把权力交到人们手中。如果我们的理念和原则能够引领未来，权力的天平就会更加偏向个人，也会带来一个对所有人更好的未来。
问题是，Facebook过去留下的记录，很难让人只按照这句话的字面来理解它。
2018年爆发的Cambridge Analytica丑闻，是Facebook最著名的隐私争议之一。通过Facebook平台上的第三方应用，Cambridge Analytica获得了数千万用户及其好友的数据，其中很多人从未直接授权这家公司获取自己的信息。这些数据后来被用于选民画像和政治定向。
图｜The Guardian
同一年，Facebook在缅甸面对的是更严重的问题。由Facebook自己委托的独立人权评估承认，公司此前做得不够，没能阻止平台被用于煽动社会分裂和线下暴力。国际特赦组织后来的调查则进一步指责Facebook的推荐系统放大了针对罗兴亚人的仇恨内容，增加了现实世界暴力的风险。
图｜CNN
再把时间拉近，就在《The Future is for Everyone》发表的同一天，美国第九巡回上诉法院驳回了Meta、TikTok、Google和Snap等公司的上诉请求，允许数千起涉及社交媒体成瘾的诉讼继续推进。这些案件都在追问同一件事：平台的一些产品设计，是否让年轻用户更容易沉迷其中。
图｜美国第九巡回上诉法院
几天前，新墨西哥州法院还要求Meta支付5.67亿美元用于青少年心理健康，并要求Facebook和Instagram调整部分面向青少年的产品机制。Meta否认相关指控，并表示会继续上诉。
从Cambridge Analytica，到缅甸，再到今天的青少年问题，Facebook一再遇到的都是同一种矛盾：平台追求增长、参与和商业回报时，结果并不总会落在公共利益这一边。
所以再回看《The Future is for Everyone》，它就不只是一篇关于AI未来的宣言。扎克伯格把Meta正在押注的一条产品路线，写成了关于个人自由和权力分配的选择。
图｜NBC
个人Agent是一个很具体的产品：模型由Meta训练，算力由Meta提供，再通过社交产品和智能眼镜进入用户的生活。到了宣言里，它获得了另一层意义：让每个人拥有自己的超级智能，成了对抗大型机构、把权力重新交给个人的一部分。
这正是这篇文章最值得警惕的地方。Meta下一代的生意，被包进了一套关于自由、赋权和社会进步的价值叙事里。
现在，他想把一个更贴身的东西带给同样多的人。它知道你关心什么，帮你工作、学习、消费，甚至替你行动。Meta负责训练它、运行它，可能还会通过眼镜让它一直待在你身边。
但我们也必须思考一个问题——
等个人超级智能真的成为日常，我们信赖的究竟是自己的AI，还是提供它的平台？
🔗《The Future is for Everyone》原文：meta.com/thefutureisforeveryone