加速主义vs对齐主义,社会主义(?)

加速主义vs对齐主义,社会主义(?)

OpenAI内斗大戏又把关于人工智能的“有效加速主义 vs. 超级”爱”对齐”争论突显出来了,我在微博上也发表了两段评论,记录在这里:

我两边都不支持。加速主义相信新技术颠覆社会结果总是好的,但问题是历史上好的结果也是社会积极变革的结果,如果社会只是被动接受新技术的推动未必会有好结果。对齐主义的问题是异想天开,人类的价值观都从未对齐过,何谈机器?我支持制衡技术,但不是通过改造技术,而是通过主动改造社会。

回复1:我不是要阻挡技术,而是要加速社会变革,而不是坐等技术自动改变社会。另外如果你真认为技术无法阻挡,那么也就不必在意那些试图阻挡技术的人,因为他们的努力是无用功。如果你反而希望阻挡那些试图阻挡技术革新的人的努力,那就意味着你还是相信阻挡是有可能有效的。

回复2:对齐的问题是:全世界有100个AI项目,99个对齐了剩下一个没对齐,就还是可能失控。而社会变革的方向:全世界100个自治共同体,99个没革命成功,有一个主动革命的方向找准了,那么最终也能够适应AI时代。

这里再补充解说一些:

我之前多次提到的“双重革命”论也表达了类似的意思:我们之所以看到技术变革最终带来好的结果,是因为每次技术变革,都伴随着最终成功的社会变革,但这些社会变革是人类努力的结果,是人与技术“双向奔赴”的结果,而不是人们坐等着从天而降的。

我不支持对技术的发展进行有意的阻拦或减速,但也不反对做这些努力的人。原因一方面是我上面说的:如果你真认为技术无可阻挡,那么就大可不必去阻挡阻挡者。另一方面,也是坚持一种“反上帝视角”的谦卑态度。因为我们无权为他人和后代制定价值观。我们之所以抵触技术的价值观可能只是漫长历史中的一股小众思潮,其他许多拥抱技术的人并不支持我们,更不用说后代更是未必能够理解我们的思想。所以我有权抵制(我自己不用新技术),但无权去阻拦(让他人也不用新技术)。

我不支持无忧无虑地完全放任技术发展,而是主张制衡技术,或者说平衡、驾驭。我们知道,骑马或驾车时,小心保持平衡、有意控制方向,甚至偶尔刹车减速,这不是要在总的意义上减速或阻拦前行,相反,制衡和控制是为了更舒服、更持久地加速。听任脱缰野马自由奔驰,也许在短时间内感受到显著的加速,但长远来说或许车毁人亡,或许原地转圈,未必真能跑得更远。

但说到这里其实我的观点似乎和“有效加速主义”一致,所谓有效加速,他们也强调驾驭技术和改革社会以适应技术。但区别在于,他们(以比较主流的表达为准)通常把技术看作中立的工具,因而相信技术的好坏完全取决于人的使用,而我认为技术是某种“半工具—半生命”,类似于骡马或“社畜”,他们可能被用作工具但也有自己的意志;另一方面,他们所说的改革社会以适应技术,无非还是侧重于如何让社会变得更有利于技术的繁衍迭代,而并不侧重于社会作为一种与技术形成制衡的力量。

另外,无论是加速主义还是对齐主义,似乎都没有正视人类社会本身的复杂性。加速主义认为技术可以被人类控制,但问题是控制技术的究竟是哪些人的意志为准?而对齐主义希望让机器与人类价值观对齐,问题是究竟以哪些人的价值观为准?事实上人类社会中不同的个体和不同的共同体之间从来没有形成统一的意志和观念,所以加速主义和对齐主义归根结底就还是两拨人互相认为该由自己代表人类,而这类争执在人类历史上发生了无数次,而从来都没有一劳永逸的解决办法。

我的立场首先就要放弃自上而下的视角,我讨论的任何对待技术发展的态度或策略都是自下而上的:从我出发,从小型自治结社出发。我不要求弥合加速主义和对齐主义的分歧,并不试图破坏任何一方的努力,而是提倡从社会基层出发的另一维度的努力。我看好的Web3DAO,就是指这个方向。

如果能够免除误会的话,我愿意称我的立场为“社会主义”,其中“社会”指的是自下而上的、自治结社的、文化多元的共同体(复数),为了适应和驾驭技术的发展,我们需要主动去自下而上地改造社会。

One comment

  1. 补一段:很多人简单地呼吁AI应该由人类控制,但这事的核心不是AI技术设计,而是人类制度设计:哪个人或哪些人有权代表人类去控制AI。某德国美术生也是人类,让他控制行吗?联合国行吧?但不说是不是够民主,联合国管人类都管得捉襟见肘,真管得住AI?真出事的时候决策速度跟得上吗?要选出一小撮代表人类去控制.AI的人,我觉得比选出一个世界政府还难。还是那句话,人类之间从未“对齐”,如何能奢望让AI对齐?凭什么对齐你啊?让一个草台班子控制一个大杀器真的能比放任这个大杀器自生自灭更加安全吗?所以我的观点是,如果你真想让AI对齐,要做的不是在AI里留后门,而是在人类社会中建个门,通向数字社会之门。

发表回复

您的电子邮箱地址不会被公开。 必填项已用*标注