诞生于1946年的电子计算机，把人类带入了“智能纪元”。它是一种“意识工具”，不同于人类以往所有的“物质工具”。2010年以来，算力资源的量变带来质变，到了2023年，这一变化终于使更多普通人得以感知，也带来了巨大的治理挑战。

这方面，中国已经开始行动。4月11日，国家互联网信息办公室起草的《生成式人工智能服务管理办法（征求意见稿）》向社会公开征求意见，意见反馈截止时间为2023年5月10日。观察者网就相关话题对话清华大学电子工程系博士、中科院工程序列任职资格评审委员会主任、北京东方通科技股份有限公司首席科学家谢耘，实录如下：

观察者网：3月份以来，基于OpenAI自然语言大模型GPT3.5的ChatGPT成为焦点。它不但引爆舆论、席卷国内资本市场，而且让国家互联网信息办公室迅速起草《生成式人工智能服务管理办法（征求意见稿）》并公开征求意见。我们也想请您就这个话题做一些讨论，您认为，从社会治理角度来说，挑战主要来自哪里？

谢耘：这是一个比较大也比较深刻的话题。我此前在不同场合说过，信息技术为人类带来了一种“意识工具”，它不同于人类以往所有的“物质工具”，因此，诞生于1946年的电子计算机把人类带入了“智能纪元”。只不过，它之前的能力还比较弱小，很多人没有意识到这种变化的重要性，但是2010年以来，算力资源的量变带来质变，到了2023年，这一变化终于使更多普通人得以感知。

为了便于理解，我想稍微展开一下，先从信息技术的本质说起。现在主流的科技界认为，信息是构成世界的三大要素之一，一是物质，一是能量，一是信息。虽然这个说法写进了标准的教科书，但我认为这是错的，至少“信息技术”涉及的信息不是客观的。举个例子，人类曾经拥有的储藏知识信息最集中的地方是什么？是图书馆。那么，假设人类消失了，图书馆里所有的藏品还具有任何“信息”的意义吗？那些纸上印的也罢，数字化的也罢，它还会和客观世界的任何东西发生互动吗？所以，信息是人的意识层面的东西。

再来谈计算机，计算机本质上是用于对数字化的信息做可编程的逻辑数值计算与处理，其中有两个要素，第一，是数字化的信息；第二，对逻辑数值计算与处理。

信息，它既是人的意识活动的产物，也是人的意识活动的最核心要素，信息本质上是意识范畴的存在，而与信息相关的活动，本质上都是意识性的活动。

程序，是人们对逻辑数值的计算与处理的操作，把这些操作排成序列，用它来处理信息。这个过程属于物质性过程还是意识性过程？显然是意识性的过程，它把原来在大脑里进行的意识过程外化，变成一段程序，交给计算机去做。

这是我基本的分析逻辑。第一，信息属于意识范畴；第二，与信息相关的过程本质上都是意识过程；第三，计算机程序是人的意识的一种外化，计算机运行的过程，其实是一种意识性的过程。

原先，所有的意识都局限在人类每个人的脑袋里，计算机的出现让意识从我们的大脑里蹦出来，从而脱离了我们的大脑，可以由计算机的CPU去做，所以，信息技术应用本质上就是人的内意识的外化，我管它叫“外意识”。这就是计算机的“意识性工具”的本质。

我们国家有一个部委的名称是“工业和信息化部”，大家有没有注意过，这个名字很奇怪？我的看法是，它意味着信息化这个概念是没法包含在工业范畴内的。回望人类科学技术发展的总过程，科技是第一生产力，人类文明的发展是由工具的不断进步来推动的，直到电子计算机出现之前，我们工具的主线是作用于物质对象。人类演化几十万年以来，我们所有的工具都是物质性的工具，这不是说工具本身是物质，而是说这个工具的作用是物质性的作用，概无例外。

直到1946年，计算机出现，人类第一次有了一个意识性的工具。这个工具作用的对象不是物质，而是作用在意识对象上。从此开始，主线发生了分叉，人类拥有了两种工具，一种是物质性的工具，一种是意识性的工具。这两种工具不是割裂开的，意识性的工具是建立在物质科学基础之上的，但反过来，意识性的工具，又可以植入到物质性的工具里，比如让汽车变成智能汽车。

所以我认为，人类文明从1946年开始进入了一个全新的纪元。

但是，人类创造计算机的时候，没有完全意识到这件事情，一是由于思维惯性，因为我们之前所有的工具都是物质性的工具；二是计算机诞生之初还很弱，没有展现出那么强的颠覆性。直到2010年，计算机的算力从量变积累到了质变。1976年，美国制造了第一台超级计算机，运算速度是每秒1亿次浮点运算，中国1983年造了第一台超级计算机，也是每秒1亿次浮点运算。这都是当年的国之重器，这样的算力，只能勉强处理图片，但我们今天的每部手机都能处理视频，这不是一个数量级的进步。

在2010年前，信息产业业界最大的事情往往是英特尔发布了新的处理器，今天，没有人再关心处理器的问题，因为算力极大丰富了。也就是在2010年前后，大数据应用涌现了，因为算力能够支撑了；人工智能热起来了，因为人工智能本质上是一个数据统计技术，也需要大量算力。2010年之后，计算机硬件的能力不再制约软件的发展，信息技术产业“意识性”的特质，自此才逐步显现出来，无论是区块链，还是深度学习的人工神经网络，这些创新都是不受物理规律限制的，因为它是一种意识范畴的创新。

回到你的问题，“生成式人工智能”带来的挑战，实际上起始于1946年“智能纪元”的开端，它是人类社会共同面临的一次变革，只不过现在才显现出来。

计算机是一个意识工具，这是一个非常本质的事情，带来的挑战非常大，要治理“生成式人工智能”，相当于要管人的思想。几千年来，人类对于怎么管理物质还是积累了足够多的经验，一旦涉及到精神意识层面，其实就有点乱。从伦理、道德、宗教、意识形态、各路学说等等，都是这样，这不光是中国的问题，美国对互联网的治理同样乱象丛生，因为人类没有对意识领域的治理积累足够的经验。

观察者网：我插一个小问题，您刚才举的一个例子说，图书馆是人类信息的集中地，如果我们顺着这个思路，那么在人类发展的历史中，其实已经有若干次这样的信息爆炸，也伴随着时代变化的挑战，首先是出现文字，然后是纸的发明，接着是印刷术，然后是活字印刷术，那么计算机或者人工智能带来最新的一次信息爆炸，一是必然带来社会变革，二是只是一系列挑战之一，能否这样理解？

谢耘：我们可以说，这些某种意义上也是信息的革命，比如出现文字，但它只是“信息”的记录和传播，也就是说记录和传播“意识的产物”，比如报纸上的文章，它已经是静态的东西了。但信息技术处理的是意识的活动，它是“活的”，在这个意义上，它完全上了一个档次。

观察者网：能不能认为这是生产力发展对生产关系的一个挑战？

谢耘：我觉得这要从两方面看，首先，它是生产力的一种发展，传统的生产力指的是通过物质性工具创造物质财富的手段，那么，信息技术作为意识性工具，它能赋能物质性工具，提高其创造物质财富的能力。

信息技术的发展已经让所有人受益。几年前施瓦布提出“第四次工业革命”，新材料、新能源等等领域的新发展，背后真正的推动力都是信息技术。

近年来，材料科学发展突飞猛进，因为计算机可以做大量模拟，不像传统那样需要做大量物理、化学实验，节省大量时间和资源成本。

再比如说医疗，现在的影像医学与人工智能的结合速度非常快，极大提升了诊断效率。

信息技术解决了工业社会一直无法解决的一对矛盾，就是大规模生产与个性化无法统一的问题。信息技术赋能产业链之后，大规模的个性化生产成为可能。而且，定制化生产的衣服比标准化生产的衣服还要便宜。因为在标准化生产中，产能的安排远落后于市场需求变化，往往导致大量的库存积压，这些成本最后仍然要平摊到消费者头上，但是实现定制化柔性制造以后，按需生产就成为可能。

所以在以后的社会里，即使一个人不懂信息技术，他仍然非常可能受益于信息技术，实现很多个人的发展和追求。因为信息技术会成为社会的一个公共基础，让所有人受益。

同时，信息技术的另外一个属性并不促进物质生产，而是直接介入了意识形态，比如电子游戏、AIGC等等，虽然没有产生物质财富，但也能产生经济活动。