(资料图片)

上周六，世界银行前 CTO胡先生约我做了场交流，介绍一下我的新书。期间有人问我对ChatGPT风险的认识。 在我的一生中， ChatGPT是最令我感到意外的新技术。这个技术出现后，很多人感到迷茫甚至恐惧：AI会不会威胁到人类的生存？

关于这个问题，我想到了十年前的一场讲座。

有一次，宝钢请一位著名教授讲《老子》。这位教授不仅学问精深、也认识很多大人物。他的一句话令我记忆深刻： 一句话对不对并不重要， 重要的是谁说的。 最近，我对这句话的理解越来越深刻了：在现实世界上，掌握权力往往比对错更重要。因为有了权力，想法才能执行，没有权力就无法执行。

回到文章的主题： AI对人类的风险。

我一直用控制论的思想解释智能： 智能是感知、决策和执行的统一 。 ChatGPT的能力在于决策过程。但是，如果人类没有授权，AI就无法把决策和执行联系起来、不具备执行的能力。所以，即便AI给出某种危害人类的决策，也无法实施。所以，只要人类限制AI本身的行动或执行权力，就可以避免AI对人类作出直接危害。这一点，必须成为全人类的共识。但是，在这种情况下，掌握权力的人类，仍然有能力利用AI对人类做出有危害的事情。所以，相关的立法应该针对人类本身，像防范计算机病毒一样防范AI的滥用。

人们还有一种恐慌，人类 ChatGPT可以夺走自己的工作、人类的智慧将一钱不值。对普通工作来说，这是完全有可能的。但是，人类所具有的一些优势，AI是无法具备的。这一点，在我的新书中也有描述。在这里，我们要重新认识“实践”的作用。

我在新书中指出：人类的知识（特别是工业知识）是怎么来的？是实践中来的。所谓的实践，就是和物理世界打交道的过程中尝试出来的。比如，人类通过实验和试验获得相关的参数、验证某些方法是否可行。我在书中指出：许多现实问题是复杂的多变量问题，即便有模型也会遭遇组合爆炸；工作中还会经常遭遇信息缺失，使得计算机的计算失效。这时，只有通过与物理世界的接触和互动，才能获得必要的知识和信息。 ChatGPT能做的，是数字空间的计算而不是物理空间的测试。

在我的新书中，把知行（合一）翻译成“Mind and Hand”，意思就是要把感知、决策和执行过程融合起来，或者说把实践的过程包含进来。 实践不仅是检验真理的唯一标准，也是人类智慧的护城河。