何家弘

　　人工智能是人类智能创造出来的，但是，人工智能一旦被创造出来之后，就有了自己的独立性，就会给社会带来一些特殊的影响，因此就需要治理。

　　我以为，智能社会治理应该包括两个方面：第一是智能社会的治理；第二是智能的社会治理。人工智能技术在社会中的广泛应用，会促进社会的发展和变化，也会产生一些新的问题。对于这种新型社会，我们应该如何治理？这里要研究的是作为治理对象的人工智能。另外，人工智能技术也广泛地应用在社会治理之中，就是要运用人工智能的方法对人类社会进行治理。这里要研究的就是作为治理手段的人工智能。当然，这两个层面的治理是相互影响、相辅相成的。

　　人工智能确实有很多优越的地方，可以给我们的工作和生活提供很多方便，帮我们解决不少难题。人工智能也是一把双刃剑，既能做好事，也能做坏事。这是我们研究智能社会时不能忽视的问题。现在的计算机、互联网、大数据等新的科学技术给我们的社会发展提供了技术支撑，开拓了发展空间。但是，我们在社会治理中运用这些智能技术的时候，是不是应该有一个底线？哪些是我们可以让人工智能尽力去完成的，哪些是不应该让人工智能去完成的？我们不能让人工智能变成无所不能，更不能让人工智能变成人类社会的主宰。人类创造人工智能的初衷是善良的，但是其发挥的作用也可能是邪恶的。比如说，人工智能就可能侵害到我们的隐私权。

　　人工智能的发展，正在改变人类社会，改变我们的人生。那么，人工智能会不会改变人类，会不会改变我们的人性？这也是值得我们思考的问题。我在想，人工智能的发展会不会让人类变得很弱智或者很低能？20多年前，我们有了智能照相机，那时叫“傻瓜”相机。在那以前，照相是个技术活儿。照相的人得根据经验自己定光圈，定快门速度，再根据距离调焦距，挺有难度。后来有了智能照相机，这些问题就都不用人干了，所以叫“傻瓜”相机。这并不是说相机很傻，而是说傻瓜都会照相。于是，人就不会照相了！

　　由此可见，人工智能在给我们提供各种方便的时候，也导致了我们人类一些能力的减退。人体的功能必须经常使用，长期不用就会退化。我现在有一个感触，那就是提笔忘字。我平时用电脑，很少动笔写字，我的写字功能就有明显的减退，不仅写不好，而且不会写了。现在，我们在家庭生活中也有了很多人工智能的东西，例如智能扫地机、智能洗衣机、智能电饭锅、智能电冰箱等等。我们从这些家务劳动中解放出来，但同时也就丧失了一些能力。以后，我们可能还有智能床，不仅能调节我们的睡眠，还能帮我们设计好梦。另外，我们一起床，它还能帮我们把衣服都穿上。如此下去，我们会不会越来越笨，人类的子孙后代会不会就变得大脑萎缩，越来越弱智，或是低能？所以，我们在构建智能社会的时候，还是要给人工智能定一个界限，哪些是它可以做的，哪些是它不能做的。

　　在计算机和互联网高速发展的当今世界，人类似乎变得更加孤独，更加焦虑，更加自私，更加冷酷，人类社会似乎也变得更加割裂，更加对立，更倾向于不同群体的极端性抗争。在虚拟世界中，极端主义可以肆无忌惮，而且是一呼百应。于是，国际关系也变得更趋紧张，爆发战争的危险也在增长。据说，未来战争可能不需要人类亲自动手了，可以让无人机等智能武器去打仗。但问题是，这些无人机打的不仅仅是无人机，也包括活生生的人！总之，人工智能是一把双刃剑，既能为人类做好事，也能为人类做坏事。因此，我们在创建智能社会的时候，既要开发人工智能的善，也要限制人工智能的恶，要努力构建有人文温度的智能社会。人工智能确实是人类社会的重大发明，但是，我希望这不是人类社会的最后一个重大发明。不要让人工智能成为人类的终结者。

　　（作者为中国人民大学法学院教授）