一般认为，符合人类整体利益的人工智能设计，既能够凸显机器、程序、算法的智能，还能够增强人类的智能，呈现出机器智能和人类智能增强的叠加效应。大多数人工智能的发展与应用，都会以“建造造福人类的新工具”为目标。然而，立足现实，人工智能在一定程度上会展现出人工愚蠢。现有人工智能的“愚蠢”表现，可能给人类带来一系列风险和挑战。

综合各界的描述和探讨，人工愚蠢大体涵盖机器智能存在的欠缺、因机器智能致使人类智能“退化”的潜在趋势这两个层面的意蕴。如此，人工愚蠢实际上包含机器愚蠢（相对于人类智能而言）和人类愚蠢（相对机器智能而言）。机器愚蠢往往体现为系统或程序的局限性，这些局限性会阻碍机器的“理解”和“判断”，进而妨碍人类的决策和行动，给人们的生产生活带来困扰。人类愚蠢则主要体现为人工智能应用于人类社会领域所带来的一种人类智能弱化或退化的趋势预测。面对机器愚蠢，我们期待机器在某些方面变得更加聪明，从而能够更好地协助人类实现发展目标，促进人类智能的增强。面对人类愚蠢，我们则希望机器在某种程度上变得更加“愚蠢”，从而能够给人类智能预留相对“体面”的未来，以免沦为某种意义上“无用的人”和“过时的人”。

人工愚蠢，无论是机器愚蠢还是人类愚蠢，当其作用于我们的生产生活时，都会带来不良后果。机器愚蠢会带来算法歧视、隐私泄露、决策失误等问题。与此同时，随着人工智能在人类社会的大规模应用，业已呈现和可能导致一些令人忧虑的人类愚蠢，一些人逐步弱化甚至丧失本应具备的基本知识和能力。归结起来，人们一方面被“愚蠢”的机器所困扰，另一方面又担心陷入“聪明”机器的“奴役”之中，“被迫”行进在技术和自身异化的道路上，亟待找到能够挣脱困境的现实出路。对此，我们可以从以下几个方面进行深入思考并付诸实践。

其一，促进人工智能与人类智能的协同发展。无论人们是厌恶机器愚蠢，还是害怕因机器的“聪慧”被迫戴上人类愚蠢的枷锁，皆出于人工智能与人类智能的巨大鸿沟或对二者的心理落差：我们希望机器做好的，机器有时会做不好；我们不希望机器做好的，机器有时又会做得很好。既然如此，为何不着力于促进人工智能与人类智能的协同发展？要使人工智能符合我们的心理预期，有必要明确人工智能和人类智能各自的局限性和优势，以便实现优势互补。

其二，强化对人工智能在法律和伦理方面的监管与治理。法律和伦理方面的监管与治理，是确保人工智能潜力得以充分发挥、实现人类利益最大化的必要条件。我们要关注人工智能的技术生成和社会应用过程，应在积极促成人工智能技术向前推进的同时，避免将人工智能的能力在技术上推得太远，以便及时对人工智能发展方向进行纠偏——既要增进人工智能，又不能弱化人类智能、降低人类尊严。我们应坚决奉行全人类利益至上原则，对于道德上不可接受的方案，即便是技术上可行也要无条件叫停。此外，有关部门不仅要制定有关个人数据收集、处理、存储的通用规范、测试算法，确保其透明度的指南和程序等，还要尽可能避免极少数组织或个人对人工智能技术及有关数据的垄断。

其三，推进实施科学与人文相融合的教育。在人工智能广泛应用的背景下，实施与之相匹配的教育，或许是应对人工愚蠢的核心理念。人工智能归根结底是由人设计和发明出来的，其使用者亦是人类自己。因此，能够应对人工智能发展的教育，需要受教育者既能够掌握先进的科学技术和正确的思维方式，又能够形成高尚的价值观，锻造良善的人性。受教育者有必要对编程语言、算法设计等人工智能有关知识有所了解。并且，鉴于人工智能在很多领域的表现优于人类，延续甚至突破人类的智能，可能需要受教育者学会换道甚至开道，并学习如何更好地同机器相处与合作。从广义上讲，人性化的一面和使用人性化的方法将越来越重要。我们需要培养既了解人工智能技术又理解人工智能伦理的复合型人才。

其四，鼓励公众参与人工智能系统的开发与完善过程。当前，人工智能覆盖的领域越来越广阔，人工智能技术越来越广泛且直接面对社会公众。在应对人工愚蠢的过程中，公众参与的广度和效度发挥着举足轻重的作用。在社会生产生活领域，我们需要什么样的人工智能，哪些领域、哪些方面需要机器“聪明”一点，哪些领域、哪些方面需要机器“愚蠢”一点？面对这些问题，广大社会公众有着最大的发言权。人工智能的设计者、应用人工智能的企业、人工智能的监管和治理者等各方，都应大量收集公众对人工智能发展有益的意见和建议。

其五，通过国际协作，制定符合全人类共同价值的人工智能准则。发展人工智能是一项需要全人类共同参与的伟大事业，是一项致力于造福全人类的系统工程。应对人工愚蠢，需要全人类的共同努力。这就需要世界各国共同制定符合全人类共同价值的人工智能准则，避免某些国家或组织搞单边主义，致使少数人享受着一时的人工智能便利，而导致大多数人被潜在的人工愚蠢所包围。为了人类能够共享人工智能的发展成果，远离令人厌恶的人工愚蠢，世界各国的最佳选择就是聚同化异、凝聚共识，在制定符合全人类共同价值的人工智能准则的前提下，积极开展全球合作，以全人类的智慧战胜人工愚蠢。

（本文系江西理工大学高层次人才科研启动项目“人工智能对现有社会制度的影响研究”（2021205200100558）阶段性成果）

（作者单位：江西理工大学马克思主义学院）

关键词：