(资料图)
就在各方积极推动人工智能技术研发和应用落地的时候，质疑的声音也接踵而来。3月29日，未来生命研究所(FutureofLifeInstitute)公布一封公开信，呼吁所有人工智能实验室立即暂停训练比GPT-4更强大的人工智能系统至少6个月。被称为“人工智能教父”的杰弗里·辛顿、心理学与脑研究专家盖瑞·马库斯和特斯拉首席执行官马斯克等上千人均签署了这封公开信。
这封公开信指出，最近几个月，人工智能实验室陷入了一场失控的竞赛，他们致力于开发和部署更强大的数字思维，但即使是研发者也不能理解、预测或可靠地控制这些数字思维。诸多研究表明，具有与人类匹敌智能的人工智能系统可能对社会和人类构成深远的风险。
中关村智能科技发展促进会副会长兼首席数字经济学家陈晓华在接受《证券日报》记者采访时表示，人工智能是能够改变人类社会面貌的一系列技术，人工智能与实体经济深度融合，将成为经济的增长点和新动能。不过，由于人工智能在某些领域已经能和人类竞争，因此也带来了人们对于被“取代”“控制”的焦虑。
针对AI在应用层面的技术漏洞和社会变革风险，未来生命研究所的公开信提出了一连串问题：我们是否应该让机器用宣传和谎言淹没我们的信息渠道？我们是否应该自动化所有工作，包括令人满意的工作？我们是否应该开发出更聪明、数量更庞大的非人类思想，最终淘汰甚至取代我们？我们是否应该冒着文明失控的风险？
公开信呼吁所有人工智能实验室立即暂停训练比GPT-4更强大的人工智能系统，期限至少6个月。在这段时间内，人工智能实验室和专家应该开发和实施一套技术安全协议，由独立外部专家进行严格的审计和监督。与此同时，人工智能研发者必须和政策制定者合作，加快开发人工智能治理系统。
国内政策端在积极推动人工智能技术发展的同时，也在展开相关科研伦理规范。据新华社报道，为贯彻落实国家《新一代人工智能发展规划》，科技部会同自然科学基金委近期启动“人工智能驱动的科学研究”(AIforScience)专项部署工作，从专项部署工作的内容看，科技部将推进面向重大科学问题的人工智能模型和算法创新，发展一批针对典型科研领域的“人工智能驱动的科学研究”专用平台，加快推动国家新一代人工智能公共算力开放创新平台建设，支持高性能计算中心与智算中心异构融合发展。同时，重视“人工智能驱动的科学研究”发展过程中的科研伦理规范。
北京社科院研究员、中国人民大学智能社会治理研究中心研究员王鹏对记者表示，这标志着中国将积极推动人工智能前沿技术研究和产业化应用，在人工智能领域的投资和研发力度将不断增强，并重视人工智能产业的可持续发展。
王鹏说：“去年3月中办、国办印发《关于加强科技伦理治理的意见》，目的就是防范不确定风险，促进科技向善。近期科技部对于人工智能、6G等新技术的表述，在鼓励研发同时，也表示了要加强科技伦理治理的立场和态度。”
新结构经济学研究院院长林毅夫表示，人工智能等技术的出现，本质上是生产力水平的提升，这是人类进步和生活水平提升的基础，虽然部分岗位一定会被替代和取消，但是人类也可以有更多享受生活的机会。
（文章来源：证券日报网）
标签：