自1956年人工智能（AI）概念被提出以来，该技术已在计算智能、感知智能的基础上，持续向认知智能迈进。近年来，ChatGPT、Sora等AI产品的问世更是推动了AI的迅猛发展。然而，在10月28日由中国工程院、新加坡工程院主办，同济大学承办的中新人工智能前沿与治理研讨会上，多位院士却对当前AI的发展态势表达了冷静思考。
会上，中国工程院院士、复旦大学教授邬江兴指出，网络内生安全问题正全面挑战当今数字生态系统的底层驱动范式。他直言，当前AI应用系统存在安全责任与风险严重失衡的问题，无论是安全系统本身还是网络安全护卫，都无法确保产品无漏洞、无后门。这一现状已成为AI时代各国面临的共同挑战。
多位专家在会上分析，看似强大的人工智能实则隐患重重。同济大学校长、中国工程院院士郑庆华表示，大模型在取得重大成就的同时，也存在过度消耗数据和算力、灾难性遗忘、场景牵引能力弱、推理能力弱以及无法自我纠错等固有缺陷。这些缺陷导致大模型在工程应用等场景中表现不佳，甚至可能引发安全问题。
新加坡工程院院士、南洋理工大学教授文勇刚则认为，人类社会正在进入数字化、可持续化双重变革的时代，AI的大量运用将增加计算资源、服务器的耗费，并可能增加碳排放量，对环境产生破坏性影响。
面对AI的种种隐患，专家们也给出了可行性建议。邬江兴团队基于内生安全和拟态防御理论，构建了内生安全架构赋能智能驾驶系统，取得了显著成效。郑庆华则提出，应深度借鉴脑科学中的机制，有望破解大模型面临的种种固有缺陷，并呼吁中国要有自己的机器智能模型。
同时，新加坡工程院院士、新加坡科技设计大学教授郭贵生表示，引导AI向善不仅需要学科破圈，还要积极联动全球智慧。他期待未来能有更多中国高校的实验室、企业加入AI领域，建立合作伙伴关系，共同推动AI的健康发展。
作为世界著名的“人工智能之都”，新加坡在人工智能治理上开展了大量开创性工作。会上，郑庆华也倡议，未来要想实现“人有人智，机有机智，各智其智，智智与共”的美好图景，需要中国、新加坡两国人工智能领域的专家共同携手，为这个世界创造更多贡献。
未经允许不得转载：AI教育新闻网 » 中新专家共议AI隐患与发展：需携手引导AI向善
