用好AI这把“双刃剑”!业界“最强大脑”聚榕城共话人工智能
9月11日下午,2023年网络安全技术高峰论坛在福州举行,中央网信办副主任、国家网信办副主任赵泽良出席,福建省委常委、宣传部部长张彦主持论坛,福建省委常委、福州市委书记林宝金致辞。来自人工智能领域的知名专家学者、高校和科研机构负责人、企业代表等齐聚一堂,结合新实施的《生成式人工智能服务管理暂行办法》,围绕“人工智能发展与治理”的主题进行对话交流,分享研究成果,碰撞智慧火花。
新技术新应用迅速迭代,新情况新问题层出不穷,网络安全领域面临重要考验。
紧扣这一前沿热点,在主论坛上,10余位演讲嘉宾先后围绕人工智能发展与治理,就人工智能的发展历史、最新情况、应用场景、存在问题、风险挑战等方面交流智慧、分享经验。
“让机器自己从数据中去学习,不是经过人‘咀嚼’好再去‘喂’它。”北京智源人工智能研究院院长黄铁军在演讲中说。
“扣好人生第一粒扣子,这件事对AI也一样。”黄铁军表示,鉴于数据对模型智能影响超过60%,因此数据质量至关重要,否则“喂”它错误的数据,它也拼命学习。
北京智源人工智能研究院院长黄铁军
在他看来,如果将搜索引擎比喻为“责任有限公司”的话,那么人工智能问答软件可以说是“责任无限公司”,前者提供的内容引用自第三方,后者的答案则都是自己编造的。
在谈到该软件时,复旦大学哲学学院教授徐英瑾指出,类似软件存在“机器幻想”问题,炮制出不存在的书籍、法条与科学理论。由于这些虚假信息是基于既有的海量数据,导致相关内容非常具有迷惑性。
复旦大学哲学学院教授徐英瑾
对于生成式人工智能,嘉宾们坦言,应该辩证地看待、积极地拥抱。
“我们希望构建一个负责任、可信赖的人工智能体系。”在人工智能的产业实践方面,华为云CTO张宇昕分享了华为云助力企业智能升级、加速企业创新发展的举措。他表示,华为重视人工智能技术创新和治理责任,坚持负责任地开发、合法地部署AI产品,促进AI普惠。
华为云CTO张宇昕
上海联影智能医疗科技有限公司研发副总经理沈振辉则从AI助力医疗、提供相关解决方案的角度作了介绍。他说,医疗影像AI被认为是最能率先实现商业化落地的领域,能够检测出医生看不到的微小病灶,也能够以极大超越人力的速度阅片,在短时间内找到海量病灶信息。
上海联影智能医疗科技有限公司研发副总经理沈振辉
就实现安全通用人工智能的技术路径,清华大学人工智能研究院副院长朱军建议,加强技术理论研究,不断提高内生安全水平,持续构建第三代人工智能;加强技术手段建设,不断提升训练数据质量和安全评测能力;同时,持续演进人工智能治理的有效工具。
清华大学人工智能研究院副院长朱军
来源:福建日报
图片:福州日报 陈暖