【财经分析】新型人机关系带来社会负面问题 需产业共同助推技术向善发展

新华财经北京11月11日电（记者沈寅飞） 近年来，伴随着AI智能化水平的不断升级，业内纷纷积极投资和布局AI领域。在此过程中，AI与人的关系也在动态变化。人们在享受AI带来的高级体验的同时受到其负面问题的困扰。业内人士指出，未来，人机共生、人机协作或将成为社会运行“新常态”。因此需要积极防范AI应用及滥用可能引发的负面问题，需要重新审视人工智能技术，共建人工智能治理体系，还需要整个产业共同关注，坚持“以人为本、智能向善”，助推技术向善发展。

AI技术应用是一把“双刃剑”

近年来，随着ChatGPT的闪亮登场，公众对人工智能的理解被彻底刷新，并极大加速了AI在各行各业、各类场景中的应用，同时也引发了关于AI技术的社会影响和伦理问题的深入探讨。

近日发布的《人本智能：人机共生时代的科技发展观》报告（以下简称“报告”）指出，新一轮人工智能技术具备强大的生成能力、自然语言交互和广泛的应用场景三大特质，催生出了新型人机关系——人工智能已经逐渐成为人们得力的工作生活助手、亲密的情感陪伴者、高效的社会劳动力、可信赖的社会管理工具。

然而与此同时，新型人机关系也带来了AI信息造假、AI诈骗、侵犯数据隐私、智能鸿沟、AI替代劳动力等大量社会负面问题。

如去年发生的一起使用智能AI技术进行电信诈骗的案件，案件中福州市某科技公司法人代表郭先生10分钟内被骗430万元。

业内人士指出，生成式AI技术的发展，已经对线上交流的“信任度”造成了极大的冲击。在企业侧亦是如此，Gartner预测，到2026年，30%的企业将因为AI生成的人脸生物识别深度伪造攻击，而认为此类身份认证和验证解决方案不再能够起到可靠的作用。

报告指出，未来，人机共生、人机协作将成为社会运行“新常态”。越来越多政府机构、行业组织、科学家、科技企业等开始呼吁重视科技人文主义，更加关注AI伦理、关注AI对人的影响，积极防范AI应用及滥用可能引发的负面问题，共建人工智能治理体系。

重新审视人工智能技术

据了解，目前，全球各地政府采取不同的AI路径。如欧盟通过全球首部全面监管人工智能的法规，希望成为AI立法和监管领域的全球领导者，并以此转化为其在AI技术和产业上的国际竞争力；美国则采取“轻监管、重创新”的路径，旨在推动人工智能发展，避免不必要的监管行为妨碍发展；面对AI技术带来的新挑战，中国始终秉持开放合作的态度，积极参与全球AI治理。

2023年7月，中国正式发布了《生成式人工智能服务管理暂行办法》。同年10月，在第三届“一带一路”国际合作高峰论坛上，中国提出《全球人工智能治理倡议》，倡议坚持“以人为本、智能向善”，为世界提供了基于人类命运共同体理念的人工智能治理新视角。

近日，联想集团、上海交大人工智能研究院、平安科技、西门子医疗等共31家人工智能相关企业和机构共同倡议从把“人本智能”融入企业战略、加强行业自律、打造创新网络、推动国际合作、倡导ESG理念五个方面，呼吁各行业、企业、组织、机构等秉持以“人本智能”的科技发展观，坚持以人为本、智能向善。

华东师范大学教授刘擎认为，在AI技术迅猛发展的时代，最重要的问题就是思考人类的价值，我们所有的努力都应该放在人的框架下，祈愿人文精神长存于心。

上述报告指出，所谓人本智能，是指从“以人为本”的视角重新审视人工智能技术及其影响，要求在人工智能技术研发，人工智能产品与服务的设计、应用以及与外界交互中，都必须以满足人类需求和谋求人类福祉为首要目标。

事实上，目前人本智能已经在不少领域得到应用实践。如在教育领域，2024年秋季开学季，清华大学2024级本科新生迎来了属于自己的AI搭子——“清小搭”，一款基于最前沿大模型智能体技术构建的学生智能助手。“清小搭”可以为学生提供从校园生活小贴士到学术难题解答的详尽帮助；同时还能为学生提供智能伴学工具箱，并且通过云盘记录学习成果和成长轨迹。

在工业生产中，2024年，鲲云科技AI视频分析系统守护矿工生命安全——宁煤智慧矿山项目。鲲云科技携手宁煤集团，基于领先的可重构数据流架构AI技术，建设了算力、算法、平台一体化的AI视频分析系统，在宁煤集团白芨沟矿区部署该系统后，矿区实现安全风险秒级预警，半年内累计触发报警10万余次，智能算法平均实测精度达95%以上，大大降低煤矿生产过程中的安全风险，实现矿区0事故，保障近千名矿工的生命财产安全。

需要整个产业共同助推技术向善发展

近年来，AI技术的应用进程正在加速，AI为代表的新兴技术“复活”千年木塔；以新IT为技术底座、用普慧算力加速建设乡村小学AI科技馆……诸如此类的新闻不绝于耳。

如何更放心地应用人工智能？

“愿人不被困在机器里，愿人始终站在机器之上。”上海交通大学人工智能研究院常务副院长杨小康说，人工智能要满足人的需求，可以分为机器智能、可信智能、交互智能、共情智能、共创智能五个层级。要推动AIPC、工业机器人朝这个方向更好地发展。

联想集团副总裁、全球电脑与智能设备首席质量官王会文认为最适合的路径就是混合式人工智能，也就是公共人工智能和私域人工智能的结合。人工智能最大的价值就是增强人类智能，而实现它的最佳模式就是混合式人工智能。在确保人工智能的发展以人为中心的过程中，ESG毫无疑问是非常重要的结合点。“ESG和AI是人本智能的一体两面，两者是相互促进的关系，希望未来人工智能在这几方面能结合得更好。”

“人工智能为人类未来的发展带来很多的想象，新技术为整个人类社会带来的最大的价值，是把人与知识之间的距离缩得更短了，并提升了弥合技术鸿沟的可能性。”腾讯混元产品负责人陈妍表示，人工智能发展的过程中必然会面对一些现实问题，非常需要整个产业共同关注，一起制定规则，从而在高速发展的过程中，能够有更好的辅助手段，助推技术向善发展。

编辑：罗浩

声明：新华财经为新华社承建的国家金融信息平台。任何情况下，本平台所发布的信息均不构成投资建议。如有问题，请联系客服：400-6123115