当前ღ✿★，人工智能的发展势头强劲ღ✿★，但人工智能带来的问题与挑战也日益显现ღ✿★。2026年1月1日起正式实施的新修订的《中华人民共和国网络安全法》ღ✿★，新增第20条规定“国家支持人工智能基础理论研究和算法等关键技术研发ღ✿★，推进训练数据资源ღ✿★、算力等基础设施建设ღ✿★，完善人工智能伦理规范ღ✿★，加强风险监测评估和安全监管ღ✿★，促进人工智能应用和健康发展ღ✿★。国家支持创新网络安全管理方式ღ✿★，运用人工智能等新技术ღ✿★，提升网络安全保护水平”ღ✿★。法律在认可人工智能技术的同时首次将人工智能纳入监管ღ✿★，为人工智能治理提供了重要法治遵循ღ✿★。针对人工智能的发展以及未来可能面临的问题ღ✿★，记者日前采访了8位人大代表和政协委员ღ✿★。
文生视频ღ✿★、智能家居ღ✿★、智慧工厂……近年来ღ✿★，人工智能正以前所未有的速度融入大众生活与产业生产的方方面面ღ✿★。人工智能让人们的生产生活变得高效k8凯发国际官网ღ✿★、便捷的同时ღ✿★，也暗藏着亟待破解的安全隐患与治理难题ღ✿★。
“我身边有老乡反映ღ✿★，同样买一张返乡车票ღ✿★，用老年机和用智能手机的价格就不一样ღ✿★。还有网购农资时ღ✿★，不少农民发现经常购买的商品价格反而比新用户首次购买的价格高ღ✿★，更让人无奈的是低质的人工智能产品涌入市场ღ✿★，比如有些农业人工智能诊断工具ღ✿★，连小麦锈病和白粉病都分不清ღ✿★，耽误了农时ღ✿★。”谈到当前人工智能应用中存在的问题风险时ღ✿★，全国人大代表ღ✿★、黑龙江省宁安市玄武湖大米专业合作社销售经理陈雨佳颇感无奈ღ✿★。
全国人大代表ღ✿★、国网山东省电力公司聊城供电公司数字化部信息建设运检班班长冯涛说ღ✿★：“人工智能打破了技术壁垒ღ✿★，让技术使用不再受限ღ✿★，但大量虚假数据滥竽充数的情况也不容忽视ღ✿★，比如不少商家用人工智能生成虚假宣传内容k8凯发国际官网ღ✿★、假好评ღ✿★、假销量ღ✿★，甚至伪造专家推荐ღ✿★，误导消费者ღ✿★。更让人担心的是ღ✿★，借助人工智能换脸ღ✿★、拟声等技术海派甜心2ღ✿★，已经出现不少冒充亲友ღ✿★、公职人员诈骗的案例ღ✿★，普通人很难分辨ღ✿★，财产安全受到威胁ღ✿★。”
全国人大代表ღ✿★、湖北省江陵县疾控中心国家血防基地办主任李霞也十分关注人工智能领域ღ✿★，她认为k8凯发天生赢家一触即发ღ✿★，人工智能技术当前面临的最大风险是安全伦理和监管缺位ღ✿★。例如AI变声和换脸ღ✿★，特别是在未经授权的情况下使用他人肖像和声音ღ✿★，已经涉嫌侵犯他人的肖像权ღ✿★，而相关网络平台ღ✿★、监管部门却出现了管理缺位现象凯发首页官网登录ღ✿★。
“数据安全风险随着技术发展也逐渐呈现ღ✿★。现在越来越多的企业为了让人工智能的作用最大化ღ✿★，把积累多年ღ✿★、分散各处的设计图ღ✿★、生产工艺ღ✿★、业务数据等进行加工处理ღ✿★，形成高价值ღ✿★、集中化的精华数据‘喂’给人工智能大模型或智能体海派甜心2ღ✿★。一旦人工智能应用被攻破ღ✿★、被控制ღ✿★，精华数据极易丢失ღ✿★，企业多年积累的核心竞争力会瞬间化为乌有ღ✿★。”全国政协委员ღ✿★、全国工商联副主席ღ✿★、奇安信集团董事长齐向东表示ღ✿★，“人工智能模型ღ✿★、智能体运行无法独立存在ღ✿★，必须依托云环境存在ღ✿★，这些基础环境可能导致大模型防线被突破ღ✿★。大模型ღ✿★、智能体‘裸奔’上线ღ✿★，会给攻击者可乘之机ღ✿★，加剧数据被盗用的风险ღ✿★。”
全国人大代表ღ✿★、贵州省新的社会阶层人士联谊会会长ღ✿★、贵达律师事务所主任朱山告诉记者ღ✿★，“在商业应用中ღ✿★，部分产品存在过度收集ღ✿★、滥用用户数据ღ✿★，对公民合法权益形成威胁ღ✿★，一些消费者在不知情中被剥夺了公平交易权ღ✿★，而消费者对侵权行为如何取证也面临困难ღ✿★。”此外ღ✿★，朱山表示ღ✿★，人工智能使用存在法律监管体系阶段性不适应的问题ღ✿★。人工智能技术特性使得侵权ღ✿★、违规行为的责任主体认定复杂化ღ✿★，例如某品牌公司涉及智能驾驶辅助功能的交通事故受到广泛关注ღ✿★，将人机责任划分这一难题ღ✿★，再次摆在法律与产业界面前ღ✿★。
“人工智能是新一轮科技革命的核心驱动力ღ✿★，深刻改变着产业格局与社会治理方式ღ✿★，但是人工智能技术‘该不该用ღ✿★、怎么用’的边界还不够清晰ღ✿★，此外ღ✿★，一旦用出问题ღ✿★，‘谁来负责ღ✿★、如何负责’的规则尚未健全ღ✿★。”全国人大代表ღ✿★、浙江宇视科技有限公司研究院院长周迪说道ღ✿★。
采访的过程中ღ✿★，记者发现人工智能发展中的数据使用安全ღ✿★、技术使用边界以及对人工智能技术监管等问题是代表委员普遍关注的话题ღ✿★。网络安全的新情况需要及时得到精准回应ღ✿★，新修订的网络安全法为更好适应网络安全新形势新要求ღ✿★，提出加强法律之间的衔接ღ✿★、完善法律责任制度ღ✿★，与代表委员们的关注不谋而合ღ✿★。
齐向东对新修订的网络安全法持肯定态度ღ✿★，他表示ღ✿★：“这是第一次在网络安全领域的基础性法律中明确了人工智能监管内容ღ✿★，为人工智能有序发展提供了法律指引ღ✿★。随着顶层设计的逐步完善ღ✿★，要把人工智能治理的原则性要求实实在在落地ღ✿★，还需要针对重点场景出台专项细则ღ✿★，明确自动驾驶海派甜心2凯发K8国际首页ღ✿★。ღ✿★、智能医疗ღ✿★、智慧金融ღ✿★、教育大模型等人工智能应用场景的责任划分ღ✿★；完善技术与安全配套标准ღ✿★，制定人工智能领域的安全评估ღ✿★、漏洞测试ღ✿★、应急响应等国家标准ღ✿★，加强人工智能供应链安全与开源组件审查规范ღ✿★。”
朱山告诉记者ღ✿★，“在有效实施新修订的网络安全法的基础上ღ✿★，还需要加快出台人工智能安全分类分级指南ღ✿★、深度合成检测技术标准ღ✿★、算法审计指南等ღ✿★，为新修订的网络安全法中提到的风险监测评估提供具体的技术标尺和操作手册ღ✿★。”
冯涛附议说ღ✿★：“为最大限度发挥新修订的网络安全法的指导作用ღ✿★，还需进一步完善人工智能系统性立法ღ✿★。要尽快出台人工智能生成内容的标识规范ღ✿★；划定人工智能使用的红线ღ✿★，细化数据使用规则ღ✿★，明确人工智能训练数据的合法来源清单ღ✿★，哪些数据可以用ღ✿★、哪些不能用海派甜心2ღ✿★，明确公开数据的使用边界ღ✿★；出台人工智能侵权的认定和赔偿细则ღ✿★，解决取证难ღ✿★、定损难ღ✿★、维权难等问题ღ✿★。”
全国人大代表ღ✿★、湖南省城步苗族自治县汀坪乡大水村村医杨进军表示ღ✿★，“尽管新修订的网络安全法通过规范和引导k8凯发国际官网ღ✿★，推动人工智能在安全轨道上稳步前行ღ✿★，但是我发现法律‘田埂’还没完全筑牢ღ✿★，不少现实阻碍让法律的防护作用打了折扣ღ✿★。例如ღ✿★，目前没有明确人工智能的监管部门ღ✿★，甚至出现‘九龙治水水不治’情况ღ✿★，因此需要在法律层面进一步明确监管职能ღ✿★，避免出现监管空白或者重复监管问题ღ✿★。”
“建议国家进一步加强对数据产权方面的立法ღ✿★，明确人工智能使用数据的持有权ღ✿★、使用权ღ✿★、经营权的划分标准凯发,凯发k8,K8ღ✿★，ღ✿★，为人工智能使用数据的产权认定提供清晰依据ღ✿★。”李霞说道ღ✿★。
全国人大代表ღ✿★、湖北省宜昌金宝乐器制造有限公司高级整音技师雷春华表示ღ✿★，“应尽快出台专门的人工智能伦理准则与司法指引ღ✿★，强化算法备案与透明度要求ღ✿★，建立‘技术+法律’双层治理体系ღ✿★，让法治始终跑在技术前面ღ✿★。”
新修订的网络安全法为人工智能治理立起了顶层设计的“四梁八柱”ღ✿★，代表委员的建言献策ღ✿★，为法治落地的“精耕细作”指明了路径ღ✿★。从专项细则的出台到技术标准的完善ღ✿★，从监管职能的厘清到侵权责任的细化ღ✿★，每一步探索都为保障人工智能健康发展筑起法治堤坝ღ✿★。
如何推进人工智能安全治理？齐向东建议ღ✿★：“要强化人工智能生成内容全流程检测机制ღ✿★，强化跨部门联合执法司法ღ✿★，严厉打击恶意爬取数据海派甜心2ღ✿★、批量生成侵权内容等行为ღ✿★；督促人工智能开发和使用企业履行主体责任ღ✿★，完善内容生成的源头审核ღ✿★、生成中的过程监测ღ✿★、生成后的溯源管理ღ✿★，切实筑牢人工智能生成内容的安全防线ღ✿★。”
朱山认为凯发国际ღ✿★。ღ✿★，“需要建立覆盖数据入口ღ✿★、模型运行ღ✿★、内容出口全链条的治理机制ღ✿★。鼓励行业建立训练数据来源记录与披露制度ღ✿★，推动构建合规的数据授权使用渠道ღ✿★，为产业提供清晰的合规指引ღ✿★。同时ღ✿★，建立算法备案与分级审计机制ღ✿★，对具有舆论属性或社会动员能力ღ✿★、涉及重大公共利益的人工智能算法与服务ღ✿★，应依法落实备案要求ღ✿★，并探索根据风险等级ღ✿★，对算法依法进行安全与伦理审计ღ✿★，评估其公平性ღ✿★、透明度及潜在风险ღ✿★。”
与此同时ღ✿★，齐向东和朱山都认为ღ✿★，要完善人工智能生成内容标识与追踪机制ღ✿★，明确要求依托人工智能生成内容嵌入不可篡改的数字水印ღ✿★，标注生成来源ღ✿★、生成时间及版权归属ღ✿★，确保人工智能生成内容带有不可轻易去除的标识ღ✿★，这既能保障公众知情权ღ✿★，又能实现生成可识别ღ✿★、侵权可追踪ღ✿★。同时ღ✿★，监管部门应牵头建立全国统一的人工智能生成内容溯源查询平台ღ✿★，打通不同平台ღ✿★、不同模型的标识数据接口ღ✿★，并支持个人用户和政企机构对疑似人工智能生成内容进行快速核验与溯源追踪ღ✿★。
周迪告诉记者ღ✿★，在调研中ღ✿★，他了解到的浙江杭州高新区（滨江）“改革沙盒”创新做法值得推广ღ✿★，通过在可控场景中开展试点ღ✿★，探索兼顾安全与发展的人工智能治理路径ღ✿★，推动数据要素法治风险治理重心从事中监管ღ✿★、事后处罚向事前预防转变ღ✿★。同时ღ✿★，他建议ღ✿★，“应探索建立健全透明的监督与问责机制ღ✿★，推动个人信息在阳光下被规范使用ღ✿★，以筑牢公众信任的基础ღ✿★。”
针对人工智能侵权问题k8凯发国际官网ღ✿★，不仅要把牢数据源头关ღ✿★，杨进军补充道海派甜心2ღ✿★，“还要建立人工智能生成内容侵权快速响应机制K8凯发(中国)天生赢家·一触即发ღ✿★，ღ✿★。设立公众举报奖励机制和行业黑名单制度ღ✿★，通过公众监督ღ✿★、政府监管ღ✿★、企业整改的协同治理方式ღ✿★，形成良好的人工智能内容生成生态k8凯发国际官网ღ✿★。”陈雨佳建议ღ✿★，“针对人工智能侵权ღ✿★，单靠个人维权成本高k8凯发国际官网ღ✿★，希望检察机关通过发挥公益诉讼检察职能ღ✿★，督促涉事平台整改ღ✿★。加快推进智慧检察工程ღ✿★，研发人工智能监督模型ღ✿★，提升人工智能领域风险发现ღ✿★、研判和处置能力ღ✿★。同时ღ✿★，探索‘公益诉讼+行业治理’的模式ღ✿★，加强与网信ღ✿★、工信等部门的协作ღ✿★，共享人工智能企业备案信息ღ✿★、风险监测数据ღ✿★，开展专项监督行动k8凯发国际官网ღ✿★，形成治理合力ღ✿★。”
在推动构建协同共治大格局的过程中ღ✿★，雷春华认为ღ✿★，还应当充分发挥行业自律优势ღ✿★，强化行业协会在制定伦理准则ღ✿★、组织合规培训ღ✿★、纠纷调解中的作用ღ✿★，助力人工智能行业行稳致远ღ✿★。
人工智能技术加速演进带来前所未有的机遇ღ✿★，在法治框架不断完善ღ✿★、多元治理体系加速构建的背景下ღ✿★，如何为人工智能培育创新沃土ღ✿★、擘画可持续的发展蓝图ღ✿★，也是代表委员们的共同关切ღ✿★。
人工智能的发展离不开科技创新ღ✿★，周迪表示ღ✿★，“应加大对人工智能基础研究的资金投入与政策倾斜ღ✿★，鼓励高校ღ✿★、科研院所与企业组建创新联合体ღ✿★，聚焦芯片ღ✿★、算法ღ✿★、算力等‘卡脖子’领域开展协同攻关ღ✿★，突破技术壁垒ღ✿★。同时ღ✿★，完善科技成果转化机制海派甜心2ღ✿★，推动创新成果从实验室走向产业一线ღ✿★，让核心技术成为人工智能健康发展的硬核支撑ღ✿★。”
齐向东建议深化“人工智能+”理念ღ✿★，完善产学研用协同创新体系ღ✿★，鼓励特色行业龙头企业与专业安全厂商构建创新联合体ღ✿★，并设立专项基金促进人工智能安全技术研发和创新成果落地ღ✿★，提升智慧城市ღ✿★、智慧能源ღ✿★、智慧金融等领域的网络安全防护效能ღ✿★。
人工智能作为引领新一轮科技革命和产业变革的核心力量ღ✿★，其价值最终体现在赋能产业的实践中ღ✿★。受访代表委员指出ღ✿★，应立足不同产业的发展特点ღ✿★，打造差异化的人工智能应用场景ღ✿★。作为扎根黑土地的全国人大代表ღ✿★，陈雨佳对人工智能在农业领域的探索十分关注ღ✿★，她告诉记者ღ✿★：“全面推进乡村振兴是实现中华民族伟大复兴的重大任务ღ✿★，如果能将人工智能技术应用到农业生产中ღ✿★，通过智能监测ღ✿★、精准种植等技术赋能农业生产ღ✿★，助力乡村振兴与粮食安全ღ✿★，将是广大农民朋友的福音ღ✿★，也能为人工智能产业应用开辟更为广阔的天地ღ✿★。”
而作为村医的杨进军了解到ღ✿★，近年来ღ✿★，人工智能应用在医学领域的实践也在逐步推进ღ✿★，AI问诊等应用走进了人们的生活ღ✿★。他表示ღ✿★：“目前基层仍面临着优质医疗资源紧缺的困境ღ✿★，如果大力发展AI辅助诊疗ღ✿★、医学影像智能解读ღ✿★、慢病管理等服务ღ✿★，并将其应用面覆盖到县村以及偏远地区ღ✿★，能一定程度上缓解优质医疗资源紧张的问题ღ✿★，提升基层医疗服务水平ღ✿★。”
冯涛从助力产业绿色发展角度提出了建议ღ✿★：“深化AI与智能制造的融合ღ✿★，推动生产线智能化改造ღ✿★、工业机器人协同作业ღ✿★、供应链智能优化ღ✿★，助力产业向高端化ღ✿★、智能化ღ✿★、绿色化转型ღ✿★。”
“人工智能的应用前景十分广泛海派甜心2ღ✿★，不仅是农业ღ✿★、医学ღ✿★、制造等领域ღ✿★，各行各业都应发现人工智能赋能产业创新发展的优势ღ✿★。”雷春华补充说凯发k8国际首页登录ღ✿★，ღ✿★，要通过“人工智能+”的融合发展模式ღ✿★，为经济社会高质量发展注入新动能ღ✿★。
技术的发展需要人才作为支撑凯发k8娱乐官网入口ღ✿★，ღ✿★，李霞表示ღ✿★，“在人才培育方面ღ✿★，应加强人工智能人才培养体系建设ღ✿★，支持高校增设人工智能相关专业ღ✿★，开展校企合作定向培养ღ✿★，弥补人工智能核心技术ღ✿★、复合型治理人才缺口ღ✿★；同时ღ✿★，完善人才评价与激励机制ღ✿★，吸引海外高端人才回流ღ✿★，打造一支兼具技术研发能力与法治素养的复合型人才队伍ღ✿★。”
人工智能的健康发展ღ✿★，是创新与规范的双向赋能ღ✿★，是技术突破与产业融合的协同推进ღ✿★，更是安全底线与伦理准则的坚定坚守ღ✿★。受访代表委员一致认为ღ✿★，以法治为基ღ✿★、以创新为核ღ✿★、以融合为要ღ✿★、以安全为盾ღ✿★，全方位构建人工智能健康发展的支撑体系ღ✿★，方能让人工智能在创新的轨道上稳步前行ღ✿★。
国家支持人工智能基础理论研究和算法等关键技术研发ღ✿★，推进训练数据资源ღ✿★、算力等基础设施建设ღ✿★，完善人工智能伦理规范ღ✿★，加强风险监测评估和安全监管ღ✿★，促进人工智能应用和健康发展ღ✿★。
