齐向东：大模型应用面临三重安全挑战
0次浏览
发布时间：2025-04-30 10:16:00
中新网福州4月30日电 (记者 刘育英)奇安信集团董事长齐向东在第八届数字中国建设峰会期间接受媒体采访表示，层出不穷的新兴场景，充分展现出人工智能大模型带来的无限生产力、创造力。但新技术是把双刃剑，大模型应用在带来机遇的同时，也面临三重挑战。
一是“小数据”安全问题。传统大数据存在碎片化、质量参差不齐等问题，而大模型需要经过加工处理的“精华小数据”。一旦精华小数据被窃取、泄露或篡改，企业核心竞争力将受损。
二是大模型“裸奔”风险。大模型深度融入关键领域，如智慧城市、工控系统、智慧政务等，风险串联成网。奇安信监测发现，大量Ollama大模型服务器“裸奔”，存在被攻击导致业务中断的风险。
三是AI决策失准风险。对AI的过度依赖可能导致善恶真伪难辨，黑客可通过漏洞利用、数据投毒等方式干扰大模型决策。内部员工更新知识库时引入错误信息，也会污染模型学习环境，导致错误结论。
齐向东认为，筑牢AI安全底线，要把握住五个关键：构建大模型安全“红域”形成多维度边界隔离；权限强管控，以用户身份为新边界开展网络和数据安全防护；严把内容关，构建贯穿大模型全生命周期的内容安全治理机制；以实战为导向加强大模型应用安全评估；运营可闭环，做到对安全威胁的实时监测和应急处置。(完)
-
广东省防总召开视频会议部署台风“蝴蝶”防御工作
6月11日8时，今年第1号台风“蝴蝶”正式生成，未来几天将给广东带来明显风雨影响。11日下午，广东省防汛防旱防风总指挥部（以下简称“省防总”）召开视频会议，深入研判台风发展态势，对今年全省首个台风防御应对工作进行动员部署、细化落实。省委常委、常务副省长、省防总总指挥张虎主持会议并讲话。会议强调，各地2025-06-12 01:04:00 -
前4个月销售收入同比增长3.6%——民营经济活力持续提升
来源:经济日报国家税务总局最新数据显示，今年前4个月，民营经济销售收入同比增长3.6%，比全国企业高0.9个百分点，占全国企业销售收入比重的71.3%。分行业看，制造业、高技术产业民营经济销售收入同比分别增长6.5%和15.5%，增速分别比全国同行业企业快1.8个和1.6个百分点。民营经济吸纳就业人2025-06-06 17:53:00 -
华为智慧屏 S6 开启预售，以鸿蒙AI抢占入门级MiniLED市场
【ZOL中关村在线原创技术解析】2024年MiniLED凭借抢眼的画质表现，成功引领中高端电视市场发展浪潮，推动行业实现超预期增长。进入2025年，在国家补贴政策的持续赋能下，MiniLED电视加速渗透下沉市场，技术普惠效应日益显现。华为智慧屏 S6 于2025年6月6日正式开启预售，作为华为智慧屏2025-06-06 10:37:00 -
临床数据左右港股创新药，背后是“出海”预期
未上市药物面临的风险，就是股价总会随着各种临床数据起起落落文｜《财经》记者 凌馨编辑｜王小一位港股医药投研人士对《财经》说，当下的医药股，“涨跌全靠临床数据。”2025年前五个月，恒生创新药指数上涨35%，领涨恒生行业指数，涨幅是A股创新药指数的近3倍。其中，在恒生创新药成分涨幅排名前十的个股中，过2025-06-05 18:42:00 -
百度金融智算云：为大模型时代金融行业构建“核心引擎”
“金融行业异构算力管理面临技术平权、租户隔离、算力释放、异构管理四个核心命题。基于此，金融体系对智算集群有三大诉求：一是对金融类创新业务的快速支持，二是在总行核心业务上保证算力有效运行，三是有效利用总行、分行的统一算力，省本增效。”5月24日，在新金融联盟主办的“智算赋能金融服务智能化”内部研讨会上2025-06-04 17:13:00 -
数据赋能 乘数而上 2025年“数据要素×”大赛文化旅游赛道邀你参与
由市大数据局联合市委网信办等18家单位共同主办的2025年“数据要素×”大赛山东分赛济南市选拔赛现已正式拉开帷幕，诚邀您一起共筑数字新生态! 济南市选拔赛以“数据赋能乘数而上”为主题，面向全市企业、事业单位、科研院所、高校设置15个赛道，鼓励参赛者探索数据要素跨行业、跨场景融合应用，破解发展难题，形2025-06-04 16:43:00 -
前四月民营经济总体发展稳中向好
国家税务总局最新发布的数据显示：今年前4个月，全国民营经济（包括民营企业和个体工商户）纳税人享受支持科技创新和制造业发展的主要政策减税降费及退税3518.8亿元，占比超六成，是税费优惠政策的主要受益对象。一系列税费优惠政策有效激发了民营经济活力。税务数据显示，前4个月，民营经济总体发展稳中向好，呈现2025-06-04 09:47:00 -
中证A100稳定指数报4491.97点，前十大权重包含美的集团等
金融界6月3日消息，上证指数低开高走，中证A100稳定指数 (A100稳定，H30272)报4491.97点。数据统计显示，中证A100稳定指数近一个月上涨2.66%，近三个月上涨3.48%，年至今上涨1.07%。据了解，中证A100、中证200动态和稳定指数分别以各自基准指数为样本空间，根据波动率2025-06-03 22:41:00
