今日实时汇率
1 美元（USD）=
7.1685 人民币（CNY）
反向汇率：1 CNY = 0.1395 USD
更新时间：2025-07-12 03:00:01
文丨刘雨琦
编｜王一粟
来源丨光锥智能
“互联网时代，我们是更危险，还是更安全？”
2016年，互联网正值高速发展之际，电梯广告经常出现这几个大字，两行标语，从病毒木马到网络诈骗，对于安全的思考、安全防范技术的建立一直在与科技发展赛跑。同样，大模型时代发展的早期，也引发了许多安全考量。
英特网被发明的十年后，互联网防护技术和产业链才开始补齐，而参考了过去几十年的经验，在大模型诞生后不到半年的时间里，围绕着模型安全、数据安全、内容安全的讨论，就已经不绝于耳。
最近一周，在上海外滩大会、浦江创新论坛、国家网安周等场合，产学研界针对于大模型应用落地所带来的数据安全问题（包括数据投毒、信息泄露、版权风险等）、模型安全问题（模型本身的安全漏洞、恶意利用等）、内容安全问题（生成内容包含违规、违法、色情等敏感信息等）、AI 伦理问题等进行了一系列的讨论。
如何为大模型保驾护航？
国内一些安全厂商，如360、蚂蚁、深信服、奇安信、山石科技等都在积极研发大模型安全技术。
大模型需要“医生”和“保镖”
大模型作为新物种的诞生，在训练过程中要有安全监控，在大模型最后推向市场的时候，也需要一次“质检”，质检后流入市场，需要可控的使用方式，这都是解决安全问题的宏观思路。
无论是通用大模型还是面向垂直领域的行业大模型，目前来看，模型安全的保护主要分为三个部分：
