详情

“火山方舟从Day 1起就永远把安全作为一项最基本功能。”

作家 | 代聪飞

剪辑 | 林觉民

大模子期间，企业使用云上模子的痛点有哪些？

你可能会说模子不够精确，又或者资本太高，但这些跟着AI技巧的快速发展，在不远的将来偶然齐不再是问题。

比如 资本，自豆包大模子初度将价钱带进“厘”期间以来，行业纷繁跟进，企业客户从此不再为使用模子的资本过度腾贵而吵杂。在明天，跟着行业技巧进步，资本偶然将越来越不再是问题。

与前述问题比起来，安全是一个容易被大多数东说念主冷漠但又极为膺惩的事项。陪同模子才略的快速发展，企业在使用大模子过程中靠近的安全挑战越来越多：从安全间隙导致的用户数据透露，到部分公司违纪持取数据，齐也曾出现关连案例。

企业在使用新技巧的同期，必须时刻拧紧安全的阀门，这是关乎企业生计的根基，少许歪邪不得。因为一朝发生无意，弃世便有可能是致命的。

01

大模子期间的安全挑战

AI正在重塑行业。

自Open AI发布的ChatGPT引颈互联网行业进入AI 2.0期间以来，无数企业和AI创业者投身行业。在国内，除了 、字节、阿里等传统互联网大公司斥资参加，更是有智谱AI、月之暗面、Minimax等明星创业公司洒落其间。

短短两年间，市集似乎也曾从早期的莽荒开拓期进入到淘汰期。前段时分，有媒体报说念称，国内AI“六小虎”至少有两家已解除预检修模子。在好意思国，不少大模子公司齐在卖身，仅剩OpenAI、Anthropic、Meta、谷歌，以及马斯克旗下的xAI等公司还在大手笔参加基础大模子的研发。

市集趋于粗略之时，大模子期间的安全问题也在日益突显，成为行业关注焦点。关连安全事件包括但不限于，企业违纪操作过度持取数据、外部攻击窃取用户数据、使用者通过AI窃取个东说念主隐讳信息等。

以某闻明生成式对话大模子居品X为例，自觉布以来，曾屡次被爆出存在安全间隙。

早在2023年，就灵验户爆料X存在较着间隙，致使少数用户能够看到其它用户与AI对话历史记载的标题。本年5月份，有沟通员再次发现上述居品存在的安全间隙，该间隙允许黑客在用户的持久挂牵缔造中存储空虚信息和坏心指示。但其时，关连公司对其论说并莫得给以爱好，草草放置有观看。

一样在2023年，某提供导航就业的公司向当地报案称，发现存东说念主讹诈技巧技能盗取公司就业器内天下的导航舆图信息数据，并在论坛售卖，导致公司径直经济损爽约21万元。

本年7月，好意思国某电信巨头露馅，客户数据在第三方AI数据云平台发生大规模透露，卓越1亿条用户数据被黑客获取，波及简直统共出动客户的通话和短信记载。涉事平台因大宗客户遭黑客攻击饱受质疑，该电信巨头仅仅重大受影响的企业之一。

越来越多的安全事故炫夸出，跟着AI多模态大模子等新技巧普及，用户数据正靠近越来越严峻的安全挑战。企业在使用大模子时，不得不更加警示可能存在的潜在安全风险。毕竟，安全无小事。

正因如斯，以火山方舟为代表的不少Maas（模子即就业）平台，永远对安全相当爱好。火山方舟是火山引擎旗下一站式大模子就业平台，一年多前，刚刚对外发布时，方舟平台就同步上线了基于安全沙箱的大模子安全互信沟通决策，讹诈沟通壅塞、存储壅塞、收集壅塞、流量审计等式样，已毕模子的好意思妙性、完竣性和可用性保证。这亦然大模子行业内始创的安全互信机制。

02

把安全「刻」进基因

安全从来齐不是一朝一夕的事情。

在同业简直齐卯足劲发展大模子才略时，火山方舟从运行就把安全作为一项基本功能，用最严格的轨范要求我方。用火山方舟我方的话说，要保证你的数据，唯你可见，唯你所用，唯你统共。

近期，雷峰网与火山引擎智能算法厚爱东说念主、火山方舟厚爱东说念主吴迪进行了近一个小时相易，了解到更多火山方舟为保证客户数据安全作念出的不懈竭力。

火山方舟平台还莫得成型的时候，方舟的团队就在谈安全、壅塞、沙箱。不错说，火山方舟从运行就把安全「刻」进了它的基因。正因此，那时就有好多同业来问吴迪为什么如斯爱好安全。

在火山方舟看来，生成式AI的契机还远莫得十足浮现，明天的市集容量可能是今天的1000倍，它会浸透到千行万业的中枢业务当中，是好多企业中枢业务的膺惩依赖。在这种情况下，一家公司中枢业务将离不开大模子，除了追求成果、性价比，数据安全将更加膺惩。

另一方面，生成式 AI 的发展将对安全产生更多新的挑战。换句话说，AI 1.0期间的安全决策在生成式AI期间未必可行。畴昔，为了确保数据的安全，企业的选拔经常是数据不动模子动，也等于说好多企业客户会把数据留在我方的私域空间里，请模子就业商把模子部署到我方的绝顶化空间，然则这一套本质可能在生成式 AI 的期间就行欠亨了。

其一，绝顶化大模子很难奴婢着公有云上最先进的大模子同期升级迭代；其二，绝顶化大模子所耗尽的基础算力的单元价钱是远远高于公有云上大模子就业，从性价比角度来讲，公有云上的集合挽救更加低廉、更加便捷。

在公有云条目下，用户对云上操作不能见，怎么让用户充分信任云上数据的安全性永远是一个贫乏，这亦然火山方舟畴昔一年永远接力于于探索惩处的问题。

吴迪告诉雷峰网，火山方舟对安全的代码本质是径直浸透到系统的中枢联想中的，包括统共的践诺环境、日记审计环境，它是跟着系统自身的搭建沿途进行的。打个比喻，这就好像大厦水泥基柱中的钢筋一样，保证了数据非常高的安全性。比拟较而言，部分不那么爱好安全的平台，可能会先把大厦开发起来，然后再在外面贴保温层、驻守层加固。持久来看，这种样貌的大厦是挣扎不了台风等恶劣环境的。

不仅如斯，火山方舟的安全团队零丁于其它团队除外，领有一批优秀的工程师，随时准备应付表里部的安全测试。字节逾越里面有有利的蓝军攻防系统，随时可能进行各个角度浸透攻击，零丁考据火山方舟的安全决策。从日、周、月、到季度，火山方舟简直齐有不同级别的安全演练。

吴迪曾屡次默示，站在第一天，咱们就着眼于明天的 5 年或者 10 年时分，从第一天就知说念取得客户的信任是一件非常膺惩的事情。

03

怎么帮客户已毕「会话无痕」

恰是基于从运行就把安全手脚一项基本功能的理念，以及对生成式AI出路的敬佩，火山方舟对安全的参加绝不惜惜，标的也越走越明，研发出一套全周期的安全委果决策。

具体而言，这套决策主要包括四大才略：链路全加密、数据高守密、环境强壅塞，以及操作可审计。

如斯说来，不少用户粗心会感到晦涩难解，咱们不妨稍加张开。

所谓“链路全加密” ，包括收集层传输加密和应用层会话加密决策，粗浅来讲，它主要用来退守用户数据在传输链路阶段被截获；“数据高守密”保证用户数据仅本东说念主可见；环境强壅塞，用于根绝外部风险入侵、里面数据泄密，就好像一座安全堡垒；“操作可审计”仿佛一座远望塔，能够匡助用户检讨简直一切影响其数据金钱的操作记载。

统共这个词决策四大才略围绕数据传输、数据使用、数据静态存储等阶段相互互助，共同接力于于莳植用户在使用模子时的安全性， 为平台提供了全周期的安全才略，最终已毕会话无痕（你的数据，唯你可见，唯你所用，唯你统共）的安全沟通。

跟着大模子普及，企业着力得到莳植的同期，对数据安全的需求也在不休迭代更新。

晓多科技是一家智能客服的SaaS企业，围绕大模子作念了两款零丁居品，其一是通过豆包大模子模拟买家检修新东说念主客服，上岗时分镌汰了一半以上。其二是，联接晓多原有的常识库，豆包大模子加成后，在客服接线时针对商品常识问答、商品对比、商品保举等复杂场景，给东说念主工客服提供副驾驶才略。

晓多科技首席技巧官向海直言，他们在为客户提供线就业才略过程中，也要保证走访链路的加密和佃农数据的壅塞。“这个过程跟方舟念念路差未几的，诚然，参加笃定没（方舟）那么大。”向海笑着说说念。

向海坦言，在莫得大模子时，前述居品是很难作念出来的。只好有了生成才略，才调大宗模拟买家，去与新的客服东说念主员对话。豆包大模子出现以后，非常是，经过半年围绕客户委果需求精调后，客户气象了，居品才调作念出来。

从安全角度讲，客户把我方的常识、培训本色、技巧，以至于经由齐固化到居品中，其中一部分造成参数，径直被集成到教导词中。不管是晓多科技，照旧他们就业的商家，齐非常怜惜方舟是怎么保证这些承载用户常识数据安全性的。

回到方舟的安全决策，其不折不扣的沟通一样齐是保证用户数据已毕「会话无痕」。关连审计日记充分灵通向用户灵通，也在很猛进度上给客户吃下了一颗省心丸。

从出生于今一年多时分，火山方舟一径直力于于提高用户数据金钱(模子、会话数据、检修数据等)的安全水位。火山方舟厚爱东说念主吴迪在直播中默示，现在火山方舟也曾达到Don't be evil（不非法）。这意味着，方舟平台能保证除了用户外的任何方一朝作念恶（违抗方舟的数据安全战略），齐能够第一时分被用户或者方舟的安全团队发现并追责。

不外，Don't be evil 只可算是一个基础安全水位。长期而看，Can't be evil 才是火山方舟永远追求的安全沟通。吴迪也坦言，信息安全有个特色，只可接近满分，但永远无法达到。

在被问说念，与客户斗争过程中有莫得印象潜入的故事，吴迪开打趣般说到：“我以为安全方面莫得故事，只功德故。”

但咱们反过来想，一直以来，火山方舟齐莫得发惹事故，偶然等于最佳的故事，亦然最朴素的果真。

BAT云销售，涌入火山引擎

火山引擎To B，一场字节数据技巧教师的复刻之旅

多云期间到来，火山引擎「弯说念超车」进行时