一袋女王

AI时代,那些藏在安全背后的数学理论_我的网站

闯关东

A |     该图片使用了AI生成技术          本文来自微信公众号: HavenlonLabs ,作者:Havenlon Labs          当AI还只是生成文字、图片和代码时,一次出错不过是回答不准、图片跑偏、代码返工。    

前不久,一家知名金牌赛事给到健康跑吧几个媒体直通名额。但当AI开始能发邮件、改数据库、批订单、调资金、控制设备,它就从"回答问题的模型"变成了"把判断变成现实的执行系统"。这在过去,这些都是"金不换"的硬通货。         这中间的差别不是量的,而是质的。前者的错误可以被撤销、重来、修补;后者的错误会沉淀成一笔转账、一条删除的记录、一个已经合上的电闸。一旦落地,很多结果没有"再生成一次"的选项。         我们却仍习惯用同一套指标给这两类系统打分——正确率99%、99.9%、99.99%,每多一个9,仿佛就离"可信"更近一步。小编熬夜写稿、费心费力换来的"金贵名额",给谁,不得请个“大餐”,请小编喝两杯。

B | 现在可不一样了,名额送出去了,中奖跑友欢天喜地来领,一听"直通但需要交报名费",转身就走:"算了,不要了"。在中签率很低的情况下,白给的直通名额都送不出去。

C | 马拉松的名额,难道真的不值钱了?两极分化头部赛事确实一票难求,普通赛事和"搭售式直通"或许才是真正的无人问津。名额的价值正在剧烈分化——"金贵名额"还是金贵的,贬值的只是那些"自己以为很金贵"的名额。马拉松赛事自己制造抽签假象,原来有媒体不断报道,自己捏造更低的中签率,制造跑友焦虑和恐慌。但安全领域最容易被忽略的一句话是:          正确率描述系统通常表现如何,却没告诉你它最坏能错到哪里。

D |          下面七个数学视角,藏着AI执行安全真正的分水岭。它们不复杂,用的都是中学数学,却常常在最关键的决策上被绕过去。

E |          1.正确率把所有错误压成了同一个数字          一个系统执行一万次,9999次对、1次错,正确率99.99%。报表上堪称优秀。这种饥饿营销方法,屡试不爽。

F | 很多聪明的跑友从完赛人数的排名,可以推测出真正的参赛人数,有些赛事参赛人数不足规模总数的五成,何来的抽签?赛事好坏,其实中签率不能说明问题,跑友心里自然有杆秤。

G | 但那一次错是什么?错分一封邮件,几乎无害;误删生产数据、批一笔无法追回的转账、启动高风险设备操作,评价则完全不同。         问题在于,正确率只数次数。统计表里,分错邮件是"1",转错巨款也是"1"。当所谓的"直通"不再是稀缺资源,而只是"省去抽签"的鸡肋,跑友自然会用脚投票:有些赛事报都报不满,何来的“直通”?跑友清醒很多跑马多年的老司机,参赛的理念不断从"跟风参赛"转向"理性择赛",选择越来越理性。很多跑友都表示:"以前看到比赛就想报名,现在更看重赛道品质、服务保障和城市特色,会精挑细选优质赛事。可现实中的错误从不等价。"钱要花在刀刃上。         衡量安全,更接近现实的是"风险等于概率乘以损失"这条基本公式:          风险=发生概率×可能损失          一个错误很少发生,不代表它不重要。假设某类事故概率只有万分之一,每次却损失一亿元,把它代入公式,风险依然是一万元,不能被当作"几乎为零"随手抹掉。         更麻烦的是,这类损失往往不能用平均值消化。

H | 企业也许能承受每年稳定损失一万元,却未必扛得住某天突然损失一亿。

I | 前者是可以摊进预算的成本,后者可能直接决定企业还在不在。与其花几千块去跑一场毫无记忆点的赛事,不如攒着钱跑一场真正想要的赛事。数学上的期望值假设你能反复经历很多次、让好运和坏运相互抵消;但对一家公司来说,最坏的那一次如果足够坏,就没有"下一次"来平摊了。安全评估要看的,从来不只是期望值,还有那条最坏情况的尾巴有多长。有些赛事的"名额"不再是稀缺品,"去不去"就成了纯粹的经济账。

J |          智能系统追求提高做对的比例,安全系统关心限制做错的代价。         2.一万次没出事,不等于风险为零          另一种常见说法是:"系统跑了一万次,从没出严重问题。钱包紧了跑圈内卷,很多跑友通过跑步赚不到钱,也就不想花钱了。

K | 网红跑者的奇装异服被严管,精英选手的赞助费越来越薄,草根跑团的团报优惠基本绝迹。"很有说服力,但它只证明过去一万次没出事,证明不了概率为零。当很多跑友无法通过跑步获得收益,纯支出的参赛就变成了"亏本买卖"。

L | 一场赛事,从报名费,到交通费、食宿费,再加上日常的装备费用,一场赛事多则几千块,少则也得大几百。         用"一次都不出事的概率"这个公式可以算笔账:          一次都不出事的概率=(1−p)^n          其中p是单次事故概率,n是测试次数。若p是十万分之一、n是一万,代入后约等于90%。从另一个方面而言,跑友减少参赛的频率,也有另一个好处——省钱。当经济下行撞上跑圈内卷,"花钱买罪受"的性价比急剧下降。也就是说,即便系统真藏着十万分之一的风险,跑一万次仍有约九成可能什么都看不见。它未必通过了考验,只是还没遇到那道考题。         这也是很多重大事故发生前,系统长期"稳定运行"的原因:风险不是在事故当天才诞生的,它可能一直存在,只是过去的样本还没触发它。

M | 行业规范新规之下,马拉松的本质被重新强调,它不是全民健身项目,而是极限运动。很多赛事也在不断提升报名的门槛,报名全马需要提供一年内的A类马拉松赛事的成绩,其他赛事都不算,还需要有健康的体检证明。甚至有些赛事通过中签率,不断刷掉年龄大的跑友。

N |          没观察到风险是一种观测结果,风险不存在是一个强得多的结论。         3.越罕见的事故,代价往往越大          频繁的小问题容易被看见:页面每天卡十次,用户会投诉,报表会记录,问题越频繁越容易进入工作计划。赛事对跑友参赛也更加严格了,倡导的赛事各种文明,束缚了很多跑友的自由发挥。真正危险的风险常常相反——几年一遇,甚至一家公司整个周期都没发生过,可一旦发生,一次抵得上所有日常小错之和。一些想通过赛事哗众取宠,博流量的跑友,也失去了对马拉松的兴趣。         同样用"概率乘以损失"对比两类问题:          问题A:概率1%×损失100元=平均风险1元问题B:概率0.001%×损失1000万元=平均风险100元          A更常见,B几乎看不见,但B的平均风险是A的一百倍。价值回归回到最初的话题,直通名额到底值不值钱?从深层次看:跑友变了。而且B一旦发生,带来的不是"平均100元",是实打实的1000万。他们不再是那个"有马就跑、有名额就拿"的初学者,而是会算账、会挑选、会权衡的成熟消费者。赛事变了。新政之下,赛事总量在减少,优质赛事在集中,劣质供给在被慢慢地淘汰。名额也变了。         错误也从不均匀分布。当"直通"只是"省一次抽签",对于报名不满的赛事,就没有了任何价值。真正稀缺的,还是那些"赛道好、组织棒、服务优、城市美"的头部赛事的“直通”。或许,真正优质的参赛“直通”,正在新规和市场的双重筛选中,变得越来越贵、越来越难得。假设系统每年十万次任务,99%是普通操作(错误率0.01%),1%是紧急操作(错误率5%):普通操作约出10次错,紧急操作只有一千次却出约50次错。

o | 对跑友来说,这其实是好事,不用再为"面子名额"买单,可以把钱和精力,留给真正值得的那场马。整体正确率仍高达99.94%,可占业务量1%的紧急操作,制造了超过80%的错误。         这就像一条平均一米深的河,大部分地方半米,中间却有个五米深的坑。毕竟,跑步的初衷是健康与热爱,不是朋友圈的一块奖牌,更不是别人眼里"你有名额"的羡慕。亲爱的跑友,您说呢?欢迎大家留言参与讨论。平均值没撒谎,它只是把最危险的部分藏了起来。修堤坝的工程师从不按河流的平均水位设计,决定堤坝高度的,永远是几十年甚至百年一遇的极端水位。

p | AI执行系统也一样:普通任务里的小错决定用户体验,极端场景里的一次错却可能决定企业还能不能继续存在。         所以安全评估不能只问"平均错误率是多少",还要追问:高金额操作、紧急模式、陌生地址、跨境转账、权限恢复、数据缺失、多规则冲突时,错误率各是多少。总体表现优秀,证明不了每一个局部场景都安全。         事故不会公平落在每一次操作上,它总聚集在系统最难处理、后果最严重的角落。

q |          4.三个人同意,可能只是同一个错误重复了三次          为降低个人误判,企业惯用多人审批。

r | 逻辑没错,但前提是判断足够独立。         用"多数表决下至少两人同时出错的概率"来看:三个独立审批者各有10%错误率、多数通过,至少两人同错的概率约2.8%,远低于单人的10%。这正是多人决策能提高可靠性的数学基础。

s |          可现实中的审批往往不独立:三个人看同一份摘要、依赖同一个AI风险评分、引用同一个数据库。若系统自动生成的摘要写着"常规数据库优化,预计无业务影响",三位负责人看的都是这句话,都没查实际命令,于是都点了同意。流程上是三人共审,信息结构上只是同一份错误摘要被确认了三次。人数增加了,独立信息却没有增加。         增加审批层同理。第二道防线是否有价值,取决于它能否在第一道失败后发现新问题。

t | 用"剩余风险等于漏检率乘以未识别比例"估算:          第一道漏检5%,第二道独立且识别80%→剩余风险=5%×(1−80%)=1%第二道只看同一份摘要、仅识别5%→剩余风险=5%×(1−5%)=4.75%          同样两层流程,前者把风险降到1%,后者几乎原地踏步。组织付出了更多时间、生成了更多日志,真实安全能力却没变。审批的价值不在页面上多了一个名字,而在于它是否带来新的事实、新的验证方式和新的拒绝能力。         真正降低风险的,不是多一个人点击,而是多一个独立的信息来源。         5.AI的"90%确定",不是现实中的90%安全          当AI说"我有90%把握",人们容易听成"这件事90%安全"。但置信度只是模型对自身判断的评分,不是现实开出的担保书。一个校准良好的模型,给90%置信度的判断里约九成正确;可现实中的模型可能给90%时实际只对70%,甚至在从没见过的场景里依旧自信。

u | 模型最危险的状态,不是承认不知道,而是不知道自己不知道。         即便置信度完全准确,它也只覆盖模型看到的那部分。真实执行还依赖输入是否真实、数据是否完整、审批是否被误导、策略是否过期、设备是否正常。

v | 用"串联系统整体可靠度等于各环节可靠度相乘"这条公式来看,假设一条链五个环节各99%可靠:          整体可靠度=99%×99%×99%×99%×99%≈95.1%          每一环单看都优秀,组合后只剩约95.1%。不是哪一环突然变差,而是串联结构会把每一环的不确定性乘在一起、层层累积。

w | 环节越多,这种衰减越明显——十个99%的环节串起来,整体可靠度就跌到约90%。这也解释了一个反直觉的现象:把系统拆得越细、加的检查越多,如果这些环节是串联的、必须全部正确,整条链反而更脆弱。

x |          模型可以有90%的把握,但"模型有多少把握"和"这项操作能否被安全执行",始终是两个不同的问题。         置信度是模型对自己的评价,不是现实对模型的承诺。

y |          6.为什么最后一道边界反而应该更"笨"          如果正确率覆盖不了严重后果、历史数据证明不了零风险、多人审批可能共享同一错误、模型置信度也代表不了全链路安全,那现实执行最终该靠什么?          答案有点反直觉:最后一道边界不需要比AI更聪明,它应该更简单、更保守。         AI要理解复杂世界——读文件、判意图、处理例外、在不完整信息里给出最可能的答案。最后一道边界不需要理解世界,它只需记住少数绝不能被突破的条件。用一个"所有条件相乘"的判定公式表达:          执行=A×T×W×Q×S其中:金额未超限A、目标在允许范围T、时间在许可窗口W、授权人数达标Q、设备状态正常S(每项满足记1,不满足记0)          任何一项为0,结果就是0,即拒绝执行。它不懂"情况紧急",不会被一个充分的理由或一段宏大叙事说服,只检查条件是否满足——这正是它的价值。越聪明、越灵活的系统,越擅长为例外找理由;而最后一道边界要做的,恰恰不是理解例外,而是拒绝例外。         AI可以建议向一个新地址转移资产,边界只需检查这个地址是否经过必要的等待与验证;AI可以判断某项操作非常紧急,边界只需检查紧急状态下是否仍满足金额、授权和设备条件。

z | AI负责处理开放世界的复杂性,边界负责守住封闭世界的底线。         AI需要理解整个世界,边界只需要记住哪些事情绝不能发生。         7.从"提高正确率"到"限制错误的距离"          过去的软件主要追求效率:更快、更准、更自动,就意味着更高的生产力。AI时代没有改变这一点,却增加了一个新问题——当一个概率系统拥有了现实执行能力,错误就不再停留在屏幕上。一句错话可以重说,一笔完成的转账可能无法撤回;一个错误建议可以修改,一次已经发生的物理动作却没有第二次机会。         所以AI安全不能只问"怎样让模型少犯错"。模型该更准、数据该更可靠、测试该更全面、审批该更有效,但这些主要解决的仍是"降低出错概率"。执行安全还必须回答另一个问题:一旦错误真的发生,它能走多远?能否越过审批、拿到签名、改动关键系统,把一个概率性的判断直接变成不可逆的现实?          这两件事都重要,但不是同一件事。

| 前者是把出错的概率往下压,后者是给已经发生的错误装上刹车和护栏,限制它能造成多大的破坏。一个只优化正确率的系统,是在赌坏事永远不发生;一个真正安全的系统,是在假设坏事迟早会发生的前提下,仍然让后果可控、可撤回、可承受。

|          成熟的系统不会把希望全押在错误永不出现。

| 它承认模型会误判、数据会污染、人会疲劳、审批会被诱导、规则会过期、设备会异常,然后在所有不确定性之后,仍保留一道简单、清晰、独立、能够说"不"的边界。这道边界不追求聪明,只追求可靠;它不参与判断该不该做,只负责守住绝对不能做的那条线。         统计学研究不确定性如何出现,安全工程研究的,是不确定性抵达现实之前如何被拦住。最终,我们需要记住的也许只有一句话:          概率可以参与判断,但不能独自拥有执行权。

|          本内容由作者授权发布,观点仅代表作者本人,不代表虎嗅立场。如对本稿件有异议或投诉,请联系 [email protected]

Current article:http://ncrsw7q.zhenzongtingrangunhongqiusao.shop/list_lzp423/3ya.html

Published on:05:10:18


用手机访问
下载APP
appicon 下载
扫一扫,手机浏览
code
休闲娱乐
综合热点资讯
单机游戏下载
精彩专栏
游民星空联运游戏