#读书备忘笔记#

万维钢·精英日课⁵/81
AI专题6：AI负责预测，人负责判断

人到底有什么能力是不可被AI替代的？

AI和人分工的指导原则
双方共同做出决策：AI负责预测，人负责判断。

真实的案例：2018年，网约车Uber的自动驾驶汽车在亚利桑那州撞死了一个行人，引起了激烈的讨论。

把刹车决定分为「预测」和「判断」两步。
Uber AI 用的是阈值判断法，如果对前方任何一个是人的概率不为0的物体，AI都选择刹车，它就会在路上不停地踩刹车，这车就没法开了。当然你可以说这个阈值不合理，但是这里总是需要一个判断。

很多人类司机撞人的事件，从来没有人去分析那个司机是犯了预测错误还是判断错误。
那人犯的到底是预测错误，还是判断错误？

✵决策 = 预测 + 判断。
预测，是告诉你发生各种结果的概率是多少：判断，是对于每一种结果，你在多大程度上愿意接受。

AI很擅长预测天气概率，但是判断一个天气状况带来的后果，需要更多的、具体的、也许只有你自己才知道的信息，所以做判断的应该是你而不是AI。

AI时代的决策 = AI的预测 + 人的判断

我们承认AI比人聪明，但是我们也知道真正承受风险、体验后果的是人而不是AI。预测是客观的，判断是主观的。AI不能僭越人的判断，人也不应该专断AI的预测。AI与人各安其位，分工明确。

✵如何实施这个分工呢？一个方法是人为给AI设定一个自动判断门槛。

比如自动驾驶汽车，我们可以规定，当AI预测前方物体是人的概率高于0.01%——或者0.00001%也行，反正你得有个不为零的数值——的时候就必须踩刹车。这个判断标准，这条线，肯定不是AI自己规定的，而是人事先设定的。你把这条线编程到AI之中，但是下达那条编程指令的必须得是人——因为只有人能判断人命的价值：对AI来说，人命的价值是无法用客观方法估算的。

✵另一个方法是把判断量化成钱。

你租了一辆车，要去一个比较远的地方，你有两条路线可选。第一条比较直，老老实实开车就行，路上没什么风景。第二条会经过一个风景区，对你来说是一种享受，但是风景区里有行人，会增加出事故的概率。如果AI直接跟你说哪条路出事故的概率有多大，你可能还是不好判断。

更方便的做法是，AI告诉你，走风景区那条路，租车的保险费比走第一条路高1块钱。这一块钱的保险费代表AI对两条路风险差异的预测。

现在判断交给你。如果你认为风景对你的重要性超过1块钱，那你就走风景区；如果你对风景没有那么高的兴趣，你就省下1块钱。

你在这一块钱和风景之间的选择。

「显性偏好」
人的很多偏好本来是说不清的，但是一跟钱挂钩就能说清了。

✵预测跟判断脱钩，对人是一种赋能。

判断，有很大的主观成分。判断力和随之而来的决策力，本质上是一种权力——AI没有权力。这就是《权力与预测》这本书书名的缘起。

✵当AI接管了预测之后，决策权力在社会层面和公司组织层面的行使就成了一个新问题。

有个例子。因为知道了铅对人体有害，从1986年开始，美国政府禁止新建筑物使用含铅的饮用水管。可是很多旧建筑物的水管都含铅，这就有一个对旧水管的改造问题。但是改造非常费钱费力，旧水管又不都含铅，你得先把水管挖出来才知道是否含铅，那先挖谁家的呢？

2017年，密歇根大学的两个教授搞了一个AI，能以80%的准确率预测哪家的水管含铅。密歇根州的弗林特市使用了这个AI。一开始都挺好，市政府安排施工队根据AI的预测给各个居民家换水管。

工程这样进行了一段时间之后，有些居民不干了。他们质疑说，为什么我家邻居水管换了，我家的却没换？特别有富裕居民区的人说，为什么先去换那些贫困地区的水管，难道不是我们交的税更多吗？

收到这么抱怨，弗林特市的市长就干脆决定不听AI的了，咱挨家挨户慢慢换。结果这样一来，决策准确率一下子从80%降到了15%……又过了一段时间，是美国法院推出一个法案，说换水管这个决策必须先听AI的预测，决策准确性才又提高回来——

这件事儿的道理是AI改变了决策权。没有AI的预测，因为只有政府能预测和判断谁家水管应该先换，决策权是完全把持在政客手里；有了AI，老百姓或者社区都可以自己判断，尤其美国三权分立，司法系统也可以直接发话，政客就不好使了。

✵决策权到底应该属于谁呢？从经济学角度来说，当然是谁决策对整个组织的效率最高，就应该属于谁。

以前预测和判断不分的时候，决策权往往应该交给一线人员，因为他们直接接触关键信息，他们的预测最准确——正所谓「让听得见炮火的人指挥」。

当AI接管了预测，以前的预测者就转型为判断者，或者解释者。

*天气预报由AI预测，天气预报机构的职责也许就变成了向公众和政府机构解释预测结果。未来的气象台可能更多地是提供人性化服务，比如建议老百姓明天怎么制定出行计划，而不仅仅是预报一个下雪概率。

*AI看图的能力已经超过了人类，那么放射科医生看图预测病情这一工作将被AI取代。

✵把决策权交给AI会让人很难受。
AI再厉害，我们也不愿意把它奉为神灵——AI最好老老实实扮演助手或者祭司的角色，拍板权还是应该在人的手里。

18年的中秋节拍了一个格桑花的视频，那天天特别蓝，万里无云，衬的花特别干净，然后就好多人点赞，当时开心的不得了，真的是开心到跳起来，然后也是同一天随手拍的黄色的小花爆火，对于一个普通抖音用户来说，真的是爆火，好多都是从这个视频关注的我，真的超开心，后来我之前拍的记录风景的视频也被大家看到点赞，有一种我眼中的风景被大家认可的感觉，很幸运有了几万粉丝，视频的曝光也带来了一些人的不怀好意，有的人搬走了视频去掉了水印，去吸引网友说这是她的视频，她是原创，当我联系她她却反咬一口说我是盗了别人视频，当时很生气，说实话，她拿了我的视频点赞还比我多我当然心里不爽，后来发现快手也有盗的，然而这个抖音盗取视频的人是从快手那里盗的，我举报了快手，也曝光了这个女生，很气，你发了也就罢了，居然还反咬一口，然后就是互骂…后来这个风波过了以后，慢慢的我也很少拍视频了，粉丝也慢慢掉了一些，因为有了这样特别的关注，我很少发私人的视频，很多可爱的网友在评论艾特自己的朋友或者喜欢的人来看，那些留言特别可爱，想想那时候真的很快乐，现在懒得很，没有精力去拍花花草草，评论偶尔有人来考古，偶尔有几个人关注，虽然粉丝掉了很多，但是有你们在真的很感动，夜深了翻了翻之前的抖音，想要发表一下感受，那年真的很开心，主要的快乐大部分来自演唱会，哈哈，对了，后来也火了几个视频，有一个下雪的是朋友拍的，很多没见过雪的南方小朋友发表疑问，这是真实存在的吗，哈哈，很可爱~突然不知道该怎么收尾，那么就晚安吧，我只是怀念一下18年的夏天，许个愿！五月天北京鸟巢见[打call]

今天的不顺心从第三张开始 手机卡烧掉了 上午没当回事 下午要用的时候发现用不了 怎么弄都不好使 果断出发移动大厅 到了 他告诉我需要本人到场（我的卡还是用我妈妈的办的 [泪]）打电话给我妈妈 卡弄好了也把名字改成我了 但是痛失我32块钱[泪]我的悲伤 弄卡20元 打车12元 真的心碎 去店里买菠萝 中间黑了（第1⃣️张）我最喜欢吃的就是中间[泪][泪]已经心痛了 紧接着回到家 吃菠萝的时候咬到舌头 真nm喝凉水都冰牙
接下来我们看向第5⃣️张 这是几天前了 海鲜店的员工欺骗我 我最近看网上吃文贝巨香 又大又肥 肯定很好吃 我又一次果断出击 买去了 它上面写的什么甲戈贝 还是啥忘了 我就问有没有文贝 他说这个就是好几种叫法 绝对回来 人家视频里的一个赶我8个大 我的这个小的塞牙缝都不够 [泪][泪][泪] 别管了我的悲伤太多了
还有我要吐槽 什么sb 天气 这时候还下雪 冻死了 就不能赶快晴天感觉升温吗 [吐]