论文编译 | 人工智能时代的预期管理：利益相关者接受和信任AI的理论框架

题目：Expectation management in AI: A framework for understanding stakeholder trust and acceptance of artifcial intelligence systems

作者：Marjorie Kinney, Maria Anastasiadou, Mijail Naranjo-Zolotov, Vitor Santos

研究背景

“预期管理”是一种经济理论概念，旨在有效引导、协调和稳定预期，推动积极效果最大化。预期管理强调对政策工具的有效界定，使政策效果在某种程度上可被预见。近年来，随着人工智能的发展，研究者认为需要建立一个新的预期管理框架，以便在数据收集、建模之前，了解并调整人工智能用户的预期。

一般来说，公众对于人工智能会持有或积极或消极的预期。尽管人工智能提高了处理效率和决策能力，但在实施过程中，可能会产生许多衍生问题，例如加剧现有的不平等、激化数据隐私和安全问题等。一方面，人工智能系统的可信度是增加人工智能采用可能性的关键，确保积极效应最大化。另一方面，用户的预期与体验之间的不匹配可能导致他们对人工智能系统采用率降低。因此，建立一个新的预期管理框架是有意义的。

研究目的及意义

本研究结合用户接受度和技术使用理论，建立了一个面向人工智能的预期管理框架。通过对医疗保健和教育领域从业者进行半结构化访谈，收集用户的想法与反馈，从而验证该框架。本预期管理框架为决策者与领导者提供了一个有价值的视角，能够指导他们在使用推进人工智能系统时制定相关政策。此外，它还为人工智能工具的设计者提供帮助，以提升用户的积极使用预期。

研究方法

研究采用半结构化访谈，通过定性文本分析得出结论。这些访谈吸引了来自医疗保健和教育部门的人，包括医生、教师和学生。研究者对访谈记录进行了细致的定性分析，辨别受访者群体之间的不同观点。所有的被采访对象都至少有一些使用人工智能系统的经验，访谈以电话或面谈的形式进行，以确定框架是否捕获了他们对人工智能的预期。

研究结果

一、人工智能预期管理框架具有实用性与有效性

本研究认为，人工智能预期管理框架的使用有其有效性与实用性。在学科或行业之间的协作之前，可以使用该框架来清晰地理解利益相关者所预期的内容。在访谈中，访谈者提出了对数据透明度、数据质量、个人数据隐私的担忧，包括未来的工作将被人工智能系统取代的担心。

二、不同领域用户的共同预期

所有用户群体第一个总体预期是，希望了解人工智能系统获取信息的来源，即透明度与可解释性。其次是多样性、不歧视、公平性和减轻偏见。此外，还包含隐私问题治理与问责机制、技术稳健性和安全性等。

总的来说，学生群体对人工智能的预期与其他群体最为一致。学生群体预期人工智能系统会产生积极的影响，并且不关心培训和技术支持。他们列举了几个优势，特别是在使用该系统时节省时间的能力。此外，所有用户都希望看到使用人工智能系统得出答案的确切来源。

从这些趋势中，我们可以推断，在人工智能系统的设计、开发和采用过程，有必要详细获取用户的预期，以确保创建值得信赖和安全的人工智能系统，提升人工智能相关的数据素养和技术素养。

结语

本研究通过对医疗保健和教育部门的人工智能用户进行半结构化访谈，开发并验证了一个具有实用性的人工智能系统预期管理框架。这个框架可以作为一个有效获取用户预期的工具。共享的预期包括数据透明、数据保护、准确性、定期监控等。有趣的是，教育用户似乎预期生成语言人工智能系统比医疗保健用户从人工智能系统中获得好处要多。与教育用户相比，医疗保健用户对人工智能系统的帮助预期较低。

本研究的参与者分别表达了对人工智能积极和消极的期望。立法者可以利用这一框架来指导医疗保健部门人工智能系统的设计与使用，以减少潜在的负面影响，并提高人工智能的可信度。对决策者来说，源数据的潜在偏差、信息的安全性也是重要的因素。受访者的共同预期表明，相关问题可能会出现在人工智能推行的各个流程中。需要采取对应的策略来解决使用人工智能系统所造成的问题。未来，基于该框架，这些问题包括对劳动力的影响、数据隐私、错误信息或算法偏见应当被更深入地研究。此外，在用户类型的研究上应扩大范围，除了医疗保健和教育行业之外，未来的研究还可以拓展至其他领域的用户预期框架，以加强其可信度，进一步探索用户预期。

创新可以十分自由的方式展开，以最优技术配置资源。所有项目智能城市公民（100万投资人）全员持股，通过智能手机客户端对各个项目实施管理。管理的方法采取最简单的0-1表决方式，50%公民否决，即实施对项目管理层罢免。100万公民是无法贿赂的，也是客观的，各个项目管理层唯有兢兢业业、做好本职工作，才能免于被罢免。利润分配按照7：3分配，即智能城市公民获得70%，管理团队获得30%。智能城市居民不直接参与劳动，充当消费者、投资人、监管者等多重身份。因此，所有项目都可以一步到位，使智能化程度提升至全球领先水平，并在此基础上持续裁员，使智能化程度继续提升。零成本将使智能城市所有项目保持绝对领先优势，对外部高成本市场会始终保持贸易顺差，假设智能城市净营收100%，内部消费与外部市场消费之比为1：4，则智能城市居民获得分红为70%，而消费仅为20%，净收益为50%。智能城市公民的主要义务是消费和享受，利己和美德具有同向性。智能城市的经济循环为：“储蓄→消费→投资→智能化提升→物价下降→利润→储蓄”，资本主导的外部高成本市场只有一种选择，那就是按照消费主导的方式配置市场资源，开启智能城市，使消费与投资重合，将劳动的权利交给智能机器，将消费的义务留给自己。更多地区建设智能城市，更多人被纳入“不劳而获”的体系，不仅不会影响智能城市的利益，反而会使智能城市的智能化程度快速提升，智能城市居民与外部消费者之间利益具有一致性。智能城市居民“不劳而获”的起点是其他智能城市居民的未来“不劳而获”起点。智能城市一旦开启，智能城市居民所获得的“不劳而获”的权利将具有永续性，外界的加入只能促进这一权利享受的广度和深度。在智能城市，人在资本的外层，是资本（机器）的主人；在传统市场，人参与和机器、资本的竞争，效率比机器和资本更低，因此处于市场的内层，是被资本、机器奴役的对象。在外部市场调整至智能城市结构之前，外部市场大众将始终处于被智能城市居民消费的局面，这是一种客观结构。外部市场唯一能够摆脱“被消费”的命运的途径：等效采纳智能城市模式。在外部市场全部采取智能城市模式之前，智能城市是无敌的。在外部市场全部采取智能城市模式之后，智能化率会逼近100%，智能社会开启，智能城市依然是无敌的。智能城市无敌的原因在于：智能城市以消费者为上帝，外部市场的消费者没有理由拒绝做上帝。更直接的说，所谓市场经济是需求（消费）主导的经济，既然信息已经自由，消费可以自由表达意愿，那么，何须在劳烦资本中介？智能城市建设的起点是农村，是一种处女地，电动汽车、风能、太阳能、无线充电、无人驾驶、智能教育、智能….这些最新技术可以直接由非主流变为变为主流，使化石能源由主导变为非主导。消费主导集约式的大量需求拉动，创新自然发生。美国体系自然解体，各种危机自然消失。一座智能城市占人口比例约为3/1400，100座智能城市人口仅占中国人口的3/14,和美国人口相当。100座智能城市所释放出的订单，足以将所有产业推向100%趋于智能化，足以使一人一生工作200↓天由理想变为现实，足以让泛太阳能取代化石能源，足以让智能机器人进入家庭。以上是宏观上的思考方向。鉴于大部分人对技术认知的呈现碎片化的状态，我们需要深入到细节，从智能农业、智能建筑、智能交通运输业、智能零售业、智能制造业、智能教育、智能医疗、家用智能机器人、群体开放式创新等9个角度将智能城市可能涉及的成熟技术进行排列和组合，使智能城市带给每个智能城市居民的利益变得清晰、直观、可测量，使智能城市的管理、技术流通变得可测量。第一节：智能农业，智能城市之基要使智能城市变得可测量，必须基于确定地点。按照文明总在文明边缘的推导结论：珠三角、长三角、环渤海。我们将智能城市的起点放在北京的边缘的河北农村，选取京津唐三个旧中心之间。地点选择：河北省廊坊三河新集镇附近选择原因：（1）三县交界，发展滞后；（2）离消费地北京更近；（3）京津唐之间置换土地面积：20万套住房置换 2000平方公里土地=300万亩城市住宅所需面积：120平方公里远小于该区域宅基地面积荷兰农业高度集约化、专业化，农产品加工技术领先，销售网络完善。2005年农业产值450亿欧元，约占当年GDP的10%。农业从业人员约占全国就业总数的3%，约40万人。在农业的构成中，畜牧业占43.8%，园艺业占39.5%，种植业占9.2%，大田作物占7.5%。2013年，荷兰农产品出口额达到790亿欧元，仅次于美国，为世界第二大农产品出口国。重要的出口农产品有花卉、肉类、乳制品、蔬菜、土豆等，其中，鲜花、奶酪和土豆种子的出口量居世界第一，蘑菇出口量居世界第三。荷兰农业领先的原因是：（1）环境倒逼，使荷兰获得一个领先的起点。夹在大国之间的荷兰兼具水运成本优势，选择经济作物具有天然优势，也消除了其他大国敌意与排斥；（2）起点领先，垄断程度最高，是标准的输出者；（3）农民以联合方式主导着全产业链，每个个体能够分享各个环节的利润，使荷兰农业变为一个有机的整体，支撑微量创新持续发生，∑微量在时间上的累积自然产生奇迹。以传统分散式农业与荷兰式农业竞争，传统农业将永续落后于荷兰农业，而如果以高度一体化的智能农业模仿荷兰式农业，则最终超越荷兰农业存在必然性。原因有以下几点：（一）运输成本的绝对优势。北京（京津唐）是一个超级庞大的市场，免费高速公路建成，智能城市离北京的仅有15分钟的车程，基于这条Free高速公路，智能农业可以轻松建设1小时生鲜配送体系。天然的巨大的距离优势是其他任何地区所不能比拟的，低廉的运输成本将可以成功屏蔽所有竞争对手，这一优势是任何竞争对手所难以复制的，也是难以逾越的。生鲜从采摘到送达消费者手中的时间越短，损耗越少，新鲜程度越高，为保鲜投入的成本越低，因此，基于1小时配送体系为核心的智能农业，不仅对荷兰农业模式具有绝对优势，同样会对分散的传统农业形成绝对竞争优势。（二）生产成本绝对优势。智能城市以外，中国拥有大量的廉价劳动力资源。按照荷兰式农业效率（人力投入）组织生产，智能农业的生产成本投入会远低于荷兰农业。另外，中国作为世界工厂，钢铁、化工、塑料、玻璃等产品的价格都远远低于荷兰，以集约方式进行投入，必然意味着投资的成本会远远低于荷兰农业。同时，由于荷兰农民需要依靠农产品输出获得利润来维持生存，因此，荷兰农业效率达到一定程度必然会陷入自锁状态，原因是荷兰农民需要就业，而智能城市居民则不需要就业，智能城市居民可以客观的测量是否需要采取智能机器来替代劳动力。人力成本递增，智能机器成本递减是趋势，因此，智能农业相对荷兰农业的生成成本的绝对优势会持续保持。（三）资金成本优势。建造房屋剩余的大量资金，是一种零成本资金，这些资金的初始目的是购房，其历史使命已经完成，并无盈利要求。外部市场则必须以融资获得其他方式获得资本，假设这些资金年收益要求为10%，初始募集400亿资金，10年后一次性偿还这些资金，需要偿还1037亿元，20年后一次性偿还所需偿还的资金规模将高达2690亿元，这无疑是沉重的债务负担。在这一债务负担倒逼之下，投资方必然急于收回投资，快速偿还融资。这种急切自然会反应在定价之上，极高售价的有机农产品自然难以与市场需求所对接，最终，阻碍了流通和生产效率的提升。智能农业以零成本资金作为投入，并无收回投资要求，高效带来的是高产量，有机果蔬的售价反而可以低于普通果蔬的售价，在低价、有机、新鲜三大利益诱导之下，市场通路自动打开，无需支付额外的营销成本，这将产生T型车创新的垄断效果，有机果蔬供不应求，供给方只需专心提升产量、提升自动化程度。原本用于偿还资金使用成本的400↑亿将被消费者、科研机构、供给方所分享，创新带来的结果是共赢。（四）土地高度集约化，支撑微量创新的发生。当智能城市覆盖的农民成为智能城市公民，其手中的耕地和宅基地、底商将变成连片的大面积的土地，这是荷兰和其他地区农业所不能比拟的集约优势。充足的资金、充沛的利润，使玻璃大棚、生态牧场、智能设备等最先进的硬件可以快速配齐，这将为高素质人才提供用武之地，这也同样是散布在全国各地大量的分散的小规模的大棚和分散生产所不能比拟的。分散带来的最致命的问题在于：1%产量提升对散户经营业绩的影响几乎微乎其微，因此，即使产生1%产量提升的科研成果出现，高昂的推广成本同样会使1%产量提升变得不经济，拿来主义比研发更经济，也更加安全。在这一模型之下，1%产量提升的科研成果只能在研发机构的抽屉里睡觉，这就锁死了∑1%累加的通道。当2000平方公里土地被集中到一家集团公司手中，集约化经营，一个技术研发专家团队只专注于一个品种的研发，1%的产量提升都会带来巨大的经济效益。创新将是以1%不断叠加方式的进行，当无数1%获得叠加，数年后，这里将产生荷兰式的创新成果。通过以上分析我们不难发现，智能农业在所有领域都具有压倒性的优势。因此，智能农业的起点是追赶，终点是超越。荷兰农业的目标是以出口换取利润，智能农业的目标是使中国绿色农产品实现绝对过剩和智能化，使中国进入廉价、绿色农产品时代。也可以说：荷兰农业在战术上视客户为上帝，而智能农业则在战略上将客户视为上帝。智能农业的目标是逐渐做小市场规模，以绝对“优质低价”来换取供不应求，这与传统市场理念是截然相反的，也是传统市场理念的克星。对智能城市居民而言，要实现“一劳永逸”的解决问题，第一步是要赚到足够多的钱，第二步是要让钱花不完。只有物价持续递减，才能达到第二个目的。因此，只要智能农业在宏观上将客户视为上帝，那么，智能农业必然在微观上主导市场，成为上帝。这是智能农业与荷兰农业的本质差别，也决定了超越的必然性。为了使读者有更清晰的认识，我们继续深入荷兰式农业一些细微领域，将智能农业可发展的方向进行量化分析。1、荷兰式乳业：十年前，荷兰奶牛平均产奶量约为1.5万斤，中国目前水平达到1-1.2万斤。按照天然放养加牧草喂养方式结合，按照每1亩土地喂养一头奶牛，则要达到荷兰喂养奶牛的头数140万头左右，仅需140万亩（相当于天津宝坻县面积的60%）。每年产鲜奶可达140-168亿斤，按照农夫山泉矿泉水的价格标的鲜奶，这些鲜奶的价格价值210-252亿元，按照成品售价，这些牛奶价值700-840亿元。而140万亩农场的面积只占2000平方公里土地的50%，也就是说把三河、大厂、蓟县、宝坻的闲置土地的30%进行整合，建设成本标准化牧场，即可支撑其全国最大的乳品公司，乳品的质量可接近荷兰水平，乳品的新鲜程度可以让京津唐每个消费者享受每日鲜奶。由于土地是零成本的、资金是零成本的，因此，基于优质奶源和紧邻天然的大市场，建立起的乳品公司可对任何乳品企业发动价格战，使京津唐地区乳品市场重新洗牌。按照矿区水的价格向北京、天津、唐山“倾销”牛奶，这一乳品公司依然会获得300亿元以上的营收，这300亿营收对于智能城市来说几乎是净收益。垄断有两种，一种低效垄断会带来涨价，另一种是高效垄断会带来优质、低价。福特先生经验告诉我们，在一个充满泡沫的市场，打击泡沫的最好手段通过持续提升效率，以优质和超低价形成供不应求。显然，按照荷兰模式养殖奶牛，属于后者，荷兰人人均可喂养数百头奶牛，140万头奶牛，所需人工约为3000人左右，起步阶段按照荷兰效率的75%，意味着养殖奶牛员工数量仅为4500人左右。2、荷兰式果蔬生产：荷兰果蔬生产技术是全球领先的。据媒体报道，荷兰大棚每平米出产的高品质蔬菜产量已经由过去的30公斤提升至现在的60公斤，这意味着每亩产出高达8万斤，我们尽管不能一步到位达到荷兰水平，但在充足资金和集约化生产的前提下，达到荷兰50%的水平，依然可以产出4万斤蔬菜，智能城市拿出2000平方公里土地的30%用于种植蔬菜，即90万亩，对应着360亿斤的蔬菜产出，依然按照白菜价倾销至北京、天津、唐山，这些蔬菜可以换取每年360亿元以上的产出。集约优势、区位优势、运输优势、专业化优势等要素叠加，使智能蔬菜生产可以轻松战胜外围果蔬，确保京津唐地区食品安全和低价，为京津唐居民创造低成本生活环境。蔬菜产出与消费地的最远距离不超过100公里，因此，可以建立1小时新鲜直达配送圈。

Yet teachers are expected to prepare them to be responsible citizens, cultivate their social skills, encourage successful time management, and enhance their capacity to flourish in an increasingly harsh labor market.
我们期待教师把他们培养成有责任心的公民，培养他们的社交技能，鼓励成功的时间管理，并增强他们在越来越严峻的劳动力市场中蓬勃发展的能力。由此可知，我们期待教师能够使学生有责任心、有社交技能、有时间管理技能，并在未来就业市场中有竞争力。