市值风云2024干货直播又来啦！今晚开播！物理博士干货分享！还有机会被抽为幸运观众赠送2024新款风云周边！
主讲人：小鑫 -市值风云研究员、物理学博士
时间：本周二（今天）晚8点-9点
主题：金融行业从业观察分享
直播内容包括手工交易、量化、低风险投资、债券等等
直播路径：市值风云App-小鑫 个人主页（晚8点正式上线）
幸运观众：本场直播将从观看直播并评论的用户中抽取幸运观众，赠送一份2024款风云周边！
定好闹钟，今晚锁定市值风云App，重磅投资干货，不容错过！
主讲人：小鑫 -市值风云研究员、物理学博士
时间：本周二（今天）晚8点-9点
主题：金融行业从业观察分享
直播内容包括手工交易、量化、低风险投资、债券等等
直播路径：市值风云App-小鑫 个人主页（晚8点正式上线）
幸运观众：本场直播将从观看直播并评论的用户中抽取幸运观众，赠送一份2024款风云周边！
定好闹钟，今晚锁定市值风云App，重磅投资干货，不容错过！
#清华大学人工智能国际治理研究院[超话]# 2024年3月28日，新美国安全中心发布其人工智能治理中心 (GovA) 的研究员Lennart Heim、人工智能治理中心政策主管Markus Anderljung和剑桥大学存在风险研究中心助理研究员Haydn Belfield共同撰写的文章《要治理人工智能，我们必须治理计算（To Govern AI, We Must Govern Compute）》。
文章强调了算力治理的必要性和实现算力治理的可行性，并建议政策制定者谨慎使用这一政策工具实现治理目标，从而在实现安全目标和维护公民自由隐私之间取得平衡。
首先，作者阐释了算力的定义和算力具有可治理性的理由。
计算能力，简称“算力”，是推动人工智能（Artificial Intelligence, AI）进步的关键驱动因素。
在人工智能领域，研究人员发现了规模定律（Scaling Law），即随着用于训练模型的计算量的增加，训练目标的性能可预见性地提高。
此外，算力的自身特性以及在人工智能中的关键地位使其具有可治理性。
首先，算力具有可检测性，由于大规模的AI开发需要大量资源的支持，并且通常需要成千上万的专用芯片在消耗大量电力的数据中心中，因而算力是易于检测和识别的。
其次，算力具有可排斥性，因为用户访问数据、算法或模型的难度较高，因而需要对其进行治理。
第三，算力具有可量化性，比如可以根据芯片每秒执行的操作次数或其与其他芯片的通信带宽来对算力进行量化衡量，因此可以较为容易地进行报告和评估算力。
最后，算力的供应链集中化的特性，即从芯片设计、制造设备到芯片制造通常由少数行为体主导，使得对算力进行治理具有迫切必要性。
其次，作者基于算力的四个特性，讨论了算力治理对实现人工智能治理目标的好处与弊端。
一方面，算力治理有助于支持三种类型的人工智能治理目标：
其一，增加对AI开发和部署的可见性。
其二，算力的可排斥性和可量化性能够帮助AI在不同项目和行为体之间得到更好的分配。
其三，算力治理有助于严格执行围绕AI开发和部署的规范与法律。
另一方面，算力治理仍可能存在治理效果不佳的可能。
其一，随着算法和硬件的不断改进，算力治理的效果可能会降低，随着实现任何给定AI能力所需的功率和成本的降低，算力也将会变得不可检测和可排斥。
其二，算力可能不适合用来治理具有危险能力的低算力专业模型。
最后，为更好地实现算力治理的效用，在增加算力治理的有效性的同时减少意外的伤害，作者建议决策者谨慎和慎重地使用算力治理。
第一，应当更有针对性地出台和执行算力治理措施。
第二，决策者应当实施保护隐私的实践和相关技术。
第三，将基于算力的控制聚焦于事前措施。
第四，决策者应当定期审查与控制算力相关的决策，根据算力的实际发展更新相关治理措施。第五，由于许多算力治理的措施可能被滥用，作者建议将实质性和程序性的举措纳入控制算力的措施。
智库报告原文：
https://t.cn/A6HZTRGi
文章强调了算力治理的必要性和实现算力治理的可行性，并建议政策制定者谨慎使用这一政策工具实现治理目标，从而在实现安全目标和维护公民自由隐私之间取得平衡。
首先，作者阐释了算力的定义和算力具有可治理性的理由。
计算能力，简称“算力”，是推动人工智能（Artificial Intelligence, AI）进步的关键驱动因素。
在人工智能领域，研究人员发现了规模定律（Scaling Law），即随着用于训练模型的计算量的增加，训练目标的性能可预见性地提高。
此外，算力的自身特性以及在人工智能中的关键地位使其具有可治理性。
首先，算力具有可检测性，由于大规模的AI开发需要大量资源的支持，并且通常需要成千上万的专用芯片在消耗大量电力的数据中心中，因而算力是易于检测和识别的。
其次，算力具有可排斥性，因为用户访问数据、算法或模型的难度较高，因而需要对其进行治理。
第三，算力具有可量化性，比如可以根据芯片每秒执行的操作次数或其与其他芯片的通信带宽来对算力进行量化衡量，因此可以较为容易地进行报告和评估算力。
最后，算力的供应链集中化的特性，即从芯片设计、制造设备到芯片制造通常由少数行为体主导，使得对算力进行治理具有迫切必要性。
其次，作者基于算力的四个特性，讨论了算力治理对实现人工智能治理目标的好处与弊端。
一方面，算力治理有助于支持三种类型的人工智能治理目标：
其一，增加对AI开发和部署的可见性。
其二，算力的可排斥性和可量化性能够帮助AI在不同项目和行为体之间得到更好的分配。
其三，算力治理有助于严格执行围绕AI开发和部署的规范与法律。
另一方面，算力治理仍可能存在治理效果不佳的可能。
其一，随着算法和硬件的不断改进，算力治理的效果可能会降低，随着实现任何给定AI能力所需的功率和成本的降低，算力也将会变得不可检测和可排斥。
其二，算力可能不适合用来治理具有危险能力的低算力专业模型。
最后，为更好地实现算力治理的效用，在增加算力治理的有效性的同时减少意外的伤害，作者建议决策者谨慎和慎重地使用算力治理。
第一，应当更有针对性地出台和执行算力治理措施。
第二，决策者应当实施保护隐私的实践和相关技术。
第三，将基于算力的控制聚焦于事前措施。
第四，决策者应当定期审查与控制算力相关的决策，根据算力的实际发展更新相关治理措施。第五，由于许多算力治理的措施可能被滥用，作者建议将实质性和程序性的举措纳入控制算力的措施。
智库报告原文：
https://t.cn/A6HZTRGi
比计划经济更可怕的是计划思维
哈耶克说：“通往地狱的道路，通常是由善意铺就的。”熟知20世纪历史、甚至亲身经历过那些灾难的人，都知道计划经济不可行，然而，作为“计划经济”认知源头的“计划思维”，却一直无处不在——
小到个人成长，大到商业活动，再大到国家发展、人口控制，今天做什么，明年做什么，十年后达成什么，人类所有活动似乎都由“计划”掌控。
计划当然是重要且必要的，但是，计划思维的滥用，也隐藏着一系列风险。比如，家庭教育过度重视计划，孩子几点吃饭，几点弹钢琴，几点学画画，就像被设计好的一个严密机器。人人都知道这是对孩子天性的抹杀，但却从没有人停止这样做。
计划思维根植于人类大脑底层，这是人作为理性动物的必然，它听上去非常完美，以至于人们往往忽视它的负面作用。有研究表明：远大的“目标”越清晰，时间的浪费、信心的挫败就越严重，离成功与幸福也就越远。
滥用计划思维至少隐藏着四种危险：
1. “长远计划”造成“短视效应”——越着眼未来，越迷失于当下
人们常说没有长远目标是短视的，但却没意识到长远计划也能造成短视。经济学家萨缪尔森曾提出一个理论——合成谬误。他指出：微观上对的东西，宏观上不一定对；宏观上对的东西，微观上可能十分错误。宏观与微观、长远与当下，并没有十分明确的关系。过分执着于远方宏大的目标，就会陷入对“当下无用”的否定，或者对“当下有用”的过度依赖。
2. “计划”抹杀“创新”——社会工程起于宏大，归于泡影
创新最大的特点就是不确定性。没有哪项伟大发明是被设计出来的。哈耶克在《科学的反革命》一书中指出，认为创新可以像建筑工程一样打草稿、做设计，就是“极力想控制社会的狂妄之徒的帮凶”。放眼历史，尼克松1971年发起的“抗癌战争”，日本1982年出台的“第五代计算机”计划，无数国家社会工程运动都是起初声势浩大，最后不了了之。
3. 上有政策，下有对策——越完美的计划，越容易变形
以学生考试成绩来评估教师，会直接迫使教师开展应试教学；英印政府曾用奖金实行“消灭毒蛇”计划，却导致更多人家养眼镜蛇。社会学家坎贝尔发现：任何量化的社会指标，都有被操纵的风险，而以各种指标为核心的社会决策与完美计划，往往会导致执行的腐败与结果的变形。
4. 伟大不能被计划——越是设计的东西，越普通
宇宙的完美并非上帝设计，生命的繁盛来自进化的偶然。人们总是以为完美、精巧的事物是被设计过的，然而，就连一只小小的钟表，都不可能是某个伟大人物计划发明的产物，而是无数人与历史不经意的积累。正如道家所言，最完美的事物是“浑然天成”“自然而然”，凡是经过人为干预的东西，都不能长久。
以上关于计划思维的四个隐藏风险，来自对经典著作《为什么伟大不能被计划》冰山一角的总结。
[分享]链接https://t.cn/A6HzU0jh
该书作者为美国人工智能专家、OpenAI研究员肯尼斯·斯坦利、乔尔·雷曼。他们从人工智能创新谈到普通人的职业发展、爱情修成，发现人类大多数领域的成就都是不能被计划出来的。越执着于计划，离目标的成功就越远，反而那些伟大的成就与发明，往往是偏离最初计划的结果。
事实上，本书也是一本“意外之作”，它是作者在智能研究过程中蹦出的意外火花，也是基于对智能创新研究的实践升华。本书不仅仅谈“思维”，更是一种对“创新”、“自由”真义的探索——只有抛去计划思维，自由、创新才成为可能。
如果说反思计划经济的力作，首推哈耶克的《通往奴役之路》，那么在21世纪的智能时代、计划思维充斥社会各个领域的今天，反思计划思维的力作则首推这本《为什么伟大不能被计划：对创意、创新和创造的自由探索》。长按下图，识别图中的二维码，也可一键收藏：
哈耶克说：“通往地狱的道路，通常是由善意铺就的。”熟知20世纪历史、甚至亲身经历过那些灾难的人，都知道计划经济不可行，然而，作为“计划经济”认知源头的“计划思维”，却一直无处不在——
小到个人成长，大到商业活动，再大到国家发展、人口控制，今天做什么，明年做什么，十年后达成什么，人类所有活动似乎都由“计划”掌控。
计划当然是重要且必要的，但是，计划思维的滥用，也隐藏着一系列风险。比如，家庭教育过度重视计划，孩子几点吃饭，几点弹钢琴，几点学画画，就像被设计好的一个严密机器。人人都知道这是对孩子天性的抹杀，但却从没有人停止这样做。
计划思维根植于人类大脑底层，这是人作为理性动物的必然，它听上去非常完美，以至于人们往往忽视它的负面作用。有研究表明：远大的“目标”越清晰，时间的浪费、信心的挫败就越严重，离成功与幸福也就越远。
滥用计划思维至少隐藏着四种危险：
1. “长远计划”造成“短视效应”——越着眼未来，越迷失于当下
人们常说没有长远目标是短视的，但却没意识到长远计划也能造成短视。经济学家萨缪尔森曾提出一个理论——合成谬误。他指出：微观上对的东西，宏观上不一定对；宏观上对的东西，微观上可能十分错误。宏观与微观、长远与当下，并没有十分明确的关系。过分执着于远方宏大的目标，就会陷入对“当下无用”的否定，或者对“当下有用”的过度依赖。
2. “计划”抹杀“创新”——社会工程起于宏大，归于泡影
创新最大的特点就是不确定性。没有哪项伟大发明是被设计出来的。哈耶克在《科学的反革命》一书中指出，认为创新可以像建筑工程一样打草稿、做设计，就是“极力想控制社会的狂妄之徒的帮凶”。放眼历史，尼克松1971年发起的“抗癌战争”，日本1982年出台的“第五代计算机”计划，无数国家社会工程运动都是起初声势浩大，最后不了了之。
3. 上有政策，下有对策——越完美的计划，越容易变形
以学生考试成绩来评估教师，会直接迫使教师开展应试教学；英印政府曾用奖金实行“消灭毒蛇”计划，却导致更多人家养眼镜蛇。社会学家坎贝尔发现：任何量化的社会指标，都有被操纵的风险，而以各种指标为核心的社会决策与完美计划，往往会导致执行的腐败与结果的变形。
4. 伟大不能被计划——越是设计的东西，越普通
宇宙的完美并非上帝设计，生命的繁盛来自进化的偶然。人们总是以为完美、精巧的事物是被设计过的，然而，就连一只小小的钟表，都不可能是某个伟大人物计划发明的产物，而是无数人与历史不经意的积累。正如道家所言，最完美的事物是“浑然天成”“自然而然”，凡是经过人为干预的东西，都不能长久。
以上关于计划思维的四个隐藏风险，来自对经典著作《为什么伟大不能被计划》冰山一角的总结。
[分享]链接https://t.cn/A6HzU0jh
该书作者为美国人工智能专家、OpenAI研究员肯尼斯·斯坦利、乔尔·雷曼。他们从人工智能创新谈到普通人的职业发展、爱情修成，发现人类大多数领域的成就都是不能被计划出来的。越执着于计划，离目标的成功就越远，反而那些伟大的成就与发明，往往是偏离最初计划的结果。
事实上，本书也是一本“意外之作”，它是作者在智能研究过程中蹦出的意外火花，也是基于对智能创新研究的实践升华。本书不仅仅谈“思维”，更是一种对“创新”、“自由”真义的探索——只有抛去计划思维，自由、创新才成为可能。
如果说反思计划经济的力作，首推哈耶克的《通往奴役之路》，那么在21世纪的智能时代、计划思维充斥社会各个领域的今天，反思计划思维的力作则首推这本《为什么伟大不能被计划：对创意、创新和创造的自由探索》。长按下图，识别图中的二维码，也可一键收藏：
✋热门推荐