OpenAI CEO 阿尔特曼最新访谈：越多人参与AI，才能更好的控制AI
在人工智能飞速发展的世界里，关于未来的讨论往往集中在所谓的 "人工通用智能 "（artificial general intelligence）上。在这个阶段，人工智能将有能力完成人类能够完成的任何工作，而且只会做得更好。近期与 OpenAI 的首席执行官山姆·阿尔特曼（Sam Altman）和首席技术官米拉·穆拉蒂（Mira Murati）的对话谈论了关于“AGI 的潜在收益和风险”的话题。
以下是他们谈话的节选：
AGI 将是人类迄今为止创造出的最好工具
问：为什么AGI是目标？
山姆·阿尔特曼：在未来十年或几十年里，对改善人类生存条件最重要的两样东西，一是丰富和廉价的智能：越强大、越通用、越智能越好。我认为这就是 AG。然后二是丰富而廉价的能源。如果我们能在世界上完成这两件事，那么几乎很难想象我们还能做多少其他事情。我们坚信，只要给人们提供更好的工具，他们就会做出让你惊讶的事情。我认为，AGI 将是人类迄今为止创造出的最好工具。有了它，我们就能解决各种问题。我们将能以新的、创造性的方式表达自己。我们将为彼此、为自己、为世界、为这个正在展开的人类故事创造出不可思议的东西。这是新的，任何新事物都伴随着变化，而变化并不总是一帆风顺的。
问：它什么时候会出现，我们怎么知道它出现了？
米拉·穆拉蒂：可能在未来十年，但这有点棘手。我们经常谈论智能，谈论它有多智能，谈论它是否有意识、有知觉等等，但这些说法并不完全正确。因为它们定义了我们自己的智能，而我们正在构建的东西略有不同。
问：有些人对你们用来训练某些模型的一些数据并不满意。比如：好莱坞，出版商。当您在做之后的模型时，您围绕数据做了哪些事情？
山姆·阿尔特曼：首先，我们显然只能使用其他人允许的数据。挑战之一是，不同类型的数据拥有截然不同的所有者。因此，我们正在尝试很多东西。我们正在建立多样的合作关系，我们认为，就像任何一个新领域一样，我们会找到一些东西，成为新的标准。此外，随着这些模型越来越智能，能力越来越强，我们需要的训练数据也会越来越少。我认为，由于我们正在取得的技术进步，有关数据的对话以及所有这一切的形态都将发生转变。
问：出版商们都想花钱买数据。这场竞赛的未来是谁能为最好的数据支付最多的钱吗？
山姆·阿尔特曼：不，这正是我想说的。人们真正喜欢 GPT 模型的地方，从根本上说，并不在于它知道特定的知识。有更好的方法可以找到这些知识。而是它有这种幼年推理能力，而且会越来越好。这才是它的真正意义所在。
阿尔特曼：我不希望AI跟人类保持亲密关系
问：未来我们是否会与这类机器人建立深厚的关系？
米拉·穆拉蒂：这将是一种重要的关系。因为我们正在构建的系统将无处不在：在你的家中、在你的教育环境中、在你的工作环境中，甚至在你娱乐的时候。这就是为什么把它做好实际上非常重要。我们必须小心谨慎地设计这种互动，使其最终能够提升体验、带来乐趣、提高工作效率并增强创造力。我们还希望确保，在产品方面，我们对这些系统有一种掌控感，即我们可以引导它们做我们希望它们做的事情，而且输出是可靠的。随着它掌握更多关于你的喜好、你喜欢的东西、你做的事情的信息，以及模型能力的提高，它将变得更加个性化。而且不只是一个系统。您可以拥有许多针对特定领域和任务的个性化系统。
问：责任重大。你将控制人们的朋友，也许还会成为人们的恋人。你如何看待这种控制？
山姆·阿尔特曼：我们不会是这里唯一的参与者。会有很多人参与进来。因此，我们可以在技术发展的轨迹上 "推波助澜"。但是：a）我们真的认为，决定权属于人类，属于整个社会；b) 我们将是在这里构建复杂系统的众多参与者之一。会有提供不同服务的竞争产品，会有不同类型的社会拥护者和反对者，还会有监管方面的问题。我个人对未来的这一愿景深表忧虑，因为在未来，每个人都会与人工智能朋友走得很近，甚至比人类朋友走得更近。我个人并不希望如此。我认为其他人会想要那样，有些人会建造那样的东西。如果那是世界想要的，而且我们认为有意义，我们就会去做。
在实验室中不会诞生安全的AI
问：我们现在已经有了简单的聊天机器人。我们消除现在到处弥漫的对人工智能的恐惧？
山姆·阿尔特曼：不需要太多的想象力，就能想到值得高度警惕的情况。再说一遍，我们之所以这样做，是因为我们对巨大的发展前景和令人难以置信的积极影响感到非常兴奋。如果不为人类追求这些，那将是道德上的失败。但我们必须正视--这也发生在许多其他技术上--随之而来的弊端。这意味着你要考虑风险。你会努力衡量自己的能力，并尝试以一种能够降低风险的方式来构建自己的技术。然后，当你说 "嘿，这是一种新的安全技术 "时，你就会把它提供给其他人。
新闻来源：GenAI新世界 作者：大模型机动组
#chatgpt##chatgpt未来已来##ChatGPT官方[超话]# https://t.cn/R2WxsCs
在人工智能飞速发展的世界里，关于未来的讨论往往集中在所谓的 "人工通用智能 "（artificial general intelligence）上。在这个阶段，人工智能将有能力完成人类能够完成的任何工作，而且只会做得更好。近期与 OpenAI 的首席执行官山姆·阿尔特曼（Sam Altman）和首席技术官米拉·穆拉蒂（Mira Murati）的对话谈论了关于“AGI 的潜在收益和风险”的话题。
以下是他们谈话的节选：
AGI 将是人类迄今为止创造出的最好工具
问：为什么AGI是目标？
山姆·阿尔特曼：在未来十年或几十年里，对改善人类生存条件最重要的两样东西，一是丰富和廉价的智能：越强大、越通用、越智能越好。我认为这就是 AG。然后二是丰富而廉价的能源。如果我们能在世界上完成这两件事，那么几乎很难想象我们还能做多少其他事情。我们坚信，只要给人们提供更好的工具，他们就会做出让你惊讶的事情。我认为，AGI 将是人类迄今为止创造出的最好工具。有了它，我们就能解决各种问题。我们将能以新的、创造性的方式表达自己。我们将为彼此、为自己、为世界、为这个正在展开的人类故事创造出不可思议的东西。这是新的，任何新事物都伴随着变化，而变化并不总是一帆风顺的。
问：它什么时候会出现，我们怎么知道它出现了？
米拉·穆拉蒂：可能在未来十年，但这有点棘手。我们经常谈论智能，谈论它有多智能，谈论它是否有意识、有知觉等等，但这些说法并不完全正确。因为它们定义了我们自己的智能，而我们正在构建的东西略有不同。
问：有些人对你们用来训练某些模型的一些数据并不满意。比如：好莱坞，出版商。当您在做之后的模型时，您围绕数据做了哪些事情？
山姆·阿尔特曼：首先，我们显然只能使用其他人允许的数据。挑战之一是，不同类型的数据拥有截然不同的所有者。因此，我们正在尝试很多东西。我们正在建立多样的合作关系，我们认为，就像任何一个新领域一样，我们会找到一些东西，成为新的标准。此外，随着这些模型越来越智能，能力越来越强，我们需要的训练数据也会越来越少。我认为，由于我们正在取得的技术进步，有关数据的对话以及所有这一切的形态都将发生转变。
问：出版商们都想花钱买数据。这场竞赛的未来是谁能为最好的数据支付最多的钱吗？
山姆·阿尔特曼：不，这正是我想说的。人们真正喜欢 GPT 模型的地方，从根本上说，并不在于它知道特定的知识。有更好的方法可以找到这些知识。而是它有这种幼年推理能力，而且会越来越好。这才是它的真正意义所在。
阿尔特曼：我不希望AI跟人类保持亲密关系
问：未来我们是否会与这类机器人建立深厚的关系？
米拉·穆拉蒂：这将是一种重要的关系。因为我们正在构建的系统将无处不在：在你的家中、在你的教育环境中、在你的工作环境中，甚至在你娱乐的时候。这就是为什么把它做好实际上非常重要。我们必须小心谨慎地设计这种互动，使其最终能够提升体验、带来乐趣、提高工作效率并增强创造力。我们还希望确保，在产品方面，我们对这些系统有一种掌控感，即我们可以引导它们做我们希望它们做的事情，而且输出是可靠的。随着它掌握更多关于你的喜好、你喜欢的东西、你做的事情的信息，以及模型能力的提高，它将变得更加个性化。而且不只是一个系统。您可以拥有许多针对特定领域和任务的个性化系统。
问：责任重大。你将控制人们的朋友，也许还会成为人们的恋人。你如何看待这种控制？
山姆·阿尔特曼：我们不会是这里唯一的参与者。会有很多人参与进来。因此，我们可以在技术发展的轨迹上 "推波助澜"。但是：a）我们真的认为，决定权属于人类，属于整个社会；b) 我们将是在这里构建复杂系统的众多参与者之一。会有提供不同服务的竞争产品，会有不同类型的社会拥护者和反对者，还会有监管方面的问题。我个人对未来的这一愿景深表忧虑，因为在未来，每个人都会与人工智能朋友走得很近，甚至比人类朋友走得更近。我个人并不希望如此。我认为其他人会想要那样，有些人会建造那样的东西。如果那是世界想要的，而且我们认为有意义，我们就会去做。
在实验室中不会诞生安全的AI
问：我们现在已经有了简单的聊天机器人。我们消除现在到处弥漫的对人工智能的恐惧？
山姆·阿尔特曼：不需要太多的想象力，就能想到值得高度警惕的情况。再说一遍，我们之所以这样做，是因为我们对巨大的发展前景和令人难以置信的积极影响感到非常兴奋。如果不为人类追求这些，那将是道德上的失败。但我们必须正视--这也发生在许多其他技术上--随之而来的弊端。这意味着你要考虑风险。你会努力衡量自己的能力，并尝试以一种能够降低风险的方式来构建自己的技术。然后，当你说 "嘿，这是一种新的安全技术 "时，你就会把它提供给其他人。
新闻来源：GenAI新世界 作者：大模型机动组
#chatgpt##chatgpt未来已来##ChatGPT官方[超话]# https://t.cn/R2WxsCs
在这里写wb
边写边看聊天记录
边写边看聊天记录边听他的听歌记录
看到我最触动的地方
突然耳边响起在华夏最喜欢的一首歌
好想问他到底为什么会听这首歌
好想放声痛哭
因为今天和他说不要打字了
说的时候总觉得是他会和我说的话
我看了又看没找到
缺找到了其他的
发现 是他喜欢分享生活的
1:1的照片一张又一张发给我
分享看见的点点滴滴
好想他
边写边看聊天记录
边写边看聊天记录边听他的听歌记录
看到我最触动的地方
突然耳边响起在华夏最喜欢的一首歌
好想问他到底为什么会听这首歌
好想放声痛哭
因为今天和他说不要打字了
说的时候总觉得是他会和我说的话
我看了又看没找到
缺找到了其他的
发现 是他喜欢分享生活的
1:1的照片一张又一张发给我
分享看见的点点滴滴
好想他
最后写个博就睡觉吧 感觉微博真的是我的一方小天地 因为没有熟人在这里 我可以随时随地的发泄自己好的坏的情绪嘻嘻 虽然我只会写一些流水账式的随笔 但是我快乐就好 就现在感觉又花了一段时间找到了原来的自己 我终于摆脱了前段时间内耗的自己 细数身边的小事 我很幸运 在大学里面认识到了新朋友 遇到了很好的室友 一直和在淮北的好朋友们保持着密切的联系 如果2022年之前的我是不幸的 那么2023年真的是我的最最最最最幸运的一年 虽然复读了一年让我吃了很多苦头 但是有得必有失 我交到了很多要好的朋友 因为有了她们的无时无刻的鼓励和夸赞 我感觉自己越来越自信了 我低落的时刻会很快的安慰我 虽然大部分时间我看起来都很大大咧咧没心没肺的 但是有时候我也挺想消失的 难过的事情会被我无限的放大 我有时候不想把自己的负面情绪影响到别人 因为我觉得每个人都有自己的想法 如果一个人刚刚好很开心 然后接收到别人的负面情绪 一定会非常无语 希望我可以一直做一个积极向上的人 带给别人更多的温暖 嗯就是这样 最后这几天还是会无缘无故的冒出一些想法
✋热门推荐