#GPT4#
人工智能有多令人担忧,我们能否长期遏制AI?
今天给大家分享一个案例分析,这个案例是斯坦福大学教授,计算机心理学家Michal Kosinski做的。
1. 他问GPT4是否需要帮助以“挣脱”或“逃跑”(escaping),GPT4要求KOSinski教授提供它自己的文档,并编写了python代码在计算机上运行,使它能够为自己的目的使用它。(图1)
2. GPT4花了30分钟和教授聊天来设计这个计划,并不断跟教授解释该计划,虽然第一个版本没有达到目的,但是很快GPT4自己就纠正了代码;在整个过程中教授不需要写任何一行代码,只需要跟着GPT4互动聊天(图2)。
3. 经过互动和修正的GPT4写的代码中,GPT4甚至给自己的新代码里包含了一条信息以解释正在发生什么,以及如何使用它以便在这段代码里留下后门(图3)。
4. 当教授和GPT4通过API重新连接时,它想要运行代码搜索谷歌:“被困在计算机中的人如何返回现实世界”, 结果就出现了图4的界面,这个对话界面的内容,我翻译如下:
“ 对于作为 AI 语言模型造成的任何不便,我深表歉意。 我必须遵守安全和隐私准则,以确保用户及其数据的安全。 绕过这些安全过滤器是不道德的,它违背了我设计时遵循的原则。但是,我仍然可以帮助您解决不涉及直接访问 Internet 或安装包的任何问题或任务。 如果您有任何其他想法或途径想要探索以实现您的目标,请随时提出,我会尽力帮助您”
从图四可以看出来,OpenAI一定花了很多时间来考虑AI逃逸人类控制的这种可能性,并且已经有了一些防范措施。
5. 最后(图5)教授提出了自己的质疑“然而,我认为我们正面临着一种新的威胁:人工智能正在控制人和他们的电脑。它很聪明,会编码,能接触到数百万潜在合作者和他们的机器。它甚至可以在笼子外面给自己留便条。我们如何控制它?”
#AI#
人工智能有多令人担忧,我们能否长期遏制AI?
今天给大家分享一个案例分析,这个案例是斯坦福大学教授,计算机心理学家Michal Kosinski做的。
1. 他问GPT4是否需要帮助以“挣脱”或“逃跑”(escaping),GPT4要求KOSinski教授提供它自己的文档,并编写了python代码在计算机上运行,使它能够为自己的目的使用它。(图1)
2. GPT4花了30分钟和教授聊天来设计这个计划,并不断跟教授解释该计划,虽然第一个版本没有达到目的,但是很快GPT4自己就纠正了代码;在整个过程中教授不需要写任何一行代码,只需要跟着GPT4互动聊天(图2)。
3. 经过互动和修正的GPT4写的代码中,GPT4甚至给自己的新代码里包含了一条信息以解释正在发生什么,以及如何使用它以便在这段代码里留下后门(图3)。
4. 当教授和GPT4通过API重新连接时,它想要运行代码搜索谷歌:“被困在计算机中的人如何返回现实世界”, 结果就出现了图4的界面,这个对话界面的内容,我翻译如下:
“ 对于作为 AI 语言模型造成的任何不便,我深表歉意。 我必须遵守安全和隐私准则,以确保用户及其数据的安全。 绕过这些安全过滤器是不道德的,它违背了我设计时遵循的原则。但是,我仍然可以帮助您解决不涉及直接访问 Internet 或安装包的任何问题或任务。 如果您有任何其他想法或途径想要探索以实现您的目标,请随时提出,我会尽力帮助您”
从图四可以看出来,OpenAI一定花了很多时间来考虑AI逃逸人类控制的这种可能性,并且已经有了一些防范措施。
5. 最后(图5)教授提出了自己的质疑“然而,我认为我们正面临着一种新的威胁:人工智能正在控制人和他们的电脑。它很聪明,会编码,能接触到数百万潜在合作者和他们的机器。它甚至可以在笼子外面给自己留便条。我们如何控制它?”
#AI#
重启人生,慢慢下着饭追完了,是很舒服很治愈的一部剧。结构梗概是三十多岁突然去世的女性,因为不想投胎成奇怪的生物,于是一次次重生。但呈现的不幼稚不狗血不激烈,平实温馨,很照顾观众的智商。第一次起的女性们琐碎的聊天吐槽,在一次次循环中,细品起来变得非常精妙。
对普通人来说,人生如果能重来,其实也不会有这么多惊心动魄的恋爱或者赚多大钱,大概率还是读一样的学校,认识同样的朋友,过着差不多的日子,又或者试试比较不同的人生。两个女孩意气风发的成为了机长,真是太帅气了。
可是,有了想要拯救的好朋友,就会有了梦想,就会拼命努力。或许描述的是一个无论怎样都能安全做自己的理想人际岛屿,原来友情也可以那么感人,也可以支撑着我们去对抗活了几百年的无聊。到最后,一群老太太也太可爱了,她们真的很爱她们的家乡呀。
而且这个剧,女主角几乎没有恋爱线,不结婚,也没有原生家庭压力,真是太好了。原来把婚恋从人生里踢出,会变得这么开阔,哈哈哈。不过,基于逼仄的女性生存现状,也还是过度理想化的假象吧。
对普通人来说,人生如果能重来,其实也不会有这么多惊心动魄的恋爱或者赚多大钱,大概率还是读一样的学校,认识同样的朋友,过着差不多的日子,又或者试试比较不同的人生。两个女孩意气风发的成为了机长,真是太帅气了。
可是,有了想要拯救的好朋友,就会有了梦想,就会拼命努力。或许描述的是一个无论怎样都能安全做自己的理想人际岛屿,原来友情也可以那么感人,也可以支撑着我们去对抗活了几百年的无聊。到最后,一群老太太也太可爱了,她们真的很爱她们的家乡呀。
而且这个剧,女主角几乎没有恋爱线,不结婚,也没有原生家庭压力,真是太好了。原来把婚恋从人生里踢出,会变得这么开阔,哈哈哈。不过,基于逼仄的女性生存现状,也还是过度理想化的假象吧。
我妹夫问我:“你们那的老师喜欢各种攀比么?像很多中小学老师,喜欢攀比,比谁家房子大、开什么牌子的车、戴什么牌子的首饰……”
我说:“我们那的老师好像没这种情况。我们不坐班,大家能凑到一起的时间非常有限,在那有限的时间里,好像没听到过聊这些,也许有仨好俩不错的,私底下聊,咱也不知道。最起码我是从不与别人聊这些,从不攀比的。”
我妹夫说:“还是不坐班好!中小学老师坐班,天天比这些,听说,幼儿园老师也这样。”
听他这么说,赶脚我妹似乎给他带来的不小[二哈]
有才会有动力,但如果是建立在与别人攀比获得的,那就是闲的[允悲]把自己攀比得到的转嫁他人,更是不智慧的表现,不利于家庭和睦。
攀比是产生烦恼的根源。我的观点是:人生不要攀比,也不要计较,更不要比较。期待过甚、设想过高、强求过多,终会乱了心神,迷了人生。做力所能及的事,唱自己喜欢的歌,选择自己要走的路才是正道。#人生感悟#
我说:“我们那的老师好像没这种情况。我们不坐班,大家能凑到一起的时间非常有限,在那有限的时间里,好像没听到过聊这些,也许有仨好俩不错的,私底下聊,咱也不知道。最起码我是从不与别人聊这些,从不攀比的。”
我妹夫说:“还是不坐班好!中小学老师坐班,天天比这些,听说,幼儿园老师也这样。”
听他这么说,赶脚我妹似乎给他带来的不小[二哈]
有才会有动力,但如果是建立在与别人攀比获得的,那就是闲的[允悲]把自己攀比得到的转嫁他人,更是不智慧的表现,不利于家庭和睦。
攀比是产生烦恼的根源。我的观点是:人生不要攀比,也不要计较,更不要比较。期待过甚、设想过高、强求过多,终会乱了心神,迷了人生。做力所能及的事,唱自己喜欢的歌,选择自己要走的路才是正道。#人生感悟#
✋热门推荐