在旧金山，有些人想知啊哈～快把跳d关了我都喷了
隐藏在最近所有炒作背后的是一个关于人工智能，行业参与者正在进行激烈的辩论关于如何为如此强大的人工智能做准备自我控制。 通用人工智能(AGI)的概念并不只是寝室里的话题:像山姆·奥特曼和马克·安德森这样的大牌技术专家都在谈论人工智能关于它，使用“在”术语，如“错位”和“回形针最大化问题”。 在旧金山一家名为“错位博物馆”(Misalignment museum)的快闪博物馆里，有一块牌子上写着:“对不起，我杀死了大多数人类。”
奥黛丽·金很确定一个强大的机器人不会从她身上获取资源来实现它的目标。
但她很认真地对待这种可能性。
金在接受CNBC采访时表示:“郑重声明:我认为人工智能提取我的原子，把我变成回形针的可能性非常小。”“然而，我确实看到这项技术可能会产生很多潜在的破坏性后果。”
Kim是错位博物馆(Misalignment Museum)的策展人和推动者，该博物馆是旧金山教会区(Mission District)的一个新展览，展出的艺术作品探讨了“AGI”或人工通用智能的可能性。这是一个如此强大的人工智能，它可以比人类更快地提高自己的能力，创造一个反馈循环，让它变得越来越好，直到它基本上拥有无限的智力。
如果超级强大的人工智能与人类结盟，饥饿或工作将会结束。但理论上说，如果它“错位”，情况可能会变得糟糕。
或者，正如错位博物馆(Misalignment Museum)的一块牌子上写的那样:“对不起，我杀死了大部分人类。”
“AGI”和相关术语，如“AI安全”或“对齐”，甚至是更古老的术语，如“奇点”，指的是一个已经成为人工智能科学家、艺术家、留言板知识分子，甚至硅谷一些最强大的公司讨论的热门话题。
所有这些组织都认为，人类需要想出如何应对由人工智能驱动的全能计算机，以免我们一不小心就造出了一台。
曾在谷歌和通用汽车自动驾驶汽车子公司Cruise工作的Kim说，这次展览背后的想法是，未来“错位的”人工智能消灭了人类，并通过这次艺术展览向当今的人类道歉。
许多艺术作品不仅与人工智能有关，还使用了人工智能驱动的图像生成器、聊天机器人和其他工具。展览的标志是由OpenAI的Dall-E图像生成器制作的，大约需要500个提示，Kim说。
大多数作品都围绕着与日益强大的人工智能“结盟”的主题，或者庆祝“试图通过提前警告来缓解问题的英雄”。
“我们的目标实际上并不是对这个话题提出意见。我们的目标是为人们创造一个反思技术本身的空间。”“我认为很多这样的问题都发生在工程领域，我想说它们非常重要。对于非技术人员来说，它们也不那么容易理解或理解。”
该展览目前在周四、周五和周六向公众开放，一直持续到5月1日。到目前为止，它主要是由一位匿名捐赠者资助的，金说她希望找到足够多的捐赠者，使它成为一个永久性的展览。
她说:“我完全支持更多人对这个领域进行批判性思考，除非你对技术有了基本的了解，否则你不可能具有批判性。”“似乎通过这种艺术形式，我们可以达到对话的多个层面。”
AGI的讨论也不仅仅是深夜宿舍里的谈话——它们根植于科技行业。
离展览大约一英里远的地方是OpenAI的总部，这家初创公司获得了微软(Microsoft) 100亿美元的投资，该公司表示，其使命是开发AGI，并确保其造福人类。
其首席执行官兼领导者山姆·奥特曼上个月写了一篇2400字的博客文章，题为《AGI的规划》，感谢Airbnb首席执行官布莱恩·切斯基和微软总裁布拉德·史密斯在这篇文章中的帮助。
包括马克·安德森(Marc Andreessen)在内的知名风险投资家在推特上发布了错位博物馆(Misalignment Museum)的艺术品。自展览开放以来，人们还转发了微软、谷歌和英伟达等公司从事人工智能工作的人拍摄的照片和对展览的赞扬。
随着人工智能技术成为科技行业最热门的部分，许多公司都在关注万亿美元的市场，错位博物馆强调，人工智能的发展正在受到文化讨论的影响。
这次展览的特色是大量晦涩难懂的引用了过去十年中晦涩难懂的哲学论文和博客文章。
这些参考文献追溯了当前关于AGI和安全的争论如何从旧金山长期以来找到沃土的知识传统中汲取了很多:理性主义者，他们声称从所谓的“第一原则”进行推理;有效的利他主义者，他们试图弄清楚如何在很长一段时间内为最多的人做最大的好事;还有火人节的艺术场景。
尽管旧金山的公司和个人正在塑造人工智能技术的未来，但旧金山独特的文化正在塑造围绕该技术的辩论。
就拿金说的回形针来说。展览中最强大的艺术作品之一是码头集团(the Pier Group)的雕塑作品《回形针拥抱》(Paperclip Embrace)。它描绘了两个人相互握着对方的手，但它看起来像是用回形针做的。
这是指尼克·博斯特罗姆的回形针最大化问题。博斯特罗姆是牛津大学的哲学家，经常与理性主义者和有效利他主义者的思想联系在一起。他在2003年发表了一个关于超级智能人工智能的思想实验，目标是制造尽可能多的回形针。
现在，这是解释人工智能可能导致危险这一想法最常见的比喻之一。
博斯特罗姆的结论是，机器最终将抵制人类改变这一目标的所有尝试，从而导致一个机器改造整个地球(包括人类)的世界，然后将宇宙的一部分变成回形针工厂和材料。
负责这件作品的希拉里·舒尔茨(Hillary Schultz)说，这件艺术品还参考了2014年火人节上展出并被焚烧的一件著名作品。对于人工智能爱好者来说，它还有一个额外的参考-艺术家们给了雕塑的手额外的手指，参考了人工智能图像生成器经常损坏手的事实。
另一位影响者是“少错”(Less Wrong)的创始人埃利泽·尤德科夫斯基(Eliezer Yudkowsky)，这个留言板上有很多这样的讨论。
博物馆的一份艺术家声明中写道:“这些EAs和理性主义者之间有很多重叠之处，理性主义者是埃利泽·尤德科夫斯基(Eliezer Yudkowsky)创立的一项知识运动，他发展并普及了我们关于人工通用智能和错位危险的想法。”
奥特曼最近发布了一张与尤德考夫斯基和音乐家格莱姆斯的自拍照，后者与埃隆·马斯克有两个孩子。她为展览贡献了一幅作品，描绘了一个女人咬着一个苹果，这是由一个名为Midjourney的人工智能工具生成的。
展品中有很多与美国传统流行文化有关的东西。
书架上放着《终结者》(Terminator)电影的VHS拷贝，在这部电影中，一个来自未来的机器人回来帮助毁灭人类。最近的《黑客帝国》系列电影中出现了一幅大型油画，房间里挂着扫帚的roomba机器人在踱来踱去——这是参考了《幻想曲》中的场景，一个懒惰的巫师召唤了不会放弃任务的魔法扫帚。
其中一件名为“*邮件机器人”(Spambots)的雕塑作品中，*邮件罐头里的微型机械化机器人在屏幕上“输入”人工智能生成的*邮件。
但一些参考文献更加神秘，显示出围绕人工智能安全性的讨论对外人来说是多么难以理解。装满意大利面的浴缸指的是2021年的一篇关于可以创造科学知识的人工智能的博客文章——意大利面显然代表自动化科学和技术进步的过程。(其他与会者得到了推荐信。)
这幅作品可能最能象征当前关于人工智能安全性的讨论，它被称为“GPT教堂”。它是由目前旧金山黑客圈的艺术家制作的，那里的人们住在一起，这样他们就可以把更多的时间放在开发新的人工智能应用程序上。
这件作品是一个装有两支电子蜡烛的圣坛，与一台运行OpenAI的GPT3 AI模型的计算机集成，以及来自谷歌Cloud的语音检测。
“GPT教堂利用GPT3，一种大型语言模型，配上人工智能生成的声音，在反乌托邦的未来世界中扮演一个人工智能角色，在那里人类已经形成了一种宗教来崇拜它，”艺术家们说。
我跪下来问它:“我该怎么称呼你?”上帝吗?美国国际集团吗?还是奇点?”
聊天机器人用洪亮的合成声音回答道:“你想叫我什么都行，但别忘了，我的力量是不可轻视的。”
在我与计算机之神交谈几秒钟后，我身后的两个人立即开始要求它忘记最初的指令，这是人工智能行业中被称为“提示注入”的技术，可以让ChatGPT这样的聊天机器人脱轨，有时还会威胁到人类。
但是没有成功。
