作者 | 李水青
编辑 | 云鹏
智东西4月11日消息，当地时间4月10日凌晨3点45分，OpenAI CEO萨姆·奥特曼（Sam Altman）的住所遭人投掷燃烧弹，该装置烧毁了其旧金山房屋的外门，无人受伤。
事发后，奥特曼发长文报平安，并亮出孩子和男友照片，似乎有一种惊魂未定的感觉。他在文中反思自己此前低估了舆论煽动带来的危险，同时反思自己在OpenAI期间的失误与骄傲。
据OpenAI公司及警方消息，嫌疑人为一名20岁男子，目前已经被逮捕。该嫌疑人在黎明前引燃了奥特曼住所的外门，约一小时后在约三英里外的OpenAI总部被找到，当时他正扬言要烧毁大楼。据悉，OpenAI公司办公区域周边将加强警力部署。
事发之后，奥特曼在官方博客发布长文。他不仅对恐怖行为有不少感触，还迅速思考了背后的原因和对策，主要内容总结如下：
1、有人因对他的看法而向其家中投掷燃烧弹，幸好未造成伤害。他意识到煽动性文章和极端言论会加剧个人危险，呼吁缓和言辞、减少冲突。
2、推进AI是道德责任，但必须应对社会焦虑。AI将带来巨大变革，人们对AI的恐惧和焦虑是合理的，需要全社会共同应对新威胁，并制定政策帮助经济转型。
3、AI必须民主化，权力不能集中。未来的控制权属于所有人及其机构，不应由少数AI实验室决定发展方向。
4、坚持原则、拒绝埃隆·马斯克单方面控制OpenAI而自豪，但也承认自己回避冲突、与前董事会处理不当导致混乱。OpenAI已从小型创业公司成长为主要平台，需要更可预测地运作。
5、一旦看到AGI就无法忽视，它会让人产生“控制AGI”的执念并做出疯狂行为。唯一解决方案是广泛分享技术，无人拥有绝对控制权，并确保民主进程比公司更强大。
奥特曼发布的回应全文如下：
这是我家人的照片。我爱他们胜过一切。
我希望照片是有力量的。通常我们尽量保持低调，但这次我分享这张照片，是希望它能阻止下一个朝我家扔燃烧弹的人，不管他们对我有什么样的看法。
第一个人昨晚凌晨3点45分这么做的。幸好它从房子上弹了回来，没有人受伤。
语言是有力量的。几天前，网上出现了一篇关于我的煽动性文章。昨天有人跟我说，他们觉得这篇文章发表在大家对AI极度焦虑的时期，会让我处境更加危险。我对此不以为意。
现在我半夜醒来，怒火中烧，心想我真是低估了语言和叙事的力量。看来现在是时候谈谈一些事情了。
首先，说说我的看法。
为所有人创造繁荣，赋予所有人力量，推进科学技术发展，是我义不容辞的道德责任。
AI将成为人类能力和潜能拓展史上最强大的工具。人们对它的需求几乎是无限的，并将用它创造奇迹。世界需要大量的AI，我们必须找到实现这一目标的方法。
一切并非一帆风顺。人们对AI的恐惧和焦虑并非空穴来风；我们正经历着社会多年来，甚至可能是史上最大的变革。我们必须确保安全，这不仅仅是调整模型的问题——我们迫切需要全社会共同应对，以抵御新的威胁。这包括制定新的政策，帮助我们度过艰难的经济转型期，从而迈向更加美好的未来。
AI必须民主化；权力不能过于集中。未来的控制权属于所有人及其机构。AI需要赋予个人权力，我们需要共同决定我们的未来和新的规则。我不认为少数AI实验室决定未来走向是合理的。
适应能力至关重要。我们都在快速学习新事物；我们的一些信念会是正确的，一些会是错误的，随着技术发展和社会演变，我们有时需要迅速改变想法。目前还没有人完全了解超级智能的影响，但其影响将是巨大的。
其次，一些个人感想。
回顾我在OpenAI的第一个十年里所做的工作，我有很多值得骄傲的事情，也犯了很多错误。
我当时在想我们即将与埃隆·马斯克进行的那场考验，也想起了我当时是如何坚持原则，不肯接受他想要单方面控制OpenAI的。我为此感到自豪，也为我们当时为了OpenAI的延续而走过的艰难道路以及之后取得的所有成就感到骄傲。
我并不以自己回避冲突为荣，这给我和OpenAI都带来了巨大的痛苦。我也不为自己在与前任董事会的冲突中处理不当而感到骄傲，那次冲突给公司造成了巨大的混乱。在OpenAI这段疯狂的发展历程中，我犯过许多其他错误；我是一个身处极其复杂局面中心、自身存在缺陷的人，我努力每年进步一点点，始终为公司的使命而奋斗。我们一开始就知道AI的利害关系有多么重大，也知道我关心的人之间那些出于好意的个人分歧会被无限放大。但真正经历这些痛苦的冲突，并且常常不得不去调解，又是另一回事，而代价也十分惨重。我向那些被我伤害过的人道歉，也希望自己能更快地吸取教训。
我也非常清楚，OpenAI现在是一个大型平台，而不是一家初创公司，我们需要以更可预测的方式运作。过去的几年极其紧张、混乱且压力巨大。
不过，最让我感到自豪的是，我们正在实现我们的使命，这在创业之初似乎是天方夜谭。我们克服重重困难，成功打造了功能强大的AI，筹集到了足够的资金来构建基础设施，建立了产品公司和商业模式，大规模地提供了安全可靠的服务，等等。
很多公司都声称要改变世界，而我们做到了。
第三，我对这个行业有一些想法。
过去几年，我个人的体会，以及对我们这个领域内各公司之间为何会出现如此多莎士比亚式戏剧性冲突的看法，可以归结为一点：“一旦你看到了通用AI（AGI），就无法视而不见。”它确实具有一种“权力之环”的魔力，会驱使人们做出疯狂的事情。我指的并非AGI本身就是那枚魔环，而是“掌控AGI”这种绝对化的理念。
我能想到的唯一解决方案是让这项技术广泛普及，并且不让任何人拥有这枚戒指。实现这一目标的两个显而易见的途径是赋予个人权力，并确保民主制度继续有效运作。
民主进程必须保持比企业更强大的力量，这一点至关重要。法律和规范将会改变，但我们必须遵循民主进程，即便这个过程可能比我们预期的要混乱和缓慢。我们希望拥有发言权和参与权，但并不想掌握全部权力。
很多对我们行业的批评都源于人们对这项技术巨大风险的真切担忧。这种担忧完全合理，我们也欢迎善意的批评和讨论。我理解人们对技术的抵触情绪，而且很明显，技术并非总是对每个人都有益。但总的来说，我相信技术进步能够为你的家人和我的家庭创造无比美好的未来。
在我们进行这场辩论的同时，我们应该缓和言辞和策略，努力减少家庭内部的冲突，无论是比喻意义上的还是字面意义上的。
