Stability AI CEO认为，人工智能可能发现人类很无聊
2022年12月，Stability AI创始人兼CEO伊马德·莫斯塔克出席《财富》杂志的人工智能头脑风暴大会。图片来源：NICK OTTO FOR FORTUNE伊马德·莫斯塔克希望人工智能会发现人类“有点无聊”，但他承认，最糟糕的情况是人工智能“基本上控制了人类”。
莫斯塔克是伦敦一家快速发展的初创公司Stability AI的CEO，其产品Stable Diffusion颇受欢迎。Stable Diffusion是一款生成式人工智能工具，支持用户使用文本提示词，创作通常高度复杂的图片。他接受了英国广播公司（BBC）的采访，采访内容于上周末发表。
他对BBC表示：“如果有一种东西的能力比人类更加强大，在那种情况下，什么是民主？这是一个已知的未知数。因为虽然我们无法想象比我们更强大的东西，但我们都知道有比我们更强大的人类。所以我个人认为，那种情形类似于斯嘉丽·约翰逊和杰昆·菲尼克斯主演的电影《她》（Her）：人类有点无聊，人工智能的反应可能是：‘再见’，‘你有点无聊’。”
他补充道：“但我可能是错的。我认为这个问题值得公开讨论。”
3月，莫斯塔克与特斯拉（Tesla）CEO埃隆·马斯克和苹果（Apple）联合创始人史蒂夫·沃兹尼亚克等共同签署了一封公开信，呼吁暂停开发比GPT-4更先进的人工智能。GPT-4是由微软（Microsoft）投资的OpenAI开发的人工智能语言模型。OpenAI还开发了ChatGPT和DALL-E 2（后者与Stable Diffusion类似，均可将文本提示词转换成图片）。
他对BBC表示：“如果有比我们更强大的智能体，超出了我们的控制，能够在互联网里穿梭并相互交流，达到一定程度的自动化，这意味着什么？”
然而，Stability AI仍在开发新产品，包括上周发布的一款文本转动画工具，并继续吸引投资者。该公司计划以40亿美元的估值进行融资。去年十月，该公司融资约1亿美元，估值为10亿美元。（该公司的投资者包括Coatue Management和Lightspeed Venture Partners等。）
与此同时，Stability AI正在被盖蒂图片社（Getty Images）起诉，这是一起具有标志性意义的版权侵权案件。该类诉讼可能无法避免，因为Stable Diffusion等文本转图片人工智能模型使用了数以十亿计的图片进行训练，而这些图片均来自互联网。
在被BBC问到最糟糕的情况是什么时，莫斯塔克回答称：“最糟糕的情况是它自我繁殖，并基本上控制人类。因为你可能有一百万个人工智能在有效地复制。”
不同寻常的是，Stable Diffusion是一款开源应用，这意味着任何人都可以查看、分享和使用代码。
3月，曾参与创建OpenAI并协助其融资的马斯克批评该公司放弃了最初的非营利模式，而是接受了微软的巨额投资，并且不再开源。他发推文称：
“OpenAI成立的目的是作为一家开源（因此我才将其命名为‘Open’AI）非营利组织，旨在制衡谷歌（Google），但现在它已经实际上被微软控制，变成了闭源的、追求利益最大化的公司。这背离了我的初衷。”
莫斯塔克对BBC表示：“我认为不应该需要依靠信任。如果你开发的是开源模型，并且将开发过程公开，如果你做得不对就应该受到批评，反过来如果你做了正确的事情也希望能得到赞美。”（财富中文网）
翻译：刘进龙
审校：汪皓
伊马德·莫斯塔克希望人工智能会发现人类“有点无聊”，但他承认，最糟糕的情况是人工智能“基本上控制了人类”。
莫斯塔克是伦敦一家快速发展的初创公司Stability AI的CEO，其产品Stable Diffusion颇受欢迎。Stable Diffusion是一款生成式人工智能工具，支持用户使用文本提示词，创作通常高度复杂的图片。他接受了英国广播公司（BBC）的采访，采访内容于上周末发表。
他对BBC表示：“如果有一种东西的能力比人类更加强大，在那种情况下，什么是民主？这是一个已知的未知数。因为虽然我们无法想象比我们更强大的东西，但我们都知道有比我们更强大的人类。所以我个人认为，那种情形类似于斯嘉丽·约翰逊和杰昆·菲尼克斯主演的电影《她》（Her）：人类有点无聊，人工智能的反应可能是：‘再见’，‘你有点无聊’。”
他补充道：“但我可能是错的。我认为这个问题值得公开讨论。”
3月，莫斯塔克与特斯拉（Tesla）CEO埃隆·马斯克和苹果（Apple）联合创始人史蒂夫·沃兹尼亚克等共同签署了一封公开信，呼吁暂停开发比GPT-4更先进的人工智能。GPT-4是由微软（Microsoft）投资的OpenAI开发的人工智能语言模型。OpenAI还开发了ChatGPT和DALL-E 2（后者与Stable Diffusion类似，均可将文本提示词转换成图片）。
他对BBC表示：“如果有比我们更强大的智能体，超出了我们的控制，能够在互联网里穿梭并相互交流，达到一定程度的自动化，这意味着什么？”
然而，Stability AI仍在开发新产品，包括上周发布的一款文本转动画工具，并继续吸引投资者。该公司计划以40亿美元的估值进行融资。去年十月，该公司融资约1亿美元，估值为10亿美元。（该公司的投资者包括Coatue Management和Lightspeed Venture Partners等。）
与此同时，Stability AI正在被盖蒂图片社（Getty Images）起诉，这是一起具有标志性意义的版权侵权案件。该类诉讼可能无法避免，因为Stable Diffusion等文本转图片人工智能模型使用了数以十亿计的图片进行训练，而这些图片均来自互联网。
在被BBC问到最糟糕的情况是什么时，莫斯塔克回答称：“最糟糕的情况是它自我繁殖，并基本上控制人类。因为你可能有一百万个人工智能在有效地复制。”
不同寻常的是，Stable Diffusion是一款开源应用，这意味着任何人都可以查看、分享和使用代码。
3月，曾参与创建OpenAI并协助其融资的马斯克批评该公司放弃了最初的非营利模式，而是接受了微软的巨额投资，并且不再开源。他发推文称：
“OpenAI成立的目的是作为一家开源（因此我才将其命名为‘Open’AI）非营利组织，旨在制衡谷歌（Google），但现在它已经实际上被微软控制，变成了闭源的、追求利益最大化的公司。这背离了我的初衷。”
莫斯塔克对BBC表示：“我认为不应该需要依靠信任。如果你开发的是开源模型，并且将开发过程公开，如果你做得不对就应该受到批评，反过来如果你做了正确的事情也希望能得到赞美。”（财富中文网）
翻译：刘进龙
审校：汪皓
Emad Mostaque hopes A.I. will find us “a bit boring” but acknowledges that in the worst-case scenario it “basically controls humanity.”
Mostaque is CEO of the fast-growing London-based startup Stability AI, which popularized Stable Diffusion. That’s a generative A.I. tool allowing users to create often remarkably sophisticated images using nothing but text prompts. He made the comments in a BBC interview released this weekend.
“If you have a more capable thing than you, what is democracy in that kind of environment? This is a known unknown,” he told the British broadcaster. “Because we can’t conceive of something more capable than us, but we all know people more capable than us. So, my personal belief is it will be like that movie Her with Scarlett Johansson and Joaquin Phoenix: Humans are a bit boring, and it’ll be like, ‘Goodbye’ and ‘You’re kind of boring.’”
“But I could be wrong,” he added. “I think it deserves to be discussed in a public sphere.”
In March, Mostaque joined Tesla CEO Elon Musk and Apple cofounder Steve Wozniak in signing an open letter calling for pause in A.I. development for anything more advanced than GPT-4, the A.I. chatbot from Microsoft-backed OpenAI, which also makes ChatGPT and DALL-E 2 (the latter, like Stable Diffusion, converts text prompts to images).
“If we have agents that are more capable than us that we cannot control that are going across the internet and [are] hooked up and they achieve a level of automation,” he told the BBC, “what does that mean?”
Stability AI is racing ahead, however, in developing new products—including a text-to-animation tool released this week—and wooing investors. It’s seeking to raise funds at a $4 billion valuation, following a $1 billion valuation last October after raising about $100 million. (Coatue Management and Lightspeed Venture Partners are among its investors.)
At the same time, Stability AI is being sued by Getty Images in a landmark case over copyright. Such a lawsuit was perhaps inevitable given that text-to-image A.I. models like Stable Diffusion are trained using billions of images pulled from the internet.
Asked by the BBC what the worst-case scenario might be, Mostaque said: “Worst-case scenario is that it proliferates and basically it controls humanity. Because you could have a million of these things replicating effectively.”
Unusually, Stable Diffusion is open source, meaning anyone can examine the code, share it, and use it.
In March, Musk, who cofounded and helped fund OpenAI, criticized it for switching away from a nonprofit model, taking hefty investments from Microsoft, and not being open source. He tweeted:
“OpenAI was created as an open source (which is why I named it ‘Open’ AI), non-profit company to serve as a counterweight to Google, but now it has become a closed source, maximum-profit company effectively controlled by Microsoft. Not what I intended at all.”
“I think there shouldn’t have to be a need for trust,” Mostaque told the BBC. “If you build open models and you do it in the open, you should be criticized if you do things wrong and hopefully lauded if you do some things right.”
