《人类简史》作者：用AI机器人假冒真人值得判“20年监禁”
很少会有人认为假钞对金融系统不构成任何威胁。如果你无法信任货币的真实性，买卖就会变得更困难，进而将影响经济。但一位著名作家表示，另外一种危险并没有引起足够多的关注，那就是社交媒体上假冒真人的人工智能机器人。
以色列历史学家、作家尤瓦尔·诺亚·赫拉利在上周说：“现在，在人类历史上首次能够创造虚假的人，人们可以创造出数以十亿计的假人。你并不知道，与你在线交流的某个人是真人还是机器人。”
尤瓦尔·诺亚·赫拉利是《人类简史》（Sapiens）的作者。这本书被比尔·盖茨评价为他最喜欢的书之一。赫拉利在瑞士日内瓦召开的联合国（UN）人工智能惠及人类（AI for Good）全球峰会上发表了这番评论。
他表示：“如果一个社交媒体平台上，不仅有机器人会转发真人发布的推文，还有数以百万甚至十亿计的机器人能够创作在许多方面比人类创作的内容更高级的内容，例如更有说服力或更有吸引力的内容，或者更有针对性地根据你的个性和生活经历量身定制的内容，结果会怎样？如果我们允许这种情况发生，人类基本上就完全丧失了对公共对话的控制权，比如民主政治这种概念将变得完全不可行。”
他警告称“这种情况对社会的危害，相当于假钞对于金融系统的威胁。如果你无法分辨谁是真人，谁是机器人，信任就会崩溃，至少自由社会将不复存在。或许独裁政权可以用某种方式解决这个问题，但民主政体将束手无策。”
“人工智能机器人泛滥”
推特（Twitter）的老板埃隆·马斯克也意识到机器人问题。他在今年3月发推文称“For You推荐流将只推送经认证账户的内容”，他表示，这是“解决高级人工智能机器人泛滥唯一现实的途径。否则这将是一场注定要失败的战争。”
与此同时，OpenAI的首席执行官萨姆·奥尔特曼参与创建了初创公司Worldcoin，为人们提供了借助虹膜扫描设备和加密系统证明他们是真人而非人工智能机器人的途径。该公司宣布在5月C轮融资中融得1.15亿美元。
赫拉利呼吁出台防止“假人”的“极其严格的规定”。
他说：“如果你假冒真人，或者在你的平台上允许假人存在，不采取有效的反制措施，我们或许不会将你处决，但你将面临20年监禁。”
他表示，面对这样的后果，科技巨头们会很快“找到防止社交媒体平台上假人泛滥的方法”。
至于为什么现在还没有这样的规定存在，赫拉利称，到目前为止创造这样的假人“在技术上不可行”。相比之下，伪造货币的行为存在已久，而各国政府均颁布了打击这种行为的“极其严格的规定”，以“保护金融系统”。
赫拉利指出，他并非呼吁出台禁止创建人工智能机器人的法律，而是“禁止让这些机器人以真人的身份出现在公众面前”。他表示，例如，提供人工智能医生是合法的，“可以带来巨大帮助”，但“必须说明它并非人类医生……我需要知道它是真人还是人工智能”。（财富中文网）
译者：刘进龙
审校：汪皓
很少会有人认为假钞对金融系统不构成任何威胁。如果你无法信任货币的真实性，买卖就会变得更困难，进而将影响经济。但一位著名作家表示，另外一种危险并没有引起足够多的关注，那就是社交媒体上假冒真人的人工智能机器人。
以色列历史学家、作家尤瓦尔·诺亚·赫拉利在上周说：“现在，在人类历史上首次能够创造虚假的人，人们可以创造出数以十亿计的假人。你并不知道，与你在线交流的某个人是真人还是机器人。”
尤瓦尔·诺亚·赫拉利是《人类简史》（Sapiens）的作者。这本书被比尔·盖茨评价为他最喜欢的书之一。赫拉利在瑞士日内瓦召开的联合国（UN）人工智能惠及人类（AI for Good）全球峰会上发表了这番评论。
他表示：“如果一个社交媒体平台上，不仅有机器人会转发真人发布的推文，还有数以百万甚至十亿计的机器人能够创作在许多方面比人类创作的内容更高级的内容，例如更有说服力或更有吸引力的内容，或者更有针对性地根据你的个性和生活经历量身定制的内容，结果会怎样？如果我们允许这种情况发生，人类基本上就完全丧失了对公共对话的控制权，比如民主政治这种概念将变得完全不可行。”
他警告称“这种情况对社会的危害，相当于假钞对于金融系统的威胁。如果你无法分辨谁是真人，谁是机器人，信任就会崩溃，至少自由社会将不复存在。或许独裁政权可以用某种方式解决这个问题，但民主政体将束手无策。”
“人工智能机器人泛滥”
推特（Twitter）的老板埃隆·马斯克也意识到机器人问题。他在今年3月发推文称“For You推荐流将只推送经认证账户的内容”，他表示，这是“解决高级人工智能机器人泛滥唯一现实的途径。否则这将是一场注定要失败的战争。”
与此同时，OpenAI的首席执行官萨姆·奥尔特曼参与创建了初创公司Worldcoin，为人们提供了借助虹膜扫描设备和加密系统证明他们是真人而非人工智能机器人的途径。该公司宣布在5月C轮融资中融得1.15亿美元。
赫拉利呼吁出台防止“假人”的“极其严格的规定”。
他说：“如果你假冒真人，或者在你的平台上允许假人存在，不采取有效的反制措施，我们或许不会将你处决，但你将面临20年监禁。”
他表示，面对这样的后果，科技巨头们会很快“找到防止社交媒体平台上假人泛滥的方法”。
至于为什么现在还没有这样的规定存在，赫拉利称，到目前为止创造这样的假人“在技术上不可行”。相比之下，伪造货币的行为存在已久，而各国政府均颁布了打击这种行为的“极其严格的规定”，以“保护金融系统”。
赫拉利指出，他并非呼吁出台禁止创建人工智能机器人的法律，而是“禁止让这些机器人以真人的身份出现在公众面前”。他表示，例如，提供人工智能医生是合法的，“可以带来巨大帮助”，但“必须说明它并非人类医生……我需要知道它是真人还是人工智能”。（财富中文网）
译者：刘进龙
审校：汪皓
Few would argue fake money poses no threat to the financial system. If you can’t trust that currency is real, buying and selling gets more difficult, with implications for the economy. But according to one noted author, not enough attention goes to another danger: A.I. bots on social media pretending to be real people.
“Now it is possible, for the first time in history, to create fake people—to create billions of fake people,” Israeli historian and author Yuval Noah Harari said last week. “You interact with somebody online, and you don’t know if it’s a real human being or a bot.”
The author of Sapiens—a history of humanity that Bill Gates calls one of his favorite books—made the comments while addressing the UN’s AI for Good summit in Geneva.
He continued, “What happens if you have a social media platform when it’s not just bots that retweet what a human created, but you have millions, potentially billions, of bots that can create content that in many ways is superior to what humans can create, like more convincing, more appealing, whatever—more tailored to your specific personality and life history. If we allow this to happen, then basically humans have completely lost control of the public conversation, and things like democracy will become completely unworkable.”
He warned that “it will do to society what fake money threatens to do to the financial system. If you can’t know who is a real human and who is a fake human, trust will collapse, and with it, at least free society. Maybe dictatorships will be able to manage somehow, but not democracies.”
“AI bot swarms taking over”
Twitter owner Elon Musk is also aware of the bot problem. He tweeted in March that “only verified accounts will be eligible to be in For You recommendations,” calling it “the only realistic way to address advanced AI bot swarms taking over. It is otherwise a hopeless losing battle.”
OpenAI CEO Sam Altman, meanwhile, cofounded a startup called Worldcoin, which offers a way for people to prove they’re a human being and not an A.I. bot, with the help of an iris-scanning device and crypto system. The venture announced a $115 million Series C funding round in May.
Harari called for “very strict rules” against “faking people.”
“If you fake people, or if you allow fake people on your platform without taking effective countermeasures, so maybe we don’t execute you, but you go to 20 years in jail,” he said.
Facing such consequences, tech giants would quickly “find ways to prevent the platforms from being overflown with fake people,” he said.
As for why such rules don’t exist already, he noted that until now creating fake people in such a way “was technically impossible.” Counterfeiting money, by contrast, has long been possible, and governments have enacted “very strict rules” against it to “protect the financial system.”
He noted that he wasn’t calling for laws against creating such bots, but rather, “you’re not allowed to pass them in public as real people.” For example offering an A.I. doctor is fine and “can be extremely helpful,” he said, but only “provided it’s very clear that this is not a human doctor…I need to know whether it’s a real human being or an A.I.”
