“通用人工智能可能无法被（bèi）治（zhì）理，因（yīn）为传统的（de）责任分（fèn）配（pèi）和惩罚执行方法并不适（shì）用。”

近日，美国路易斯维尔大（dà）学教授罗曼·扬波（bō）尔斯基（Roman Yampolskiy）就人工智能治理问题接（jiē）受了澎（péng）湃新闻（www.thepaper.cn）记者专访。

他认为，在（zài）某些重要方面（miàn），我（wǒ）们无（wú）法治理比人类更聪（cōng）明的人工智能。“一个能力强大（dà）、富有创造力且不受控制（zhì）的通用人工（gōng）智能最终可（kě）能会隐式甚至明确地控制管理此类智能软（ruǎn）件（jiàn）的一（yī）些机构（gòu）和个人。”

罗曼·扬波尔斯基是美国路易斯维尔大学网络安（ān）全实（shí）验室的（de）创始人和主任，著有《人工超（chāo）级智能：未来的方法》等书籍。他的主要研究兴趣有人工（gōng）智能安全（quán）、模（mó）式识别、生物行为识别（bié）等。扬波尔斯基曾（céng）受邀出席2020年首届（jiè）清华大（dà）学（xué）人工（gōng）智能合作与（yǔ）治理国（guó）际论坛。

通（tōng）往通（tōng）用人（rén）工智（zhì）能的尝试

通用人工智（zhì）能（ Artificial general intelligence，简称AGI），有时（shí）也被称作强人工智能，它（tā）所描述的（de）机（jī）器智能（néng）可以理解或学习人类（lèi）所（suǒ）能完成的任何智力任（rèn）务。

多智（zhì）能体系统教父、牛津大（dà）学计算（suàn）机科学（xué）系主任（rèn）Michael Wooldridge在接受澎湃新闻（www.thepaper.cn）采（cǎi）访时表示，如果我们能构建具有（yǒu）人类全部能力和智（zhì）力（lì）的程（chéng）序，那我（wǒ）们就将实（shí）现通（tōng）用（yòng）人工智能。但当（dāng）前，“我们（men）连通用（yòng）人（rén）工智能的皮毛都还没有碰到”。

关于人工通用智能能否实现、何时实（shí）现的问题，业内（nèi）有不同的观点。部（bù）分人工（gōng）智（zhì）能学者认为，人（rén）工通用智能的概念并不严肃，在实践（jiàn）中基本不可（kě）能实现。另一些人则十分看好人工通用智（zhì）能的发展，认为它有可能塑造人（rén）类的发（fā）展（zhǎn）轨迹。

例如，图灵奖得（dé）主（zhǔ）拉吉（jí）·雷迪（Raj Reddy）认为（wéi），研究通用用（yòng）途的人工智能毫无用处。“用AI能开发出（chū）的（de）东西是（shì）无穷无尽的，但研究人（rén）员应专注（zhù）研究如何（hé）用AI增强人的能力，而不只是增（zēng）强AI的能力（lì）”。 清华（huá）大学（xué）类脑（nǎo）计算中心（xīn）主任施路平则表示（shì），从未（wèi）来发展的角度看（kàn），人工通用智能是（shì）一个必然的趋势（shì）。

尽管学界对是否应发展（zhǎn）通用（yòng）人工（gōng）智能存在分歧，科研公（gōng）司和高（gāo）校已经开始（shǐ）相（xiàng）关（guān）尝（cháng）试，通用人（rén）工（gōng）智能的（de）伦理问题也日渐显（xiǎn）现。

2019年7月，微软宣布向非营利性人工智能研究公司（sī）OpenAI投资10亿（yì）美元研发人工通用智能（néng）。2019年8月，清华大学（xué）在（zài）学术期刊（kān）《自然》发表《面向人（rén）工通（tōng）用智能（néng）的异构天机芯片架构》研究。2021年1月，谷歌和微软（ruǎn）相继在一份权威自然语言理解榜单中表现超越人类，微软宣（xuān）称（chēng）这“标志着（zhe）迈向通用人（rén）工智能的重要（yào）里程碑。”

在采访中，扬波尔（ěr）斯基介绍，为了使未来的（de）人（rén）工智能（néng）造福于（yú）全（quán）人类，针对人工智（zhì）能（néng）的治理计划试图通（tōng）过（guò）建立监管框架和（hé）行业（yè）标准等（děng）方式，使人工智能可以被各（gè）国（guó）政（zhèng）府（fǔ）、国际组（zǔ）织和跨国（guó）公司（sī）控制。

但他指出，直接治理人（rén）工（gōng）智能是没有意义（yì）的，“‘人工智能（néng）治理’这个（gè）术语暗示的是，通过规定允许开发什么样产品和服（fú）务以及如何开发，来管理人工智能研（yán）究（jiū）员和创造者”。

他认为，无论对从事（shì）人工智能研究的科学家和（hé）工程（chéng）师实施何种管理，都取决于创建人（rén）工通（tōng）用（yòng）智能（AGI）的难度。

“如（rú）果创造通用人工智能所必需的计算资（zī）源和（hé）数据（jù）收集工（gōng）作，在资金和人力（lì）资（zī）本方面与美国的曼哈顿计划（美国（guó）研制原子弹的计（jì）划）相（xiàng）当，那么各国（guó）政（zhèng）府就有许多‘胡（hú）萝卜加大棒’，可以（yǐ）用来指导（dǎo）研究人员（yuán），并按照自己的规范塑造未来的人工智能（néng）。”

但另（lìng）一种（zhǒng）情况下，他分析道，如果有更有（yǒu）效的方法来创造第一个（gè）通（tōng）用人工智（zhì）能，那么政府的监（jiān）管尝（cháng）试（shì）可（kě）能（néng）是（shì）徒劳的。“例（lì）如，一个青少（shǎo）年在车库里用一台价值（zhí）仅1000美元的笔记本电脑创造出第一个通用人（rén）工（gōng）智（zhì）能。虽然可能性（xìng）很小，但这种情况也需要（yào）考虑。”

总而言之，“历史上，很多对（duì）软件治理的（de）尝试，例如垃（lā）圾邮件（jiàn）、计算机病毒和深度伪造（zào）技术（Deepfake）等，都只取得（dé）了非常（cháng）有限的（de）成功。而作为一（yī）个独立代理，通用人工智能可能无法被治理，因为传统的责（zé）任分配和惩罚执（zhí）行（háng）方法（fǎ）并不适用。”

扬波（bō）尔斯基认为，即使遇（yù）到第一种情况，即创造通用人工（gōng）智（zhì）能需要密集的资（zī）源，我（wǒ）们仍然对人工智（zhì）能的（de）可预测性、可解释性和可（kě）控制性存在一些既定的（de）技（jì）术限制。“至少需要这三种能力才能（néng）够（gòu）部分实现（xiàn）对人工智能的成功监管，这也（yě）就（jiù）意味（wèi）着，在某些重要方面（miàn），我们无法治理比人类更聪（cōng）明的人（rén）工智能。”