“通用人为智能”（AGI）近两年受到了通常体贴和热议。近期圣塔菲讨论所学者、波特兰州立大学打算机科学教导 Melanie Mitchell 正在Science 杂志上公告 Expert Voices 作品“Debates on the nature of artificial general intelligence”，再一次把题目导向了对智能的界说题目。这篇作品蕴涵了很多反思，响应了暂时大个人人对AGI的理解，然而此中也有很多见解有待商榷。为了更好地清楚这篇作品，集智俱笑部「AGI念书会」发感人、天普大学通用人为智能倾向博士生徐博文将其翻译成中文，附上英文原稿供参照，同时也撰写了简短的评论，祈望能为AGI的议论供应更宽阔的视角。

　　近期公告的这篇作品 (Mitchell, 2024) 中罗列和比力了AI和其他范围（比方认知科学）的主流声响对AGI的清楚。正在这篇回应中，我将试验澄清少少曲解，并回应作家提出的诘难。

　　少少出名的公司（比方OpenAI、DeepMind）或者讨论者对AGI的清楚

　　基于一个对智能的界说（“智能及其干系才具能够被清楚是为嘉勉最大化供职的”），猜想AGI极其危急，由于它不妨会“最优化”一个与人类“过错齐”的目的。

　　生物智能是与物理身体的体会高度干系的，是以智能不行正在呆板中实行（这一见解否认了超等智能的不妨性）

　　实在，民多对AGI有许多清楚，而且咱们已经缺乏一个明了、厉峻的AGI界说。但这不虞味着“AGI”这个词语的寄义全部不知道。由于少少史籍原故，大个人AI讨论者体贴于特定范围或题宗旨专用体系，而“通用”则是夸大了“范围无闭”的属性（即“通用宗旨”），驳斥当时的主流范式。是以“通用智能”蕴涵了“通用宗旨”的兴趣 (Wang & Goertzel, 2007) 。我以为大个人AGI讨论者都邑赞同，AGI不等同于超等智能。

　　第二点中对智能的界说很容易误导人以为AGI体系是要寻觅单个目的。遵照很多长久以还AGI范围的现有任务（比方(Wang & Goertzel, 2012)中提到的，这些任务和作品中罗列的比拟不那么“驰名”），一个AGI体系应该有多个未预先确定的目的，而且目的的寄义是从情况中习得的。目的之间不妨互相冲突，而且实行目的的资源是受限的星空体育。人相似有这些束缚。从这个意旨上说，AGI体系并无间对导致人类歼灭，而文中提到的思念试验（比方“回形针AI”）不实用于AGI。值得一提，正在最下手的时期AGI学者就曾经回应了“AGI极端危急”这一潜正在的反驳（见(Wang & Goertzel, 2007)的3.8节）。

　　个其余才具确实是具身化的（即与物理身体高度干系）。然而，具身的体会与AGI体系的“通用宗旨”并不冲突， 由于“纵使AGI体系依赖于特定范围的常识来管理特定范围的题目智能，它的合座常识收拾和进修机造不妨已经是通用的。症结的一点是，一个通用智能[体系]务必……学会左右它以前从未遭遇过的新范围”（ (Wang & Goertzel, 2007) 的3.2节对“AGI根底不存正在”这一反驳的回应）。实情上，很多AGI讨论者早曾经认识到，“智能”是从区别智能体系身上空洞出来的，比方人类智能、动物智能、群体智能，乃至不妨存正在的表星人智能，而空洞就得成心地大意生物细节。

　　我全部赞同咱们必要一个智能的表面。我也正正在试验给AGI下一个正式的界说，必要单唯一篇论文才不妨知道AGI是什么兴趣（这根基是个形而上常识题）。

　　“通用人为智能”（artificial general intelligence，AGI）一词正在暂时闭于人为智能（AI）的议论中曾经无处不正在。OpenAI暗示，其职责是“确保通用人为智能造福全人类”。DeepMind的公司愿景中夸大“通用人为智能有不妨激动的是史籍上最伟大革新之一” 。正在英国当局的《国度人为智能政策》和美国当局的人为智能文献中，AGI也都被提及。微软的讨论职员比来声称正在大型说话模子GPT-4中有“”的证据，现任和前任谷歌高管声称“AGI曾经展示了”。闭于GPT-4是否是“AGI算法”的题目是马斯克（Elon Musk）与OpenAI讼事中的中央题目。

　　人们不妨会误以为这个术语的寄义曾经确立并获得了相同赞同，但不行由于这一曲解而受到申斥，终究“AGI”一词正在贸易、当局和媒体中被通常操纵。然而实情却是，AGI是什么兴趣，或者它是否有明了的寄义，这正在AI社区里继续存正在激烈的争辩。AGI的寄义和不妨的后果曾经不光仅是一个“奇妙”术语的学术争辩。寰宇上最大的科技公司和扫数当局都正在遵照他们以为AGI将带来什么来做出厉重决定。但若长远讨论闭于AGI的各类猜想，就会展现，很多人为智能从业者对“智能之素质”的主见与那些讨论人类和动物认知的人天差地别——这种不同对付清楚呆板智能的近况和预测不妨的异日很厉重。

　　人为智能范围的最初目的是让机用拥有与人类不相上下的“通用智能”。早期的AI前驱很笑观：1965年，司马赫（Herbert Simon）正在他的《人与收拾的自愿化状态》（The Shape of Automation for Men and Management）一书中预测，“20年内，呆板将有才具做任何人类能做的任务。”1970年的《性命》（Life）杂志援用了明斯基（Marvin Minsky）的线年内，咱们将具有一台拥有平时人通用智能的呆板。我的兴趣是，一台可能阅读莎士比亚、给汽车加油、办公室里搞幼圈子、讲笑话、斗殴的呆板。”

　　这些笑观的预测并没有成为实际。正在接下来的几十年里，告捷的AI体系唯有专用的没有通用的——它们只可实践简单义务或有限限度的义务（比如星空体育智能，手机上的语音识别软件能够转录你的口述，但不行智能地做出回应）。“AGI”一词是正在21世纪初造造的，旨正在承AI前驱之遗志，以求光复对“试验独立于特定范围来讨论和造造智能这个联合体”的体贴。

　　这种寻觅继续处正在人为智能范围的一个不起眼的角落，直到比来，当寰宇当先的人为智能公司将实行AGI确立为他们的要紧目的，并指出，人为智能“末日论者”通告AGI的糊口胁迫是他们的头号恐怕。很多人为智能从业者揣摩了AGI的异日时光辉，比如，有人预测，“到2028年，咱们有50%的几率实行AGI。”其他人则质疑AGI的条件假设，称其吞吐且界说不清；一位出名的讨论者正在推特上写道：“这全盘观点就不科学，人们乃至应当为操纵这个词觉得侮辱。”

　　即使早期的AGI赞成者以为，呆板很速就会承当扫数人类行为，但讨论者们曾司理解到，创修能正在国际象棋中取胜或能答复题宗旨人为智能体系，比修筑一个能叠衣服或修饰管道的呆板人要容易得多。AGI的界说相应地安排为只搜罗所谓的“认知义务”。DeepMind拉拢创始人哈萨比斯（Demis Hassabis）将AGI界说为“应当可能竣事人类能够竣事的简直扫数认知义务”的体系，而OpenAI将其刻画为“正在大大批有经济价格的任务中超越人类的、高度自帮的体系”星空体育，此中“大大批”消灭了必要物理智能的义务，这些义务不妨短时光内呆板人无法竣事。

　　正在人为智能中，“智能”（或者叫认知，亦或其它词语）的观点平淡是遵照智能体个别“最优化”嘉勉或目的来构修的。一篇有影响力的论文将通用智能界说为“一个主体正在通常的情况中实行目的的才具”；另一种说法是，“智能及其干系才具能够被清楚为是嘉勉最大化供职的。”实情上，这即是当今人为智能的任务体例——比如，打算机步骤AlphaGo被磨练来优化特定的嘉勉函数（“获得竞争”）智能，GPT-4被磨练来优化另一种嘉勉函数（“预测短语中的下一个词”）。

　　这种对智能的主见激励了少少AI讨论者的另一种猜想：一朝AI体系到达了AGI，它将通过将其优化才具操纵于自身的软件，“递归地”升高自身的智能，并疾速变得“比咱们机灵千百万倍”星空体育，从而疾速实行超等智能。

　　这种对优化的体贴导致AI社区中的少少人忧愁，“（价格观）不（与人类）对齐的”AGI不妨会要紧偏离其造造者的目的，从而给人类带来糊口危险。形而上学家博斯特罗姆（Nick Bostrom）正在2014年出书的《超等智能》（Superintelligence）一书中提出了一个当今很出名的思念试验：他联念人类给一个超等智能的人为智能体系设定目的，即优化回形针的临盆。遵循这个目的的字面兴趣，人为智能体系会诈欺它的天才来驾驭地球上扫数的资源，并把扫数的东西都形成回形针星空体育梅拉妮·米歇尔Science刊文：“通用人为智能”性质之辩。当然，人类并不计算歼灭地球和人类来修筑更多的回形针，但他们正在指令中大意了这一点。人为智能讨论者 Yoshua Bengio 也提了个思念试验：“咱们能够让人为智能管理天色改观题目，它不妨会策画出一种病毒，杀死豪爽生齿，由于咱们的指令中‘危机’二字的寄义不足知道，而人类本质上是管理天色垂危的要紧贫苦。”

　　这种对AGI（和“超等智能”）的揣摩性见解与讨论生物智能（越发是人类认知）的人持有的见解区别。即使认知科学对“通用智能”没有厉峻的界说，就人类或任何类型的体系能够具有“通用智能”的水平而言也没有共鸣，但大大批认知科学家都邑赞同星空体育，智能不是能够正在简单目标上器度和任性安排的量，而是通用和特定才具的纷乱整合，这些才具大个人是合适特定糊口情况的。

　　很多讨论生物智能的人也可疑，智能的所谓“认知”方面能否从其他方面中孤单辞别出来，并正在一个分离（人类）身体的（disembodied）呆板中重现。心思学家曾经阐明，人类智力的厉重方面是设备正在一个体具身的肉体和感情体会的根本上的。证据还阐明，个别智力深受其正在社会和文明情况中的到场所影响。与个体的“优化才具”比拟，清楚他人、与他人合营和向他人进修的才具不妨对一个体告捷实行目的更为厉重。

　　其它，与设念的“回形针最大化”AI区别，人类的智能并不以优化固定目的为中央；相反，一个体的目的是通过“禀赋需求”和“支持其智能的社会文明情况”的纷乱调和而成。与《超等智能》的“回形针最大化”AI区别，智能的扩张正好使咱们可能更好地洞察他人的企图，以及咱们自身作为的不妨影响、据此编削这些作为。正如形而上学家格蕾丝（Katja Grace）所写的那样，“对付简直任何人类目的来说，把军服宇宙行动次要步伐的念法都是全部好笑的。那么为什么咱们以为人为智能的目的是区其余呢？”

　　呆板纠正自身的“软件”，以升高其智能的量级，这种“呆板鬼魂”也偏离了智能的生物学见解，即智能是一个高度纷乱的“体系”，而不光限于大脑内部。假若人类程度的智能必要区别认知才具的纷乱调和，以及社会和文明的赞成，那么很不妨体系的“智能”目标将无法无缝探访“软件”目标，就像咱们人类无法轻松地策画咱们的大脑（或咱们的基因）让自身变得更机灵相似。然而，行动一个群体，咱们通过表部器材（如打算机）和设备文明机构（如学校、藏书楼和互联网）升高了咱们的本质智能。

　　AGI是什么兴趣以及它是否是一个寄义清楚的观点仍正在争辩中。其它，闭于AGI呆板能做什么的猜想要紧是基于直觉，而不是科学证据。但这种直觉能正在多大水平上可托呢？AI的史籍几次打倒了咱们对智能的直觉。很多早期的AI前驱以为，通过逻辑编程的呆板将左右人类全体聪颖。其他学者预测，要让一台呆板正在国际象棋上打败人类，或者正在区别说话之间举行翻译，或者举行对话，必要它拥有通用的、人类程度的智能，但实情证实这是毛病的。正在AI演进中的每一步，人类程度的智能都比讨论职员预期的要纷乱得多。目前闭于呆板智能的猜想也会被证实是毛病的吗？咱们能否成长出一门更厉谨、更普通性的智能科学来答复这些题目？

　　目前尚不知道AI的科学是更像人类智能的科学，如故更像表太空生物科学（即预测其他星球上的性命不妨是什么形态）。对从未见过乃至不妨不存正在的东西举行预测，无论是表星性命如故超等智能呆板，都必要基于普通道理的表面。最终，“AGI”的寄义和后果不会通过媒体争辩、讼事或咱们的直觉和猜想来知道，而是必要对这些道理的长久科学讨论。