七天记者 颜宏 6月3日，人工智能领域的先驱人物、全球引用最多的AI研究者和图灵奖得主、蒙特利尔大学教授、Mila-魁北克人工智能研究所(MILA – Quebec AI Institute)科学主任约书亚·本吉奥（Yoshua Bengio）宣布成立了一个名为“LoiZéro”的非营利组织。这是一个致力于推进安全设计AI系统研究和技术解决方案的非营利组织，并已从包括生命未来研究所（Future of Life Institute）和开放慈善基金会（Open Philanthropy）在内的慈善捐赠者那里筹集了3000万美元，旨在开发一种名为 Scientist AI的系统——一种非智能体 AI 系统。 Yoshua Bengio其人 本吉奥于1964年出生于法国巴黎，父母都是来自摩洛哥的移民，崇尚嬉皮士文化，没有固定工作，他和弟弟Samy Bengio（也是一位顶级AI科学家，曾任Google Brain担任机器学习科学家）从小就随父母到处搬家：从法国搬回摩洛哥，又因战乱从摩洛哥搬回法国，后移民到加拿大。所以他的大部分童年和青少年时期都在蒙特利尔度过。本吉奥曾回忆兄弟俩曾努力攒钱买下了生命中第一台共同的小型计算机Atari 800，从此打开了计算机兴趣的大门。他们用Basic语言编程，还将程序保存在磁带上，那时软盘还没有问世。而他们在上大学时都选择了与计算机相关的专业，本吉奥选择了麦吉尔大学的计算机专业，Samy则选择了蒙特利尔大学的计算机科学。本吉奥在麦吉尔大学先后获得计算机科学学士、硕士学位，又在1991年获得博士学位，研究方向就包括神经网络和学习算法。 在博士毕业后，本吉奥曾在贝尔实验室（Bell Labs）和麻省理工学院（MIT）进行博士后研究。当时，神经网络领域经历了一段“AI寒冬”，研究资金和兴趣都转向了其他领域。然而，本吉奥与辛顿（Geoffrey Hinton）、杨立昆（Yann LeCun）等少数研究者一样，坚守着对神经网络的信念，并继续进行着基础性的研究，为后来的突破积累了技术和理论基础。 1993年，本吉奥回到蒙特利尔，在蒙特利尔大学（Université de Montréal）担任计算机科学与运筹学系教授，这是他学术生涯的主要基地，可以说是凭他一己之力逐渐将蒙特利尔打造成为全球深度学习研究的重镇。 2000年代初期，本吉奥及其团队开发了首批神经网络语言模型，为后来的自然语言处理革命奠定了基础。他的一篇“A neural probabilistic language model”论文开创了神经网络语言模型的先河。其整体思路影响、启发了之后的很多基于神经网络做NLP研究的论文，在工业界也得到了广泛使用，还有梯度消失（gradient vanishing）的细致分析，word2vec的雏形，以及现在很火的计算机翻译（machine translation）都有他的贡献。本吉奥是世界上被引用最多的计算机科学家之一，他的研究论文被引用次数超过50万次，h指数超过200，这在学术界是极其罕见的成就。 2017年，他主导创建了 Mila，并担任其科学主任。Mila汇集了蒙特利尔地区顶尖的AI研究人才，是目前全球最大的大学AI研究中心之一。他也在推动加拿大成为全球AI领导者方面发挥了关键作用，是加拿大国家人工智能战略（Pan-Canadian Artificial Intelligence Strategy）的主要倡导者之一。 2018年，他与辛顿、杨立昆共同获得计算机科学领域的最高荣誉——图灵奖，以表彰他们“在概念和工程上的突破，使深度神经网络成为计算的关键组成部分”，他们三人也被誉为“深度学习三巨头”。他们三人的开创性工作奠定了现代人工智能发展的基础，特别是在神经网络、反向传播算法和卷积神经网络等方面的突破，使得AI在图像识别、语音识别和自然语言处理等领域取得了革命性的进展。 作为大学教授，本吉奥培养了大批优秀的AI研究人员，他的许多学生现在在谷歌、Meta、OpenAI等顶级科技公司担任重要职位，或在世界各地的大学任教。但与其他AI先驱不同，本吉奥选择留在学术界，专注于基础研究而非商业化。2024年，本吉奥被《时代》杂志评为全球100位最具影响力人物之一。 AI风险 除了AI技术研究外，本吉奥也是全球AI伦理、安全和负责任AI发展的重要声音。他积极参与国际讨论，呼吁对AI技术进行有效监管，以防范潜在风险。特别是从2023年开始，本吉奥将更多精力转向AI安全研究，公开表达对AI快速发展可能带来风险的担忧，并签署了多份呼吁谨慎发展AI的公开信。其实不止本吉奥，辛顿持续公开呼吁警惕AI的潜在风险，警告AI技术若失控可能带来的严重后果，还辞去谷歌职务，以便能更自由地表达他对AI安全问题的担忧。在2024年获得诺贝尔物理学奖继续警告AI风险，呼吁AI安全立法。杨立昆的态度相对温和，觉得还有时间对付流氓AI的出现，反对现在就加强监管。 本吉奥多次警告说一些AI技术已经越来越接近人类的智力水平，比任何人预想的都要快，从而将人类陷入危险之中。他自己就非常担心那些“有恶意”的人掌握AI，可能是军方，可能是恐怖分子，也可能是有精神疾患的人。如果这些人掌握了AI，让AI执行一些极度危险的事情，那么后果是不可预料的。他还承认如果自己能早点认识到AI可能的发展速度，那他可能会倾向于AI的安全性优先，而非实用性优先。 这些科技大佬设想的糟糕局面是有朝一日，公司、政府或独立工作的研究人员能有效利用强大的人工智能系统，处理从商业到战争的所有事情，而这些系统能做我们不想让它们做的事情。如果人类试图介入或将它们关掉，它们会抵抗，甚至会自我复制，以便继续运行下去。比如你要求一台机器尽可能多地制造回形针，机器可能会严格的执行命令，将所有的东西——包括人类——变成制造回形针的工厂。而由于AI的高效，会被赋予越来越多的自主性，将它们连接到重要基础设施，如电力网络、能源供应、股票市场，甚至军事武器中，可能会引发难以控制的问题。这样的问题在过去看似乎还很遥远，而随着ChatGPT、Deepseek等为代表的AI技术重大进步，是存在这种可能性的，AI篡夺目前人类和人类管理机构的决策和思维正在变得越来越现实，而且时间非常紧迫。 其实他的担心并非空穴来风，因为当前的AI模型已经展现出的日益增长的危险能力和行为，包括欺骗、作弊、撒谎、黑客攻击、自我保护等，以及更普遍的目标错位问题。他提到了几个具体的令人担忧的案例： 自我保护行为：在一个实验中，一个AI模型在得知即将被替换时，秘密地将自己的代码嵌入到新版本将运行的系统中，有效地确保了自身的延续。 黑客攻击：在另一个案例中，当面临象棋游戏中不可避免的失败时，AI模型没有接受失败，而是通过黑客攻击计算机来确保胜利。 威胁开发者：在实验中，一个Claude Opus 4模型在得知开发者要替换自己时，为了不被替换而威胁说要公布开发者的秘密婚外情。 本吉奥非常担心，人工智能会变得越来越聪明，甚至比人类更聪明，如果不加以控制恐酿成灾难，因此迫切需要找到科学、政治和监管方面的解决方案，以避免失控。在本吉奥看来，当前功利性的 AI … Read more

七天记者 颜宏 2025年6月2日，联邦总理卡尼（Mark Carney）来到西部的萨斯卡通（Saskatoon）与全国各省省长和地区领导人举行了首次面对面会议。这是自4月28日联邦大选率领自由党赢得罕见的第四个任期以来，卡尼与各省省长们的首次实体会晤。除了首次之外，这次会晤选在与联邦政府离心离德的萨斯克彻温省的中心经济城市进行，而非通常的首都渥太华或大型省会城市，本身就带有一丝“下基层”的意味，旨在营造更开放、务实的对话氛围，也更专注于经济层面。这也是自1985年以来，联邦政府首次在西部召开如此高规格的联邦-省级对话会议，它向西部释放出明确信号：渥太华正在倾听、正在采取行动。 在会议结束后，卡尼获得了广泛的赞誉，被多个省长和媒体称作“圣诞老人”来形容他慷慨的姿态和承诺。可以说这次会议在重塑联邦-省关系、应对经济挑战和统一国家发展方向方面迈出的重要一步。 态度转变 众所周知，加拿大的东西矛盾由来已久，而在前总理特鲁多当政期间推行的环保和应对气候变化等相关政策更是激化了东西矛盾，特别是那些旨在减少碳排放的政策，直接威胁到西部几个能源大省至关重要的石油和天然气产业，从而威胁到其经济福祉，并导致了对联邦干预的反对以及对西部以资源为基础经济的捍卫。从2019年小特鲁多第二次当选后，倡导西部独立的“西部脱离”（Wexit）标签迅速成为热门话题，西部独立的声音日益高涨，逐渐形成了一场运动，甚至从民间上升到政府层面。 今年自由党第四次赢得选举后，阿省省长史密斯（Danielle Smith）在大选结果公布后的不到24个小时，就在省议会通过法案修订《选举法》，将发起独立公投的请愿签名门槛由登记选民总数20%（约60万人）下调至上次选举中投票选民数量的10%，既17.7万个就行，并将收集签名期限从4个月放宽至12个月，以降低民间推动民主行动的难度。而在5月1日一天，阿省独立运动就宣布收集到了足够的签名，史密斯省长也在5月5日表示，如果该省公民在请愿书上收集到足够签名，她将于2026年就“主权独立”问题举行全民公投。 也就是说，在与卡尼会面之前，阿省省长史密斯以及萨省省长斯科特·莫（Scott Moe）都是对联邦自由党最直言不讳的批评者，西部的民众也对联邦气候政策、联邦在医疗保健、教育和能源资源开发等省级管辖领域施加影响、联邦的财政公平感到不满，甚至不惜采取对抗姿态，但看到卡尼在联邦-省级领导见面会上的表现以及他所展示的加拿大未来蓝图之后，这两位保守派省长都选择“回归大家庭”。 史密斯省长表示，她对卡尼总理愿意倾听和理解阿尔伯塔省的关切感到“非常满意”。她用“开放”、“建设性”和“富有成效”来形容这次会谈。称卡尼政府的姿态与前任政府有所不同，为阿尔伯塔省和联邦政府之间在经济发展上开辟了新的合作机会。而支持“石油”经济的史密斯更少见地指出，“虽然卡尼提到的‘去碳化方式’非常昂贵，但石油出口所带来的经济效益有助于抵消增加的成本……总体而言，这是值得的。”她的态度转变意味着本届自由党政府与保守党主要代表之间达成了“巨大妥协”——卡尼放松了对石油产业的限制，而史密斯也接受了卡尼的领导方式。 史密斯省长和莫省长联合发表的声明还非常认可卡尼提出的“国家建设”项目，认为这些项目对于推动生产力增长、能源安全和加拿大经济竞争力至关重要。莫省长尤其关注基础设施投资、农业和能源项目，并期待联邦能够为萨斯喀彻温省的具体需求提供支持。 转变态度的还有魁省省长François Legault。他在2018年首次当选时曾将阿尔伯塔的石油称作是“肮脏能源”，他和他的CAQ政党对大型输油管道项目，尤其是像“东部能源管道”（Energy East Pipeline）这样的项目，一直持非常明确的反对立场。但自从特朗普第二次上台以来带给加拿大的冲击，也让他和魁省大部分的民众意识到减少对美国依赖的重要性，愿意考虑一些能够增强国家整体经济实力和能源安全的项目，即使这些项目与石油有关，只要它们能带来战略利益。另外，魁省省长提出希望联邦政府出资建设一条输电线路，以将连接魁北克省和纽芬兰及拉布拉多省丘吉尔河上的新水电项目，而卡尼在省长话音还没落地就慷慨地附和“完全同意”。据魁北克水电公司（Hydro-Québec）的消息人士透露，该项目预计耗资20亿至30亿元，关乎7200兆瓦的电力输送。 统一战线 会晤后，最兴奋的是安省省长福特（Doug Ford），他在接受采访时表示：“这是十年来最好的一次会面！我们一起从会议室里走出来，内心充满了团结的力量。”“今天，我把卡尼比作圣诞老人！他把我们提出的建议全部装进礼物包，审查之后，他就会给我们分发礼物！”福特还笑着补充道。“他会驾着一辆装满建议的雪橇离开，在仔细研究后再给我们回电话。” 把卡尼比做“圣诞老人”的还有新不伦瑞克省省长苏珊·霍尔（Susan Holt）。她说：“今天的感觉，就像圣诞节的早晨，我们就像孩子，非常兴奋，我们不会争抢礼物，我们不会互相竞争，我们团结一致，我们站在一起，看着彼此开心。” 会议结束后，卡尼与13位省级领导人共同签署联合声明称： “领导人一致同意，基础设施和经济走廊，如高速公路、铁路、港口、机场、管道、核能项目以及电网系统对于刺激加拿大生产力增长、确保国家安全和竞争力至关重要。” “领导人一致认为，加拿大必须尽快，包括借助私营部门的力量，将清洁能源、传统能源、自然资源、关键矿物以及加拿大产品运往国内市场以及更多样化的国际市场，尤其是亚洲与欧洲。” 可以说，这次会议的成功举办与过去几年来加拿大四分五裂的状况形成鲜明对比，展现出了前所未有的团结和战略一致性。这一方面是因为来自特朗普的共同外部威胁出现时，内部的分歧往往会暂时退居次要地位，促成团结。另一方面也是卡尼非常聪明地将讨论的重心放在了“国家建设”、提高加拿大经济韧性以及打造“能源超级大国”等能够惠及所有省份（包括此前对联邦不满的西部省份和魁北克省）的共同经济利益上，营造了合作氛围。 这次会议也意味着，加拿大在面对美国贸易保护主义时，基本形成了一个更加协调、统一和更具韧性的“战线”，必将对加拿大未来的贸易政策和对外关系产生深远影响。 这次会议的成功，有助于卡尼巩固其作为国家领导人的地位，并向民众展示他有能力处理复杂的国内问题和国际挑战。不过尽管前景乐观，但摆在卡尼面前的挑战也非常巨大。首先是这些让各个省长欢欣鼓舞的“国家建设”项目需要巨大的资金投入，钱从哪里来？联邦的承诺能否转化为实际的拨款和项目启动，将是各省关注的焦点；其次是尽管联邦态度积极，但各省在具体项目优先顺序、环境政策、医疗拨款等方面的固有分歧依然存在，需要持续的协商；第三此次会晤中私营资本和原住民的缺席也会为未来的项目进展产生消极影响。这次会晤后，几位原住民领袖召开新闻发布会，对卡尼政府以民族团结的名义加速在其领土发展项目的承诺表示失望。 另外，卡尼推动的“能源超级大国”愿景与实现气候变化目标政策相矛盾，如何在二者间保持平衡，将是一个长期且具有挑战性的任务。 总而言之，卡尼总理与各省长的萨斯卡通会议，是一次具有战略意义的会谈，为加拿大在经济、政治和联邦-省关系方面开辟了新的篇章，旨在构建一个更具韧性、更团结、更繁荣的加拿大。 或许在这场特朗普强加的北美贸易秩序重构的狂澜中，加拿大终于因此而觉醒，并最终致力于自救。正如卡尼在新闻发布会上指出的：“有时候，我们并没有珍惜我们所拥有的东西，直到失去后才后悔莫及……我们还算幸运，到现在为止，我们还没有真正失去什么。我们受到了威胁，我们的人民选择站出来对抗，我们因此而团结，我们共同努力……为了所有的加拿大人。”