美国设立AI安全委员会：奥特曼、黄仁勋在列，小扎、马斯克未入选

微软和OpenAI等科技巨头的CEO加入美国AI（人工智能）安全委员会。

当地时间4月26日，美国国土安全部（DHS）宣布成立AI安全委员会，以指导美国关键基础设施安全地使用AI。该委员会的22名成员中包含不少AI领域的业界和学界巨头，例如OpenAI的CEO萨姆·奥特曼（Sam Altman）、英伟达CEO黄仁勋、微软CEO萨蒂亚·纳德拉（Satya Nadella）以及斯坦福大学教授李飞飞。

美国国土安全部部长马约卡斯（Alejandro Mayorkas）在媒体电话会上表示，该委员会将针对如何在16个关键的基础设施领域中有效部署AI提供建议，这16个基础设施领域包括“国防、能源运输、信息技术和金融服务，还有食品和农业等等”。

除了提供可行的建议外，该委员会的成立将使关键的基础设施社区和AI领导者“能够共享AI带来的安全风险信息”。

马约卡斯指出，该委员会的任务是“制定负责任地使用AI并防御该技术的实用建议、指南和最佳实践”。不过，马约卡斯没有详细说明DHS与该委员会实施其任务的具体方式，称将在未来发布对委员会目标进行更全面解释的公告。

马约卡斯还强调，AI可以成为“一种极其强大的力量”：“AI可以被用来提高所有关键基础设施所提供服务的效率和质量。与此同时，我们也认识到，其错误使用可能带来极强的破坏性影响。”

AI安全委员会的成员名单涵盖与AI相关方面，包括美国政界人士、科技巨头代表、基础设施代表、知名学者和意见领袖。在业界巨头这方面，除了微软、英伟达和OpenAI以外，谷歌母公司Alphabet、亚马逊AWS、Anthropic、达美航空、IBM、Adobe和AMD的CEO也出现在名单中。

DHS表示，美国拜登总统指导马约卡斯成立了这个由22人组成的委员会，该委员会将于今年五月首次召开会议，并将每季度举行一次会议。

不过，令人意外的是，在AI热潮中同样表现出众的Meta公司CEO马克·扎克伯格（Mark Zuckerberg）和一向公开倡导AI安全性的埃隆·马斯克（Elon Musk）都没有出现在委员会成员名单中。

对于进入委员会一事，多位代表作出了回应。纳德拉表示：“AI是我们这个时代最具变革性的技术，我们必须确保其安全且负责任地被部署。微软很荣幸能参与这一重要工作，并期待分享我们迄今为止的学习成果以及未来的计划。”AMD的CEO苏姿丰称，“AI的广泛使用有潜力改善我们日常生活的各个方面。我们必须跨公私部门合作，采取协作和负责任的方式，确保我们将AI的巨大力量用于良好目的。”

去年10月，拜登签署了全面行政命令，要求美国商务部为AI模型的安全、安保和测试标准以及AI生成内容水印规则的制定提供便利。今年2月，美国商务部宣布，包括OpenAI、Alphabet旗下谷歌、微软公司、Meta等巨头在内的知名美国AI企业将参与美国政府主导的一项工作，旨在制定AI技术的联邦标准。