谷歌等7家AI企业与拜登政府签署协议，做出8项承诺以防范AI风险

刘海明

当地时间7月21日，包含亚马逊、谷歌、微软、OpenAI、Meta、Anthropic和Inflection在内的7家人工智能公司参与了白宫峰会，这些公司的代表与美国总统拜登会面，并表示同意拜登政府提出的一系列AI保障措施，以防范人工智能的潜在风险。

今年，ChatGPT等大模型的能力，让人类看到了人工智能的快速发展，也让许多业内人士对AI可能造成的风险感到担忧。这7家领先的AI企业自愿签署协议，承诺对其AI系统进行内部和外部安全测试，其中部分测试将由独立专家进行，旨在防范一些重要的风险来源，如生物安全和网络安全，及其更广泛的社会影响等等。同时，这些公司也承诺与整个行业、政府、民进及学术界共享AI风险管理的信息。除此之外，这7家企业承诺对网络安全和内部威胁防护措施进行投资，保护专有模型和未发布模型的权重不被泄露；致力于促进第三方发现与报告AI系统中的漏洞；致力于开发有力的技术机制如水印系统，使用户知晓哪些内容由AI生成；报告其AI系统的功能、局限性及适用与不适用的领域；研究AI可能带来的社会风险，包含偏见和歧视等等；开发和部署先进的AI系统，以帮助解决社会面临的最大挑战，如癌症或气候变暖等等。这些承诺不包含截止日期，而目前白宫亦尚未提供任何执行机制来确保企业履行承诺。

来源：环球科学（公众号）

链接：https://mp.weixin.qq.com/s/hI-i_xk0esTah2IuuQgF7w

编辑：潘洁