AI与科技news
白宫据报敦促开放人工智能限制发布生成式预训练变换器 5.6 以应对安全担忧
作者 Doppler Team••1分钟阅读
白宫要求开放人工智能放慢发布生成式预训练变换器 5.6 的步伐
据《信息》报道，白宫据称正敦促开放人工智能推迟其下一个模型——生成式预训练变换器 5.6 的公开发布，理由是出于安全担忧。据称，开放人工智能正准备在对该模型由特朗普政府进行审查时，将发布方式改为仅向少数紧密合作伙伴进行限制性发布，而非大范围推出。
据称在本周的一次会议上，开放人工智能首席执行官山姆·奥特曼告诉员工，在预览期内的访问将采取“逐一审批客户”的方式。如果推广过程顺利，奥特曼据说表示公司希望在几周后开展更广泛的发布。
报道称，这一请求来自国家网络总监办公室和科学与技术政策办公室，两者据称已与开放人工智能就即将推出的模型密切合作。这种安排将标志着与开放人工智能之前公开发布方式的显著不同，也与安思普里克此前对其一些最强大系统采取的受限访问策略相似。
特朗普政府最初曾表示对人工智能采取放任态度，但近来已转向更直接的监管。本月早些时候，特朗普签署了一项行政命令，要求某些人工智能公司在公开发布新模型前自愿向政府提交以便测试和评估。
报道中的谨慎态度反映了人们对具有网络能力的前沿人工智能系统日益增长的担忧。生成式人工智能工具已经被用于编写恶意软件，有些工具可以自主执行勒索软件攻击的部分环节。人们担忧的是，更新一代的前沿网络模型可能比早期系统更能识别并利用软件漏洞。
安思普里克今年早些时候因通过名为玻璃之翼计划的合作伙伴专属项目限制访问其前沿网络模型克劳德·迈索斯而引起关注。该公司表示该模型过于强大，无法广泛发布。尽管一些观察者对此表示怀疑，但随着更先进模型接近发布，围绕能力与滥用之间如何平衡的更广泛讨论只会愈演愈烈。
来源：