安思特里克呼吁全球放缓人工智能发展，担心系统可能构建后继者
安思特里克呼吁暂停
安思特里克警告称，人工智能正朝着一个节点发展，系统可能有能力帮助构建它们自己的后继者，面对这一可能性，应促使全球在人工智能开发上放缓速度。
在一篇博文中，该公司表示，虽然能够开发后继系统的人工智能在科学、医疗和其他领域可能带来重大好处，但也可能增加人类对越来越强大模型失去控制的风险。安思特里克主张，短期暂停或放缓将为社会和人工智能安全研究争取时间以赶上进展。
该公司表示，尽管这一里程碑尚未到来，但这一趋势发展迅速，“可能比大多数机构预期的要早到来”。
验证将是难点
安思特里克称，任何放缓只有在全球主要人工智能实验室在相同条件下同意停止或减少开发的情况下才可能奏效。公司还表示，需要有可靠的方法来验证竞争对手是否真的暂停，否则一些组织可能会在暗中继续推进。
“有意义的放缓或暂停将需要多个资源充足、处于前沿或接近前沿的实验室，分布在多个国家，并同意在相同条件下停止，”公司写道。“这也需要各方能够验证其他人确实已经停止。”
该公司的提议基于其在三月成立的研究部门安思特里克研究院的工作，该研究院旨在研究随着人工智能系统变得更为先进而出现的挑战。
警告之后的质疑
使用 Doppler VPN 保护您的隐私
3 天免费试用。无需注册。无日志。
安思特里克的呼吁也引来质疑。《华尔街日报》指出，批评者认为该公司公开发出警告可能是一种市场策略，旨在让安思特里克看起来比竞争对手更负责任，或暗示其自身产品是更安全的选择。
这些批评者指出了安思特里克有限发布其网络安全模型迈索斯的做法。公司表示，由于迈索斯发现漏洞的能力在错误人手中可能造成潜在危害，因此仅限于部分合作伙伴使用。
与此同时，安思特里克是人工智能竞赛中最知名的公司之一，据报道有望实现首个盈利季度。该公司最近向美国证券交易委员会提交了上市文件，可能在年底前上市。
来源：
在 Doppler VPN 博客 阅读更多技术新闻。