アンソロピック、システムが後継を構築する懸念からAI開発の世界的な減速を要請

アンソロピックは一時停止を要請

アンソロピックは、人工知能が自らの後継システムを構築することに寄与できる段階に近づきつつあると警告しており、その可能性がAI開発の世界的な減速を促すべきだと述べています。

同社はブログ投稿で、後継システムを開発できる人工知能は科学、医療などの分野で大きな恩恵をもたらす可能性がある一方で、ますます高性能化するモデルに対して人間が制御を失うリスクを高めるとも指摘しました。アンソロピックは、一時的な停止や減速によって社会と人工知能安全研究が追いつく時間を確保するべきだと主張しています。

同社はこの節目はまだ到来していないものの、動きは十分に速く「多くの機関が備えるよりも早く」訪れる可能性があると述べました。

検証が難しい部分になる

アンソロピックは、減速は世界中の主要なAI研究所が同じ条件で開発を停止または縮小することに同意した場合にのみ機能すると述べています。また、競合他社が実際に停止したことを検証する信頼できる方法が必要だとも警告し、さもなければ一部の組織が秘密裏に先へ進める可能性があると指摘しました。

「意味のある減速や一時停止には、複数の資源に恵まれた最先端の研究所が複数の国に存在し、同じ条件で停止することに同意する必要がある」と同社は書いています。「また、各研究所が他者の停止を実際に検証できることも必要だ。」

同社の提案は、同社が3月に立ち上げた研究部門アンソロピック・インスティテュートの研究に基づくもので、人工知能システムが高度化するにつれて生じる課題を研究しています。

警告に続いて懐疑的な見方も

アンソロピックの呼びかけは懐疑的な反応も招いています。ウォール・ストリート・ジャーナルは、批評家たちは同社の公の警告を、アンソロピックを競合よりも責任ある存在に見せたり、自社製品が最も安全であることを示唆するマーケティング戦略の可能性があると見ていると指摘しました。

その批評家たちは、同社のサイバーセキュリティモデル「ミトス」の限定公開を挙げています。同社は、その脆弱性発見能力が悪用される可能性があるため、特定のパートナーに限定したと述べていました。

一方でアンソロピックはAI競争で最も注目される企業の一つであり、初の黒字四半期を達成する見込みだと報じられています。最近、米国証券取引委員会（SEC）に上場申請のための書類を提出し、おそらく年内に上場する見込みです。

出典：

• エンガジェット

詳細な技術ニュースはDoppler VPN ブログで読むことができます。