แอนโธรปิกเรียกร้องให้ชะลอการพัฒนา AI ระดับโลก เหตุหวั่นระบบอาจสร้างรุ่นสืบทอดของตัวเองได้
แอนโธรปิกเรียกร้องให้ชะลอ
แอนโธรปิกเตือนว่า ปัญญาประดิษฐ์กำลังก้าวไปสู่จุดที่ระบบอาจสามารถช่วยสร้างรุ่นสืบทอดของตัวเองได้ และบริษัทเห็นว่าความเป็นไปได้นั้นควรเป็นเหตุผลให้มีการชะลอการพัฒนา AI ระดับโลก
ในโพสต์บล็อก บริษัทกล่าวว่าแม้ AI ที่สามารถพัฒนาระบบรุ่นถัดไปได้อาจนำประโยชน์ครั้งใหญ่มาสู่ด้านวิทยาศาสตร์ การแพทย์ และสาขาอื่น ๆ แต่ก็อาจเพิ่มความเสี่ยงที่มนุษย์จะสูญเสียการควบคุมเหนือโมเดลที่มีความสามารถมากขึ้นได้ แอนโธรปิกโต้แย้งว่าการหยุดชั่วคราวหรือการชะลอเป็นการให้เวลาสังคมและการวิจัยด้านความปลอดภัยของ AI ได้ไล่ตามทัน
บริษัทกล่าวว่าแนวโน้มกำลังก้าวไปอย่างรวดเร็วพอที่เหตุการณ์ดังกล่าว “อาจมาถึงเร็วกว่าที่สถาบันส่วนใหญ่จะเตรียมพร้อม” แม้ว่าจะยังไม่เกิดขึ้นในตอนนี้ก็ตาม
การยืนยันจะเป็นส่วนที่ยาก
แอนโธรปิกกล่าวว่าการชะลอจะได้ผลก็ต่อเมื่อห้องปฏิบัติการ AI รายใหญ่หลายแห่งทั่วโลกตกลงที่จะหยุดหรือชะลอการพัฒนาภายใต้เงื่อนไขเดียวกัน บริษัทยังระบุว่าจะต้องมีวิธีที่เชื่อถือได้ในการยืนยันว่าคู่แข่งได้หยุดจริง ๆ ด้วย โดยเตือนว่าหากไม่มีการยืนยันที่เชื่อถือได้ องค์กรบางแห่งอาจยังคงพัฒนาต่อในที่ลับ
“การชะลอหรือการหยุดที่มีความหมายจะต้องการห้องปฏิบัติการที่มีทรัพยากรเพียงพอหลายแห่งที่อยู่ใกล้แนวหน้าทางเทคโนโลยี ในหลายประเทศ ตกลงที่จะหยุดภายใต้เงื่อนไขเดียวกัน” บริษัทเขียนไว้ “นอกจากนี้ยังจำเป็นที่แต่ละฝ่ายจะสามารถยืนยันได้ว่าอีกฝ่ายหนึ่งได้หยุดจริง ๆ”
ข้อเสนอของบริษัทตั้งอยู่บนงานวิจัยจากแอนโธรปิก อินสติติวต์ หน่วยวิจัยที่บริษัทเปิดตัวในเดือนมีนาคมเพื่อศึกษาความท้าทายที่เกิดขึ้นเมื่อระบบ AI ก้าวหน้ามากขึ้น
ความสงสัยตามมาหลังคำเตือน
ปกป้องความเป็นส่วนตัวของคุณด้วย Doppler VPN
ทดลองใช้ฟรี 3 วัน ไม่ต้องลงทะเบียน ไม่เก็บบันทึก
คำเรียกร้องของแอนโธรปิกยังได้รับความสงสัยด้วย วอลล์ สตรีท เจอร์นัลชี้ว่าผู้วิจารณ์มองว่าการเตือนสาธารณะของบริษัทอาจเป็นกลยุทธ์ทางการตลาด เพื่อทำให้แอนโธรปิกดูมีความรับผิดชอบมากกว่าคู่แข่งหรือแสดงให้เห็นว่าสินค้าของตนปลอดภัยที่สุด
ผู้วิจารณ์ชี้ไปที่การปล่อยรุ่นจำกัดของโมเดลความปลอดภัยไซเบอร์ "ไมธอส" ของแอนโธรปิก ซึ่งบริษัทบอกว่าจำกัดให้กับพันธมิตรบางรายเท่านั้น เนื่องจากความสามารถในการค้นหาช่องโหว่อาจก่ออันตรายในมือที่ไม่ถูกต้อง
แอนโธรปิกในทางกลับกันเป็นหนึ่งในชื่อที่โดดเด่นที่สุดในการแข่งขัน AI และตามรายงานมีแนวโน้มจะมีกำไรในไตรมาสแรก บริษัทเพิ่งยื่นเอกสารต่อสำนักงานคณะกรรมการกำกับหลักทรัพย์และตลาดหลักทรัพย์ของสหรัฐฯ (SEC) เพื่อเตรียมจะเข้าจดทะเบียนในตลาดหลักทรัพย์ น่าจะก่อนสิ้นปี
แหล่งข้อมูล:
อ่านข่าวเทคโนโลยีเพิ่มเติมได้ที่ Doppler VPN Blog.