รายงานว่าทำเนียบขาวกดดัน โอเพนเอไอ ให้จำกัดการปล่อย จีพีที 5.6 เนื่องจากความกังวลด้านความปลอดภัย
ทำเนียบขาวขอให้ โอเพนเอไอ ชะลอการปล่อย จีพีที 5.6
มีรายงานว่าทำเนียบขาวกำลังกดดัน โอเพนเอไอ ให้เลื่อนการเปิดตัวสาธารณะของโมเดลถัดไป จีพีที 5.6 เนื่องจากความกังวลด้านความปลอดภัย ตามรายงานของ เดอะ อินฟอร์เมชั่น แทนที่จะเปิดตัวอย่างกว้างขวาง โอเพนเอไอ ถูกกล่าวว่ากำลังเตรียมการปล่อยแบบจำกัดให้กับกลุ่มพันธมิตรใกล้ชิดบางรายในขณะที่โมเดลถูกทบทวนโดยรัฐบาลทรัมป์
ในการประชุมสัปดาห์นี้ ซีอีโอของ โอเพนเอไอ แซม อัลท์แมน ถูกกล่าวว่าบอกกับพนักงานว่า การเข้าถึงจะเป็น “อนุมัติเป็นรายลูกค้า” ในช่วงระยะเวลาพรีวิว หากการเปิดตัวเป็นไปอย่างราบรื่น อัลท์แมนกล่าวว่าบริษัทหวังว่าจะขยายการปล่อยให้กว้างขึ้นภายในสองสัปดาห์ถัดไป
คำขอที่ถูกรายงานมาจาก สำนักงานผู้อำนวยการความมั่นคงทางไซเบอร์แห่งชาติ และ สำนักงานนโยบายวิทยาศาสตร์และเทคโนโลยี ซึ่งทั้งสองแห่งถูกกล่าวว่าทำงานใกล้ชิดกับ โอเพนเอไอ เกี่ยวกับโมเดลที่กำลังจะมาถึง ข้อตกลงดังกล่าวจะถือเป็นการเปลี่ยนแปลงที่น่าสังเกตจากการเปิดตัวสาธารณะที่ผ่านมาของ โอเพนเอไอ และสะท้อนรูปแบบการจำกัดการเข้าถึงที่ แอนโธรพิค ได้ใช้กับระบบทรงพลังบางระบบของตนแล้ว
รัฐบาลทรัมป์ ซึ่งในตอนแรกนำเสนอว่ามีนโยบายไม่แทรกแซงต่อปัญญาประดิษฐ์ ได้เคลื่อนไปสู่การกำกับดูแลโดยตรงมากขึ้นเมื่อเร็วๆ นี้ ต้นเดือนนี้ ทรัมป์ได้ลงนามในคำสั่งบริหารที่สั่งให้บริษัท AI บางแห่งสมัครใจส่งโมเดลใหม่เพื่อการทดสอบและการประเมินของรัฐบาลก่อนการปล่อยสู่สาธารณะ
ความระมัดระวังที่ถูกรายงานสะท้อนความกังวลที่เพิ่มขึ้นเกี่ยวกับระบบปัญญาประดิษฐ์แนวหน้าที่มีความสามารถทางไซเบอร์ เครื่องมือปัญญาประดิษฐ์เชิงสร้างสรรค์ถูกนำไปใช้เขียนมัลแวร์แล้ว และบางระบบสามารถดำเนินการส่วนหนึ่งของการโจมตีด้วยแรนซัมแวร์ได้โดยอัตโนมัติ ความกังวลกับโมเดลไซเบอร์แนวหน้าใหม่ก็คือพวกมันอาจสามารถระบุและแสวงหาจุดอ่อนของซอฟต์แวร์ได้ในระดับที่สูงกว่าระบบก่อนหน้าอย่างมาก
แอนโธรพิค เป็นที่จับตามองเมื่อต้นปีนี้เมื่อบริษัทจำกัดการเข้าถึงโมเดลไซเบอร์แนวหน้าของตน Claude Mythos ผ่านโปรแกรมสำหรับพันธมิตรเท่านั้นที่เรียกว่า โครงการ กลาสวิง บริษัทระบุว่าโมเดลนั้นทรงพลังเกินกว่าจะปล่อยสู่สาธารณะอย่างกว้างขวาง ตำแหน่งดังกล่าวถูกตั้งคำถามโดยผู้สังเกตบางส่วน แม้ว่าการโต้วาทีโดยรวมเกี่ยวกับการหาจุดสมดุลระหว่างความสามารถและการใช้ในทางที่ผิดจะยิ่งทวีความเข้มข้นขึ้นเมื่อมีโมเดลที่ก้าวหน้ามากขึ้นใกล้จะปล่อยออกมา
แหล่งที่มา: