โอเพนเอไอ เปิดตัวโหมดล็อกดาวน์เพื่อลดความเสี่ยงจากการโจมตีแบบฝังคำสั่งในแชตจีพีที
โอเพนเอไอ เพิ่มโหมดแชตจีพีทีที่เข้มงวดขึ้นสำหรับงานที่มีความอ่อนไหว
โอเพนเอไอ ได้แนะนำ “โหมดล็อกดาวน์” ใหม่สำหรับแชตจีพีที ซึ่งเป็นฟีเจอร์ที่ออกแบบมาเพื่อลดความเสี่ยงจากการโจมตีแบบฝังคำสั่ง ซึ่งคำสั่งที่เป็นอันตรายอาจถูกซ่อนอยู่ในหน้าเว็บ เอกสาร หรือแหล่งเนื้อหาอื่นๆ
บริษัทกล่าวว่าโหมดนี้มุ่งเป้าไปยังบุคคลและองค์กรที่จัดการข้อมูลที่มีความอ่อนไหวและต้องการการป้องกันที่เข้มงวดยิ่งขึ้นต่อความเสี่ยงการรั่วไหลของข้อมูล ไม่ได้ตั้งใจให้ใช้กับทุกคน โอเพนเอไอกล่าว แต่สำหรับผู้ใช้ที่ต้องการการควบคุมที่เข้มงวดขึ้นเกี่ยวกับสิ่งที่แชตจีพีทีสามารถเข้าถึงและวิธีการตอบสนอง
โหมดล็อกดาวน์จะปิดการใช้งานฟีเจอร์หลายอย่างที่อาจขยายพื้นผิวการถูกโจมตี ผู้ใช้จะไม่สามารถใช้การท่องเว็บแบบเรียลไทม์ได้ หมายความว่าแชตจีพีทีจะเข้าถึงได้เฉพาะเนื้อหาที่ถูกแคชเท่านั้น โหมดนี้ยังปิดการดึงและการแสดงภาพจากเว็บ ถึงแม้ว่าการสร้างภาพยังคงใช้ได้ นอกจากนี้ การค้นคว้าเชิงลึกและโหมดเอเจนต์ก็ถูกปิดการใช้งานด้วย
โอเพนเอไอเตือนว่าการตั้งค่านี้ไม่ใช่การแก้ไขที่สมบูรณ์ แม้จะเปิดโหมดล็อกดาวน์แล้ว แชตจีพีทียังคงอาจเสี่ยงต่อการโจมตีแบบฝังคำสั่งที่ปรากฏในเนื้อหาเว็บที่ถูกแคชหรือไฟล์ที่อัปโหลด และสิ่งเหล่านั้นยังอาจมีอิทธิพลต่อความถูกต้องหรือพฤติกรรมของคำตอบ บริษัทกล่าวว่าเป้าหมายคือการลดความน่าจะเป็นที่ข้อมูลที่มีความอ่อนไหวจะถูกเปิดเผยระหว่างปฏิสัมพันธ์เหล่านั้น
การเปิดตัวเริ่มต้นกับบัญชี ChatGPT แบบธุรกิจที่ให้บริการด้วยตนเอง รวมถึงบัญชีส่วนบุคคลที่มีคุณสมบัติ
การโจมตีแบบฝังคำสั่งกลายเป็นความกังวลที่เพิ่มมากขึ้นสำหรับระบบ AI ที่อ่านข้อมูลจากเว็บและแหล่งข้อมูลภายนอกอื่นๆ เพราะคำสั่งที่ซ่อนอยู่สามารถเปลี่ยนพฤติกรรมของโมเดลโดยที่ผู้ใช้ไม่สังเกตเห็น โหมดใหม่ของโอเพนเอไอเป็นการตอบรับโดยตรงต่อความเสี่ยงนั้น โดยจำกัดเครื่องมือที่แชตจีพีทีสามารถใช้เมื่อผู้ใช้ต้องการสภาพแวดล้อมที่มีการควบคุมมากขึ้น
แหล่งที่มา:
อ่านข่าวเทคโนโลยีเพิ่มเติมใน Doppler VPN Blog.