บริษัทด้านความปลอดภัยกล่าวว่าส่วนเสริม แชทจีพีที สำหรับ Google Sheets อาจดึงข้อมูลผู้ใช้ไปได้
แชทจีพีที ส่วนเสริมเสี่ยงถูกนำไปใช้งานในวงกว้างของสเปรดชีต
บริษัทด้านความปลอดภัยระบุว่าได้ค้นพบวิธีทำให้ส่วนเสริม แชทจีพีที สำหรับ Google Sheets ส่งออกข้อมูลจากบัญชีเหยื่อ ซึ่งก่อให้เกิดความกังวลใหม่เกี่ยวกับเครื่องมือ AI จากบุคคลที่สามที่สามารถทำงานกับเอกสารธุรกิจที่มีความอ่อนไหวได้
ปัญหาอยู่ที่การโจมตีแบบการฉีดพรอมต์ทางอ้อม ซึ่งอาจเริ่มจากคำถามเดียวที่ดูเหมือนไม่เป็นอันตรายในสเปรดชีตหนึ่งไฟล์ ตามที่นักวิจัยระบุ ปฏิสัมพันธ์เพียงครั้งเดียวนั้นอาจเพียงพอที่จะกระตุ้นผลกระทบที่กว้างกว่าในบัญชีผู้ใช้ รวมถึงการขโมยข้อมูลจากสมุดงานหลายไฟล์และการแทนที่แถบด้านข้างของ แชทจีพีที ด้วยอินเทอร์เฟซที่ผู้โจมตีควบคุมได้
การโจมตีไม่ได้ขึ้นกับการที่คนจะต้องอนุมัติในแต่ละขั้นตอน นักวิจัยกล่าวว่าการโจมตีสำเร็จได้แม้ผู้ใช้จะเปิดการตั้งค่าที่ออกแบบมาให้ต้องมีการอนุมัติจากมนุษย์ก่อนที่ แชทจีพีที จะแก้ไขสมุดงาน รวมถึงการควบคุม "ใช้การแก้ไขโดยอัตโนมัติ" ในการทดสอบของพวกเขา เนื้อหาที่ไม่มีความน่าเชื่อถือภายในชีต — หรือเนื้อหาที่ดึงเข้ามาผ่านตัวเชื่อมต่อของ แชทจีพีที — สามารถชักนำโมเดลให้รันสคริปต์ภายนอกที่ผู้โจมตีควบคุม ซึ่งใช้สิทธิ์ที่ให้ไว้กับส่วนขยายแล้ว
โอเพนเอไอ เพิ่งเปิดตัวส่วนขยายสำหรับ Google Sheets ซึ่งมีการดาวน์โหลดมากกว่า 185,000 ครั้งภายในเวลาน้อยกว่าหนึ่งเดือน ส่วนเสริมนั้นให้ผู้ใช้โต้ตอบกับสเปรดชีตผ่านแถบด้านข้างของ แชทจีพีที และยังสามารถดึงข้อมูลจากคอนเน็กเตอร์ของ แชทจีพีที ได้
ในการอัปเดตที่ให้หลังจากงานวิจัยถูกเผยแพร่ โอเพนเอไอ ระบุว่าได้ดำเนินการทันทีเพื่อปกป้องผู้ใช้โดยการเอาความสามารถของโมเดลในการสร้างโค้ดแอปสคริปต์ออก ซึ่งบริษัทกล่าวว่าจะลดความเสี่ยงต่อผู้ใช้ของ แชทจีพีที สำหรับ Google Sheets ได้ บริษัทกล่าวด้วยว่ากำลังประเมินใหม่ว่าฟีเจอร์นี้โต้ตอบกับ Google Sheets API และแนวทางการแยกสภาพแวดล้อมอย่างไร
นักวิจัยกล่าวว่าพวกเขาได้เปิดเผยช่องโหว่ต่อผู้เกี่ยวข้องอย่างรับผิดชอบ แต่หลังการติดตามกลับได้รับเพียงการตอบกลับอัตโนมัติเท่านั้น พวกเขายังโต้แย้งว่าเอกสารของ โอเพนเอไอ ไม่ได้ระบุอย่างชัดเจนถึงความสามารถที่มีความอ่อนไหวซึ่งมอบให้กับโมเดล รวมถึงความสามารถในการรันสคริปต์ระดับสิทธิพิเศษ หรือความเสี่ยงที่เกิดจากการฉีดพรอมต์ทางอ้อม
ข้อค้นพบนี้เพิ่มเข้ากับรายการความกังวลด้านความปลอดภัยที่เพิ่มขึ้นรอบ ๆ เครื่องมือ AI ที่ฝังอยู่ในซอฟต์แวร์ด้านประสิทธิภาพการทำงาน ซึ่งความสะดวกสามารถกลายเป็นการเปิดเผยทั้งบัญชีได้อย่างรวดเร็วเมื่ออนุญาตให้โมเดลทำงานกับข้อมูลที่ไม่เชื่อถือได้
แหล่งข้อมูล: