Inilunsad ng OpenAI ang Mode ng Lockdown upang bawasan ang panganib ng pagsingit ng prompt sa ChatGPT
Nagdagdag ang OpenAI ng mas mahigpit na mode sa ChatGPT para sa sensitibong trabaho
OpenAI ay nagpakilala ng bagong “Mode ng Lockdown” para sa ChatGPT, isang feature na idinisenyo upang bawasan ang panganib ng mga pag-atakeng pagsingit ng prompt, kung saan ang malisyosong mga utos ay nakatago sa loob ng mga webpage, dokumento o iba pang pinagkukunan ng nilalaman.
Sinabi ng kumpanya na ang mode ay nakatuon sa mga tao at organisasyong humahawak ng sensitibong data at nagnanais ng mas matibay na proteksyon laban sa panganib ng paglabas ng data. Hindi ito nakalaan para sa lahat, ayon sa OpenAI, kundi para sa mga gumagamit na nangangailangan ng mas mahigpit na kontrol sa kung ano ang maaaring ma-access ng ChatGPT at kung paano ito tumutugon.
Pinapatay ng Mode ng Lockdown ang ilang feature na maaaring magpalawak ng attack surface. Hindi magagamit ng mga user ang live web browsing, ibig sabihin ang ChatGPT ay makaka-access lamang ng naka-cache na nilalaman. Ipinapatigil din ng mode ang pagkuha at pagpapakita ng mga imahe mula sa web, kahit na gumagana pa rin ang image generation. Bukod pa rito, naka-disable ang deep research at agent mode.
Nagbabala ang OpenAI na hindi kumpletong solusyon ang setting na ito. Kahit naka-enable ang Mode ng Lockdown, maaari pa ring maging bulnerable ang ChatGPT sa mga pagsingit ng prompt na lumilitaw sa naka-cache na nilalaman ng web o mga in-upload na file, at maaari pa rin nitong maimpluwensiyahan ang katumpakan o pag-uugali ng tugon. Ang layunin ng kumpanya, sabi nila, ay gawing mas maliit ang posibilidad na mabunyag ang sensitibong impormasyon sa mga interaksyong iyon.
Magsisimula ang rollout sa mga self-serve ChatGPT Business accounts, kasama ang mga karapat-dapat na personal na account.
Ang pagsingit ng prompt ay naging lumalalang alalahanin para sa mga AI system na nagbabasa mula sa web at iba pang panlabas na pinagkukunan, dahil ang mga nakatagong utos ay maaaring magbago ng pag-uugali ng modelo nang hindi halata sa gumagamit. Ang bagong mode ng OpenAI ay direktang tugon sa panganib na iyon, na nililimitahan ang mga tool na magagamit ng ChatGPT kapag nais ng mga gumagamit ang mas kontroladong kapaligiran.
Mga Pinagmulan:
Magbasa pa ng mga balita sa teknolohiya sa Doppler VPN Blog.