오픈AI, 챗GPT의 프롬프트 인젝션 위험 완화를 위해 락다운 모드 도입
오픈AI가 민감한 업무를 위해 더 엄격한 챗GPT 모드를 추가
오픈AI는 챗GPT를 위한 새로운 ‘락다운 모드’를 도입했습니다. 이 기능은 웹페이지, 문서 또는 기타 콘텐츠 소스에 숨겨진 악의적 지시로 모델 행동을 바꿀 수 있는 프롬프트 인젝션 공격의 위험을 줄이도록 설계되었습니다.
회사는 이 모드가 민감한 데이터를 다루고 데이터 유출 위험에 대해 더 강력한 보호를 원하는 개인과 조직을 대상으로 한다고 밝혔습니다. 모든 사용자를 위한 기능은 아니며, 챗GPT가 접근할 수 있는 범위와 응답 방식을 더 엄격히 통제해야 하는 사용자를 위한 것이라고 했습니다.
락다운 모드는 공격 표면을 넓힐 수 있는 여러 기능을 비활성화합니다. 사용자는 실시간 웹 브라우징을 사용할 수 없게 되어 챗GPT가 접근할 수 있는 정보는 캐시된 콘텐츠로 제한됩니다. 또한 웹에서의 이미지 검색 및 표시 기능이 꺼지며, 이미지 생성은 여전히 작동합니다. 그 외에도 심층 조사와 에이전트 모드가 비활성화됩니다.
오픈AI는 이 설정이 완전한 해결책은 아니라고 경고했습니다. 락다운 모드가 활성화되어 있더라도 캐시된 웹 콘텐츠나 업로드된 파일에 포함된 프롬프트 인젝션에 취약할 수 있으며, 이는 여전히 응답의 정확성이나 동작에 영향을 줄 수 있습니다. 회사의 목표는 이러한 상호작용 중에 민감한 정보가 노출될 가능성을 줄이는 것이라고 밝혔습니다.
출시는 셀프 서비스 챗GPT 비즈니스 계정과 자격이 있는 개인 계정부터 시작됩니다.
프롬프트 인젝션은 웹 및 기타 외부 소스에서 읽는 AI 시스템에서 점점 더 우려되는 문제로 떠올랐습니다. 숨겨진 지시가 사용자에게 명확하지 않게 모델의 동작을 바꿀 수 있기 때문입니다. 오픈AI의 새 모드는 더 통제된 환경을 원할 때 챗GPT가 사용할 수 있는 도구를 좁혀 이 위험에 직접 대응하는 조치입니다.
출처:
더 많은 기술 소식은 Doppler VPN Blog에서 읽어보세요.