캐나다 개인정보 규제당국, OpenAI가 AI 훈련 관행에서 연방 및 주법을 위반했다고 밝혀
규제당국은 OpenAI가 동의 및 데이터 보호 조치에서 미흡했다고 판단
캐나다 개인정보 규제당국은 OpenAI의 학습 관행이 연방 및 주 개인정보보호법을 위반했다고 결론내렸으며, 회사가 개인 정보 수집 및 사용을 규율하는 규정을 준수하지 않았다고 밝혔습니다.
캐나다 개인정보보호 담당관 Philippe Dufresne는 이 결과가 앨버타, 퀘벡, 브리티시컬럼비아의 동료들과의 공동 조사 이후 나왔다고 말했습니다. 위원들은 OpenAI의 데이터 수집 및 동의 처리 방식이 캐나다의 Personal Information Protection and Electronic Documents Act(일명 PIPEDA)가 규정한 개인 정보 처리 방식에 어긋났다고 지적했습니다.
조사 요약에 따르면 규제당국은 여러 우려사항을 확인했습니다. 그들은 OpenAI가 모델 훈련에 사용되는 데이터를 차단할 충분한 보호 장치 없이 방대한 양의 개인 정보를 수집했으며, 개인 정보를 수집·사용하기 전에 적절한 동의를 얻지 못했다고 말했습니다. 또한 ChatGPT 사용자가 훈련 데이터셋에 포함되었을 수 있는 제3자 개인 정보에 접근하거나 수정하거나 삭제할 수 없다는 점을 지적하며 사용자 접근성 부족을 문제삼았습니다.
위원들은 또한 ChatGPT의 부정확한 응답 처리 방식에 대해서도 문제를 제기하며, 회사의 오류 인정 및 수정 노력은 불충분했다고 밝혔습니다.
OpenAI는 변경에 동의
캐나다 개인정보보호 담당관은 조사 기간 동안 OpenAI가 협조적이고 응답적이었다고 말했으며, 회사는 이미 ChatGPT를 캐나다 개인정보법에 맞추기 위한 변경 사항을 약속했다고 전했습니다.
위원은 회사가 캐나다 개인정보 규제를 위반했던 이전 모델들을 퇴출했고, 이제는 모델 학습에 사용되는 공개 접근 인터넷 데이터 및 라이선스된 데이터셋에서 이름이나 전화번호 같은 개인 정보를 탐지하고 마스킹하는 필터링 도구를 사용한다고 밝혔습니다.
OpenAI는 또한 로그아웃 상태의 ChatGPT에 대해 3개월 이내에 채팅이 훈련에 사용될 수 있으니 민감한 정보를 공유하지 말라는 새 고지문을 추가하기로 동의했습니다.
6개월 이내에 회사는 데이터 내보내기 도구를 이해하고 사용하기 쉽게 개선하고, 사용자가 ChatGPT의 정확성에 이의를 제기할 수 있는 방법을 더 잘 설명하며, 사용 중단된 데이터셋이 더 이상 활성 개발에 사용될 수 없도록 강력한 보호 조치를 확인하고, 공인 인물의 미성년 친척에 대한 보호 장치를 테스트하여 이름이나 생년월일과 같은 세부 정보를 거부하도록 해야 합니다.
OpenAI의 개인정보 정책에 대한 조사는 2023년에 시작되었습니다. 회사는 또한 2026년 2월 Tumbler Ridge에서 발생한 총기 난사 사건과의 연관성에 대해 최근 규제당국의 추가 조사를 받고 있습니다.
출처:
Doppler VPN: 서버 위치 6곳, VLESS protocol, 추적 없음. 무료로 시작하기.