דוח טוען ש־קלוד קוד של אנתרופיק עשוי להוסיף סימני מים נסתרים לבקשות קוד
קלוד קוד של אנתרופיק עומד בפני בדיקה מחודשת לאחר שדוח טען שהכלי מטמיע סימני מים נסתרים בבקשות קוד שנוצרו על ידי בינה מלאכותית, פרקטיקה שהעלתה שאלות לגבי פרטיות וטיפול בנתונים.
הדאגה נסובה סביב האם סימנים אלה יכולים לזהות או לעקוב אחרי בקשות שנעשו דרך העוזר התכנותי, גם כאשר המשתמשים אולי לא מודעים לכך שמצמידים אותן. הדוח עורר דיון לגבי כמה מטא־דאטה כלים של בינה מלאכותית צריכים לשמור או לייצר בעת סיוע בפיתוח תוכנה.
קלוד קוד תוכנן כדי לעזור למפתחים לכתוב ולערוך קוד, אך ההאשמה מרמזת שהתוצרים שלו עשויים לשאת יותר מהתגובה הנראית לעין. אם זה נכון, נוכחות של סימני מים נסתרים עלולה להשפיע על הדרך שבה מפתחים שוקלים להשתמש בכלי בפרויקטים רגישים, במיוחד כאשר בקשות הקוד כוללות חומר קנייני או סודי.
הדוח מוסיף גם לאי־נוחות רחבה יותר סביב מערכות בינה מלאכותית שמעבדות הוראות משתמש ומייצרות תוכן בקנה מידה גדול. ככל שעוזרי התכנות משתלבים יותר בעבודה היומיומית על תוכנה, השאלות לגבי מה נשמר, מתוייג או ניתן להסיק מהאינטראקציות האלה נעשות קשות יותר להתעלמות עבור חברות.
אנתרופיק לא התייחסה לדוח באופן פומבי בחומרים שסופקו, והטענות לא אומתו באופן עצמאי במחקר הזמין כאן. עם זאת, ההאשמה צפויה להחריף את הבדיקה של כלי תכנות בסיוע בינה מלאכותית, במיוחד בקרב משתמשים המבקשים גבולות ברורים יותר לגבי פרטיות ושימוש בנתונים.
עבור מפתחים וחברות מאמצות כלי תכנות מבוססי בינה מלאכותית, הנושא חורג מנוחות בלבד. זה נוגע לאמון: האם המערכות שעוזרות לכתוב קוד גם בשקט משאירות עקבות של האופן שבו ביקשו את הקוד.
מקורות:
תגלוש באופן פרטי עם Doppler VPN — ללא יומנים, חיבור בלחיצה אחת.