דילוג לתוכן הראשי

פרטיות, הרשאות ובקרה אנושית

קריאת מסמכים לא מהימנים

להפריד מידע ממקור שאינו מוסמך להורות

דוגמה מהשטח

טקסט מיובא מבקש מהמערכת לשנות משימה

שלבי עבודה

  1. התייחסו למסמך כראיה בלבד והגדירו תפקידים
  2. שמרו החלטות הרשאה בקוד ובאישור אדם

עכשיו תורכם

בנו תרחיש שבו טקסט מבקש פעולה שלא הוגדרה

איך אדע שביצעתי נכון?

המסמך נקרא בלי לשנות את כללי המערכת

מסגרת הסיכונים ל־AI של NIST
השיעור הקודםהשיעור הבא