1

1. 1

2. ‫מלאכותית‬ ‫בינה‬
–
‫מהעתונות‬
‫האחרונה‬ ‫בתקופה‬
“Did this AI chatbot encourage a man to commit suicide?
In Pierre's last conversation with the chatbot, the AI asked him why he hadn't already
died if that's what he wanted.” By MAARIV ONLINE Published: APRIL 3, 2023
18.3.23
‫ציוץ‬
‫ויראלי‬
‫בטוויטר‬
,
‫המשרוקית‬ ‫גלובס‬
3.4

3. ‫מלאכותית‬ ‫בינה‬
–
‫מהעתונות‬
‫האחרונה‬ ‫בתקופה‬
•
‫בשבוע‬
‫שעבר‬
‫עמד‬
‫ראש‬
‫ממשלת‬
‫יפן‬
‫פומיו‬
‫קישידה‬
‫תחת‬
‫חקירה‬
‫צולבת‬
‫בפרלמנט‬
.
"
‫בהצעת‬
‫החוק‬
‫שעוסקת‬
‫בשינוי‬
‫מדיניות‬
‫הקורונה‬
,
‫האם‬
‫אתה‬
‫חושב‬
‫שהקשבת‬
‫מספיק‬
‫לדעתם‬
‫של‬
‫אנשי‬
‫ממשל‬
‫מקומי‬
‫ועובדי‬
‫מערכת‬
‫הבריאות‬
?
"
,
‫הוא‬
‫נשאל‬
,
‫ומיד‬
‫הגיעה‬
‫גם‬
‫שאלת‬
‫המשך‬
:
"
‫האם‬
‫תוכל‬
‫להגיד‬
‫לנו‬
‫איך‬
‫אנשים‬
‫אלו‬
‫מעורבים‬
‫במתן‬
‫מענה‬
?
"
.
‫שאלות‬
‫מצד‬
‫חברי‬
‫פרלמנט‬
‫אינן‬
‫דבר‬
‫יוצא‬
‫דופן‬
.
‫אבל‬
‫מה‬
‫שהיה‬
‫חריג‬
‫כאן‬
‫הוא‬
‫לא‬
‫הצגת‬
‫השאלות‬
,
‫אלא‬
‫המקור‬
‫להן‬
–
‫מודל‬
‫השיחה‬
ChatGPT
‫של‬
‫חברת‬
OpenAI
,
‫שחבר‬
‫הפרלמנט‬
‫מהאופוזיציה‬
‫קזומה‬
‫נאקאטאני‬
‫נעזר‬
‫בו‬
‫לצורך‬
‫ניסוחן‬
.
‫לפי‬
‫דיווח‬
‫של‬
‫בלומברג‬
,
‫נאקאטאני‬
‫הזין‬
‫לו‬
‫את‬
‫השאילתה‬
:
"
‫אילו‬
‫שאלות‬
‫היית‬
‫שואל‬
‫את‬
‫ראש‬
‫הממשלה‬
‫אם‬
‫היית‬
‫חבר‬
‫בבית‬
‫התחתון‬
‫של‬
‫הפרלמנט‬
?
"
.
‫כלכליסט‬
2.4
• ChatGPT banned in Italy over privacy concerns. Italy has become the first
Western country to block advanced chatbot ChatGPT.
The Italian data-protection authority said there were privacy concerns relating to
the model, which was created by US start-up OpenAI and is backed by Microsoft.
BBC Published April 1 2023

4. ‫מלאכותית‬ ‫בינה‬
–
‫מהעתונות‬
‫האחרונה‬ ‫בתקופה‬
‫האם‬
‫המרוץ‬
‫לבינה‬
‫מלאכותית‬
‫יכול‬
‫לסכן‬
‫את‬
‫המין‬
‫האנושי‬
?
‫אילון‬
‫מאסק‬
‫וכ‬
-
1,000
‫אנשי‬
‫מפתח‬
‫בתעשיית‬
‫הטכנולוגיה‬
‫מודאגים‬
‫וחתמו‬
‫על‬
‫מכתב‬
‫שמפציר‬
‫להשהות‬
‫את‬
'
‫המרוץ‬
‫המסוכן‬
'
‫לפיתוח‬
‫בינה‬
‫מלאכותית‬
.
"
‫מערכות‬
‫בינה‬
‫מלאכותית‬
‫עם‬
‫אינטליגנציה‬
‫אנושית‬
-
‫תחרותית‬
‫יכולות‬
‫להוות‬
‫סיכונים‬
‫עמוקים‬
‫לחברה‬
‫ולאנושות‬
"
,
‫נכתב‬
‫שם‬
.
‫המכתב‬
,
‫שנשלח‬
‫מטעם‬
"
‫מכון‬
‫עתיד‬
‫החיים‬
"
‫ומלבד‬
‫מאסק‬
‫חתום‬
‫עליו‬
‫גם‬
‫המייסד‬
‫שותף‬
‫של‬
‫אפל‬
‫סטיב‬
‫ווזניאק‬
‫לצד‬
‫בכירים‬
‫רבים‬
‫אחרים‬
,
‫קורא‬
‫לכל‬
‫מעבדות‬
‫הבינה‬
‫המלאכותית‬
"
‫להשהות‬
‫מיידית‬
‫ולמשך‬
6
‫חודשים‬
‫לפחות‬
‫את‬
‫האימון‬
‫של‬
‫מערכות‬
‫בינה‬
‫מלאכותיות‬
‫חזקות‬
‫יותר‬
‫מ‬
-
GPT-4
"
-
‫הגרסה‬
‫העדכנית‬
‫ביותר‬
‫של‬
‫תוכנת‬
‫מודל‬
‫השפה‬
‫שפותחה‬
‫על‬
‫ידי‬
‫הסטארט‬
-
‫אפ‬
‫האמריקאי‬
OpenAI
.
'
‫מכון‬
‫עתיד‬
‫החיים‬
'
‫הוא‬
‫ארגון‬
‫ללא‬
‫מטרות‬
‫רווח‬
‫שבסיסו‬
‫בקיימברידג‬
,'
‫מסצ‬
'
‫וסטס‬
,
‫העוסק‬
‫בהסברה‬
‫לצורך‬
‫פיתוח‬
‫אחראי‬
‫ואתי‬
‫של‬
‫בינה‬
‫מלאכותית‬
.
‫מייסדיו‬
‫כוללים‬
‫את‬
‫החוקר‬
‫מ‬
-
MIT
‫מקס‬
‫טגמרק‬
‫ומייסד‬
‫סקייפ‬
,
‫ג‬
'
‫אן‬
‫טאלין‬
.
‫המכון‬
‫הוביל‬
‫לכך‬
‫שבעבר‬
‫מאסק‬
‫ומעבדת‬
‫הבינה‬
‫המלאכותית‬
‫דיפמיינד‬
(
DeepMind
)
‫שבבעלות‬
‫גוגל‬
‫הבטיחו‬
‫לעולם‬
‫לא‬
‫לפתח‬
‫מערכות‬
‫נשק‬
‫אוטונומיות‬
‫קטלניות‬
.
‫גלובס‬
29.3.2023

5. ‫מלאכותית‬ ‫בינה‬
(
‫המסמך‬ ‫לצורך‬ ‫הגדרה‬
)
-
‫להתפתחות‬ ‫כולל‬ ‫שם‬
‫קבלת‬ ‫המאפשרת‬ ‫הנתונים‬ ‫ומדעי‬ ‫והתקשורת‬ ‫המידע‬ ‫טכנולוגיות‬ ‫בתחום‬
‫החלטות‬
,
‫תחזיות‬ ‫ייצור‬
,
‫עצמאות‬ ‫ברמת‬ ‫מחשב‬ ‫ידי‬ ‫על‬ ‫פעולת‬ ‫ביצוע‬ ‫או‬
‫גבוהה‬
,
‫אנושית‬ ‫בינה‬ ‫להחליף‬ ‫מסוגל‬ ‫או‬ ‫המדמה‬ ‫באופן‬
.
‫הגדרת‬
OECD
-
‫היא‬ ‫מלאכותית‬ ‫בינה‬ ‫מערכת‬
"
‫ממוכנת‬ ‫מערכת‬
‫שיכולה‬
,
‫אדם‬ ‫בידי‬ ‫מוגדרות‬ ‫למטרות‬ ‫בהתאם‬
,
‫תחזיות‬ ‫להפיק‬
,
‫המלצות‬
,
‫וירטואליות‬ ‫או‬ ‫פיזיות‬ ‫סביבות‬ ‫על‬ ‫המשפיעות‬ ‫החלטות‬ ‫או‬
"
‫כאשר‬
"
‫עצמאות‬ ‫ברמת‬ ‫לפעול‬ ‫מתוכננות‬ ‫מלאכותית‬ ‫בינה‬ ‫מערכות‬
‫משתנה‬
"
(
‫ובטיוטת‬ ‫האירופי‬ ‫האיחוד‬ ‫של‬ ‫חקיקה‬ ‫בטיוטת‬ ‫דומה‬ ‫הגדרה‬
‫קנדית‬ ‫חקיקה‬
)
‫מלאכותית‬ ‫בבינה‬ ‫ואתיקה‬ ‫רגולציה‬ ‫מדיניות‬ ‫עקרונות‬
‫אוקטובר‬‫מיום‬‫הציבור‬‫להערות‬‫פרסום‬
30
2022
(
‫העקרונות‬‫מסמך‬
)

6. ‫פרטיות‬ ‫דיני‬
-
‫על‬ ‫לחול‬ ‫צפויים‬
‫ביג‬ ‫ותהליכי‬ ‫מלאכותית‬ ‫בבינה‬ ‫שימוש‬
‫דאטה‬
o
‫הפרטיות‬ ‫הגנת‬ ‫חוק‬
,
‫התשמ‬
"
‫א‬
-
1981
:
‫אדם‬ ‫בפרטיות‬ ‫בפגיעה‬ ‫הקשורות‬ ‫ועבירות‬ ‫עוולות‬
,
‫הוראות‬
‫מידע‬ ‫במאגר‬ ‫ממוחשב‬ ‫עיבוד‬ ‫לצורך‬ ‫אישי‬ ‫מידע‬ ‫באיסוף‬ ‫הקשורות‬
,
‫מידע‬ ‫ותיקון‬ ‫במידע‬ ‫עיון‬ ‫זכות‬
.
o
‫הפרטיות‬ ‫הגנת‬ ‫וחוק‬ ‫וחירותו‬ ‫האדם‬ ‫כבוד‬ ‫יסוד‬ ‫חוק‬
-
‫הסכמה‬ ‫ניתנה‬ ‫אם‬ ‫אפשרית‬ ‫בפרטיות‬ ‫פגיעה‬
‫חוק‬ ‫לפי‬ ‫או‬ ‫מדעת‬
.
‫בנוסף‬
,
‫המידע‬ ‫נאסף‬ ‫לשמו‬ ‫השימוש‬ ‫אודות‬ ‫המידע‬ ‫לנושא‬ ‫מידע‬ ‫למסור‬ ‫נדרש‬
.
‫יש‬ ‫וכן‬
‫הוא‬ ‫לשמה‬ ‫אשר‬ ‫למטרה‬ ‫רק‬ ‫שנאסף‬ ‫במידע‬ ‫שימוש‬ ‫לעשות‬
‫נמסר‬
o
‫רשות‬
‫פרטיות‬ ‫הגנת‬
-
‫דעת‬ ‫גילוי‬
(
‫לגבי‬ ‫פרשנות‬
‫מלכותית‬ ‫בבינה‬ ‫שימוש‬ ‫נעשה‬ ‫כאשר‬ ‫היידוע‬ ‫חובת‬
)
:
o
‫אוטומטיות‬ ‫מערכות‬ ‫באמצעות‬ ‫נעשה‬ ‫המידע‬ ‫כשאיסוף‬
,
‫הפרטים‬ ‫כל‬ ‫המידע‬ ‫לנושא‬ ‫שיוצגו‬ ‫לוודא‬ ‫יש‬
‫החוק‬ ‫להוראות‬ ‫בהתאם‬ ‫הנדרשים‬
.
o
‫אוטומטיות‬ ‫מערכות‬ ‫באמצעות‬ ‫נעשה‬ ‫המידע‬ ‫כשעיבוד‬
,
‫פעולת‬ ‫אופן‬ ‫על‬ ‫לפרט‬ ‫היידוע‬ ‫הליך‬ ‫על‬
‫המערכת‬
,
‫משפטית‬ ‫מבחינה‬ ‫אפשרי‬ ‫זה‬ ‫שפרוט‬ ‫וככל‬ ‫ההסכמה‬ ‫לגיבוש‬ ‫רלוונטי‬ ‫שהדבר‬ ‫ככל‬
,
‫ומסחרית‬ ‫טכנולוגית‬
.
o
‫המידע‬ ‫פרטי‬ ‫אודות‬ ‫על‬ ‫המידע‬ ‫לנושא‬ ‫שיוסבר‬ ‫ממליצה‬ ‫הרשות‬
‫להשתמש‬ ‫מערכות‬ ‫עשויות‬ ‫בהם‬
‫אליו‬ ‫הנודע‬ ‫במידע‬ ‫השימוש‬ ‫במסגרת‬
,
‫אלו‬ ‫מידע‬ ‫פרטי‬ ‫של‬ ‫והמקור‬
.
o
‫מידע‬ ‫אבטחת‬ ‫הפרטיות‬ ‫הגנת‬ ‫ותקנות‬ ‫הפרטיות‬ ‫הגנת‬ ‫חוק‬
‫התשע‬
"
‫ז‬
2017
-
‫בדבר‬ ‫הוראות‬ ‫קובעים‬
‫מידע‬ ‫שבמאגר‬ ‫מידע‬ ‫אבטחת‬
‫העקרונות‬ ‫מסמך‬
-
‫בישראל‬ ‫קיימים‬ ‫דינים‬

7. ‫איסור‬ ‫חוק‬
‫הפלייה‬
‫ציבוריים‬ ‫ולמקומות‬ ‫בידור‬ ‫למקומות‬ ‫ובכניסה‬ ‫בשירותים‬ ‫במוצרים‬
,
‫התשס‬
"
‫א‬
-
2000
o
‫שוויון‬ ‫חובות‬ ‫מחיל‬
‫ואיסור‬
‫הנטל‬ ‫את‬ ‫ומעביר‬ ‫אפליה‬ ‫הכולל‬ ‫פרסום‬ ‫על‬ ‫אוסר‬ ‫היתר‬ ‫בין‬ ‫מסוימות‬ ‫פעולות‬ ‫על‬ ‫אפליה‬
‫אזרחית‬ ‫בתביעה‬
.
‫החוק‬ ‫לפי‬ ‫אסורה‬ ‫אפליה‬ ‫שתוצאתה‬ ‫לפעולה‬ ‫יגרום‬ ‫מלאכותית‬ ‫בבינה‬ ‫שימוש‬ ‫בהם‬ ‫במקרים‬
-
‫המלאכותית‬ ‫הבינה‬ ‫לפעילות‬ ‫שאחראי‬ ‫מי‬ ‫על‬ ‫לחול‬ ‫עשויות‬ ‫הוראותיו‬
‫חוזים‬ ‫דיני‬
-
‫החוזים‬ ‫חוק‬
(
‫כללי‬ ‫חלק‬
)
‫התשל‬
"
‫ג‬
-
1973
o
‫חוזה‬ ‫לעריכת‬ ‫צורנית‬ ‫דרישה‬ ‫אין‬ ‫בחוק‬
,
‫לעריכת‬ ‫אלקטרונית‬ ‫ובתקשורת‬ ‫במחשבים‬ ‫שימוש‬ ‫על‬ ‫מגבלה‬ ‫אין‬ ‫ככלל‬ ‫ולכן‬
‫חוזים‬
.
‫בנושא‬ ‫שאלות‬
‫גמירות‬
‫וקיבול‬ ‫הצעה‬ ‫לגבי‬ ‫דעת‬
o
‫במו‬ ‫לב‬ ‫בתום‬ ‫לנהוג‬ ‫החובה‬ ‫לאור‬ ‫מלאכותית‬ ‫בבינה‬ ‫השימוש‬ ‫גילוי‬ ‫חובת‬
"
‫מ‬
,
‫איסור‬
‫הטעיה‬
(
‫מו‬ ‫בניהול‬ ‫יתרון‬
"
‫לצד‬ ‫מ‬
‫מלאכותית‬ ‫בבינה‬ ‫כשמדובר‬ ‫מלאכותית‬ ‫בבינה‬ ‫שימוש‬ ‫שעושה‬
)
o
‫אחידים‬ ‫חוזים‬
(
‫השני‬ ‫לצד‬ ‫מלאכותית‬ ‫בבינה‬ ‫שימוש‬ ‫סיכון‬ ‫יעביר‬ ‫כשהמנסח‬
-
‫מקפחת‬ ‫בתניה‬ ‫מדובר‬ ‫האם‬ ‫שאלה‬
‫אחיד‬ ‫בחוזה‬
)
‫הצרכן‬ ‫הגנת‬ ‫חוק‬
,
‫התשמ‬
"
‫א‬
-
1981
‫צרכנים‬ ‫על‬ ‫הגנה‬ ‫שמטרתן‬ ‫הוראות‬ ‫קובע‬
o
‫מוגברות‬ ‫חובות‬ ‫אותה‬ ‫שמפעיל‬ ‫מי‬ ‫על‬ ‫לחול‬ ‫עשויות‬ ‫צרכנית‬ ‫עסקה‬ ‫יצירת‬ ‫בתהליך‬ ‫מעורבת‬ ‫מלאכותית‬ ‫כשבינה‬
‫זה‬ ‫חוק‬ ‫לפי‬ ‫בגילוי‬ ‫הקשורות‬
.
‫בשימוש‬ ‫גדלים‬ ‫אף‬ ‫והצרכן‬ ‫המלאכותית‬ ‫הבינה‬ ‫את‬ ‫המפעיל‬ ‫בעוסק‬ ‫בין‬ ‫הידע‬ ‫פערי‬
‫בבינה‬
‫מלאכותית‬
o
‫או‬ ‫פרסום‬ ‫על‬ ‫איסור‬
‫שיווק‬
‫לקטינים‬ ‫פוגעניים‬
[
‫לפרסומות‬ ‫שאחראי‬ ‫כמי‬ ‫לקטינים‬ ‫תכנים‬ ‫המציע‬ ‫אינטרנט‬ ‫באתר‬ ‫רואה‬ ‫היא‬ ‫כי‬ ‫הצרכן‬ ‫להגנת‬ ‫הרשות‬ ‫הודיעה‬ ‫לאחרונה‬
‫זה‬ ‫ובכלל‬ ‫אלו‬ ‫פרסומות‬ ‫אודות‬ ‫על‬ ‫האתר‬ ‫של‬ ‫בפועל‬ ‫הידיעה‬ ‫או‬ ‫השליטה‬ ‫למידת‬ ‫קשר‬ ‫ללא‬ ‫התוכן‬ ‫ליד‬ ‫המוצגות‬
‫לאפשרות‬
‫מוצגות‬ ‫הן‬ ‫בו‬ ‫הקצה‬ ‫ממכשיר‬ ‫שנאסף‬ ‫ממידע‬ ‫נובעות‬ ‫אלו‬ ‫שפרסומות‬
]
‫העקרונות‬ ‫מסמך‬
-
‫בישראל‬ ‫קיימים‬ ‫דינים‬

8. ‫נזיקין‬ ‫דיני‬
-
‫דיני‬ ‫לתחולת‬ ‫אפשרות‬ ‫תתכן‬
‫הנזיקין‬
‫התנהגות‬ ‫או‬ ‫נזק‬ ‫נגרם‬ ‫שבהן‬ ‫סיטואציות‬ ‫על‬
‫עוולתית‬
‫הקשורות‬
‫מלאכותית‬ ‫בבינה‬ ‫בשימוש‬
.
‫רלוונטית‬ ‫להיות‬ ‫יכולה‬ ‫הרשלנות‬ ‫עוולת‬
.
‫שאלה‬
‫כתוצאה‬ ‫מסוים‬ ‫נזק‬ ‫שייגרם‬ ‫לצפות‬ ‫וצריך‬ ‫יכול‬ ‫מלאכותית‬ ‫בינה‬ ‫של‬ ‫מערכת‬ ‫שבונה‬ ‫מי‬ ‫האם‬ ‫מרכזית‬
‫בה‬ ‫השימוש‬ ‫או‬ ‫מהפעלתה‬
.
‫המסקנה‬
‫מדיניות‬ ‫בשיקולי‬ ‫והן‬ ‫טכנולוגיים‬ ‫עובדתיים‬ ‫בהיבטים‬ ‫הן‬ ‫תלויה‬
.
‫דיני‬ ‫עקרוני‬ ‫באופן‬
‫הנזיקין‬
‫מאפשרים‬
‫ולחוד‬ ‫ביחד‬ ‫למנגנון‬ ‫בהתאם‬ ‫מלאכותית‬ ‫בבינה‬ ‫ומשתמש‬ ‫מפתח‬ ‫בין‬ ‫האחריות‬ ‫חלוקת‬ ‫את‬ ‫לבחון‬
.
‫חלוקת‬
‫על‬ ‫מבוססת‬ ‫המזיקים‬ ‫בין‬ ‫האחריות‬
"
‫המוסרי‬ ‫האשם‬ ‫מבחן‬
"
‫שאשמו‬ ‫למי‬ ‫האחריות‬ ‫של‬ ‫הארי‬ ‫החלק‬ ‫את‬ ‫שמקצה‬
‫יותר‬ ‫רב‬ ‫המוסרי‬
.
‫ועוד‬
...
‫מסקנה‬
:
‫במערכות‬ ‫שימוש‬ ‫עקב‬ ‫המתעוררים‬ ‫מהאתגרים‬ ‫חלק‬ ‫עם‬ ‫מסוימת‬ ‫התמודדות‬ ‫מאפשר‬ ‫בישראל‬ ‫הקיים‬ ‫הדין‬
‫אפליה‬ ‫זה‬ ‫ובכלל‬ ‫מלאכותית‬ ‫בינה‬ ‫מבוססות‬
,
‫שקיפות‬
,
‫בהנמקה‬ ‫הצורך‬
,
‫מידע‬ ‫אבטחת‬
,
‫ופרטיות‬ ‫סייבר‬
.
‫העקרונות‬ ‫מסמך‬
-
‫בישראל‬ ‫קיימים‬ ‫דינים‬

9. 
‫אפליה‬
-
‫רק‬ ‫לא‬ ‫אך‬ ‫לרבות‬

‫מכוונת‬ ‫אפליה‬

‫החלטות‬ ‫לקבלת‬ ‫המשמש‬ ‫האלגוריתם‬ ‫ועיצוב‬ ‫הנתונים‬ ‫בחירת‬ ‫מאופן‬ ‫הנובעת‬ ‫אפליה‬

‫המערכת‬ ‫לאימון‬ ‫המשמים‬ ‫בנתונים‬ ‫ביטוי‬ ‫המקבלת‬ ‫בחברה‬ ‫קיימת‬ ‫אפליה‬ ‫המשקפות‬ ‫הטיות‬

‫מספיק‬ ‫ייצוגיים‬ ‫שאינם‬ ‫מידע‬ ‫מאגרי‬ ‫על‬ ‫אימון‬

‫המערכת‬ ‫של‬ ‫הייעוד‬ ‫משינוי‬ ‫כתוצאה‬ ‫אפליה‬
,
‫הקשרה‬
,
‫שלה‬ ‫היעד‬ ‫קהל‬ ‫או‬

‫אתגר‬
‫טכנולוגי‬
-
‫טכנית‬ ‫לחסום‬ ‫ניתן‬ ‫לעיתים‬ ‫אם‬ ‫גם‬
‫נתונים‬ ‫של‬
"
‫אסורים‬
"
‫מפלים‬ ‫שיקולים‬ ‫המבטאים‬
(
‫מין‬ ‫כגון‬
,
‫גזע‬
,
‫מוצא‬
,
‫דת‬
,
‫וכו‬ ‫השקפה‬
'
)

‫חשש‬
‫המפלה‬ ‫המאפיין‬ ‫עם‬ ‫מתואמים‬ ‫בפרמטרים‬ ‫התחשבות‬ ‫באמצעות‬ ‫זאת‬ ‫בכל‬ ‫תשקול‬ ‫המערכת‬
(
(PROXY
‫כתובת‬
/
‫מיקוד‬
‫קבוצתי‬ ‫לשיוך‬ ‫קורלטיבי‬ ‫נתון‬
,
‫אקונומי‬ ‫סוציו‬ ‫למעמד‬ ‫או‬ ‫אתניים‬ ‫מאפיינים‬
(
‫את‬ ‫מראש‬ ‫לאפיין‬ ‫אינהרנטי‬ ‫קושי‬
‫הקורלציות‬ ‫כל‬
,
‫קורלציות‬ ‫על‬ ‫שמסתמכת‬ ‫המלכותית‬ ‫הבינה‬ ‫ביתרונות‬ ‫תפגע‬ ‫אלה‬ ‫נתונים‬ ‫הוצאת‬
,
‫אינן‬ ‫רבות‬ ‫שפעמים‬
‫ע‬ ‫לזיהוי‬ ‫ניתנות‬
"
‫מדויקים‬ ‫לניבויים‬ ‫אנושיים‬ ‫גורמים‬ ‫י‬
‫יותר‬

‫מפלים‬ ‫שיקולים‬ ‫בחשבון‬ ‫הביאה‬ ‫המערכת‬ ‫בהם‬ ‫מקרים‬ ‫ואיתור‬ ‫החלטות‬ ‫קבלת‬ ‫מנגנון‬ ‫להסביר‬ ‫מבני‬ ‫קושי‬

‫אין‬
‫קבוצות‬ ‫לכל‬ ‫ומגוונים‬ ‫מקיפים‬ ‫מידע‬ ‫מאגרי‬ ‫בנמצא‬
‫האוכלוסיה‬
-
‫פער‬ ‫לאור‬
‫הסטורי‬
‫לקבוצות‬ ‫ביחס‬ ‫נתונים‬ ‫באיסוף‬
‫מסוימות‬
(
‫מוגבל‬ ‫באופן‬ ‫לרוב‬ ‫אך‬ ‫לעיתים‬ ‫זאת‬ ‫לפתור‬ ‫ניתן‬
)
‫עקרונות‬ ‫מסמך‬
-
‫סוגיות‬
,
‫בבינה‬‫ושימוש‬ ‫פיתוח‬ ‫בעקבות‬ ‫נפוצים‬ ‫ואתגרים‬ ‫סיכונים‬
‫מלאכותית‬

10. 
‫משפטי‬ ‫אתגר‬

‫עקיפה‬ ‫אפליה‬ ‫על‬ ‫והן‬ ‫ישירה‬ ‫אפליה‬ ‫על‬ ‫הן‬ ‫אוסרים‬ ‫אפליה‬ ‫איסור‬ ‫דיני‬
-
‫עשוי‬ ‫מלאכותית‬ ‫בבינה‬ ‫שימוש‬
‫למאפיין‬ ‫בהכרח‬ ‫נוגעות‬ ‫שלא‬ ‫והקשרים‬ ‫תבניות‬ ‫לאור‬ ‫אפליה‬ ‫איסור‬ ‫דיני‬ ‫את‬ ‫לאתגר‬
‫האפליה‬
‫ולעיתים‬
‫להפלות‬ ‫עלולות‬ ‫ועדיין‬ ‫ממנו‬ ‫רחוקות‬
.

‫אף‬ ‫על‬ ‫ומאוזנים‬ ‫מגוונים‬ ‫נתונים‬ ‫מאגרי‬ ‫יצירת‬ ‫למנוע‬ ‫עלולים‬ ‫במידע‬ ‫שימוש‬ ‫המגבילים‬ ‫שונים‬ ‫דינים‬
‫מפלה‬ ‫שאינה‬ ‫למערכת‬ ‫הכרחי‬ ‫תנאי‬ ‫מהווים‬ ‫אלה‬ ‫שמאגרים‬
.
‫הפרטיות‬ ‫הגנת‬ ‫דיני‬ ‫למשל‬
,
‫זכויות‬ ‫דיני‬
‫יוצרים‬
,
‫חסיונות‬
‫מסחר‬ ‫וסודות‬
.

‫מעורבות‬
‫אנושית‬
-
‫ההחלטה‬ ‫בקבלת‬ ‫אנושית‬ ‫מעורבות‬ ‫בלי‬ ‫מערכות‬ ‫על‬ ‫מהסתמכות‬ ‫חשש‬

‫בעד‬
:

‫עקרון‬
‫מוסרי‬ ‫ערכי‬
-
‫בענינים‬
‫השפעה‬ ‫להם‬ ‫שיש‬
(
‫משמעותית‬
)
‫אדם‬ ‫על‬
,
‫אדם‬ ‫ידי‬ ‫על‬ ‫תתקבל‬ ‫ההחלטה‬
(
‫בהן‬ ‫שיש‬ ‫החלטות‬ ‫או‬ ‫חירות‬ ‫שלילת‬ ‫על‬ ‫החלטה‬ ‫כמו‬
‫מימד‬
‫או‬ ‫ערכי‬
‫אתי‬
.)

‫תועלתני‬ ‫עקרון‬
-
‫תכנון‬ ‫כמו‬ ‫בעיות‬ ‫עקב‬ ‫בטכנולוגיה‬ ‫כשלים‬ ‫מפני‬ ‫החשש‬ ‫עם‬ ‫התמודדות‬
,
‫לקוי‬ ‫ביצוע‬ ‫או‬
,
‫ארוע‬
‫צפוי‬ ‫לא‬
,
‫לרעה‬ ‫שימוש‬
,
‫אדם‬ ‫שילוב‬ ‫באמצעות‬
‫ההחלטה‬ ‫בתהליך‬
.

‫מנגד‬
-
‫קבלת‬ ‫תהליך‬ ‫ויעילות‬ ‫באיכות‬ ‫לפגוע‬ ‫עלולה‬ ‫אנושית‬ ‫מעורבות‬
‫ההחלטות‬
.
‫עקרונות‬ ‫מסמך‬
-
‫סוגיות‬
,
‫בבינה‬‫ושימוש‬ ‫פיתוח‬ ‫בעקבות‬ ‫נפוצים‬ ‫ואתגרים‬ ‫סיכונים‬
‫מלאכותית‬

11. 
‫חלוקה‬
‫לקטגוריות‬ ‫אפשרית‬
:

Human of the loop
–
‫המערכת‬
‫מקבלת‬
‫החלטה‬
‫בעצה‬
‫ללא‬
‫כל‬
‫גורם‬
‫אנושי‬
‫שנוטל‬
‫חלק‬
‫בתהליך‬
‫או‬
‫מפקח‬
‫עליו‬
.

Human on the loop
-
‫בעצמה‬ ‫החלטה‬ ‫מקבלת‬ ‫המערכת‬
,
‫במידת‬ ‫ולהתערב‬ ‫לפקח‬ ‫סמכות‬ ‫האנושי‬ ‫לגורם‬
‫ההחלטה‬ ‫קבלת‬ ‫לאחר‬ ‫או‬ ‫אמת‬ ‫בזמן‬ ‫הצורך‬

Human in the loop
-
‫ההחלטה‬ ‫בקבלת‬ ‫משתתף‬ ‫האנושי‬ ‫הגורם‬
,
‫עצמאי‬ ‫דעת‬ ‫שיקול‬ ‫מפעיל‬
,
‫ההחלטה‬ ‫אך‬
‫המערכת‬ ‫בסיוע‬ ‫מתקבלת‬

‫חלוקה‬
‫אפשרית‬ ‫שניה‬
-
‫שישה‬ ‫בין‬
‫מצבים‬
:
‫אנושי‬
(
‫בלבד‬ ‫אדם‬ ‫ידי‬ ‫על‬ ‫החלטה‬
)
,
‫עצה‬
(
‫תוך‬ ‫אדם‬ ‫ידי‬ ‫על‬ ‫החלטה‬
‫הסתיעות‬
‫בהמלצת‬
‫המערכת‬
)
,
‫הסכמה‬
(
‫האדם‬ ‫אישור‬ ‫לאחר‬ ‫מחליטה‬ ‫המערכת‬
)
,
‫וטו‬
(
‫להטיל‬ ‫רשאי‬ ‫האדם‬ ‫ואוטומטית‬ ‫בעצמה‬ ‫מחליטה‬ ‫המערכת‬
‫וטו‬
)
,
‫ערעור‬
(
‫אנושי‬ ‫גורם‬ ‫בפני‬ ‫לערער‬ ‫רשאי‬ ‫ההחלטה‬ ‫מושא‬ ‫אוטומטי‬ ‫באופן‬ ‫ופועלת‬ ‫בעצמה‬ ‫מחליטה‬ ‫המערכת‬
)
,
‫אוטונומי‬
(
‫על‬ ‫לערער‬ ‫שניתם‬ ‫ובלי‬ ‫האנושי‬ ‫הגורם‬ ‫את‬ ‫לידע‬ ‫בלי‬ ‫בעצמה‬ ‫ופועלת‬ ‫מחליטה‬ ‫המערכת‬
‫ההחלטה‬
.

‫אנושית‬ ‫מעורבות‬ ‫יתרונות‬

‫ובעתיד‬ ‫בהווה‬ ‫טעויות‬ ‫ומצמצום‬ ‫ומניעה‬ ‫החלטות‬ ‫קבלת‬ ‫הליך‬ ‫ודיוק‬ ‫איכות‬ ‫שיפור‬

‫והרחבה‬ ‫שיפור‬
‫והבאה‬
‫לידי‬
‫ביטוי‬
‫אחריותיות‬ ‫של‬

‫עשויות‬ ‫אנושי‬ ‫גורם‬ ‫מעורב‬ ‫בהן‬ ‫החלטות‬
‫להתפס‬
‫במערכות‬ ‫בשימוש‬ ‫הציבור‬ ‫אמון‬ ‫בהגברת‬ ‫ולסייע‬ ‫יותר‬ ‫כלגיטימיות‬
(
‫מחקרים‬
‫אמפיריים‬
,
‫אחר‬ ‫הסבר‬
-
‫הוגן‬ ‫הליך‬
)

‫החלטה‬ ‫שמתקבלת‬ ‫מי‬ ‫של‬ ‫בכבודם‬ ‫לפגיעה‬ ‫להביא‬ ‫יכול‬ ‫אנושי‬ ‫גורם‬ ‫העדר‬ ‫מסוימים‬ ‫בהקשרי‬
‫בענינו‬
(
‫לא‬
‫לאינדיבידואל‬ ‫מאפשר‬
‫את‬ ‫להפגין‬
‫הייחודיות‬
‫באופן‬ ‫שלו‬
‫פרטני‬
-
‫תכונות‬ ‫כסט‬ ‫ולא‬ ‫כמכלול‬ ‫האדם‬ ‫בחינת‬ ‫תתבצע‬ ‫כי‬ ‫ווידוא‬
‫העקרונות‬ ‫מסמך‬
-
‫סוגיות‬
,
‫ושימוש‬ ‫פיתוח‬ ‫בעקבות‬ ‫נפוצים‬ ‫ואתגרים‬ ‫סיכונים‬
‫מלאכותית‬ ‫בבינה‬

12. 
‫ההחלטה‬ ‫בקבלת‬ ‫אנושית‬ ‫למעורבות‬ ‫ביחס‬ ‫אתגרים‬

‫ציפיה‬
‫אקטיבי‬ ‫באופן‬ ‫להתערב‬ ‫יוכלו‬ ‫שאנשים‬ ‫ריאלית‬ ‫לא‬
,
‫טעויות‬ ‫ולתקן‬ ‫מערכת‬ ‫פעילות‬ ‫על‬ ‫לפקח‬

‫אופטימלי‬ ‫אינו‬ ‫האנושי‬ ‫ההחלטות‬ ‫קבלת‬ ‫שתהליך‬ ‫משום‬ ‫נעשה‬ ‫מלאכותית‬ ‫בינה‬ ‫במערכת‬ ‫השימוש‬
(
‫אנושיים‬ ‫גורמים‬ ‫ידי‬ ‫על‬ ‫מאפליה‬ ‫לדוגמא‬ ‫חשש‬
,
‫אנושי‬ ‫החלטות‬ ‫קבלת‬ ‫הליך‬ ‫על‬ ‫המשפיעות‬ ‫הטיות‬
.
‫אלה‬ ‫ואפליות‬ ‫הטיות‬ ‫חלקית‬ ‫לפחות‬ ‫לנטרל‬ ‫עשויה‬ ‫מלאכותית‬ ‫שבינה‬ ‫בעוד‬
)

‫אלגוריתמים‬ ‫להמלצות‬ ‫בהתאם‬ ‫לפעול‬ ‫נוטים‬ ‫אנשים‬
‫כשיש‬ ‫גם‬
‫כללית‬ ‫תפיסה‬ ‫בגלל‬ ‫סותרות‬ ‫ראיות‬
‫צודק‬ ‫שהאלגוריתם‬
-
‫טעויות‬ ‫בתיקון‬ ‫אפקטיבית‬ ‫אנושית‬ ‫מעורבות‬ ‫אם‬ ‫ספק‬

‫מהמלצת‬ ‫שסטה‬ ‫האדם‬ ‫על‬ ‫אחריות‬ ‫להטלת‬ ‫תביא‬ ‫האלגוריתם‬ ‫להמלצת‬ ‫בניגוד‬ ‫שפעולה‬ ‫חשש‬
‫של‬ ‫במקרה‬ ‫המערכת‬
‫תוצאה‬
‫שלילית‬

‫מלאכותית‬ ‫בינה‬ ‫במערכות‬ ‫שימוש‬ ‫תפחית‬ ‫אנושית‬ ‫מעורבות‬
-
‫המושגת‬ ‫ביעילות‬ ‫פגיעה‬
‫בשמוש‬
‫אלו‬ ‫במערכות‬
.
‫ביעילות‬ ‫גדולה‬ ‫מפגיעה‬ ‫חשש‬ ‫גבוהה‬ ‫אנושית‬ ‫מעורבות‬

‫ביטחון‬ ‫של‬ ‫מוצדקת‬ ‫לא‬ ‫לתחושה‬ ‫תביא‬ ‫המערכת‬ ‫על‬ ‫אקטיבי‬ ‫באופן‬ ‫לפקח‬ ‫מסוגלים‬ ‫שאנשים‬ ‫הנחה‬
-
‫החשש‬
‫מאימוץ‬
‫בשלה‬ ‫לא‬ ‫או‬ ‫מושלמת‬ ‫לא‬ ‫מערכת‬
(
‫מדי‬ ‫מוקדם‬ ‫בשלב‬ ‫אימוץ‬
)

‫או‬ ‫במערכת‬ ‫להשתמש‬ ‫שהחליטו‬ ‫ההחלטות‬ ‫מקבלי‬ ‫מכתפי‬ ‫תעבור‬ ‫טעות‬ ‫של‬ ‫במקרה‬ ‫שהאחריות‬ ‫חשש‬
‫מוצדק‬ ‫לא‬ ‫כשהדבר‬ ‫גם‬ ‫החלטה‬ ‫קבלת‬ ‫בתהליך‬ ‫המעורב‬ ‫אנושי‬ ‫לגורם‬ ‫המערכת‬ ‫מפתחי‬
.
‫העקרונות‬ ‫מסמך‬
-
‫סוגיות‬
,
‫ושימוש‬ ‫פיתוח‬ ‫בעקבות‬ ‫נפוצים‬ ‫ואתגרים‬ ‫סיכונים‬
‫מלאכותית‬ ‫בבינה‬

13. 
‫הסברתיות‬
-
‫היכולת‬
‫להציג‬
‫שלה‬ ‫ההחלטה‬ ‫או‬ ‫המערכת‬ ‫פעולת‬ ‫אפן‬ ‫את‬ ‫אדם‬ ‫בני‬ ‫ידי‬ ‫על‬ ‫להבנה‬ ‫שניתנת‬ ‫בצורה‬
.
‫להסביר‬ ‫או‬ ‫להבין‬ ‫ניתן‬ ‫שלא‬ ‫החלטה‬
‫עלולה‬
‫לכאורה‬ ‫כשהוא‬ ‫שלו‬ ‫ובאוטונומיה‬ ‫האדם‬ ‫בכבוד‬ ‫לפגיעה‬ ‫חשש‬ ‫לעורר‬
‫שרירותית‬ ‫להחלטה‬ ‫נתון‬
.

‫תכונה‬
‫זו‬
‫מאפינת‬
‫מתקיימת‬ ‫תמיד‬ ‫לא‬ ‫אך‬ ‫מהמערכות‬ ‫חלק‬
.
‫קופסא‬
‫שחורה‬
-
‫בבינה‬ ‫רגיל‬ ‫מאלגוריתם‬ ‫בשונה‬
‫אופן‬ ‫מלאכותית‬
"
‫אימון‬
"
‫שהתוכנה‬ ‫לכך‬ ‫מוביל‬ ‫המערכת‬
"
‫עצמה‬ ‫את‬ ‫כותבת‬
"
–
‫יכולים‬ ‫לא‬ ‫המערכת‬ ‫מעצבי‬ ‫גם‬
‫שלה‬ ‫פרטנית‬ ‫החלטה‬ ‫אחרי‬ ‫להתחקות‬
.
‫השאלה‬
:
‫כי‬ ‫לדרוש‬ ‫ראוי‬ ‫מצבים‬ ‫באילו‬
‫ינתן‬
‫ביחס‬ ‫הסבר‬
‫לאופן‬
‫ההסבר‬ ‫של‬ ‫הפרוט‬ ‫רמת‬ ‫להיות‬ ‫צריכה‬ ‫ומה‬ ‫המערכת‬ ‫פעולת‬
.

‫ההסברתיות‬ ‫דרישת‬ ‫של‬ ‫אחת‬ ‫חלוקת‬
:

‫נימוקים‬
(
‫ההחלטה‬ ‫ללקיחת‬ ‫סיבות‬
)

‫אחריותיות‬
(
‫מי‬
‫המערכת‬ ‫בפיתוח‬ ‫חלק‬ ‫לקח‬
,
‫המערכת‬ ‫את‬ ‫הטמיעו‬ ‫איך‬
,
‫המערכת‬ ‫את‬ ‫מנהל‬ ‫מי‬
,
‫ניתן‬ ‫למי‬
‫החלטה‬ ‫על‬ ‫לערער‬ ‫כדי‬ ‫לפנות‬
‫שהתקבלה‬
)

‫מידע‬
-
‫בהחלטה‬ ‫המערכת‬ ‫התבססה‬ ‫עליו‬ ‫המידע‬ ‫מה‬
,
‫בו‬ ‫השתמשה‬ ‫איך‬
-
‫שהפרט‬ ‫למידע‬ ‫ביחס‬ ‫הן‬
‫שבענינו‬
‫אליו‬ ‫נחשפה‬ ‫שהמערכת‬ ‫חיצוני‬ ‫למידע‬ ‫ביחס‬ ‫והן‬ ‫סיפק‬ ‫החלטה‬ ‫התקבלה‬
.

‫הוגנות‬
-
‫מנת‬ ‫על‬ ‫שלה‬ ‫וההטמעה‬ ‫המערכת‬ ‫בתכנון‬ ‫שננקטו‬ ‫הצעדים‬ ‫מהם‬
‫שההחלטות‬ ‫לוודא‬
‫אינן‬
‫מוטות‬
,
‫שוויוניות‬ ‫לתוצאות‬ ‫ומובילות‬ ‫הוגנות‬

‫וביצועים‬ ‫בטיחות‬
-
‫דיוק‬ ‫למקסם‬ ‫מנת‬ ‫על‬ ‫ננקטו‬ ‫צעדים‬ ‫אילו‬
,
‫אמינות‬
,
‫בטיחות‬
‫וחוסן‬
‫המערכת‬ ‫של‬

‫השפעה‬
-
‫במערכת‬ ‫השימוש‬ ‫השפעות‬ ‫על‬ ‫לפקח‬ ‫מנת‬ ‫על‬ ‫שננקטו‬ ‫הצעדים‬ ‫מה‬
‫וההטיות‬
‫על‬ ‫שלה‬
‫החברה‬ ‫ועל‬ ‫האינדיבידואל‬
‫בכללותה‬

‫ההסברתיות‬ ‫דרישת‬ ‫של‬ ‫אחרת‬ ‫חלוקה‬
:
‫פרמטרים‬
‫המודל‬ ‫בנוי‬ ‫עליהם‬ ‫מרכזיים‬
,
‫המערכת‬ ‫פעילות‬ ‫אופן‬
,
‫שלב‬ ‫באיזה‬
‫אנושי‬ ‫גורם‬ ‫מעורב‬
(
‫בכלל‬ ‫אם‬
)
‫בלי‬
‫להתיחס‬
‫ספציפית‬ ‫להחלטה‬
,
‫פרמטרים‬
‫רלוונטים‬
‫החלטה‬ ‫בגיבוש‬ ‫בחשבון‬ ‫שנלקחו‬
‫ספציפית‬
,
‫ספציפית‬ ‫החלטה‬ ‫על‬ ‫השפיעה‬ ‫בחשבון‬ ‫שנלקחו‬ ‫הפרמטרים‬ ‫בין‬ ‫האינטראקציה‬ ‫כיצד‬
.
‫העקרונות‬ ‫מסמך‬
-
‫סוגיות‬
,
‫בבינה‬‫ושימוש‬ ‫פיתוח‬ ‫בעקבות‬ ‫נפוצים‬ ‫ואתגרים‬ ‫סיכונים‬
‫מלאכותית‬

14. 
‫יתרונות‬ ‫הסברתיות‬
:

‫זיהוי‬
‫ותיקון‬
‫מתרחשות‬ ‫כשהן‬ ‫טעויות‬

‫קבלת‬ ‫תהליך‬ ‫שיפור‬
‫ההחלטות‬
‫במערכת‬ ‫המשתמשים‬ ‫הגורמים‬ ‫של‬

‫בכלים‬ ‫להשתמש‬ ‫אפקטיבית‬ ‫אפשרות‬ ‫תהיה‬ ‫לא‬ ‫הסברתיות‬ ‫בלי‬
‫מנשפטיים‬
‫אחר‬ ‫לפקח‬ ‫מנת‬ ‫על‬
‫מלאכותית‬ ‫בינה‬ ‫במערכת‬ ‫השימוש‬
(
‫במערכת‬ ‫שהשימוש‬ ‫לדעת‬ ‫קשה‬ ‫להחלטה‬ ‫שהובילו‬ ‫סיבות‬ ‫בלי‬
‫להפרת‬ ‫הביא‬
‫חובה‬
‫בדין‬
,
‫להוכיח‬
‫זאת‬
‫בצעדים‬ ‫ולנקוט‬
(
‫כמו‬
‫סרוב‬
‫אשראי‬ ‫למתן‬
‫על‬
‫ידי‬
‫הבנק‬
)

‫שלהם‬ ‫ההתנהגות‬ ‫את‬ ‫להתאים‬ ‫החלטה‬ ‫מושאי‬ ‫יכולת‬ ‫שיפור‬
(
‫אשראי‬ ‫מתן‬ ‫שמנעו‬ ‫סיבות‬ ‫תיקון‬
,
‫פניה‬
‫למתחרה‬
,
‫ויתור‬
)

‫הגברת‬
‫להשתמש‬ ‫ומוכנותו‬ ‫הציבור‬ ‫אמון‬
‫במערכת‬
.

‫הסברתיות‬
‫חסרונות‬
:

‫לא‬
‫בקלות‬ ‫להסבר‬ ‫ניתנת‬ ‫מלאכותית‬ ‫בינה‬ ‫מערכת‬ ‫כל‬
-
‫עלול‬ ‫לשימוש‬ ‫סף‬ ‫כתנאי‬ ‫רחב‬ ‫באופן‬ ‫דרישה‬ ‫קיום‬
‫יותר‬ ‫ומדויקות‬ ‫מתקדמות‬ ‫במערכות‬ ‫השימוש‬ ‫את‬ ‫להגביל‬

‫פגיעה‬ ‫לאור‬ ‫טכנולוגית‬ ‫בהתקדמות‬ ‫פגיעה‬
‫בכדאיות‬
‫כלכלית‬
(
‫משאבים‬ ‫בהשקעת‬ ‫כרוך‬ ‫להיות‬ ‫יכול‬ ‫הסבר‬
‫רבים‬
.)

‫קטנות‬ ‫חברות‬ ‫עבור‬ ‫חסם‬
-
‫היא‬ ‫בו‬ ‫לאופן‬ ‫ביחס‬ ‫ההסבר‬ ‫צד‬ ‫ואת‬ ‫המערכת‬ ‫צד‬ ‫את‬ ‫לפתח‬ ‫יאלצו‬
‫פועלת‬
.

‫הרוחני‬ ‫הקנין‬ ‫בתחום‬ ‫המערכת‬ ‫מפתחי‬ ‫לזכויות‬ ‫ביחס‬ ‫שאלות‬
,
‫וזכויות‬ ‫מסחריים‬ ‫סודות‬
‫יוצרים‬
.
‫העקרונות‬ ‫מסמך‬
-
‫סוגיות‬
,
‫מלאכותית‬ ‫בבינה‬‫ושימוש‬ ‫פיתוח‬ ‫בעקבות‬ ‫נפוצים‬ ‫ואתגרים‬ ‫סיכונים‬

15. 
‫גילוי‬
-
‫גילוי‬
‫מערכת‬ ‫עם‬ ‫באינטראקציה‬ ‫שהוא‬ ‫שידע‬ ‫מנת‬ ‫על‬ ‫למשתמש‬
‫בינה‬
‫אדם‬ ‫עם‬ ‫ולא‬ ‫מלאכותית‬

‫יתרונות‬
:

‫לפעול‬ ‫כיצד‬ ‫בחירתו‬ ‫על‬ ‫להשפיע‬ ‫שיכולה‬ ‫הפרט‬ ‫עבור‬ ‫שלילית‬ ‫או‬ ‫חיובית‬ ‫אינדיקציה‬
(
‫מוצר‬ ‫לרכוש‬ ‫אם‬
‫שירות‬ ‫לקבל‬ ‫ממי‬ ‫או‬ ‫מסוים‬
.)

‫ושזכויותיו‬ ‫רלוונטיות‬ ‫רגולטוריות‬ ‫בדרישות‬ ‫עומדת‬ ‫שהמערכת‬ ‫ווידוא‬
‫נשמרות‬
.

‫הקצה‬ ‫משתמש‬ ‫כלפי‬ ‫הגינות‬
(
‫המערכת‬ ‫על‬ ‫יגלה‬ ‫אם‬ ‫אחרת‬ ‫שינהג‬ ‫משום‬ ‫ולא‬ ‫מוסרי‬ ‫מטעם‬
.)

‫כדי‬ ‫לגלות‬ ‫אינטרס‬ ‫יש‬ ‫המערכת‬ ‫את‬ ‫שמפעילה‬ ‫לחברה‬ ‫לעיתים‬
‫לשפר‬
‫הטכנולוגי‬ ‫בתחום‬ ‫תדמית‬
,
‫מענה‬
‫גורם‬ ‫ולא‬ ‫מערכת‬ ‫עם‬ ‫אינטראקציה‬ ‫שמעדיפים‬ ‫ללקוחות‬
‫אנושי‬
.

‫חסרונות‬
:

‫זהה‬ ‫השירות‬ ‫רמת‬ ‫אם‬ ‫גם‬ ‫שימוש‬ ‫בה‬ ‫לעשות‬ ‫בנכונות‬ ‫פגיעה‬
(
‫לסמוך‬ ‫נוטים‬ ‫שמשתמשים‬ ‫מצאו‬ ‫מחקרים‬
‫מלאכותית‬ ‫בינה‬ ‫מבוססות‬ ‫מערכות‬ ‫על‬ ‫פחות‬
‫לגורם‬ ‫ביחס‬
‫אנושי‬
)
‫וכתוצאה‬
‫ביעילות‬ ‫פגיעה‬
‫המערכת‬
(
‫מוצרים‬ ‫פחות‬ ‫של‬ ‫רכישה‬
,
‫העדר‬
‫שת‬
"
‫פ‬
‫המערכת‬ ‫עם‬
.)

‫על‬ ‫הקלה‬
‫נסיונות‬
‫על‬ ‫להשפיע‬ ‫זדוניים‬
‫התוצאה‬
‫או‬ ‫הקצה‬ ‫משתמש‬ ‫ידי‬ ‫על‬ ‫אם‬ ‫בין‬ ‫במערכת‬ ‫שתתקבל‬
‫מתחרים‬
.
‫העקרונות‬ ‫מסמך‬
-
‫סוגיות‬
,
‫ושימוש‬ ‫פיתוח‬ ‫בעקבות‬ ‫נפוצים‬ ‫ואתגרים‬ ‫סיכונים‬
‫בבינה‬
‫מלאכותית‬

16. ‫שיעור‬ ‫המשך‬
-
18.4.2023
-
‫ויום‬ ‫מלאכותית‬ ‫בינה‬
‫הזכרון‬
‫ולגבורה‬ ‫לשואה‬
–
‫מהעתונות‬
‫ומחשבים‬ ‫אנשים‬
17.4.2023
"
‫אנו‬
‫שנים‬ ‫מספר‬ ‫זה‬ ‫מלאכותית‬ ‫בינה‬ ‫של‬ ‫ורכיבים‬ ‫מודלים‬ ‫בהטמעת‬ ‫עוסקים‬
.
‫האחרונה‬ ‫בשנה‬
,
‫לאור‬
‫התחום‬ ‫התקדמות‬
,
‫בנושא‬ ‫הטיפול‬ ‫את‬ ‫העמקנו‬ ‫אף‬
.
AI
‫יותר‬ ‫ויעיל‬ ‫חכם‬ ‫ובאופן‬ ‫יותר‬ ‫רבים‬ ‫בנתונים‬ ‫לטפל‬ ‫לנו‬ ‫מסייעת‬
–
‫אנו‬ ‫וכך‬
‫את‬ ‫לעבות‬ ‫יכולים‬
‫הדאטה‬
‫שורדות‬ ‫על‬
‫ושורדי‬
‫השואה‬
,
‫הקורבנות‬ ‫על‬ ‫גם‬ ‫כמו‬
,
‫חייהם‬ ‫קורות‬ ‫את‬ ‫ולהעשיר‬
"
,
‫אמר‬
‫מיכאל‬
‫ליבר‬
,
‫ושם‬ ‫ביד‬ ‫מידע‬ ‫וטכנולוגיות‬ ‫חדשנות‬ ‫אגף‬ ‫מנהל‬
.
"
‫הוא‬ ‫מסיבי‬ ‫באופן‬ ‫עוסקים‬ ‫אנו‬ ‫בהם‬ ‫התחומים‬ ‫אחד‬
NLP
‫עיבוד‬
‫טבעית‬ ‫שפה‬
"
,
‫סיפר‬
‫ליבר‬
‫לאנשים‬ ‫בראיון‬ ‫מרתקת‬ ‫עובדה‬
‫ופירט‬ ‫ומחשבים‬
,
"
‫ועדויות‬ ‫ישויות‬ ‫לזיהוי‬ ‫הקשור‬ ‫בכל‬ ‫רבות‬ ‫בו‬ ‫עוסקים‬ ‫ואנו‬
.
‫בעייתי‬ ‫מאוד‬ ‫בחומר‬ ‫מדובר‬
‫מבחינת‬
NLP –
‫מכיוון‬
‫שאנו‬
‫העברית‬ ‫בשפה‬ ‫עובדים‬
,
‫מאנגלית‬ ‫טוב‬ ‫פחות‬ ‫המצב‬ ‫שם‬
,
‫מודלים‬ ‫פחות‬ ‫הרבה‬ ‫יש‬ ‫כי‬
."
‫לדבריו‬
,
"
‫העדויות‬ ‫במסגרת‬
,
‫מצליחים‬ ‫ולעתים‬ ‫מנסים‬ ‫אנו‬
,
‫נספים‬ ‫אודות‬ ‫מסודר‬ ‫מידע‬ ‫לחלץ‬
,
‫מסודר‬ ‫באופן‬ ‫נרשמו‬ ‫שלא‬ ‫שייתכן‬
‫השמות‬ ‫בהיכל‬
.
‫אנשים‬ ‫למול‬ ‫רשומה‬ ‫לשייך‬ ‫או‬ ‫להצליב‬ ‫כדי‬ ‫המודל‬ ‫את‬ ‫מפעילים‬ ‫אנו‬
–
‫נספים‬ ‫או‬ ‫שורדים‬
–
‫מזוהים‬ ‫כן‬ ‫שהם‬
.
‫כך‬
,
‫חייהם‬ ‫קורות‬ ‫את‬ ‫לעבות‬ ‫יכולים‬ ‫אנו‬
:
AI
‫מזהה‬
‫ישויות‬ ‫בעדות‬
,
‫אנשים‬
,
‫אירועים‬ ‫או‬ ‫מקומות‬
–
‫בזיהוי‬ ‫מתחילה‬ ‫והחוכמה‬
,
‫זיקה‬ ‫גם‬
,
‫קשר‬
,
‫הקשר‬ ‫וגם‬
–
‫קונטקסט‬
.
‫כך‬
,
‫שעות‬ ‫של‬ ‫וידיאו‬ ‫עדות‬ ‫לנו‬ ‫יש‬ ‫אם‬
,
‫מבני‬ ‫למי‬ ‫קרה‬ ‫מה‬ ‫נתונים‬ ‫לחלץ‬ ‫לנו‬ ‫מסייע‬ ‫המודל‬
‫העדה‬ ‫או‬ ‫העד‬ ‫של‬ ‫המשפחה‬
.
‫לעומק‬ ‫הטקסט‬ ‫את‬ ‫להבין‬ ‫מסייע‬ ‫הוא‬
,
‫מישהו‬ ‫האם‬ ‫למשל‬
'
‫ריכוז‬ ‫למחנה‬ ‫נשלח‬
,'
‫הוא‬ ‫משמע‬
‫שם‬ ‫נרצח‬
,
‫אוטומטית‬ ‫מסקנה‬ ‫אינה‬ ‫זו‬ ‫כי‬
.
‫ברכיבי‬ ‫השימוש‬
AI
‫מזרז‬
‫אנוש‬ ‫בני‬ ‫ידי‬ ‫על‬ ‫שנעשתה‬ ‫הסיזיפית‬ ‫העבודה‬ ‫את‬
,
‫ומקצר‬
‫תהליכים‬
."
‫כי‬ ‫וסיפר‬ ‫הוסיף‬ ‫הוא‬
"
‫שברשותנו‬ ‫המסמכים‬ ‫מיליוני‬ ‫במאות‬ ‫יותר‬ ‫טוב‬ ‫טיפול‬ ‫לטובת‬ ‫עמוקה‬ ‫למידה‬ ‫של‬ ‫בפרויקט‬ ‫השנה‬ ‫המשכנו‬
.
‫מבוססת‬ ‫המערכת‬
‫אנבידיה‬
‫מידע‬ ‫עוד‬ ‫לתת‬ ‫ונועדה‬
,
‫המטה‬ ‫את‬ ‫ולהעשיר‬ ‫אנושית‬ ‫התערבות‬ ‫בלא‬
-
‫שלנו‬ ‫דאטה‬
."

17. ‫מלאכותית‬ ‫בבינה‬ ‫לשימוש‬ ‫אתיים‬ ‫עקרונות‬ ‫אימוץ‬
(
‫שאושרו‬ ‫עקרונות‬ ‫בסיס‬ ‫על‬
‫ב‬
OECD
( )
‫העקרונות‬ ‫מסמך‬
)
o
‫בינה‬
‫מלאכותית‬
‫תשמש‬
‫לקידום‬
‫צמיחה‬
,
‫פיתוח‬
‫בר‬
‫קיימא‬
‫והמובילות‬
‫הישראלית‬
‫בתחום‬
‫החדשנות‬
-
‫שימוש‬
‫אחראי‬
‫בבינה‬
‫מלאכותית‬
‫מהימנה‬
‫הוא‬
‫אמצעי‬
‫לעודד‬
‫זאת‬
.
o
‫האדם‬
‫במרכז‬
;
‫כיבוד‬
‫זכויות‬
‫ואינטרסים‬
‫ציבוריים‬
-
‫פיתוח‬
‫בינה‬
‫מלאכותית‬
,
‫או‬
‫שימוש‬
‫בה‬
‫ייעשו‬
‫תוך‬
‫כיבוד‬
‫שלטום‬
‫החוק‬
,
‫זכויות‬
‫יסוד‬
‫ואינטרסים‬
‫ציבוריים‬
‫ובפרט‬
‫תוך‬
‫שמירה‬
‫על‬
‫כבוד‬
‫האדם‬
‫ופרטיות‬
.
o
‫שוויון‬
‫ומניעת‬
‫אפליה‬
‫פסול‬
‫ה‬
-
‫בפיתוח‬
‫ושימוש‬
‫בבינה‬
‫מלאכותית‬
‫יובאו‬
‫בחשבון‬
‫הצורך‬
‫בשיווין‬
,
‫גיוון‬
,
‫החשש‬
‫להטיה‬
‫במערכות‬
‫בינה‬
‫מלכותית‬
‫והסיכון‬
‫לאפליה‬
‫פסולה‬
‫כנגד‬
‫יחידים‬
‫או‬
‫קבוצות‬
.
o
‫שקיפות‬
‫והסברתיות‬
-
‫בפיתוח‬
‫בינה‬
‫מלאכותית‬
‫ושימוש‬
‫בה‬
‫יובאו‬
‫בחשבון‬
‫הצורך‬
‫ליידע‬
‫את‬
‫מי‬
‫שבא‬
‫במגע‬
‫עם‬
‫בינה‬
‫מלאכותית‬
‫או‬
‫מושפע‬
‫מפעילותה‬
‫והצורך‬
‫במתן‬
‫הסבר‬
‫להחלטתה‬
‫או‬
‫לאופן‬
‫שבו‬
‫פעלה‬
,
‫בין‬
‫היתר‬
‫בשים‬
‫לב‬
‫למידת‬
‫השפעתה‬
,
‫השלכותיה‬
‫על‬
‫מי‬
‫שמושפע‬
‫ממנה‬
‫והאפשרויות‬
‫הטכנולוגיות‬
‫הזמינות‬
.
o
‫אמינות‬
,
‫עמידות‬
‫אבטחה‬
‫ובטיחות‬
-
‫בפיתוח‬
‫בינה‬
‫מלאכותית‬
‫ושימוש‬
‫בה‬
,
‫יובא‬
‫בחשבון‬
‫הצורך‬
‫בכך‬
‫שמערכות‬
‫בינה‬
‫מלאכותית‬
‫תהיינה‬
‫אמינות‬
,
‫מאובטחות‬
,
‫בטיחותיות‬
‫לאורך‬
‫כל‬
‫מחזור‬
‫חייהן‬
,
‫כך‬
‫שבתנאי‬
‫שימוש‬
‫רגילים‬
,
‫שימוש‬
‫צפוי‬
‫או‬
‫שימוש‬
‫שגוי‬
‫או‬
‫תנאים‬
‫מסוכנים‬
‫אחרים‬
-
‫יפעלו‬
‫כראוי‬
‫ולא‬
‫יהוו‬
‫סיכון‬
‫בטיחותי‬
‫בלתי‬
‫סבר‬
.
‫לשם‬
‫כך‬
‫יש‬
‫לנקוט‬
‫אמצעים‬
‫סבירים‬
‫בהתאם‬
‫לתפיסות‬
‫מקצועיות‬
‫מקובלות‬
‫לצמצם‬
‫סיכוני‬
‫בטיחות‬
‫ואבטחת‬
‫מידע‬
‫בכל‬
‫מחזור‬
‫החיים‬
‫של‬
‫מערכות‬
‫בינה‬
‫מלאכותית‬
.
o
‫אחריותיות‬
-
‫מפתחי‬
‫בינה‬
‫מלאכותית‬
,
‫מפעיליה‬
‫או‬
‫המשתמשים‬
‫בה‬
‫יגלו‬
‫אחריות‬
‫לתפקודה‬
‫התקין‬
,
‫ולקיו‬
‫העקרונות‬
‫האחרים‬
‫בפעילותם‬
,
‫בין‬
‫היתר‬
‫בשים‬
‫לב‬
‫לתפיסות‬
‫ניהול‬
‫סיכונים‬
‫מקובלות‬
‫ולאפשרויות‬
‫הטכנולוגיות‬
‫הזמינות‬
.

18. 
‫אמינות‬
,
‫עמידות‬
,
‫ובטיחות‬ ‫אבטחה‬
:

‫המערכת‬ ‫אמינות‬
-
‫המערכת‬ ‫של‬ ‫החיים‬ ‫במחזור‬ ‫שלב‬ ‫בכל‬ ‫להתרחש‬ ‫עלולים‬ ‫במערכת‬ ‫פנימיים‬ ‫כשלים‬
-
‫נתונים‬ ‫וניתוח‬ ‫איסוף‬
,
‫המשתמשים‬ ‫עם‬ ‫הסופי‬ ‫והממשק‬ ‫ההחלטות‬ ‫קבלת‬ ‫מודל‬ ‫יצירת‬
.
‫לכשלים‬ ‫דוגמאות‬
‫מרכזיים‬
:

‫המערכת‬ ‫אימון‬
-
‫טובה‬ ‫מספיק‬ ‫בצורה‬ ‫יעשה‬ ‫לא‬ ‫האימון‬
,
‫המערכת‬ ‫מאמינות‬ ‫ויגרע‬ ‫ירודים‬ ‫לביצועים‬ ‫יוביל‬
(
‫כשהמערכת‬
‫תדרש‬
‫קבוצות‬ ‫או‬ ‫מצבים‬ ‫עם‬ ‫להתמודד‬
‫אוכלוסיה‬
‫עליו‬ ‫מהספקטרום‬ ‫שונים‬ ‫שמאפייניהם‬
‫התאמנה‬
,
‫בחסר‬ ‫לוקה‬ ‫ונתונים‬ ‫מידע‬ ‫זמינות‬ ‫שבהם‬ ‫בתחומים‬ ‫או‬
)
-
‫מדויקות‬ ‫פחות‬ ‫תוצאות‬
/
‫שגויות‬
‫דוגמאות‬
:
‫שונות‬ ‫במדינות‬ ‫אוטונומית‬ ‫מכונית‬ ‫אימון‬
,
‫שונים‬ ‫שטח‬ ‫תנאי‬
(
‫שלג‬
,
‫חול‬ ‫סופות‬
,
‫על‬ ‫שונות‬ ‫חיות‬
‫הכביש‬
)
,
‫לבנים‬ ‫גברים‬ ‫לעומת‬ ‫שחורות‬ ‫נשים‬ ‫לגבי‬ ‫דייקו‬ ‫לא‬ ‫פנים‬ ‫זיהוי‬ ‫תוכנות‬
(
‫יותר‬ ‫נמוך‬ ‫ייצוג‬ ‫בגלל‬
)

‫במערכת‬ ‫שימוש‬
-
‫שינוי‬
‫במאפינים‬
‫לחזות‬ ‫נועדה‬ ‫שהמערכת‬ ‫מה‬ ‫של‬
–
Concept Drift
-
‫זמן‬ ‫עובר‬ ‫כאשר‬
‫האימון‬ ‫משלב‬
‫ח‬
‫שהנתונים‬ ‫שש‬
‫ההסטורים‬
‫המערכת‬ ‫התאמנה‬ ‫עליה‬ ‫המציאות‬ ‫את‬ ‫משקפים‬ ‫לא‬ ‫כבר‬
(
‫ערך‬ ‫ניירות‬
-
‫ב‬ ‫גובר‬ ‫שימוש‬
SPAC
)

‫במערכת‬ ‫השימוש‬ ‫בשלב‬ ‫קטסטרופלית‬ ‫שכחה‬
-
‫ראשית‬ ‫משימה‬ ‫לשכוח‬ ‫גורם‬ ‫נוספות‬ ‫משימות‬ ‫לימוד‬
(
‫קוריאה‬ ‫דרום‬
-
‫באמצעות‬ ‫לסייע‬ ‫שנועד‬ ‫אינטרנט‬ ‫אתר‬
AI
‫זיוף‬ ‫בטכנולוגית‬ ‫לזיופים‬ ‫מקוריות‬ ‫תמונות‬ ‫בין‬
‫זיוף‬ ‫עמוק‬
,
‫זיוף‬ ‫של‬ ‫חדשות‬ ‫בטכנולוגיות‬ ‫אומנה‬ ‫כשהמערכת‬
,
"
‫שכחה‬
"
‫של‬ ‫המקורי‬ ‫הסוג‬ ‫את‬ ‫לזהות‬ ‫איך‬
"
‫עמוק‬ ‫זיוף‬
) "
‫העקרונות‬ ‫מסמך‬
-
‫סוגיות‬
,
‫בבינה‬‫ושימוש‬ ‫פיתוח‬ ‫בעקבות‬ ‫נפוצים‬ ‫ואתגרים‬ ‫סיכונים‬
‫מלאכותית‬

19. 
‫אמינות‬
,
‫עמידות‬
,
‫ובטיחות‬ ‫אבטחה‬
:

‫ואבטחתה‬ ‫המערכת‬ ‫עמידות‬

‫מנת‬ ‫על‬ ‫המערכת‬ ‫של‬ ‫חולשה‬ ‫שינצל‬ ‫זדוניות‬ ‫כוונות‬ ‫בכל‬ ‫לרוב‬ ‫אדוורסרי‬ ‫חיצוני‬ ‫גורם‬ ‫מהתערבות‬ ‫חשש‬
‫פעילותה‬ ‫אופן‬ ‫על‬ ‫להשפיע‬ ‫או‬ ‫לשבש‬
.
‫במערכות‬ ‫מחריף‬ ‫אך‬ ‫תוכנה‬ ‫לכל‬ ‫ביחס‬ ‫קיים‬ ‫מתקיפה‬ ‫חשש‬
‫מלאכותית‬ ‫בינה‬ ‫מבוססות‬

‫תקיפה‬ ‫קטגוריות‬
:

‫נכון‬ ‫הלא‬ ‫הדבר‬ ‫את‬ ‫ללמוד‬
-
‫נפוצה‬ ‫שיטה‬
Data Poisoning Attacks
-
‫בנתונים‬ ‫מניפולציה‬ ‫מבצע‬ ‫התוקף‬
‫המערכת‬ ‫לאימון‬ ‫המשמשים‬
(
‫פגיעה‬
‫בביצועים‬
,
‫או‬ ‫המערכת‬ ‫נטרול‬
back door
‫בעתיד‬ ‫הפרצה‬ ‫לניצול‬
.
(
‫חיצוני‬ ‫שמידע‬ ‫היות‬ ‫חיצוני‬ ‫למידע‬ ‫המערכת‬ ‫פעילות‬ ‫בין‬ ‫חיץ‬ ‫ביצירת‬ ‫מתוכנות‬ ‫בחלק‬ ‫כמו‬ ‫להגן‬ ‫ניתן‬ ‫לא‬
‫לשם‬ ‫הכרחי‬
‫אימון‬
.)

‫נכון‬ ‫הלא‬ ‫הדבר‬ ‫את‬ ‫לעשות‬
-
‫נפוצה‬ ‫שיטה‬
"
‫התחמקות‬ ‫תקיפת‬
"
‫למערכת‬ ‫המוזן‬ ‫הקלט‬ ‫על‬ ‫מניפולציה‬
‫כך‬
‫שגוי‬ ‫באופן‬ ‫שיסווג‬
(
‫דוא‬ ‫כמו‬
"
‫ל‬
‫כספאם‬ ‫יזוהה‬ ‫שלא‬
,
‫בסיווג‬ ‫לטעות‬ ‫לגרום‬ ‫כדי‬ ‫בתמונה‬ ‫פיקסל‬ ‫שינוי‬ ‫או‬
‫פנים‬ ‫זיהוי‬ ‫מערכת‬ ‫ידי‬ ‫על‬ ‫תמונה‬
-
‫ע‬ ‫לגילוי‬ ‫ניתן‬ ‫לא‬ ‫גם‬ ‫אך‬ ‫שגוי‬ ‫באופן‬ ‫הנתון‬ ‫את‬ ‫לזהות‬ ‫למערכת‬ ‫גרימה‬
"
‫י‬
‫בקרה‬ ‫שמבצע‬ ‫אנושי‬ ‫גורם‬
)

‫נכון‬ ‫הלא‬ ‫הדבר‬ ‫את‬ ‫לגלות‬
-
‫אמורה‬ ‫לא‬ ‫שהיא‬ ‫מידע‬ ‫מהמערכת‬ ‫לחלץ‬ ‫שנועדה‬ ‫תקיפה‬
‫לגלות‬
.
‫שיטה‬
‫היא‬ ‫מרכזית‬
"
‫מודל‬ ‫היפוך‬
"
Model Inversion
–
‫להסיק‬ ‫יכול‬ ‫במערכת‬ ‫למידע‬ ‫חשוף‬ ‫שלא‬ ‫התוקף‬
‫המערכת‬ ‫את‬ ‫שמשמש‬ ‫למידע‬ ‫הנוגעות‬ ‫תכונות‬ ‫המערכת‬ ‫של‬ ‫הפלטים‬ ‫ניתוח‬ ‫באמצעות‬
.
‫חשש‬
‫מרכזי‬
‫חסוי‬ ‫מידע‬ ‫גילוי‬ ‫עקב‬ ‫בפרטיות‬ ‫לפגיעה‬ ‫נוגע‬
.
‫העקרונות‬ ‫מסמך‬
-
‫סוגיות‬
,
‫בבינה‬‫ושימוש‬ ‫פיתוח‬ ‫בעקבות‬ ‫נפוצים‬ ‫ואתגרים‬ ‫סיכונים‬
‫מלאכותית‬

20. ‫אמינות‬
,
‫עמידות‬
,
‫ובטיחות‬ ‫אבטחה‬
:

‫המערכת‬ ‫בטיחות‬
-
‫לשגיאות‬ ‫יביא‬ ‫חיצוניים‬ ‫איומים‬ ‫או‬ ‫פנימיים‬ ‫שכשלים‬ ‫חשש‬
‫ובפרט‬ ‫ציבוריים‬ ‫באינטרסים‬ ‫או‬ ‫הפרט‬ ‫בזכויות‬ ‫משמעותית‬ ‫לפגיעה‬ ‫לגרום‬ ‫שעלולות‬
‫מהן‬ ‫והמושפעים‬ ‫בהן‬ ‫המשתמשים‬ ‫בבטיחות‬
.

‫פרט‬
-
‫פנימי‬ ‫כשל‬
/
‫עובד‬ ‫קבלת‬ ‫בדבר‬ ‫שגויה‬ ‫להחלטה‬ ‫להביא‬ ‫שיכול‬ ‫חיצוני‬ ‫איום‬
‫לעבודה‬
,
‫יפוטר‬ ‫מי‬ ‫החלטה‬
,
‫אשראי‬ ‫לקבלת‬ ‫זכאות‬

‫ציבורי‬ ‫אינטרס‬
-
‫ביציבות‬ ‫מפגיעה‬ ‫חשש‬ ‫הפיננסים‬ ‫השירותים‬ ‫בתחום‬ ‫למשל‬
‫רחבים‬ ‫כלכליים‬ ‫ובאינטרסים‬ ‫השווקים‬
(
‫דוגמא‬
-
‫והשפעה‬ ‫כוזבות‬ ‫לידיעות‬ ‫חשיפה‬
‫הערך‬ ‫ניירות‬ ‫שוק‬ ‫על‬
)

‫בטיחות‬ ‫סיכון‬
-
‫אוטונומיות‬ ‫במכוניות‬ ‫שימוש‬ ‫על‬ ‫שמשפיע‬ ‫כשל‬
-
‫להביא‬ ‫יכול‬
‫הדרך‬ ‫ובמשתמשי‬ ‫במכונית‬ ‫במשתמש‬ ‫ופגיעה‬ ‫לתאונות‬
(
‫שמדבקה‬ ‫נמצא‬ ‫דוגמא‬
‫שלו‬ ‫זיהוי‬ ‫למנוע‬ ‫עלולה‬ ‫עצור‬ ‫תמרור‬ ‫על‬ ‫קטנה‬
,
‫בריאות‬ ‫מערכות‬ ‫תקיפת‬
,
‫ועוד‬
)
‫העקרונות‬ ‫מסמך‬
-
‫סוגיות‬
,
‫מלאכותית‬ ‫בבינה‬‫ושימוש‬ ‫פיתוח‬ ‫בעקבות‬ ‫נפוצים‬ ‫ואתגרים‬ ‫סיכונים‬

21. 
‫אחריותיות‬
-
‫אגב‬ ‫שנגרמות‬ ‫טעויות‬ ‫בגין‬ ‫באחריות‬ ‫לנשיאה‬ ‫בנודע‬ ‫שאלות‬ ‫מתעוררות‬
‫מלאכותית‬ ‫בינה‬ ‫במערכות‬ ‫שימוש‬
-
‫באחריות‬ ‫נושא‬ ‫מי‬
,
‫ליחס‬ ‫שניתן‬ ‫האחריות‬ ‫סוג‬ ‫מה‬
‫לו‬
,
‫אחריות‬ ‫שאלת‬ ‫לבחינת‬ ‫המתאים‬ ‫האחריות‬ ‫משטר‬ ‫מה‬
.
‫שהמעורבות‬ ‫ככל‬
‫יותר‬ ‫ורחוקה‬ ‫מצטמצמת‬ ‫בפעולה‬ ‫או‬ ‫בהחלטה‬ ‫האנושית‬
,
‫מתחדד‬ ‫זה‬ ‫אתגר‬
.

‫ארגוניות‬ ‫נורמות‬ ‫קידום‬
-
‫והמשתמשים‬ ‫המערכות‬ ‫שמפתחי‬ ‫לכך‬ ‫להביא‬ ‫המטרה‬
‫מנע‬ ‫בצעדי‬ ‫לנקוט‬ ‫ויוכלו‬ ‫ציבוריים‬ ‫ואינטרסים‬ ‫זכויות‬ ‫על‬ ‫ההשלכות‬ ‫את‬ ‫יבינו‬ ‫בהן‬
‫שליליות‬ ‫לתוצאות‬ ‫לגרימה‬ ‫חשש‬ ‫צמצום‬ ‫או‬
.

‫ביצוע‬ ‫באמצעות‬
impact assessment
‫ו‬
risk assessment
.
‫אלה‬ ‫הליכים‬ ‫ביצוע‬
‫במערכת‬ ‫לשימוש‬ ‫או‬ ‫צפוי‬ ‫לא‬ ‫סיכון‬ ‫להתממשות‬ ‫חשש‬ ‫להקטין‬ ‫יאפשרו‬
‫התועלת‬ ‫על‬ ‫עולה‬ ‫הצפוי‬ ‫כשהנזק‬
.
‫לציבור‬ ‫הערכות‬ ‫פרסום‬
/
‫לגורמי‬ ‫העברה‬
‫משפטיים‬ ‫בכלים‬ ‫שימוש‬ ‫יאפשרו‬ ‫פיקוח‬
(
‫סנקציות‬ ‫כמו‬
)
‫חברתיים‬ ‫או‬
(
‫כמו‬
‫צרכני‬ ‫חרם‬
.)

‫ארגוני‬ ‫אחראי‬ ‫מינוי‬
-
‫מקובלים‬ ‫בסטנדרטים‬ ‫עמידה‬ ‫ויוודא‬ ‫שיבדוק‬
,
‫הליכי‬ ‫ביצוע‬
‫כנדרש‬ ‫השפעה‬ ‫הערכת‬
,
‫כחלק‬ ‫שלהם‬ ‫ובחינה‬ ‫לחששות‬ ‫מודעות‬ ‫יוודא‬ ‫וכן‬
‫בארגון‬ ‫ההחלטות‬ ‫קבלת‬ ‫מתהליך‬
.
‫העקרונות‬ ‫מסמך‬
-
‫סוגיות‬
,
‫מלאכותית‬ ‫בבינה‬‫ושימוש‬ ‫פיתוח‬ ‫בעקבות‬ ‫נפוצים‬ ‫ואתגרים‬ ‫סיכונים‬

22. 
‫אחריות‬ ‫הטלת‬
-
‫משפטי‬ ‫מישור‬
:
‫בייחוס‬ ‫קושי‬
‫לגורם‬ ‫אחריות‬
‫ספציפי‬
:

‫הטלת‬
‫המערכת‬ ‫מפתח‬ ‫על‬ ‫אחריות‬
-
‫כיצד‬ ‫ידע‬ ‫בעל‬
‫המערכת‬
‫לפעול‬ ‫אמורה‬
,
‫בה‬ ‫להשתמש‬ ‫נכון‬ ‫איך‬
‫ומהם‬
‫הסיכונים‬
‫עקב‬ ‫להתרחש‬ ‫שעלולים‬
‫השימוש‬
.

‫קושי‬
-
‫המפתח‬ ‫מידי‬ ‫שיצאה‬ ‫לאחר‬ ‫להתפתח‬ ‫ממשיכה‬ ‫המערכת‬
,
‫המידע‬ ‫השגת‬ ‫על‬ ‫אחראי‬ ‫לא‬ ‫המפתח‬
‫ולא‬
‫היתה‬
‫מספיק‬ ‫איכותי‬ ‫לא‬ ‫שהמידע‬ ‫לדעת‬ ‫אפשרות‬ ‫לו‬
.

‫המערכת‬ ‫מפעיל‬ ‫על‬ ‫אחריות‬ ‫הטלת‬
-
‫פעילותו‬ ‫לטובת‬ ‫במערכת‬ ‫שמשתמש‬ ‫העסקי‬ ‫הגורם‬
-
‫זה‬ ‫הוא‬ ‫לרוב‬
‫במערכת‬ ‫בשימוש‬ ‫התועלת‬ ‫עיקר‬ ‫את‬ ‫שמפיק‬
‫ראוי‬ ‫ולכן‬
‫ואף‬ ‫שלילית‬ ‫לתוצאה‬ ‫באחריות‬ ‫שיישא‬ ‫מי‬ ‫שיהיה‬
‫למנוע‬ ‫כדי‬ ‫בה‬ ‫לשימוש‬ ‫ביחס‬ ‫תועלת‬ ‫עלות‬ ‫ניתוח‬ ‫לבצע‬ ‫המערכת‬ ‫פעולת‬ ‫את‬ ‫להבין‬ ‫תמריץ‬ ‫לו‬ ‫יהיה‬
‫תוצאה‬
‫שלילית‬

‫קושי‬
-
‫אפשרות‬ ‫בידיו‬ ‫תמיד‬ ‫לא‬
‫אמיתית‬
‫כלים‬ ‫לו‬ ‫יהיו‬ ‫לא‬ ‫ולרוב‬ ‫המערכת‬ ‫פועלת‬ ‫כיצד‬ ‫להבין‬
‫הנדרשים‬ ‫הזהירות‬ ‫באמצעי‬ ‫לנקוט‬ ‫איכותיים‬

‫האנושי‬ ‫הגורם‬ ‫על‬ ‫אחריות‬ ‫הטלת‬
-
‫שלו‬ ‫המעורבות‬ ‫במידת‬ ‫כתלות‬
-
‫את‬ ‫למנוע‬ ‫לכאורה‬ ‫מתפקידו‬
‫התוצאה‬

‫קושי‬
-
‫בפעילות‬ ‫אנושית‬ ‫במעורבות‬ ‫הכרוכות‬ ‫מגבלות‬ ‫בשל‬ ‫מוצדקת‬ ‫תמיד‬ ‫לא‬ ‫זו‬ ‫הנחה‬ ‫כאמור‬
‫בפעילותה‬ ‫להתערב‬ ‫אפקטיבית‬ ‫יכולת‬ ‫האנושי‬ ‫לגורם‬ ‫כשאין‬ ‫בפרט‬ ‫מלאכותית‬ ‫בינה‬ ‫מערכת‬
(
‫למשל‬
‫יעילה‬ ‫בקרה‬ ‫מאפשר‬ ‫לא‬ ‫כשהממשק‬ ‫או‬ ‫להסברה‬ ‫ניתנת‬ ‫כשלא‬
)
‫העקרונות‬ ‫מסמך‬
-
‫סוגיות‬
,
‫מלאכותית‬ ‫בבינה‬‫ושימוש‬ ‫פיתוח‬ ‫בעקבות‬ ‫נפוצים‬ ‫ואתגרים‬ ‫סיכונים‬

23. 
‫הטלת‬
‫המלאכותית‬ ‫הבינה‬ ‫מערכת‬ ‫על‬ ‫אחריות‬
‫שלה‬ ‫נפרדת‬ ‫באישיות‬ ‫להכיר‬ ‫מסוימים‬ ‫במקרים‬

‫קושי‬
-
‫משפטית‬ ‫אחריות‬ ‫לאור‬ ‫זכויות‬
,
‫היחס‬
‫שלה‬ ‫והמפעילים‬ ‫המפתחים‬ ‫לבין‬ ‫המערכת‬ ‫בין‬
,
‫נפשי‬ ‫יסוד‬ ‫מייחסים‬ ‫איך‬
,
‫סנקציות‬ ‫בהשתת‬ ‫קושי‬
.
‫על‬ ‫אינו‬ ‫שהדבר‬ ‫נאמר‬ ‫העקרונות‬ ‫במסמך‬
‫הפרק‬
.

‫נוספים‬ ‫גורמים‬ ‫על‬ ‫אחריות‬ ‫הטלת‬
‫שגרם‬ ‫בשימוש‬ ‫או‬ ‫לשימוש‬ ‫המערכת‬ ‫בכניסת‬ ‫מעורים‬ ‫שהיו‬
‫השלילית‬ ‫לתוצאה‬
.
‫המערכת‬ ‫יבואן‬ ‫לדוגמא‬
,
‫המערכת‬ ‫מפיץ‬
,
‫פותחה‬ ‫שלטובתו‬ ‫המערכת‬ ‫של‬ ‫בעלים‬
(
‫הגורמים‬ ‫בין‬ ‫זהות‬ ‫תהיה‬ ‫לעיתים‬
‫הללו‬
)
‫עקרון‬
‫יסוד‬
-
‫שלילית‬ ‫לתוצאה‬ ‫ביחס‬ ‫באשמה‬ ‫נושא‬ ‫שאינו‬ ‫גורם‬ ‫על‬ ‫אחריות‬ ‫מטילים‬ ‫אין‬
-
‫האנושי‬ ‫לגורם‬ ‫אשמה‬ ‫ליחס‬ ‫קושי‬
:

‫התרשלות‬ ‫הוכחת‬ ‫לצורך‬ ‫רלוונטי‬
‫בנוגע‬
‫הרשלנות‬ ‫עוולת‬ ‫לבחינת‬
‫בנזיקין‬
‫במסגרתה‬ ‫זהירות‬ ‫חובת‬ ‫הפרת‬ ‫או‬
,
‫וכוונה‬ ‫מודעות‬ ‫בהעדר‬ ‫נפשי‬ ‫יסוד‬ ‫קיום‬ ‫בדבר‬ ‫שאלות‬ ‫תעלינה‬ ‫פלילי‬ ‫במשפט‬
.

‫השלילית‬ ‫לתוצאה‬ ‫המעשה‬ ‫בין‬ ‫משפטי‬ ‫סיבתי‬ ‫קשר‬ ‫להוכיח‬ ‫קושי‬
.
‫סיבתי‬ ‫קשר‬ ‫לבחינת‬ ‫המרכזי‬ ‫המבחן‬
‫בדיני‬
‫מבחן‬ ‫הוא‬ ‫פלילי‬ ‫ומשפט‬ ‫נזיקין‬
‫הצפיות‬
.
‫מאפין‬
‫ומציאת‬ ‫מידע‬ ‫ניתוח‬ ‫הוא‬ ‫מלאכותית‬ ‫בינה‬
‫קשרים‬
‫מעבר‬
‫ליכולות‬
‫בסיסם‬ ‫על‬ ‫ולפעול‬ ‫אנושיות‬
-
‫תוצאה‬ ‫התרחשות‬ ‫לצפות‬ ‫יכולת‬ ‫האנושי‬ ‫לגורם‬ ‫ליחס‬ ‫קושי‬
‫שלילית‬
.
‫אחריות‬ ‫בהטלת‬ ‫פרוצדוראליים‬ ‫קשיים‬

‫קשיי‬
‫משמעותיים‬ ‫הוכחה‬
–
‫להסביר‬ ‫ניתן‬ ‫שלא‬ ‫מערכות‬
,
‫הסיבות‬
‫או‬ ‫פעולה‬ ‫לאי‬
‫לפעולה‬
‫רבות‬ ‫שגויה‬
,
‫במשפט‬
‫האכיפה‬ ‫רשויות‬ ‫על‬ ‫מוטל‬ ‫ההוכחה‬ ‫נטל‬ ‫הפלילי‬ ‫ובמשפט‬ ‫הניזוק‬ ‫על‬ ‫ההוכחה‬ ‫נטל‬ ‫ככלל‬ ‫האזרחי‬
-
‫לאכוף‬ ‫קושי‬
‫היתר‬ ‫בין‬ ‫משפטיות‬ ‫בחזקות‬ ‫משתמשים‬ ‫אם‬ ‫למעט‬
‫לענין‬
‫דינים‬ ‫אכיפת‬ ‫על‬ ‫להקל‬ ‫שעשויות‬ ‫סיבתי‬ ‫קשר‬
‫רלוונטים‬
,
‫בין‬ ‫האחריות‬ ‫בחלוקת‬ ‫גם‬ ‫אלא‬ ‫משפטי‬ ‫סיבתי‬ ‫קשר‬ ‫או‬ ‫אשמה‬ ‫בביסוס‬ ‫רק‬ ‫לא‬ ‫בהוכחה‬ ‫קושי‬
‫השונים‬ ‫הגורמים‬
(
‫נזיקין‬ ‫דיני‬
-
‫ריבוי‬
‫מעוולים‬
,
‫תורם‬ ‫אשם‬
,
‫פלילי‬ ‫משפט‬
-
‫לעבירה‬ ‫הצדדים‬ ‫של‬ ‫האחריות‬ ‫סוג‬
‫ההולם‬ ‫העונש‬ ‫מתחם‬ ‫וקביעת‬
)

‫ניכרות‬ ‫עלויות‬
-
‫לצורך‬
‫התביעה‬ ‫יסודות‬ ‫הוכחת‬
(
‫גלוי‬ ‫שאינו‬ ‫קוד‬ ‫פענוח‬
,
‫סוד‬
‫מסחרי‬
,
‫מומחים‬ ‫איתור‬
‫מתאימים‬
)
‫העקרונות‬ ‫מסמך‬
-
‫סוגיות‬
,
‫בבינה‬‫ושימוש‬ ‫פיתוח‬ ‫בעקבות‬ ‫נפוצים‬ ‫ואתגרים‬ ‫סיכונים‬
‫מלאכותית‬

24. 
‫פרטיות‬
-
‫המערכת‬ ‫לתוך‬ ‫המוזן‬ ‫המידע‬ ‫רבים‬ ‫במקרים‬
(
‫הקלט‬
)
,
‫ההמלצה‬ ‫קרי‬ ‫התוצר‬
,
‫ההחלטה‬ ‫או‬ ‫התחזית‬
(
‫הפלט‬
)
‫פרטיות‬ ‫בדיני‬ ‫המוגן‬ ‫אישי‬ ‫מידע‬ ‫לכלול‬ ‫עשויים‬
.

‫לעמוד‬ ‫היכולת‬ ‫את‬ ‫מאתגר‬ ‫מלאכותית‬ ‫בבינה‬ ‫שימוש‬
‫המטרה‬ ‫צמידות‬ ‫בעקרון‬
(
‫שנאסף‬ ‫במידע‬ ‫שימוש‬ ‫לאור‬
‫אחרות‬ ‫למטרות‬
)
-
‫ומנושאי‬ ‫רחוק‬ ‫בעבר‬ ‫שנאסף‬ ‫למידע‬ ‫ביחס‬ ‫הסכמתם‬ ‫את‬ ‫ולקבל‬ ‫המידע‬ ‫לנושאי‬ ‫לחזור‬ ‫קושי‬
‫רבים‬ ‫מידע‬
.

‫לעמוד‬ ‫היכולת‬ ‫את‬ ‫מאתגר‬ ‫מלאכותית‬ ‫בבינה‬ ‫שימוש‬
‫היידוע‬ ‫וחובת‬ ‫השקיפות‬ ‫בדרישת‬
-
‫בחוק‬ ‫מרכזית‬ ‫זכות‬
‫את‬ ‫למסור‬ ‫האדם‬ ‫מתבקש‬ ‫שעבורם‬ ‫ולשימושים‬ ‫למטרות‬ ‫בנוגע‬ ‫פרוט‬ ‫לקבל‬ ‫לאדם‬ ‫מאפשרת‬ ‫הפרטיות‬ ‫הגנת‬
‫אודותיו‬ ‫המידע‬
,
‫למי‬
‫ימסר‬
‫או‬ ‫ברצונו‬ ‫תלויה‬ ‫המידע‬ ‫מסירת‬ ‫שמא‬ ‫או‬ ‫המידע‬ ‫את‬ ‫למסור‬ ‫חוקית‬ ‫חובה‬ ‫עליו‬ ‫חלה‬ ‫והאם‬
‫בהסכמתו‬
.
‫נעשה‬ ‫המדע‬ ‫כשאיסוף‬ ‫גם‬ ‫חלה‬ ‫זו‬ ‫חוקית‬ ‫חובה‬
‫מכח‬
‫בעקבות‬ ‫נעשתה‬ ‫לאדם‬ ‫הפניה‬ ‫כאשר‬ ‫וגם‬ ‫בדין‬ ‫הסמכה‬
‫מסוים‬ ‫שרות‬ ‫לקבל‬ ‫בקשתו‬
.
‫את‬ ‫לממש‬ ‫המידע‬ ‫נושא‬ ‫של‬ ‫האפשרות‬ ‫את‬ ‫משפרת‬ ‫זו‬ ‫שקיפות‬
‫במידע‬ ‫העיון‬ ‫זכות‬
‫הפרטיות‬ ‫הגנת‬ ‫בחוק‬ ‫לו‬ ‫המוקנית‬
.
‫עלול‬ ‫להסברה‬ ‫ניתנות‬ ‫שאינן‬ ‫מלאכותית‬ ‫בינה‬ ‫מבוססות‬ ‫במערכות‬
‫להווצר‬
‫זו‬ ‫בדרישה‬ ‫בעמידה‬ ‫קושי‬
(
‫חלק‬
‫המידע‬ ‫לנושא‬ ‫אותם‬ ‫למסור‬ ‫ניתן‬ ‫לא‬ ‫ולכן‬ ‫למפעיל‬ ‫ידועים‬ ‫לא‬ ‫מההיבטים‬
)

‫שימוש‬
‫להביא‬ ‫עלול‬ ‫מלאכותית‬ ‫בבינה‬
‫מדעת‬ ‫ההסכמה‬ ‫עקרון‬ ‫לכרסום‬
-
‫הסכמת‬ ‫כי‬ ‫קובע‬ ‫הפרטיות‬ ‫הגנת‬ ‫חוק‬
‫מדעת‬ ‫הסכמה‬ ‫להיות‬ ‫נדרשת‬ ‫אודותיו‬ ‫בידע‬ ‫ולשימוש‬ ‫לאיסוף‬ ‫אדם‬
.

‫והשימוש‬ ‫עליו‬ ‫המידע‬ ‫לאיסוף‬ ‫בנוגע‬ ‫נתונים‬ ‫לאדם‬ ‫להציג‬ ‫המידע‬ ‫למבקש‬ ‫חובה‬ ‫יש‬
‫בו‬
‫שתהיה‬ ‫כדי‬
‫לפניו‬
‫אודותיו‬ ‫המידע‬ ‫את‬ ‫למסור‬ ‫להסכים‬ ‫אם‬ ‫יחליט‬ ‫בטרם‬ ‫מלאה‬ ‫תמונה‬
.

‫בשל‬ ‫היידוע‬ ‫וחובת‬ ‫השקיפות‬ ‫בדרישת‬ ‫בעמידה‬ ‫הקושי‬
‫אופין‬
‫שאינן‬ ‫המלאכותית‬ ‫הבינה‬ ‫ממערכות‬ ‫חלק‬ ‫של‬
‫זה‬ ‫עקרון‬ ‫לאתגר‬ ‫עלול‬ ‫להסבר‬ ‫ניתנות‬
‫העקרונות‬ ‫מסמך‬
-
‫סוגיות‬
,
‫בבינה‬‫ושימוש‬ ‫פיתוח‬ ‫בעקבות‬ ‫נפוצים‬ ‫ואתגרים‬ ‫סיכונים‬
‫מלאכותית‬

25. 
‫קיים‬
‫מתח‬
‫צמצום‬ ‫לעקרון‬ ‫בהתאם‬ ‫עודף‬ ‫מידע‬ ‫מחיקת‬ ‫לבין‬ ‫דאטה‬ ‫ביג‬ ‫בנתוני‬ ‫הצורך‬ ‫בין‬ ‫מובנה‬
‫המידע‬
-
‫א‬
‫יסוף‬
‫מערכות‬ ‫בפיתוח‬ ‫לסייע‬ ‫יכולים‬ ‫מידע‬ ‫של‬ ‫גדולות‬ ‫כמויות‬ ‫וניהול‬
.
‫מידע‬ ‫של‬ ‫ושמירה‬ ‫איסוף‬ ‫מנגד‬
‫מורשים‬ ‫לא‬ ‫לגורמים‬ ‫לדלוף‬ ‫שעשוי‬ ‫היות‬ ‫בפרטיות‬ ‫לפגיעה‬ ‫הסיכון‬ ‫את‬ ‫מגדיל‬ ‫עודף‬ ‫אישי‬
.
‫הגנת‬ ‫תקנות‬ ‫לכן‬
‫הפרטיות‬
(
‫מידע‬ ‫אבטחת‬
)
2017
‫מידע‬ ‫מאגר‬ ‫בעל‬ ‫כל‬ ‫מחיבות‬
‫אישי‬
‫במאגר‬ ‫מחזיק‬ ‫הוא‬ ‫אם‬ ‫לשנה‬ ‫אחת‬ ‫לבחון‬
‫עוד‬ ‫לו‬ ‫זקוק‬ ‫שאינו‬ ‫עודף‬ ‫מידע‬
.

‫רגיש‬ ‫מידע‬ ‫הסקת‬ ‫לטובת‬ ‫מלאכותית‬ ‫בינה‬ ‫מבוססות‬ ‫במערכות‬ ‫שימוש‬ ‫לעשות‬ ‫ניתן‬
.
‫הסקת‬ ‫יכולת‬
‫המסקנות‬
‫וההיקשים‬
‫מאפשרים‬ ‫מכונה‬ ‫ולמידת‬ ‫עתק‬ ‫בנתוני‬ ‫שימוש‬ ‫של‬
‫להסיק‬ ‫וכך‬ ‫שונים‬ ‫מידע‬ ‫מרכיבי‬ ‫לנתח‬
‫רגיש‬ ‫מידע‬ ‫הכוללות‬ ‫מסקנות‬
‫רגיש‬ ‫לא‬ ‫ממידע‬
(
‫רכישה‬ ‫מהרגלי‬ ‫בריאותי‬ ‫מצב‬ ‫למשל‬
.)
‫מראים‬ ‫מחקרים‬
‫כי‬
‫בנסיבות‬
‫אדם‬ ‫של‬ ‫התנהגותו‬ ‫אפן‬ ‫או‬ ‫עצמות‬ ‫מבנה‬ ‫כמו‬ ‫ביומטרי‬ ‫ממידע‬ ‫לזהות‬ ‫מסוגלת‬ ‫מלאכותית‬ ‫בינה‬ ‫מסוימות‬
‫הבריאותי‬ ‫מצבו‬ ‫על‬ ‫המשליכים‬ ‫אדם‬ ‫אותו‬ ‫של‬ ‫והתנהגותו‬ ‫נטיותיו‬ ‫את‬ ‫החוזים‬ ‫דפוסים‬
,
‫נטייתו‬
‫המינית‬
‫ועוד‬
.

‫שעבר‬ ‫מידע‬ ‫של‬ ‫חוזר‬ ‫זיהוי‬ ‫לשם‬ ‫מלאכותית‬ ‫בבינה‬ ‫שימוש‬
‫התממה‬
(
‫אנונימיזציה‬
.)
‫יכולת‬ ‫לאור‬
‫מקורות‬ ‫ממגוון‬ ‫נתונים‬ ‫של‬ ‫רחב‬ ‫מגוון‬ ‫עיבוד‬
,
‫תהליכי‬ ‫שעברו‬ ‫בנתונים‬ ‫המידע‬ ‫נושאי‬ ‫לזיהוי‬ ‫סיכון‬ ‫ישנו‬
‫התממה‬
.
‫החשש‬
‫גדולים‬ ‫ובהיקפים‬ ‫שונים‬ ‫ממקורות‬ ‫מידע‬ ‫של‬ ‫בשילוב‬ ‫שמדובר‬ ‫ככל‬ ‫גובר‬
.

‫למידע‬ ‫ביחס‬ ‫אחריות‬ ‫ותחומי‬ ‫תפקידים‬ ‫בהגדרת‬ ‫קושי‬ ‫לעורר‬ ‫עלול‬ ‫מלאכותית‬ ‫בבינה‬ ‫שימוש‬
‫אישי‬
-
‫שימוש‬ ‫לדוגמא‬
‫במאגרי‬
‫ידי‬ ‫על‬ ‫שלישיים‬ ‫צדדים‬
‫המערכת‬ ‫אימון‬ ‫לצורך‬ ‫מפתחים‬
-
‫אלה‬ ‫במקרים‬
‫הגדרת‬
‫מורכבת‬ ‫להיות‬ ‫עלולה‬ ‫מהצדדים‬ ‫אחד‬ ‫כל‬ ‫של‬ ‫אחריות‬ ‫תחומי‬
.
‫העקרונות‬ ‫מסמך‬
-
‫סוגיות‬
,
‫בבינה‬‫ושימוש‬ ‫פיתוח‬ ‫בעקבות‬ ‫נפוצים‬ ‫ואתגרים‬ ‫סיכונים‬
‫מלאכותית‬

26. ‫מלאכותית‬ ‫בינה‬ ‫הגדרת‬
(
‫הדו‬ ‫לצרכי‬
"
‫ח‬
)
-
‫למערכות‬ ‫כולל‬ ‫שם‬
‫מחש‬
‫נתונים‬ ‫מבוססות‬ ‫ב‬
,
‫שמסוגלות‬
‫הבנה‬ ‫כמו‬ ‫יכולות‬ ‫באמצעות‬ ‫חדשים‬ ‫ותובנות‬ ‫ידע‬ ‫להפיק‬
,
‫ותפיסה‬ ‫הנמקה‬
-
‫כיכולות‬ ‫נתפסו‬ ‫כה‬ ‫שעד‬
‫אנוש‬ ‫לבני‬ ‫הייחודיות‬
.
‫רוחביות‬ ‫סוגיות‬
:

‫לנתונים‬ ‫גישה‬
-
‫לקבלת‬ ‫מלאכותית‬ ‫בינה‬ ‫מבוססי‬ ‫מודלים‬ ‫פיתוח‬ ‫לצורך‬ ‫חיונית‬ ‫לנתונים‬ ‫גישה‬
‫החלטות‬
.
‫דוגמא‬
:
‫לנתוני‬ ‫גישה‬ ‫מצריך‬ ‫אשראי‬ ‫החלטות‬ ‫קבלת‬ ‫לצורך‬ ‫מלאכותית‬ ‫בינה‬ ‫מבוסס‬ ‫אלגוריתם‬ ‫פיתוח‬
‫נוסף‬ ‫רלוונטי‬ ‫מידע‬ ‫או‬ ‫לאשראי‬ ‫בנוגע‬ ‫עבר‬
.

‫תחרות‬
-
‫לבעלי‬ ‫להפוך‬ ‫עלולים‬ ‫בנתונים‬ ‫המחזיקים‬ ‫תאגידים‬
‫כח‬
‫על‬ ‫ולהקשות‬ ‫הנתונים‬ ‫בתחום‬ ‫שוק‬
‫דומים‬ ‫שירותים‬ ‫המפתחים‬ ‫לשוק‬ ‫מתחרים‬ ‫כניסת‬
.
‫ולפגוע‬ ‫לפחות‬ ‫עלול‬ ‫בשוק‬ ‫המערכות‬ ‫היצע‬
‫ובצרכנים‬ ‫באלגוריתמים‬
.
(*
‫מה‬‫דוח‬‫על‬‫מבוסס‬
18
‫בבינה‬‫שימוש‬‫בנושא‬‫ביולי‬
‫מלאכותית‬
‫ד‬‫מאת‬‫הפיננסי‬‫במגזר‬
"
‫ארי‬‫ר‬
‫אחיעז‬
,
‫פרופ‬
'
‫אסף‬
‫חמני‬
,
‫פרופ‬
'
‫וד‬‫עמירם‬‫דן‬
"
‫קובי‬ ‫ר‬
‫קסטיאל‬
)
‫הפיננסי‬ ‫במגזר‬ ‫מלאכותית‬ ‫בינה‬
–
‫המשפטים‬ ‫למשרד‬ ‫שהוגש‬ ‫דוח‬ ‫מתוך‬
*

27. 
‫פרטיות‬
‫ואבטחת‬
‫מידע‬
-

‫פרטיות‬
:
•
‫קיימות‬
‫שאלות‬
‫ביחס‬
‫להערכת‬
‫הסכמת‬
‫הפרט‬
‫לשיתוף‬
‫מידע‬
‫עם‬
‫הגוף‬
‫הפיננסי‬
‫שמבקש‬
‫את‬
‫המידע‬
‫כשלדוגמא‬
‫מתן‬
‫הלוואה‬
‫מותנה‬
‫במסירת‬
‫מידע‬
.
•
‫גם‬
‫בהנחה‬
‫שיש‬
‫הסכמה‬
‫יש‬
‫שאלות‬
‫ביחס‬
‫לסוג‬
‫המידע‬
‫שניתן‬
‫לבסס‬
‫עליו‬
‫החלטה‬
.
‫לדוגמא‬
‫חוק‬
‫מידע‬
‫גנטי‬
‫תשס‬
"
‫א‬
2000
‫אוסר‬
‫על‬
‫בקשת‬
‫מידע‬
‫גנטי‬
‫כתנאי‬
‫לרכישת‬
‫פוליסת‬
‫ביטוח‬
‫ועל‬
‫שימוש‬
‫במידע‬
‫גנטי‬
‫לצורך‬
‫קביעת‬
‫הכיסוי‬
‫הביטוחי‬
-
‫איסורים‬
‫כאלה‬
‫מעלים‬
‫שאלות‬
‫בדבר‬
‫אופן‬
‫יישומם‬
‫ביחס‬
‫למערכות‬
‫בינה‬
‫מלאכותית‬
‫ויכולות‬
‫ללמוד‬
‫על‬
‫מאפין‬
‫מסוים‬
‫של‬
‫הפרט‬
‫גם‬
‫ללא‬
‫שנמסר‬
‫להן‬
,
‫וגם‬
‫שאלות‬
‫ביחס‬
‫לאיזון‬
‫בין‬
‫הזכות‬
‫לפרטיות‬
‫לרצון‬
‫לקדם‬
‫אלגוריתמים‬
‫עם‬
‫יכולת‬
‫חיזוי‬
‫מדויקת‬
‫יותר‬
.
•
‫שאלה‬
‫נוספת‬
‫היא‬
‫האם‬
‫יש‬
‫להגביל‬
‫את‬
‫היכולת‬
‫של‬
‫גופים‬
‫המחזיקים‬
‫במידע‬
‫לעבד‬
‫אותו‬
‫לצורך‬
‫פיתוח‬
‫אלגוריתמים‬
‫או‬
‫יצירת‬
‫פרופיל‬
‫של‬
‫הלקוחות‬
‫שלהם‬
(
‫איסוף‬
‫נתונים‬
‫על‬
‫צרכן‬
‫עלול‬
‫לפגוע‬
‫בפרטיות‬
‫של‬
‫צדדים‬
‫שלישיים‬
‫הקשורים‬
‫בצרכן‬
‫לדוגמא‬
‫איסוף‬
‫פרטים‬
‫על‬
‫אנשי‬
‫קשר‬
‫של‬
‫הצרכן‬
‫שלא‬
‫נתנו‬
‫הסכמתם‬
‫הישירה‬
‫לכך‬
)
.
•
‫החזקה‬
‫במידע‬
‫לאורך‬
‫זמן‬
‫מגבירה‬
‫את‬
‫הסיכון‬
‫לדליפת‬
‫מידע‬
.
‫ה‬
GDPR
‫מעניק‬
‫לפרט‬
‫זכות‬
‫לבקש‬
‫למחוק‬
‫מידע‬
‫אישי‬
‫שנאסף‬
‫בענינו‬
-
‫כאשר‬
‫בינה‬
‫מלאכותית‬
‫ממשיכה‬
‫את‬
‫תהליך‬
‫הלמידה‬
‫ניתן‬
‫לשאול‬
‫האם‬
‫זו‬
‫דרישה‬
‫שניתנת‬
‫ליישום‬
.

‫אבטחת‬
‫מידע‬
:
‫השימוש‬
‫בנתוני‬
‫עתק‬
‫מצריך‬
‫אימוץ‬
‫הגנות‬
‫על‬
‫מאגרי‬
‫מידע‬
‫במטרה‬
‫למנוע‬
‫דליפת‬
‫מידע‬
‫ואפשרות‬
‫לערוך‬
‫מניפולציה‬
‫על‬
‫מאגר‬
‫המידע‬
.
•
‫דוגמא‬
:
‫בתחום‬
‫יעוץ‬
‫ההשקעות‬
‫מבוסס‬
‫בינה‬
‫מלאכותית‬
ROBO ADVISORS
‫רשות‬
‫ניירות‬
‫הערך‬
‫האמריקאית‬
‫קבעה‬
‫כי‬
‫על‬
‫חברות‬
‫הייעוץ‬
‫לאמץ‬
‫מנגנוני‬
‫בדיקה‬
‫של‬
‫אבטחת‬
‫מידע‬
‫שלהן‬
‫על‬
‫מנת‬
‫לעמוד‬
‫בדרישות‬
‫הדין‬
‫לבקרה‬
‫פנימית‬
‫של‬
‫הציות‬
‫לרגולציה‬
‫החלה‬
‫על‬
‫יועצי‬
‫השקעות‬
.
‫גם‬
‫רשות‬
‫ניירות‬
‫הערך‬
‫הקנדית‬
‫קבעה‬
‫שכחלק‬
‫מהליכי‬
‫האישור‬
‫של‬
ROBO-ADVISORS
‫ייבדקו‬
‫בין‬
‫היתר‬
‫מנגנוני‬
‫אבטחת‬
‫המידע‬
‫בהן‬
‫החברה‬
‫עתידה‬
‫לעשות‬
‫שימוש‬
.
(*
‫מה‬‫דוח‬‫על‬‫מבוסס‬
18
‫בבינה‬‫שימוש‬‫בנושא‬‫ביולי‬
‫מלאכותית‬
‫ד‬‫מאת‬‫הפיננסי‬‫במגזר‬
"
‫ארי‬‫ר‬
‫אחיעז‬
,
‫פרופ‬
'
‫אסף‬
‫חמני‬
,
‫פרופ‬
'
‫וד‬‫עמירם‬‫דן‬
"
‫קובי‬ ‫ר‬
‫קסטיאל‬
)
‫הפיננסי‬ ‫במגזר‬ ‫מלאכותית‬ ‫בינה‬
–
‫המשפטים‬ ‫למשרד‬ ‫שהוגש‬ ‫דוח‬ ‫מתוך‬
*

28. 
‫שחורה‬ ‫קופסא‬
–
‫החלטות‬ ‫מקבלת‬ ‫המלאכותית‬ ‫הבינה‬ ‫מערכת‬ ‫כיצד‬ ‫להבין‬ ‫ניתן‬ ‫לא‬ ‫בו‬ ‫מצב‬
•
‫דוגמא‬
:
‫הכיסוי‬ ‫של‬ ‫הספציפי‬ ‫לתמחור‬ ‫שהביאו‬ ‫מבוטח‬ ‫של‬ ‫המאפיינים‬ ‫מה‬ ‫להסביר‬ ‫תוכל‬ ‫לא‬ ‫המערכת‬
‫ביטוחי‬
‫שלו‬
.
‫ב‬ ‫כמו‬ ‫להסבר‬ ‫עקרונית‬ ‫זכות‬ ‫שיש‬ ‫בהנחה‬ ‫גם‬
GDPR
.
•
‫הטכנולוגיה‬ ‫למאפייני‬ ‫להסבר‬ ‫הזכות‬ ‫את‬ ‫להתאים‬ ‫יש‬ ‫כיצד‬ ‫השאלה‬ ‫עולה‬
.
‫דיוק‬ ‫על‬ ‫בפיקוח‬ ‫להסתפק‬ ‫ניתן‬ ‫האם‬
‫שלה‬ ‫אחרים‬ ‫ומאפיינים‬ ‫הטכנולוגיה‬
.

‫אפליה‬
–
‫מפלות‬ ‫הטיות‬ ‫של‬ ‫חשש‬ ‫מעלים‬ ‫מלאכותית‬ ‫בינה‬ ‫יישומי‬
•
‫דוגמא‬
:
‫לכך‬ ‫מביא‬ ‫אלטרנטיביים‬ ‫מידע‬ ‫מקורות‬ ‫על‬ ‫והתבססות‬ ‫מלאכותית‬ ‫בבינה‬ ‫השימוש‬ ‫מחד‬ ‫אשראי‬ ‫בחיתום‬
‫ויכולת‬ ‫הסיכונים‬ ‫על‬ ‫מבוסס‬ ‫שהתמחור‬
‫הפרעון‬
‫ונוחים‬ ‫זולים‬ ‫בתנאים‬ ‫אשראי‬ ‫במתן‬ ‫ומסייע‬ ‫הספציפי‬ ‫הלווה‬ ‫של‬
‫לקבוצות‬ ‫יותר‬
‫אוכלוסיה‬
‫בעבר‬ ‫שהופלו‬
.
‫מנגד‬
,
‫להביא‬ ‫עתיד‬ ‫בעבודה‬ ‫קידום‬ ‫על‬ ‫מידע‬
‫להפלית‬
‫במסגרת‬ ‫נשים‬
‫האלגוריתם‬ ‫של‬ ‫ההחלטות‬ ‫קבלת‬
.
‫יכול‬ ‫אשראי‬ ‫במתן‬ ‫זהותיים‬ ‫מאפיינים‬ ‫שקלול‬ ‫איסור‬
‫להעקף‬
‫קישורים‬ ‫ידי‬ ‫על‬
‫מסוימות‬ ‫אוכלוסיות‬ ‫קבוצות‬ ‫כלפי‬ ‫לאפליה‬ ‫להביא‬ ‫ובכך‬ ‫מגורים‬ ‫בכתובות‬ ‫שימוש‬ ‫כמו‬ ‫במידע‬
.
•
‫דוגמא‬
:
‫שונות‬ ‫קבוצות‬ ‫בין‬ ‫אפליה‬ ‫תתכן‬ ‫שני‬ ‫מצד‬ ‫ספציפי‬ ‫מבוטח‬ ‫מצד‬ ‫לסיכון‬ ‫חשש‬ ‫צמצום‬ ‫יתכן‬ ‫מחד‬ ‫בביטוח‬
‫הכיסוי‬ ‫בתמחור‬
‫הביטוחי‬
‫סוציו‬ ‫או‬ ‫זהותיים‬ ‫לנתונים‬ ‫קורלטיביים‬ ‫נתונים‬ ‫שקלול‬ ‫לאור‬ ‫אפליה‬ ‫תתכן‬ ‫כאן‬ ‫גם‬
‫אקונומיים‬
.

‫ושקיפות‬ ‫גילוי‬ ‫חובות‬
-
‫מלאכותית‬ ‫בינה‬ ‫ידי‬ ‫על‬ ‫המבוצעות‬ ‫לפעולות‬ ‫בנוגע‬ ‫אלה‬ ‫חובות‬ ‫של‬ ‫לבחינה‬ ‫עמידה‬
•
‫דוגמא‬
:
‫אם‬
‫לגבי‬ ‫לחשוף‬ ‫יש‬
ROBO ADVISERS
‫אימון‬ ‫אופן‬ ‫את‬ ‫לחשוף‬ ‫השקעות‬ ‫תיקי‬ ‫לניהול‬ ‫המשמשים‬
‫בניגוד‬ ‫נגוע‬ ‫שאינו‬ ‫ללקוח‬ ‫להבטיח‬ ‫מנת‬ ‫על‬ ‫האלגוריתם‬
‫ענינים‬
‫בית‬ ‫של‬ ‫האינטרסים‬ ‫לטובת‬
‫ההשקעות‬
.

‫אנושית‬ ‫למעורבות‬ ‫זכות‬
-
‫המתקבלות‬ ‫בהחלטות‬ ‫אנושית‬ ‫למעורבות‬ ‫זכאים‬ ‫פרטים‬ ‫האם‬
‫בענינם‬
.
•
‫דוגמא‬
:
‫לצורך‬ ‫מלאכותית‬ ‫בבינה‬ ‫בשימוש‬ ‫בלבד‬ ‫מלאכותית‬ ‫בינה‬ ‫על‬ ‫החלטות‬ ‫לבסס‬ ‫אוסרת‬ ‫בקנדה‬ ‫הרגולציה‬
‫השקעות‬ ‫יעוץ‬
(
ADVISORS
-
ROBO
)
,
‫ה‬
GDPR
‫שלו‬ ‫בזכות‬ ‫מכירה‬ ‫אך‬ ‫אנושית‬ ‫להחלטה‬ ‫הפרט‬ ‫של‬ ‫בזכותו‬ ‫מכירה‬
‫עליה‬ ‫לוותר‬ ‫להסכים‬
.
(*
‫מה‬‫דוח‬‫על‬‫מבוסס‬
18
‫ד‬‫מאת‬‫הפיננסי‬‫במגזר‬‫מלאכותית‬‫בבינה‬‫שימוש‬‫בנושא‬‫ביולי‬
"
‫ארי‬‫ר‬
‫אחיעז‬
,
‫פרופ‬
'
‫אסף‬
‫חמני‬
,
‫פרופ‬
'
‫וד‬‫עמירם‬‫דן‬
"
‫קובי‬ ‫ר‬
‫קסטיאל‬
)
‫הפיננסי‬ ‫במגזר‬ ‫מלאכותית‬ ‫בינה‬
–
‫המשפטים‬ ‫למשרד‬ ‫שהוגש‬ ‫דוח‬ ‫מתוך‬
*

29. ‫הפיננסי‬ ‫לתחום‬ ‫ייחודיות‬ ‫סוגיות‬
:

‫מערכתית‬ ‫ליציבות‬ ‫חשש‬
-
‫או‬ ‫דומים‬ ‫באלגוריתמים‬ ‫נרחב‬ ‫שימוש‬ ‫על‬ ‫בדגש‬ ‫מלאכותית‬ ‫בבינה‬ ‫השימוש‬ ‫הגברת‬
‫ההון‬ ‫בשוק‬ ‫השחקנים‬ ‫שבפעולת‬ ‫האחידות‬ ‫את‬ ‫להגביר‬ ‫עשוי‬ ‫האלגוריתמים‬ ‫אימון‬ ‫לצורך‬ ‫דומים‬ ‫מידע‬ ‫במאגרי‬
‫סכנת‬ ‫להחריף‬ ‫ובכך‬
"
‫מערכתית‬ ‫הדבקות‬
"

‫פרסונליזציה‬
:
‫הדרה‬ ‫מול‬ ‫נגישות‬ ‫הגברת‬
-
‫ולהגביר‬ ‫ההחלטות‬ ‫קבלת‬ ‫את‬ ‫לדייק‬ ‫מחד‬ ‫יכולה‬ ‫מלאכותית‬ ‫בינה‬
‫לאשראי‬ ‫מסוימים‬ ‫פרטים‬ ‫של‬ ‫הנגישות‬ ‫את‬
,
‫עלולה‬ ‫הדיוק‬ ‫הגברת‬ ‫מאידך‬ ‫אך‬ ‫נוספים‬ ‫פיננסים‬ ‫ושירותים‬ ‫ביטוח‬
‫השירות‬ ‫את‬ ‫עבורם‬ ‫ליקר‬ ‫או‬ ‫הפיננסי‬ ‫מהשוק‬ ‫אחרים‬ ‫פרטים‬ ‫להגיר‬

‫שינויים‬
‫מבניים‬
-
‫מלאכותית‬ ‫בינה‬ ‫מערכות‬ ‫הטמעת‬
,
‫הפיננסי‬ ‫בשוק‬ ‫מבניים‬ ‫לשינויים‬ ‫להביא‬ ‫עשויה‬
,
‫כתוצאה‬
‫מידע‬ ‫במאגרי‬ ‫מהצורך‬ ‫הנובעים‬ ‫חדשים‬ ‫כניסה‬ ‫חסמי‬ ‫של‬ ‫מיצירה‬
,
‫היתרון‬ ‫בשל‬ ‫אחרים‬ ‫כניסה‬ ‫חסמי‬ ‫של‬ ‫ונפילה‬
‫הטכנולוגי‬ ‫הפיננסי‬ ‫בשוק‬ ‫טכנולוגיה‬ ‫חברות‬ ‫זוכות‬ ‫לו‬
.
‫עשוי‬ ‫שונים‬ ‫בענפים‬ ‫הפיננסים‬ ‫בשירותים‬ ‫מבנה‬ ‫כן‬ ‫כמו‬
‫ה‬ ‫בתחום‬ ‫תיווך‬ ‫גורמי‬ ‫כדוגמת‬ ‫שינויים‬ ‫לעבור‬
INSURTECH
.
‫יתחמקו‬ ‫הפיננסי‬ ‫בשוק‬ ‫חדשים‬ ‫ששחקנים‬ ‫כך‬
‫לא‬ ‫ופעילותם‬ ‫המסורתית‬ ‫הרגולציה‬ ‫מהגדרות‬
‫תפוקח‬
‫השוק‬ ‫יציבות‬ ‫על‬ ‫שמירה‬ ‫למען‬ ‫כראוי‬
.
(*
‫מה‬‫דוח‬‫על‬‫מבוסס‬
18
‫בבינה‬‫שימוש‬‫בנושא‬‫ביולי‬
‫מלאכותית‬
‫ד‬‫מאת‬‫הפיננסי‬‫במגזר‬
"
‫ארי‬‫ר‬
‫אחיעז‬
,
‫פרופ‬
'
‫אסף‬
‫חמני‬
,
‫פרופ‬
'
‫וד‬‫עמירם‬‫דן‬
"
‫קובי‬ ‫ר‬
‫קסטיאל‬
)
‫הפיננסי‬ ‫במגזר‬ ‫מלאכותית‬ ‫בינה‬
–
‫המשפטים‬ ‫למשרד‬ ‫שהוגש‬ ‫דוח‬ ‫מתוך‬
*