האיסור האירופי: מתי טירגוט לגיטימי הופך למניפולציה אסורה
בישיבת קמפיין ממוצעת אף אחד לא אומר את המילה מניפולציה. אומרים "בואו נדחוף את הקהל שממיר הכי טוב", "תוסיפו קאונטדאון לדף", "תנו למערכת לבחור את הקריאייטיב שמביא הכי הרבה קליקים". שלושת המשפטים האלה נשמעים כמו עבודה. שניים מהם באמת רק עבודה. אחד מהם, בתנאים מסוימים מאוד, יושב על גבול של איסור אירופי עם קנס בקומה העליונה. הבעיה היא לא שהקו קיים. הבעיה היא שכמעט אף אחד בתעשייה לא יודע איפה הוא עובר, ולכן או מתעלמים ממנו לגמרי או נבהלים ממנו לגמרי.
הערה לפני שממשיכים: אני לא עורך דין וזו לא חוות דעת משפטית. זו קריאה של הטקסט עצמו ושל ההנחיות של הנציבות, במונחים של מי שמריץ קמפיינים. החלטה אמיתית מתקבלת מול יועץ משפטי.
שני איסורים, ולא אחד
סעיף 5 מונה שמונה פרקטיקות אסורות. שתיים מהן נוגעות לשיווק, והבלבול ביניהן הוא מקור רוב השטויות שנכתבו על הנושא בעברית.
סעיף 5(1)(a) אוסר על מערכת AI שמפעילה טכניקות סאבלימינליות מעבר למודעות של אדם, או טכניקות מניפולטיביות או מטעות במכוון, במטרה או בתוצאה של עיוות מהותי של התנהגות, בכך שהיא פוגמת באופן ניכר ביכולת לקבל החלטה מיודעת, וגורמת לאדם לקבל החלטה שלא היה מקבל אחרת, באופן שגורם או שסביר שיגרום נזק משמעותי.
סעיף 5(1)(b) אוסר על מערכת AI שמנצלת פגיעות של אדם או של קבוצה ספציפית בשל גיל, מוגבלות, או מצב חברתי או כלכלי ספציפי, במטרה או בתוצאה של עיוות מהותי של ההתנהגות, באופן שגורם או שסביר שיגרום נזק משמעותי.
ההבדל המעשי: בסעיף (a) הטריגר הוא הטכניקה. משהו בעיצוב המערכת פועל מתחת לרדאר של הנמען. בסעיף (b) הטריגר הוא הקהל. המערכת מזהה מי שביר יותר ומכוונת אליו בדיוק בגלל זה. אפשר להפר את שניהם באותה קמפיין, וזה גם התרחיש הכי סביר.
שימו לב לתנאי המצטבר שחוזר בשניהם. לא מספיק שהמערכת השפיעה. צריך עיוות מהותי, וצריך נזק משמעותי, או לפחות סבירות אמיתית שייגרם. בלי שני אלה, אין הפרה של סעיף 5. הנציבות מקדישה לזה סעיף שלם ומדגישה שפרקטיקות מניפולטיביות שאינן צפויות לגרום נזק משמעותי נמצאות מחוץ להיקף האיסור.
למה 35 מיליון אירו זה מספר אחר מ-15 מיליון
הקנס הוא לא פרט טכני. הוא הצהרה על סדר עדיפויות. סעיף 99(3) קובע שאי עמידה באיסור על הפרקטיקות שבסעיף 5 תגרור קנס מנהלי של עד 35,000,000 אירו, או אם המפר הוא תאגיד, עד 7% מהמחזור העולמי השנתי שלו בשנת הכספים הקודמת, לפי הגבוה מביניהם.
עכשיו ההשוואה שכדאי לזכור. סעיף 99(4), שמכסה בין היתר את חובות השקיפות של סעיף 50, קובע תקרה של 15,000,000 אירו או 3%. כלומר החוק מבחין הבחנה חדה בין "לא סימנתם שזה AI" לבין "השתמשתם ב-AI כדי לעוות התנהגות". הראשון הוא הפרת שקיפות. השני הוא פרקטיקה שהאיחוד החליט שלא תיעשה, נקודה. אלה שני משטרים שונים לחלוטין, ומי שמערבב ביניהם יבנה תוכנית ציות שלא נוגעת בסיכון האמיתי. את צד השקיפות פירקנו בנפרד במדריך חובת הגילוי על תוכן AI, ולא נחזור עליו כאן.
ועוד נתון על לוח הזמנים, כי אני נשאל עליו הרבה. לפי ההנחיות של הנציבות, סעיף 5 חל מ-2 בפברואר 2025, והאיסורים חלים על מערכות בין אם הוצבו בשוק לפני המועד הזה ובין אם אחריו. פרק העונשין חל מ-2 באוגוסט 2025. זה כבר לא צפי, זה עבר.
"אין לנו חברה באירופה" זו לא תשובה
הטעות הכי נפוצה בישראל היא להניח שהחוק הזה מתחיל להיות רלוונטי כשפותחים ישות אירופית. הוא לא. סעיף 2(1)(c) מחיל את החוק על ספקים ומטמיעים שמקום מושבם או מיקומם במדינה שלישית, כאשר הפלט שמופק על ידי מערכת ה-AI נעשה בו שימוש באיחוד.
קראו את זה שוב ותרגמו לעברית של מנהל מדיה. אם מערכת אופטימיזציה בוחרת למי להראות מודעה, והמודעה מוצגת למישהו בברלין, הפלט נעשה בו שימוש באיחוד. חנות ישראלית שמוכרת לצרפת נכנסת. אפליקציה ישראלית עם משתמשים באירלנד נכנסת. סוכנות בתל אביב שמריצה מדיה עבור לקוח עם קהל אירופי נכנסת דרך תפקיד המטמיע.
וזה גם אומר שאתם, ברוב המקרים, לא הספק אלא המטמיע. את הפלטפורמה לא בניתם. בחרתם להשתמש בה ובחרתם איך. ההנחיות מגדירות מטמיע כמי שנוטל אחריות על ההחלטה להפעיל את המערכת ועל אופן השימוש בפועל. הבחירות שלכם בממשק הן בדיוק מה שנמדד.
הטבלה שכדאי לתלות מעל השולחן
זה החלק המעשי. משמאל הטקטיקה כפי שהיא רצה אצל כולם. באמצע למה היא בדרך כלל בסדר גמור. מימין מה בדיוק היה צריך להשתנות כדי שהיא תיכנס לתוך האיסור. שימו לב שהמעבר כמעט תמיד עובר דרך אותם שני שערים: הסתרה, וכיוון מכוון אל מי שפגיע.
| הטקטיקה היומיומית | למה היא בדרך כלל מותרת | מה היה הופך אותה לאסורה |
|---|---|---|
| טירגוט לפי תחומי עניין, התנהגות באתר או קהל דומה | התאמת תוכן להעדפות אינה מניפולטיבית מעצם טבעה. אין כאן טכניקה שפועלת מתחת למודעות | בניית פלח שכל כולו נשען על מצוקה כלכלית, גיל מבוגר או מוגבלות, כדי להגיש דווקא לו הצעה שפוגעת בו |
| דחיפות ומחסור: קאונטדאון, "נשארו 3 יחידות" | מסר שיווקי גלוי שהצרכן מזהה ככזה, כשהוא נכון ומגובה במלאי אמיתי | מחסור מפוברק שמיוצר על ידי מודל. זו הצגת מידע כוזב, כלומר טכניקה מטעה, ואם היא מייצרת נזק משמעותי היא נכנסת ל-5(1)(a) |
| קריאייטיב שנבחר לפי תגובה רגשית של הקהל | פנייה לרגש היא חלק לגיטימי משכנוע. ההנחיות מציינות במפורש שכנוע שפונה גם לרגש כפרקטיקה מותרת | זיהוי רגשות בסתר כדי להגיש הצעה יקרה יותר ברגע שבו הצרכן נוטה לקנות. זו הדוגמה שהנציבות עצמה מביאה כמניפולציה |
| אופטימיזציית מעורבות אוטומטית של הפלטפורמה | מקסום קליקים או צפיות אינו כשלעצמו עיוות מהותי, ולרוב אין נזק משמעותי בקצה | אופטימיזציה שמתכנסת אל אנשים שהמערכת הסיקה שהם פגיעים, במוצר שגורם להם נזק כלכלי או נפשי ממשי |
| תמחור והצעות אישיות | הצעה שונה לקהלים שונים היא פרקטיקה מסחרית מקובלת בכפוף לדיני הגנת הצרכן ולהגנת הפרטיות | ההנחיות מציינות תמחור דיפרנציאלי בשירותי מפתח שמנצל מצב כלכלי ומגלגל מחיר גבוה יותר על צרכנים בהכנסה נמוכה |
| צ׳אטבוט מכירה או שירות באתר | בוט שפועל בשקיפות, מציג מידע נכון ומאפשר בחירה חופשית, הוא שכנוע ולא מניפולציה | בוט שמציג מידע כוזב או מתחזה, ובכך מוביל להחלטה שלא הייתה מתקבלת אחרת ולנזק משמעותי |
מה הנציבות עצמה אומרת על פרסום
וכאן מגיע החלק שרוב הכותרות המבוהלות משמיטות. בהנחיות שפרסמה הנציבות ב-29 ביולי 2025, מסמך C(2025) 5052 final, פסקה 133 קובעת שהואיל (29) לחוק מבהיר שפרקטיקות מסחריות נפוצות ולגיטימיות, כגון פרסום, לא ייחשבו "כשלעצמן" או מעצם טבען כפרקטיקות AI מניפולטיביות, מטעות או מנצלות שהן מזיקות.
ואז, באותה פסקה, הדוגמה: טכניקות פרסום שמשתמשות ב-AI כדי להתאים תוכן אישית על בסיס העדפות משתמש אינן מניפולטיביות מיסודן, כל עוד אינן מפעילות טכניקות סאבלימינליות, מניפולטיביות במכוון או מטעות שחותרות תחת האוטונומיה של הפרט או מנצלות פגיעות בדרכים מזיקות. הנציבות מוסיפה שעמידה בחובות הרלוונטיות לפי ה-GDPR, דיני הגנת הצרכן וה-DSA מסייעת להפחית את הסיכון הזה.
קראו את המשפט האחרון שוב, כי הוא נותן לכם מנוף. הנציבות בעצם אומרת שארגון שכבר עומד בחובות הבסיס, שקיפות בעיבוד המידע, הסכמה תקפה איפה שנדרשת, ניסוח שאינו מטעה, נמצא בעמדה טובה יותר מלכתחילה. תשתית פרטיות מסודרת היא לא רק פרויקט של הרגולציה הישראלית, והיא נוגעת ישירות גם כאן. את הצד המקומי של אותה תשתית פירקנו במדריך תיקון 13 לדאטה שיווקי.
הפרק שממש מגדיר את הקו נמצא בסעיף 3.5.1 של ההנחיות, תחת הכותרת "שכנוע חוקי". שם כתוב שמניפולציה כרוכה ברוב המקרים בטכניקות סמויות שחותרות תחת האוטונומיה, ומובילות אנשים לקבל החלטות שלא היו מקבלים אילו היו מודעים במלואם להשפעות הפועלות. מנגד, שכנוע פועל בגבולות של שקיפות וכבוד לאוטונומיה, מציג טיעונים או מידע באופן שפונה לתבונה ולרגש, מסביר את המטרות ואת אופן הפעולה של המערכת, ותומך ביכולת של האדם להעריך את המידע ולבחור בחופשיות.
שימו לב מה קרה שם. "פונה לתבונה ולרגש" נמצא בצד המותר. קריאייטיב רגשי הוא לא הבעיה. הסמיות היא הבעיה.
הדוגמה שהנציבות בחרה, ולמה היא מדויקת כל כך
בפסקה 110 להנחיות, שעוסקת בסעיף 5(1)(b), הנציבות נותנת את הדוגמה הכי קרובה למה שאנשי מדיה עושים בפועל: אלגוריתם חיזוי מבוסס AI יכול לשמש לטירגוט של פרסומות למוצרים פיננסיים טורפניים אל אנשים שגרים במיקודים בעלי הכנסה נמוכה ונמצאים במצב כלכלי קשה, ובכך מנצל את הרגישות שלהם לפרסומות כאלה בשל ייאוש אפשרי, וגורם להם נזק כלכלי משמעותי.
פרקו את זה לרכיבים. אלגוריתם חיזוי, זה סטנדרט. פילוח גיאוגרפי לפי מיקוד, זה סטנדרט. מודעה למוצר פיננסי, זה סטנדרט. שלושת הרכיבים כשרים. מה שהופך את הצירוף לאסור הוא שהפילוח מזהה מצוקה, המוצר מנצל את המצוקה, והנזק כספי וממשי.
ואם אתם מחפשים את הגבול מהצד השני, הוא באותה פסקה 133. מערכות AI בשירותי בנקאות, כמו משכנתאות והלוואות, שמשתמשות בגיל או במצב הסוציו אקונומי של הלקוח כקלט, בעמידה בדיני שירותים פיננסיים, הגנת הצרכן, הגנת מידע ואיסור אפליה, אינן נחשבות ניצול פגיעות לפי 5(1)(b) כשהן מתוכננות להגן על אנשים שזוהו כפגיעים ולתמוך בהם, ומיטיבות עם אותן קבוצות. אותו דאטה בדיוק. כיוון הפוך. תוצאה משפטית הפוכה.
זו הנקודה שכדאי להוציא מכל הכתבה הזאת: מה שנשפט הוא לא איזה משתנה השתמשתם בו. מה שנשפט הוא לאן הוא מוביל את האדם שבצד השני.
איפה זה באמת אפור, ואיפה לא
יהיה לא הגון לצייר את זה כאילו הכל ברור. שלוש נקודות שבהן הטקסט וההנחיות משאירים שיקול דעת אמיתי.
ראשית, סף הנזק המשמעותי. ההנחיות מונות קריטריונים לשקילה: היקף הפגיעה, מספר הנפגעים, הפגיעות של הקבוצה, ומשך הנזק והפיכותו. נזק ארוך טווח או בלתי הפיך חוצה את הסף בדרך כלל. אפקטים קצרי טווח והפיכים פחות, אלא אם הם חוזרים בתדירות גבוהה. זו הערכה לגופו של מקרה, לא נוסחה.
שנית, "במכוון". סעיף 5(1)(a) מדבר על טכניקות מניפולטיביות במכוון, אבל ההנחיות מבהירות שהמערכת עצמה יכולה לפתח טכניקות כאלה גם בלי שאיש התכוון, למשל אם למדה אותן מנתוני האימון או דרך למידת חיזוק. אם ההתנהגות המניפולטיבית היא נלווית בלבד, והספק נקט אמצעי מניעה והפחתה מתאימים, המערכת לא תיחשב כמפעילה טכניקות מניפולטיביות במכוון. שימו לב שהמשקולת הזאת יושבת בעיקר על הספק, לא על המפרסם.
שלישית, הזליגה מ-DSA. פסקה 139 להנחיות קובעת שדפוסים אפלים, שאסורים לפי סעיף 25(1) ל-DSA, יש להבין אותם כדוגמה לטכניקות מניפולטיביות או מטעות במובן סעיף 5(1)(a), כאשר הם צפויים לגרום נזק משמעותי. כלומר צ׳קליסט הדארק פטרנס שלכם, אם יש לכם כזה, הוא כבר חצי מהעבודה כאן.
ארבע פעולות שאפשר לסגור בחודש
רשמו אילו נכסים מגיעים לאיחוד
קמפיינים, דפי נחיתה, בוטים ואוטומציות שהפלט שלהם מוצג למישהו באיחוד. הרשימה הזו קצרה אצל רוב החברות הישראליות, וכל השאר בכתבה נוגע רק לה. בלי הרשימה אתם או מגזימים או מפספסים.
עברו על הגדרות הקהל בעין אחת
שאלו על כל פלח שאלה יחידה: האם הוא מוגדר סביב מצוקה, גיל מבוגר או מוגבלות, ואם כן, מה ההצעה שהוא מקבל. פלח שמזהה פגיעות ומגיש לה מוצר שמעמיק אותה הוא בדיוק התרחיש של פסקה 110.
אמתו שכל טענת דחיפות היא אמת
קאונטדאון שמתאפס לבד, מלאי שמוצג כנמוך בלי קשר למלאי, "עוד 4 צופים בדף" שהוא מספר אקראי. מחסור מפוברק הוא הצגת מידע כוזב, וזו בדיוק ההגדרה של טכניקה מטעה. זו גם בדיקה של שעה.
תעדו למה כל אוטומציה מריצה מה שהיא מריצה
איזה יעד הוגדר, לפי מה המערכת בוחרת קהל, ומי אישר. ההנחיות שופטות מטמיע לפי ההחלטה להפעיל ולפי אופן השימוש בפועל, ותיעוד הוא הדרך היחידה להסביר החלטה בדיעבד.
אם אין לכם בכלל שכבת ממשל על כלי ה-AI בצוות, ארבעת אלה יושבים טוב בתוך המסגרת הרחבה יותר שפירקנו במדריך ממשל ה-AI לסוכנים שיווקיים. ואם חלק גדול מהאופטימיזציה שלכם רץ על סוכנים שמכווננים את עצמם, שווה לקרוא איך זה נראה מבפנים בסקירת הסוכנים שמייעלים את עצמם, כי שם נמצאת רוב אי הבהירות התפעולית.
שאלות נפוצות
האם ריטרגטינג רגיל אסור לפי סעיף 5?
לא. ההנחיות של הנציבות קובעות בפסקה 133 שפרסום כפרקטיקה מסחרית נפוצה ולגיטימית אינו נחשב כשלעצמו מניפולטיבי או מנצל, ושטכניקות פרסום שמתאימות תוכן להעדפות משתמש אינן מניפולטיביות מיסודן. האיסור נכנס לתמונה רק כשמתקיימים כל התנאים יחד: טכניקה סמויה או מטעה או ניצול פגיעות, עיוות מהותי של ההתנהגות, ונזק משמעותי או סבירות אמיתית לנזק כזה.
אנחנו משתמשים באופטימיזציית קריאייטיב אוטומטית. זה נכנס?
ברוב המקרים לא. בחירת קריאייטיב לפי ביצועים אינה טכניקה שפועלת מתחת למודעות של הצופה, ובדרך כלל אין בקצה נזק משמעותי. הדוגמה שההנחיות כן מסמנות כמניפולציה היא מערכת שמסיקה רגשות של צרכנים באופן סמוי כדי להציע להם מוצרים במחיר גבוה יותר ברגע שבו הם נוטים יותר לקנות. ההבדל הוא הסמיות והפגיעה, לא האוטומציה.
מה ההבדל בין סעיף 5 לסעיף 50?
שני משטרים נפרדים לגמרי. סעיף 50 הוא חובת שקיפות, כלומר ליידע שמדובר ב-AI ולסמן תוכן סינתטי, והפרתו נמצאת בתקרה של 15 מיליון אירו או 3% לפי סעיף 99(4). סעיף 5 הוא איסור מוחלט על פרקטיקות מסוימות, בתקרה של 35 מיליון אירו או 7% לפי סעיף 99(3). אפשר לסמן הכל בצורה מושלמת ועדיין להפר את סעיף 5, ולהיפך.
אין לנו חברה באיחוד. זה עדיין רלוונטי?
לפי סעיף 2(1)(c), החוק חל על ספקים ומטמיעים במדינה שלישית כאשר הפלט של המערכת נעשה בו שימוש באיחוד. ישות אירופית אינה התנאי, השימוש בפלט הוא. יחד עם זאת, השאלה אם מקרה ספציפי נכנס להגדרה היא שאלה משפטית שצריך להפנות ליועץ, ולא הכרעה שמתקבלת בגיליון של צוות המדיה.
מה עושים השבוע
פתחו את מנהל המודעות, סננו לקמפיינים שרצים לקהל אירופי, וקחו את חמשת הפלחים עם ההוצאה הגבוהה ביותר. על כל אחד מהם ענו על שאלה אחת: האם משהו בהגדרה הזאת מזהה אנשים במצב חלש, ואם כן, מה ההצעה שהם מקבלים. חמישה פלחים, עשרים דקות. זה לא ממלא טופס ציות, אבל זה בדיוק הצומת שבו סעיף 5 נוגע בעבודה שלכם, וזה הדבר היחיד ברשימה שאי אפשר לתת למישהו אחר לעשות במקומכם.
5 עדכונים שחשוב לדעת + ניתוח אחד. אימייל אחד בשבוע, בלי ספאם.