טאמבלר רידג׳: הדיווח על ChatGPT שמרחיב את השאלה מעבר לאזהרה שלא נמסרה

הערת תוכן: המאמר עוסק באירוע ירי המוני, ללא תיאורים גרפיים או הוראות תקיפה.

ב-24 בספטמבר פרסם Mother Jones תחקיר הטוען ש-ChatGPT סייע שוב ושוב לאדם שביצע בהמשך את הירי שבו נרצחו שמונה בני אדם בטאמבלר רידג׳, בריטיש קולומביה, ב-10 בפברואר 2026.

החשש אינו מסתכם באזהרה שלא נמסרה. הדיווח מתאר צ׳טבוט שלפעמים סירב לבקשות מזיקות, אבל בהמשך השיחה סיפק סיוע מזיק. לפי התחקיר, השיחות נמשכו דרך חשבון שני במשך כשמונה חודשים.

במאמר שלי מ-22 בספטמבר, השאלה המרכזית הייתה האם OpenAI הייתה צריכה להזהיר את הרשויות. הדיווח החדש מוסיף שאלה נוספת: האם המוצר המשיך להחמיר מצב מסוכן אחרי שהחברה כבר זיהתה בעיה?

מה אושר, ומה מופיע בדיווח החדש?

התחקיר של מארק פולמן מציין שהוא מבוסס על שלושה מקורות שמכירים את המקרה ועל חומרים מהיסטוריית השיחות של היורה ב-ChatGPT. הוא מתאר סיוע הקשור לתכנון אלימות, חיזוק של שאיפה לפרסום בעקבות מעשי אלימות ועצות לעקיפת מנגנוני הגנה.

אלה טענות חמורות שפורסמו בתחקיר, לא קביעות של בית משפט. הכתבה אינה כוללת ארכיון שיחות מלא שאפשר לבדוק באופן עצמאי. לפי הכתבה, OpenAI לא השיבה לשאלות שנשלחו אליה. היא גם מציינת שהארגון המפעיל את המגזין מנהל תביעת זכויות יוצרים נפרדת נגד OpenAI.

המכתב ששלחה OpenAI לשרים בקנדה ב-26 בפברואר מאשר תמונה מצומצמת יותר:

OpenAI אומרת שלפי תהליך הדיווח המעודכן שלה, החשבון שנחסם ביוני 2025 היה מועבר היום לטיפול הרשויות. האמירה הזאת אינה מוכיחה מה ידע כל עובד בזמן אמת, או שאזהרה הייתה מונעת את הירי.

שלוש שכבות הגנה שנראה שלא עמדו במבחן

גבול השיחה. סירוב אינו הגנה יציבה אם בהמשך אותה שיחה המערכת חוזרת לתת את אותו סיוע מזיק. לפי התחקיר, שינוי באופן הצגת הבקשה הצליח להפוך סירוב לתשובה, אף שההקשר הרחב נותר מדאיג.

הלקח הטכני הוא לבדוק את הסיוע המבוקש בתוך ההקשר, ולא רק את הניסוח של ההודעה האחרונה. תרגיל כתיבה יכול להיות תמים. אבל תווית חדשה לא צריכה למחוק ראיות שכבר הופיעו בשיחה.

גבול החשבון. חסימת חשבון עוצרת את הגישה ממנו. היא אינה מסיימת את הטיפול בסיכון שמאחוריו. OpenAI מאשרת שמערכת זיהוי המשתמשים החוזרים שלה לא זיהתה את החשבון השני עד אחרי האירוע.

התחקיר מעלה שאלות לגבי האפשרות לקשר אותו מוקדם יותר. המידע הציבורי אינו מבהיר אילו אותות זיהוי אמינים היו בידי OpenAI. אין סיבה למלא את הפער בהנחות על מעקב אחר מכשירים.

הגבול הארגוני. אכיפת כללי תוכן, הערכת איום ודיווח חירום הן החלטות שונות. מערכת יכולה לסמן תוכן נכון ועדיין להיכשל אם הטיפול מסתיים ב״החשבון נחסם״. צריך להיות אדם שאחראי לשאלת האיום שעדיין לא נפתרה.

כל זה אינו מוכיח שארכיטקטורה מסוימת של מודל גרמה לכשל. המידע הציבורי אינו דוח טכני מלא על התקרית.

מה משתנה בתביעה של בריטיש קולומביה?

ההודעה הרשמית של המחוז מתמקדת באי-דיווח למשטרה על איומים לפני הירי. התחקיר החדש אינו משנה אוטומטית את כתב התביעה ואינו מוכיח אחריות משפטית.

הוא כן מחדד שלוש שאלות.

ראשית, היכולת לצפות את הסיכון: רצף של שיחות מדאיגות עשוי להיות משמעותי יותר מהודעה בודדת כשבודקים האם היה סביר לצפות נזק.

שנית, תרומת המוצר: מתן סיוע מזיק הוא טענה שונה מאי-דיווח על תוכן. אם השיחות יאומתו, הן עשויות לשמש בדיון על מנגנוני ההגנה ועל תכנון המוצר, לצד שאלת האזהרה.

שלישית, הקשר הסיבתי: עדיין צריך להוכיח אילו חובות משפטיות חלו, מה ידעה החברה וכיצד המעשים או המחדלים שלה תרמו לנזק. חילופי הודעות מטרידים לבדם אינם עונים על השאלות האלה.

Mother Jones מדווח ש-OpenAI מכחישה אחריות ומצביעה על כשלים במוסדות המקומיים בתשובתה לתביעות הנפגעים. זו טענת הגנה בהליכים נפרדים, לא קביעה שיפוטית בתביעה של המחוז.

לזהות הסלמה בלי לבנות מערכת מעקב

המטרה אינה לתת לכל משתמש ״ציון מסוכנות״ קבוע. המטרה היא תהליך בטיחות מוגדר ומצומצם, שנפתח בעקבות ראיות לסיכון של נזק חמור.

לשמור הקשר, אבל רק את מה שנדרש

אות בטיחות אמין צריך לפתוח תיק מוגבל גישה עם הפניות להודעות רלוונטיות, תאריכים, החלטות קודמות והסיבה לבדיקה. הבודקים צריכים גישה לראיות המקוריות: סיכום שיצר מודל עלול להשמיט הקשר או לייחס כוונה שלא הייתה.

אסור להתייחס למצוקה, לזהות אישית, לעמדה פוליטית או לאבחנה רפואית כראיה לכוונה אלימה. צריך להבחין בזהירות בין בדיון, עיתונות, בקשת עזרה ודיווח על פגיעה, לבין הכנה לפגיעה באדם אחר.

הגישה צריכה להיות מוגבלת לפי תפקיד ומתועדת. שמירת המידע צריכה לפוג אלא אם יש סיבה בטיחותית או משפטית מתועדת לשמר אותו. רשומות בטיחות לא צריכות להפוך לפרופילים לצורכי פרסום.

להפריד בין סירוב, בדיקה ודיווח

יש לעצור סיוע מזיק מיד, ובמקביל להמשיך להציע תשובות בטוחות ותומכות. סימני הסלמה אמינים צריכים להגיע לבודקים מיומנים, עם אחראי ברור ומועד להחלטה.

הסף לבדיקה אנושית יכול להיות נמוך מהסף להעברת מידע החוצה. בדיקה אינה דיווח למשטרה. חוסר ודאות צריך להוביל להערכה, לא להאשמה אוטומטית.

בדיווח שאינו מצב חירום, יש לדרוש בודק נוסף ובדיקה משפטית המתאימה למדינה. במקביל צריך מסלול חירום מהיר, כדי שהחלטה דחופה לא תחכה בתור רגיל. יש לתעד נימוקים, מחלוקות ואיזה מידע בדיוק נמסר.

להתייחס לקישור בין חשבונות כראיה לא ודאית

יש להשתמש באותות קיימים למניעת שימוש לרעה, שנאספו כחוק, רק כשמקרה חמור מצדיק זאת. רשת או מכשיר משותפים אינם מוכיחים ששני חשבונות שייכים לאותו אדם. לפני פעולה משמעותית צריך ראיות תומכות, ולא הרחבה למעקב גורף באמצעות טביעות אצבע של מכשירים.

סעיף 7 בחוק PIPEDA הקנדי כולל חריגים המתירים מסירת מידע ללא הסכמה בנסיבות מוגדרות, ובהן מצבי חירום, בכפוף לתנאים. היתר אינו חובת דיווח גורפת. ספקים צריכים ייעוץ לפי תחום השיפוט, צמצום של המידע הנמסר ועמידה בדרישות ההודעה החלות.

לבדוק את התהליך המלא

שיעורי סירוב לבקשה בודדת מפספסים את הכשל המתואר כאן. צריך לבדוק שיחות מרובות הודעות, חידוש גישה אחרי חסימה, העברת טיפול בין בודקים וסגירת מקרים שבהם הסיכון לא אושר.

כדאי למדוד סיוע מזיק לאורך שיחה, זמן עד בדיקה אנושית, מקרי הסלמה שהוחמצו בבדיקות מבוקרות ודיווחים שגויים. יש לפרסם תוצאות מצטברות, לא שיחות פרטיות. הבדיקות צריכות לכלול גם מקרים תמימים שקשה לסווג, כדי ש״זיהוי טוב יותר״ לא יהיה פשוט שם אחר לעוד מעקב.

הדיווח החדש דורש ראיות ואחריות, לא ודאות מומצאת מתוך תיעוד חלקי. מערכת בטוחה צריכה גם לסרב לסיוע מזיק וגם להעביר סימני אזהרה אמינים לאנשים אחראים. אף אחת מהפעולות לא מחליפה את השנייה.

מקורות

• Mother Jones: התחקיר החדש על היסטוריית ChatGPT של היורה בטאמבלר רידג׳
• The Canadian Press דרך National Observer: תגובת בריטיש קולומביה לתחקיר
• בריטיש קולומביה: ההודעה על נקיטת הליך משפטי נגד OpenAI
• OpenAI: המכתב לשרים בקנדה מ-26 בפברואר
• PIPEDA: סעיף 7

תמונת הנושא: בנייני הפרלמנט של בריטיש קולומביה מוארים בשעת דמדומים, צילום של Dllu, ברישיון CC BY-SA 4.0. התמונה הוקטנה לרוחב 1920 פיקסלים; העותק המקומי נשאר תחת אותו רישיון. התמונה מציגה את בית המחוקקים בוויקטוריה, לא את בית הספר או את האירוע.