האם מעבדות AI יכולות להסכים להאט? דיני התחרות נכנסו לדיון הבטיחות

ארבע מחברות ה-AI המובילות עומדות כעת מול שאלה קשה: האם מתחרות יכולות להסכים להתקדם בזהירות רבה יותר, בלי להסכים באופן בלתי חוקי להתחרות פחות?

תביעה ייצוגית שהוגשה ב-18 בספטמבר מאשימה את Anthropic, OpenAI, SpaceXAI ו-Google בתיאום האטה בפיתוח מודלי חזית. התובעים משלמים על ChatGPT, Claude, Grok ו-Gemini. לטענתם, שיפור איטי יותר מפחית את ערך המנויים שלהם.

התיק הוא Buist et al. v. Anthropic PBC et al., והוא הוגש לבית המשפט הפדרלי במחוז הצפוני של קליפורניה. בית המשפט עדיין לא קבע שהיה הסכם ולא קבע שחברה כלשהי הפרה את החוק. בשלב זה מדובר בטענות בלבד.

למרות זאת, התביעה חושפת התנגשות אמיתית. בטיחות AI עשויה לדרוש פעולה משותפת, אבל דיני התחרות נועדו למנוע ממתחרות חזקות להחליט יחד כמה התקדמות יקבל השוק.

מה התביעה טוענת

התביעה מתחילה במאמר שפרסם מנכ"ל Anthropic, דריו אמודיי, ב-12 בספטמבר: We Must Pace the Frontier.

אמודיי כתב שחברות מודלי החזית צריכות להאט את שיפור היכולות, כדי שלמחקר בטיחות, הערכות ובקרות תפעוליות יהיה זמן להדביק את הקצב. לתוכנית שלו שלושה חלקים:

1. כל חברה מכניסה בודקי בטיחות חיצוניים עם גישה עמוקה.
2. חברות במדינות דמוקרטיות מתאמות תקנים ומגבלות.
3. ממשלות מנסות בהמשך ליצור תיאום עולמי.

Anthropic התחייבה מיד רק לחלק הראשון. החלק השני הוא המקום שבו מתחיל הסיכון המשפטי.

לפי כתב התביעה, אילון מאסק כתב שאמודיי צודק, סם אלטמן אמר ש-OpenAI מסכימה שצריך למתן את קצב החזית, ודמיס הסביס כינה את המאמר הדרך הנכונה קדימה. התביעה מצביעה גם על פגישות מוקדמות יותר בין נציגי Anthropic, OpenAI ו-Google בנושא גוף תקינה אפשרי.

התובעים מתארים זאת כהסכם אופקי בין מתחרות לצמצום תפוקה. כאן "תפוקה" אינה מספר מוצרים פיזיים. הכוונה היא לשיפור איטי יותר של מודלים, דחיית יכולות, פחות השקעה ואיכות נמוכה מזו שתחרות חופשית הייתה מייצרת.

הם מבקשים צו שיחסום תיאום בקצב הפיתוח, וכן פיצוי משולש לפי Clayton Act עבור מנויים שלטענתם שילמו יותר מדי.

טיעון הבטיחות אינו תירוץ מומצא

המחלוקת המשפטית לא צריכה להסתיר את הסיבה שבגללה הדיון התחיל.

אמודיי מצביע על מחקר AI שמואץ בעזרת AI, על שליטה חלשה בסוכנים חזקים יותר ועל תקריות סייבר מהחודשים האחרונים. לטענתו, מרוץ בין המעבדות מעניש חברה שמאטה לבדה. חברה שמשקיעה עוד שישה חודשים בבטיחות עלולה לאבד לקוחות, עובדים והשקעות למתחרה מהירה יותר.

זו בעיית תיאום קלאסית:

One company slows:
more safety time + competitive loss

Every company slows:
more safety time + smaller competitive loss

התועלת הבטיחותית עשויה להיות אמיתית. גם בעיית התחרות מופיעה בבירור בשורה השנייה. המתחרות מסירות את הלחץ שבדרך כלל דוחף כל אחת מהן להשתפר.

אמודיי הכיר בבעיה במפורש. הוא כתב שהממשלה צריכה לתווך בשיחות או לתת פטור מצומצם מדיני התחרות עבור חלק משיחות הבטיחות.

למה יהיה קשה להוכיח את התביעה

Section 1 של Sherman Act אינו אוסר כל שיתוף פעולה בין מתחרים. הוא אוסר הסכמים שמגבילים מסחר באופן בלתי סביר. תיאום מחירים, חלוקת שווקים וחלק מההגבלות על תפוקה מקבלים יחס משפטי מחמיר במיוחד. שיתופי פעולה אחרים נבדקים לפי המטרה, המבנה, ההשפעה על השוק והתועלת לצרכנים.

התובעים עדיין צריכים להוכיח כמה נקודות קשות.

ראשית, הסכמה פומבית עם רעיון אינה בהכרח הסכם עסקי. החברות עשויות לטעון שההצהרות היו תמיכה במדיניות, התחייבויות עצמאיות או קריאה לרגולציה ממשלתית. התיק יתחזק רק אם יימצאו ראיות לתוכנית משותפת אמיתית, הבטחות פרטיות, מנגנון מעקב או לחץ לציית.

שנית, התובעים צריכים לחבר את ההסכם הנטען לנזק מדיד. כתב התביעה הוגש שישה ימים אחרי המאמר של אמודיי. יהיה קשה להראות שהמנויים כבר איבדו ערך אם לא בוצעה בפועל דחייה מתואמת של מודלים או יכולות.

שלישית, גם תועלת בטיחותית חשובה לניתוח. התובעים מגדירים את ההסדר כקרטל תפוקה פשוט, אך בית המשפט עשוי לבחור בבדיקה רחבה יותר. במקרה כזה השאלה תהיה אם התועלת הבטיחותית חייבה את ההגבלה ואם היה אפשר להשיג אותה בדרך שפוגעת פחות בתחרות.

זו תביעה רצינית. היא עדיין אינה הוכחה לקנוניה.

רגולציה עצמית צריכה מבנה צר יותר

המסקנה אינה שאסור למתחרות לעבוד יחד.

הנחיות ה-FTC על הסכמים בין מתחרים מכירות בכך שתקנים משותפים יכולים לעזור לצרכנים. DOJ ו-FTC אמרו גם שמתחרים יכולים לשתף מידע טכני על איומי סייבר, כל עוד הם אינם מחליפים מידע תחרותי רגיש.

המודל הבטוח יותר הוא לתאם איך מודדים בטיחות, ולא באיזו מהירות משחררים מוצרים.

shared_work:
  - evaluation methods
  - incident reporting formats
  - minimum sandbox controls
  - audit evidence

company_decisions:
  - model release dates
  - training schedules
  - compute budgets
  - feature roadmaps
  - prices

זה אינו פטור משפטי. זו ארכיטקטורה שימושית לצמצום הסיכון.

1. לקבוע רף בטיחות, לא מגבלת מהירות משותפת

בדיקה משותפת יכולה להגדיר אילו ראיות מודל צריך לספק. כל חברה צריכה להחליט בעצמה מתי לאמן, לשחרר, לדחות או לבטל מוצר.

2. לשמור על תהליך פתוח

גוף תקינה צריך לכלול חברות קטנות, חוקרים עצמאיים, לקוחות, ארגוני חברה אזרחית ונציגי ממשלה. ארבע מובילות השוק לא צריכות לשלוט בחברות בגוף, בבדיקות או באישור.

3. להשתמש באכיפה עצמאית

מתחרות לא צריכות לבדוק זו את מפת הדרכים הסודית של זו או להעניש חברה שמתקדמת מהר יותר. בודקים עצמאיים או רגולטורים יכולים לאמת עמידה בדרישות בלי לחשוף תוכניות שחרור למעבדות אחרות.

4. לא לשתף מידע תפעולי תחרותי

תאריכי השקה עתידיים, תזמון אימונים, מחירים, תוכניות לקוחות, מגבלות חישוב ומפות דרכים צריכים להישאר מחוץ לפגישות בטיחות תעשייתיות. הרבה יותר קל להגן על מילון תקריות ושיטות בדיקה שפורסמו לציבור מאשר על הבטחות פרטיות לגבי תפוקה.

5. לפנות לממשלה לפני שמתחילים

DOJ מציע תהליך Business Review לארגונים שרוצים לקבל את עמדת האכיפה הנוכחית שלו לגבי התנהלות מתוכננת. זה איטי יותר מקבוצת הודעות בין מנכ"לים, אבל הוא מוסיף שקיפות ומכריח את שיתוף הפעולה להגדיר גבולות.

הלקח הרחב לרגולציה עצמית משותפת

הבעיה גדולה יותר מ-AI.

בנקים מתאמים הגנות נגד הונאה. ספקי ענן משתפים מידע על איומים. יצרני רכב מפתחים תקני בטיחות. חברות אנרגיה מתחייבות ליעדי אקלים. בכל מקרה, שיתוף פעולה יכול להגן על הציבור, אבל הוא יכול גם להפוך לדרך לצמצם תפוקה, לחסום מתחרים קטנים או להעלות עלויות.

רגולציה עצמית משותפת עובדת בצורה הטובה ביותר כאשר חברות משתפות בדיקות, ראיות והגנות מינימום, אבל משאירות את המחיר, התפוקה, האסטרטגיה ותזמון המוצרים להחלטה עצמאית.

בטיחות AI דורשת תיאום. היא דורשת גם סמכות דמוקרטית ולחץ תחרותי. הפתרון העמיד כנראה אינו הבטחה פרטית בין ארבעה מנכ"לים. הוא כלל ציבורי, תקן פתוח, אימות עצמאי ושקיפות שמראה היכן עבודת הבטיחות מסתיימת והגבלת השוק מתחילה.

מקורות

• כתב התביעה: Buist et al. v. Anthropic PBC et al.
• דריו אמודיי: We Must Pace the Frontier
• Associated Press: התביעה טוענת להסכם האטה בלתי חוקי ב-AI
• The Hill: התביעה טוענת לתיאום בקצב פיתוח AI
• FTC: הסכמים אחרים בין מתחרים
• DOJ ו-FTC: מדיניות תחרות לשיתוף מידע על אבטחת סייבר
• DOJ Antitrust Division: Business Reviews
• DOJ ו-FTC מבקשים תגובות להנחיות חדשות לשיתופי פעולה עסקיים

תמונת הנושא: בית המשפט העליון של ארצות הברית אחרי סערה, צילום NPS מאת Tom Engberg, נחלת הכלל.