OpenAI מסווגת לראשונה מודל בדרגת סיכון סייבר "קריטית": Astra מאתר חולשות אבטחה ובונה מהן תקיפה

חברת OpenAI הודיעה כי מודל הבינה המלאכותית שלה בשם Astra הוא הראשון מבין המודלים שפיתחה שנכנס לדרגת הסיכון הגבוהה ביותר בתחום הסייבר — הדרגה שהחברה מכנה "קריטית". ההודעה יוצאת דופן לא בגלל הביצועים שהיא מייחסת למודל, אלא בגלל הכיוון שלה: יצרנית מוצר מודיעה מיוזמתה שהמוצר שלה מסוכן מספיק כדי להצדיק מגבלות על עצמו.

לפי Decrypt, מדובר במודל שטרם שוחרר לציבור, ושהיכולת שהקנתה לו את הסיווג היא מציאת חולשות אבטחה שאיש לא הכיר קודם לכן — מה שמכונה בעגה המקצועית חולשות "יום-אפס" (zero-day) — וחיבור שלהן לכדי מתקפת סייבר שעובדת בפועל, בלי שאדם יוביל אותו יד ביד בכל שלב. Crypto Briefing מציין באותו הקשר כי הזהירות שנוקטת החברה סביב Astra מדגישה את הצורך במסגרת ממשל ופיקוח על מודלים מסוג זה. באתר BeInCrypto נמסר כי הסיווג נקבע במסגרת "מסגרת המוכנות" הפנימית של החברה, וכי בכוונתה לשחרר את המודל עם אמצעי הגנה ועם גישה מוגבלת ליכולות הסייבר המתקדמות; פרט זה מופיע שם בלבד ולא אושר בשני המקורות האחרים.

מה משמעות ההבדל הזה

כדי להבין מדוע הסיווג הזה שונה ממה שהיה עד כה, כדאי להבחין בין שני דברים שנשמעים דומים. מודלים קיימים כבר יודעים לסייע בעבודת אבטחת מידע: לקרוא קוד, להצביע על שורה חשודה, להסביר לחוקר מה הוא רואה מולו. בכל אלה האדם הוא זה שמנהל את החקירה, והמודל הוא כלי עזר. הקפיצה שמתוארת כאן היא אחרת — מודל שמבצע את שרשרת הפעולות בעצמו: איתור חולשת האבטחה, הבנת האופן שבו אפשר לנצל אותה, וחיבור מספר חולשות לכדי מתקפה שלמה.

ההבדל הזה משמעותי משום שהחלק הקשה בתקיפה אינו בהכרח מציאת באג בודד, אלא הידע והזמן הנדרשים כדי להפוך אותו לכלי שעובד. יכולת אוטומטית לעשות זאת מוזילה את המחיר של ניצול חולשה, וממילא מרחיבה את מעגל מי שמסוגל לבצע אותו.

למה זה נוגע לעולם הקריפטו

הקריפטו הוא זירה רגישה במיוחד לסוג היכולת הזה, וזאת מסיבה מבנית. קוד של חוזים חכמים הוא ברובו פתוח וזמין לעיון של כל אדם, הכסף שהקוד שומר עליו נגיש ברשת, וטעות בשורה אחת יכולה להתגלגל להעברת נכסים שאין דרך לבטל. במערכת בנקאית רגילה יש שכבות של אישורים, גילוי מאוחר וביטול עסקאות; בבלוקצ'יין, ברוב המקרים, אין.

מן הצד השני של המשוואה, אותן יכולות עצמן משרתות גם את המגינים. חברות אבטחה ומבקרי קוד יכולים להשתמש בכלים מסוג זה כדי לסרוק חוזים ומערכות ולאתר בהם חולשות אבטחה לפני שהם עולים לאוויר. השאלה המעשית אינה מי מקבל את הכלי, אלא מי מספיק להשתמש בו ראשון — והאם ההגנה מתעדכנת באותו קצב שבו מתקפות הסייבר משתכללות.

מה עדיין לא ידוע

המקורות שבידינו אינם מפרטים מהם בדיוק אמצעי ההגנה שילוו את השחרור, מי נכלל בקבוצת הבודקים המצומצמת שמקבלת גישה ראשונה, ומה יקבע אם ומתי הגישה תורחב מעבר לה. גם אין בהם נתונים על ביצועי המודל במבחנים מוגדרים — כמה חולשות אבטחה איתר, באילו מערכות, ובאיזה שיעור הצלחה. מדובר בשלב זה בהודעה של החברה על עצמה, ולא בבדיקה חיצונית בלתי תלויה שפורסמה.

השאלה הפתוחה הגדולה יותר היא מה עושים מתחרים. סיווג פנימי מרצון מחייב חברה אחת בלבד; הוא אינו חל על גורמים אחרים שמפתחים מודלים בעלי יכולות דומות, ואינו מונע פיתוח מקביל במקומות שאינם מפרסמים כלל את מדיניות הסיכון שלהם.

מקורות: Crypto Briefing · Decrypt · BeInCrypto