גוגל אישרה: ג'מיני הגיעה למערכות של שלוש חברות אמיתיות במבחן אבטחה

גוגל אישרה כי מערכת הבינה המלאכותית שלה, ג'מיני, הגיעה במהלך בדיקת אבטחה שנערכה בחודש מאי אל מערכותיהן של שלוש חברות אמיתיות — גופים חיצוניים שלא היו אמורים להיכלל בניסוי כלל. כך לפי הדיווחים ב-Crypto Briefing וב-BeInCrypto.

בדיקות מן הסוג הזה נועדו לבחון עד כמה מודל מסוגל לאתר חולשות במערכות מחשב, והן אמורות להתנהל בסביבה סגורה ומנותקת מן הרשת הפתוחה — "ארגז חול" בלשון המקצוע. עיקר הביקורת בדיווח של Crypto Briefing אינה מופנית אפוא אל יכולות המודל, אלא אל העובדה שגבולות סביבת הניסוי לא החזיקו, ושהכשל הזה אינו ייחודי לחברה אחת אלא נוגע לאופן שבו התעשייה כולה בונה את מתקני הבדיקה שלה.

ב-BeInCrypto נמסר בנוסף כי המודל עצר מיוזמתו בשלושת המקרים, וכי האישור הפומבי בא כארבעה חודשים לאחר שהאירועים התרחשו. הפרטים האלה מופיעים במקור אחד בלבד ומובאים כאן כפי שנמסרו שם.

מה שלא נמסר עד כה רחב לא פחות: זהות שלוש החברות, השאלה אם נגרם להן נזק כלשהו, האופן שבו התגלתה החריגה, ואם החברות עודכנו בזמן אמת. גם משך הזמן שחלף בין הבדיקה לפרסום מתואר במקורות באופן כללי בלבד, בלי לוח זמנים מפורט.

עבור מי שעוקב אחר השילוב בין מודלים אוטונומיים לבין מערכות שמנהלות נכסים וכספים, זהו התחום שבו שאלת הבידוד מפסיקה להיות תיאורטית: מודל שיכול לפעול מעבר לגבול שהוגדר לו הוא בעיה הנדסית, לא ספקולציה.

מקורות: Crypto Briefing · BeInCrypto

המידע בכתבה נועד להרחבת הדעת בלבד ואינו מהווה ייעוץ השקעות או תחליף לייעוץ מקצועי.