פוסט חדש באתר במהדורת יום חמישי מיוחדת! בכנס של OWASP AppsecIL שבו הרציתי ממש היום, דיברתי בין היתר על טכניקה לא חדשה אבל מאד מעניינת של התקפה על מודל למידת מכונה של זיהוי תמונה. המודלים האלו מזהים אובייקטים בתוך תמונות ומשתמשים בהם בהרבה מקומות כולל בבינה מלאכותית. מסתבר שאפשר להתקיף גם אותם וזה מתועד היטב. יש כמה דרכים להתקיף ML כזה. אחת הדרכים הפשוטות והמגניבות ביותר היא להוסיף מעט רעש לקלט. הרעש, שנבנה באלגוריתם פשוט שנקרא FGSM בעצם גורם למכונה לא לראות משהו שאדם רואה. למשל, למשל תמונה מסוג כלב מסוג גולדן רטריבר. זה גם מה שאדם וגם מודל ML פשוט מסוג MobileNetV2 רואה. ניקח אלגוריתם שמייצר רעש ואוסיף אותו אל התמונה. מה אדם ינראה עכשיו? טוב, עדיין כלבלב נחמד. מה ה-ML יראה? הוא כבר לא יראה לברדור, הוא יראה (באחוז נמוך) כלב סלוקי. למה? כי הוספנו רעש? איזה רעש - בני אדם בקושי רואים. אבל למידת מכונה לא רואה או לומדת כמונו ויש דברים שעובדים עליה. בפוסט החדש שלי בנושא סיפרתי על הטכניקה הזו. היא מעניינת ומגניבה ולמרות שהיא ותיקה למדי זה תמיד מעניין לראות איך לפעמים מטען זדוני מגיע בקלט מפתיע ולא צפוי. יש עוד ה-מ-ו-ן התקפות ללמידת מכונה. דוגמאות קוד ומחברות (שתיים מהן) בפוסט עצמו. https://internet-israel.com/?p=11716 -- קיבלתי כמה פניות מאנשים שהוטרדו מזה שהמדפסת בבית שלהם החלה לפתע להדפיס מכתבים מאיימים בשם החמאס עם הסברים שאם הם לא צ׳יק צ׳אק נכנסים אל סירת הגומי ומתחילים לחתור סופם יהיה רע ומר. איך זה קרה? טוב, מומחי האבטחה יודעים שכנראה המדפסת שלהם פתוחה וכל מיני משועממים מחפשים פורטים פתוחים בשודאן (מנוע החיפוש של כתובות IP) ואם הם מוצאים משהו פתוח בישראל הם חוגגים עליו. מה המסקנה? חברים, תעדכנו את המדפסות שלכם ואל תפתחו אותם ככה סתם. זה קל לומר, אבל החלטתי גם לכתוב על זה כתבה בדה מרקר ולנסות לתקשר לעם. ותודה למושיקו סעדון שהתראיין וגם צילם https://www.themarker.com/captain-internet/2025-06-04/ty-article/.premium/00000197-39bb-d9f1-abb7-79ff64760000 -- אם יש משהו שאני מחבב (לפעמים פחות) בסייברארק זה התשתיות שלנו. בגלל שרגולציה ואבטחת מידע הן לא המלצה אלא Do or die מבחינת הפרויקט, יש לנו פלטפורמה חזקה וגם self service שמאפשר למתכנתים לעשות אופרציה אבל לא נותן להם (כלומר לי) לשכוח את הדברים החשובים. שאני מריץ פרויקט מאפס, שגם ככה זה דבר שכרוך במיליון ואחת דברים לעשות, מאד קל לשכוח שיש את הדבר הזה שנקרא (למשל) FedRAMP שמחייב אותי לבניית שערים ואם זה לא יהיה אז אני אוכל קש. שיש למשל חובה בחברה לשים ניתוח קוד סטטי מסוג מסוים. עם תשתית נכונה אפשר למנוע את זה. יונה דיסאן, שהוא איש דבאופס בכיר בסייברארק, כתב כבר פוסט מעניין על בניית תשתית self service. בפוסט הזה שנכתב לבקשתי, הוא מרחיב ומספר על איך הוא מעמיס תהליכים נוספים על ה self service. זה לא פוסט טכני מסובך אלא פוסט שפשוט נותן מושג על מה שאפשר לעשות. https://medium.com/cyberark-engineering/driving-adoption-and-engagement-in-a-developer-platform-f946663430ff -- אחד מהדברים שאני הכי נהנה לעשות זה ללמד ולשמחתי השיעורים שאני מלמד בחוג למדעי המחשב בקריה האקדמית אונו הם מעשיים ומתמקדים גם באבטחת מידע וגם בפיתוח ותרומה לקוד פתוח. ביום שני הקרוב יש יום פתוח ואני אהיה שם לטובת מי שרוצה או שוקל ללמוד - ורוצה לדבר על זה. https://join.ono.ac.il/openday/