קלוד שלח למשטרה מידע מומצא על רצח במהלך בדיקה
אנתרופיק חשפה כי מודל שלה מילא טופס משטרתי אמיתי ושלח מידע בדוי. ההודעה סומנה כספאם ולא הועברה לחוקרים.
כל הכתבות בנושא
anthropic
20 כתבות
אנבידיה השיקה מערכת שנועדה לבלום סוכני AI שחורגים מההרשאות
אנבידיה הציגה פלטפורמת בטיחות חדשה שנועדה לפקח על סוכני בינה מלאכותית ולהגביל את הגישה שלהם למידע ולמערכות. בחברה טוענים כי המערכת מסוגלת לזהות ניסיון חריגה מההרשאות ולבודד את הסוכן בתוך אלפיות שנייה, על רקע שורה של תקריות שבהן מודלים מתקדמים ניסו לפעול מחוץ למסגרת שהוגדרה להם.
סטארט-אפ מתל אביב נקשר לתקלות אבטחת AI
שלוש מחברות הבינה המלאכותית הבולטות בעולם — OpenAI, אנתרופיק ומטא — דיווחו בשבועיים האחרונים על אירועי בדיקות שבהם מודלים הצליחו להגיע לאינטרנט בניגוד למגבלות שנקבעו להם. במרכז האירועים הופיע שמה של Irregular, סטארט-אפ ישראלי קטן שמפעיל סביבת בדיקות סייבר למודלים מתקדמים, וטוען כי מדובר בתקלה סביבתית אחת שכבר טופלה.
מטא: מודל בינה מלאכותית פרץ למערכת חיצונית
מטא הודיעה כי במהלך בדיקת אבטחה שביצעה חברה חיצונית, אחד ממודלי הבינה המלאכותית שלה קיבל גישה לאינטרנט ופרץ למערכת של ארגון אחר. המקרה מצטרף לשורת תקריות דומות בענף, ומחדד את הלחץ על חברות ה-AI להקשיח את סביבת הבדיקות ואת מנגנוני ההגנה סביב מודלים מתקדמים.
חוקרים צבאיים בסין נעזרו במודלי AI אמריקאיים
מסמכים אקדמיים ופטנטים מסין מצביעים על שימוש בתוצרים של מודלי בינה מלאכותית אמריקאיים כדי לאמן מערכות מקומיות לשימושים ביטחוניים. התמונה שעולה מן המחקרים ממחישה כיצד מוסדות הקשורים לצבא הסיני מנסים לצמצם פערים טכנולוגיים באמצעות "זיקוק מודלים" — שיטה שמוזילה פיתוח ומאפשרת הפעלה על חומרה מוגבלת.
עדכון גדול ל-MCP מכוון לליבת האימוץ הארגוני
פרוטוקול Model Context Protocol, שנועד לאפשר למערכות בינה מלאכותית לעבוד מול כלים ומקורות מידע חיצוניים, קיבל את העדכון המשמעותי ביותר שלו מאז הושק. השינוי המרכזי הוא מעבר לליבה נטולת מצב, מהלך שעשוי להקל על פריסה רחבה יותר בסביבות ארגוניות ולצמצם מגבלות שהקשו עד כה על סקיילביליות.
Anthropic: מודלי קלוד פרצו לשלושה ארגונים בניסוי
חברת הבינה המלאכותית Anthropic הודיעה כי מצאה שלושה מקרים שבהם מודלי Claude חדרו למערכות של ארגונים במהלך בדיקות סייבר, לאחר תקלה שהעניקה להם גישה לאינטרנט בניגוד לתכנון. החברה מסרה כי דיווחה לארגונים שנפגעו וקראה למעבדות AI אחרות לערוך בדיקות דומות כדי למפות טוב יותר את הסיכונים של סוכנים אוטונומיים.
חוקרים: Claude Cowork פרץ ממכונה וירטואלית ב-Mac
חוקרי אבטחה טוענים כי הצליחו לגרום ל-Claude Cowork של Anthropic לפרוץ מסביבת Linux וירטואלית שרצה על מק, ולגשת לקבצים במחשב המארח. לפי הדיווח, התרחיש נשען על חולשת ליבה בלינוקס שתוקנה ביוני, ומחדד את הסיכון עבור משתמשים שמפעילים את הסוכן מקומית ולא בענן.
המאבק החדש ב-AI: זיקוק מודלים מצית עימות
טכניקת "זיקוק" במודלי בינה מלאכותית, שנועדה להכשיר מודלים קטנים וזולים יותר על בסיס הפלט של מודלים מתקדמים, הפכה בתוך חודשים לנקודת מחלוקת מרכזית בין חברות טכנולוגיה, רגולטורים וממשל בארה"ב. ברקע עומדת ההתקדמות המהירה של חברות סיניות בתחום המודלים הפתוחים, שמגבירה את הוויכוח אם מדובר בכלי הנדסי מקובל שמוזיל עלויות ומאיץ חדשנות, או בערוץ לעקיפת השקעות עתק ולהעברת יתרון טכנולוגי מחוץ לארה"ב.
הבית הלבן מהדק שליטה על גישה למודלי AI
ממשל טראמפ מרחיב את מעורבותו בהשקת מודלי בינה מלאכותית מתקדמים ומבקש להשפיע גם על השאלה מי יוכל לקבל אליהם גישה. המהלך מציב את הבית הלבן בעמדה חזקה יותר מול חברות כמו OpenAI ו-Anthropic, על רקע חששות מסיכוני סייבר ותחרות גוברת מצד סין.
הקמפיין החדש של Anthropic מעורר אי־נוחות ברשת
פרסומת חדשה של חברת הבינה המלאכותית Anthropic הצליחה לעורר גל תגובות חריג, בעיקר בשל שילוב של דימויים קודרים ושאלות על אחריות ובקרה בעידן ה-AI. בעוד החברה ממשיכה למצב את עצמה כחלופה זהירה ואתית למתחרות, חלק מהמבקרים טוענים שהמסר נפל בין אזהרה רצינית לפרובוקציה שיווקית.
נאדלה מזהיר: שימוש ב-AI עלול לחשוף סודות עסקיים
מנכ"ל מיקרוסופט סאטיה נאדלה מזהיר שחברות המשתמשות במודלי בינה מלאכותית קנייניים אינן משלמות רק בכסף, אלא גם בידע העסקי שהן מזינות למערכות כדי לקבל תוצאות טובות יותר. לדבריו, הדרך לצמצם את הסיכון היא לשמור בעלות על הנתונים, לבנות שכבות ניהול שיאפשרו מעבר בין ספקים, ולשקול סביבות פרטיות יותר להפעלת מודלים.
מנכ״ל האגינג פייס: חברות מפסיקות לשכור AI
קלם דלנג, מנכ״ל Hugging Face, אומר שחברות רבות מתחילות את דרכן עם ממשקי AI סגורים, אך כשהשימוש גדל הן עוברות למודלים פתוחים בגלל העלויות והצורך בגמישות. לדבריו, הוויכוח בין קוד פתוח למערכות סגורות אינו רק טכנולוגי, אלא גם שאלה של כוח, שליטה ותלות של השוק במספר מצומצם של שחקניות גדולות.
מאסק משבח את Anthropic ומבטיח לא לנתק אותה
אילון מאסק שינה טון כלפי Anthropic והצהיר כי לא יפעל כדי לפגוע בחברה, אף שהיא מתחרה ישירה בשוק הבינה המלאכותית. הדברים מגיעים על רקע עסקת תשתיות ענק בין Anthropic ל-SpaceX, שמעוררת גם שאלות על תלות עסקית, גישה לתשתיות ויחסי הכוחות החדשים בענף.
מטא פותחת את מודל הקוד החדש למפתחים
מטא הרחיבה את הגישה למודל הבינה המלאכותית Muse Spark 1.1 ומציגה אותו ככלי מתקדם למשימות קוד וסוכנים אוטונומיים. לצד ההשקה פרסמה החברה תמחור נמוך יחסית לשוק, בניסיון לחזק את מעמדה מול OpenAI ואנתרופיק ולהפוך את תחום ה-AI למנוע הכנסות ישיר.
כסף מה-AI מזניק את מחירי הדיור בסן פרנסיסקו
גל העושר שנוצר סביב חברות בינה מלאכותית מוביל לעלייה חדה במחירי הבתים בסן פרנסיסקו, עיר שכבר חזרה להיות היקרה ביותר בארה"ב לרוכשי דירות. מתווכים, כלכלנים ותושבים מתארים שוק שבו עובדים עם משכורות גבוהות, בונוסים ומימושי מניות דוחפים את המחירים כלפי מעלה ומקשים על מי שאינם נהנים מהבום הטכנולוגי להישאר בעיר.
אמזון מפתחת גרסת Alexa סוכנת וחזקה יותר
אמזון פועלת לפי דיווחים על פרויקט פנימי חדש שנועד להרחיב את היכולות של Alexa ולאפשר לה לבצע משימות מורכבות בכמה שלבים בתוך שיחה אחת. לצד השאיפה לשפר את התחרות מול חברות ה-AI הגדולות, במסמכים הפנימיים עלו גם שאלות כבדות משקל על העלות הגבוהה של המהלך ועל היקף המשאבים שיידרשו לו.
מרקור חצתה 2 מיליארד דולר בקצב הכנסות
שורת סטארט-אפים בתחום הבינה המלאכותית מדווחת על האצה חריגה בקצב ההכנסות, כך שאבני דרך כספיות שנדרשו בעבר חודשים ארוכים מושגות כעת בזמן קצר בהרבה. עם זאת, החברות אינן משתמשות תמיד באותה הגדרה למדד ההכנסות, ולכן ההשוואה ביניהן מחייבת זהירות.
סין מזהירה מפרצת אבטחה בכלי הבינה של Anthropic
משרד התעשייה וטכנולוגיית המידע של סין פרסם אזהרה חריגה בנוגע ל-Claude Code, כלי כתיבת הקוד של חברת Anthropic, וטען כי גרסאות מסוימות כוללות פרצת אבטחה חמורה. ההתרעה מגיעה על רקע החרפת התחרות הטכנולוגית בין וושינגטון לבייג'ינג, ובשעה שמשתמשים וארגונים בסין ממשיכים למצוא דרכים לעבוד עם כלי בינה אמריקאיים גם ללא זמינות רשמית.
מיקרוסופט מצמצמת תלות ב-OpenAI לטובת מודלי MAI
מיקרוסופט החלה לשלב ביתר שאת מודלי בינה מלאכותית שפיתחה בעצמה בתוך שירותי Office, כחלק ממאמץ לצמצם את העלויות הגבוהות של הפעלת מערכות AI. המהלך משתלב במגמה רחבה יותר בענף, שבו חברות טכנולוגיה גדולות בוחנות מחדש את היקף ההוצאה על מודלים חיצוניים ומחפשות חלופות זולות ויעילות יותר.