מהי מאמבה? מאמבה היא ארכיטקטורת LLM מבטיחה, המהווה אלטרנטיבה לארכיטקטורת הטרנספורמר. יתרונותיה העיקריים הם יעילות זיכרון, יכולת גידול ויכולת לטפל ברצפים ארוכים במיוחד. מאמבה מבוססת על מודלים של מרחב מצבים (SSM) ומנגנונים של פרceptron רב-שכבתי…
תגית: ML
ההתקדמות האחרונה בארכיטקטורות בינה מלאכותית: טרנספורמרים, ממבה, I-JEPA
בעולם הבינה המלאכותית, שמתפתח בקצב מסחרר, השאיפה לארכיטקטורות עוצמתיות וגמישות יותר היא הכוח המניע מאחורי כמה מההישגים המרשימים ביותר של השנים האחרונות. החל ממודלי הטרנספורמרים פורצי הדרך, שחוללו מהפכה בעיבוד שפה טבעית, ועד לארכיטקטורות חיזוי…
Stable Diffusion 3: קפיצת מדרגה ביצירת תמונות באמצעות בינה מלאכותית
חברת Stability AI השיקה את מודל הבינה המלאכותית החדש שלה ליצירת תמונות מטקסט, Stable Diffusion 3, המהווה התקדמות משמעותית בתחום המתפתח במהירות של בינה מלאכותית יוצרת. המודל החדש מתגאה בשיפורים מרשימים באיכות התמונה, בעיבוד טקסט…
האבולוציה של רינדור סצנות תלת-ממדיות: מ-NeRF, ADOP ו-Gaussian Splatting ל-TRIPS
תחום הגרפיקה התלת-ממדית חווה התפתחות מדהימה, במיוחד בטכניקות המשמשות לרינדור סצנות מורכבות. מאמר זה מתעמק במורכבות של שלוש טכנולוגיות מרכזיות שעיצבו את הנוף: NeRF (Neural Radiance Fields – שדות קרינה עצביים), ADOP (Approximate Differentiable One-Pixel…
מה הם Safetensors ומדוע הם עדיפים על .ckpt (pickletensor)?
Safetensors הוא פורמט מודל יוצא דופן שנועד לאחסון מאובטח של טנסורים, והוא מתהדר במהירות וביצועים מרשימים בהשוואה לחלופות רבות בתחום. לא רק ש-Safetensors מהיר להפליא, אלא שהוא גם תוכנן תוך שימת דגש על פשטות ובטיחות,…
מודלי AI להמרת תמונה לטקסט: CLIP, BLIP, WD 1.4 (המכונה גם WD14), SigLIP 2 ו-ChatGPT עם ראייה
תיוג, סימון אוטומטי ותיאור של תמונות הם משימה חיונית ביישומים רבים, במיוחד בהכנת מערכי נתונים ללמידת מכונה. כאן מודלים של המרת תמונה לטקסט נחלצים לעזרה. בין מודלי המרת התמונה לטקסט המובילים ניתן למנות את CLIP,…
בינה מלאכותית יכולה לקרוא את המחשבות שלך: Stable Diffusion ועתיד הממשקים בין מוח למחשב
היום נדון במאמר פורץ דרך הבוחן כיצד חוקרים השתמשו ב-Stable Diffusion, סוג של בינה מלאכותית יוצרת, כדי לשחזר תמונות המבוססות על פעילות מוחית אנושית. למחקר זה יש השלכות משמעותיות לא רק עבור מדעי המוח, אלא…
בינה מלאכותית אמיתית עבור דמויות שאינן שחקן: סוכנים גנרטיביים כעתיד המשחקים וחברות בינה מלאכותית דמויות אדם
דמיינו עולם שבו סוכני תוכנה חישוביים מדמים התנהגות אנושית אמינה, עולם שבו אמני בינה מלאכותית מציירים ומחברים כותבים, שבו סוכני בינה מלאכותית אלה מגבשים דעות ויוזמים שיחות, ושבו זיכרונות מסונתזים לרפלקציות ברמה גבוהה יותר כדי…
מודלים של GPT-4 לומדים מטעויות: פריצת דרך בחשיבת AI
עולם הבינה המלאכותית נמצא בהתפתחות מתמדת, ופריצת דרך מחקרית בתחום הבינה המלאכותית העבירה את העניינים לשלב הבא. מאמר חדש מציג את "רפלקשן" (Reflection), סוכן אוטונומי בעל זיכרון דינמי ויכולות רפלקציה עצמית, המאפשר למודלים של AI…