236004 תרגיל בית 1 | |
|
Hello everyone, A few issues with HW1 have arisen, which lead us to publish the following changes and clarifications: 1. When defining the number of steps for the scheduler, there is a bug in the code that divides the number of steps by the batch size, effectively shortening the training period by a factor equal to the batch size. To fix this, you can use the re-uploaded assignment or make the three changes published in the piazza form, in the pinned notes. https://piazza.com/class/m9zo6zrm8j8242/post/17 2. Your GPT implementation MUST use causal attention. If your implementation has no attention mask, it uses future, teacher-forced tokens to predict the next token, rendering the task trivial. Submissions that fail to do so will receive no points for the relevant tasks. In order to give you time to adjust your implementation accordingly, we are extending the submission deadline by one week—from 18.05.2025 to 25.05.2025. If you have already submitted and have specific concerns about this, please contact us. |
| פורסם ב-16/5/2025, 18:19:46 Created on 16/5/2025, 18:19:46 Создано16/5/2025, 18:19:46 تم النشر ب-16/5/2025, 18:19:46 |
236004 הצעות פרויקט | |
|
היי לכולם, מתזכר שהתאריך הסופי להצעות הפרויקט הוא לשני הקרוב. פנו אליי מספר קבוצות אך עדיין רוב הקבוצות לא רשמו את עצמן בקובץ הדוקס או שלחו מצגת לקבלת אישור https://docs.google.com/document/d/1KOqEeS42h1YRbsThFqQPvguHRChSUKcjt1gbKH4y7U8/edit?usp=sharing מדגיש כי הגשת הצעות הפרויקט בזמן על פי הנהלים במסמך באתר הקורס מהווה חלק מחובות הקורס וכן מהציון בפרויקט. במקרים מיוחדים פנו לגלעד במייל בהקדם. בהצלחה בעבודה ומחכים לראות את התוצרים, -- סגל הקורס 236004 |
| עדכון אחרון ב-8/5/2025, 12:23:46 Last updated on 8/5/2025, 12:23:46 Последняя модификация8/5/2025, 12:23:46 تمت الحتلنة الأخيرة ب-8/5/2025, 12:23:46 |
236004 הודעות | |
|
היי לכולם, העבודה הקשה עד עכשיו השתלמה והגענו להרצאה 5 בנושא של decoders ומודלים גנרטיביים בה נלמד על איך פועלים מודלי ה SOTA כיום. חומרי ההרצאה הועלו לאתר כרגיל. כמו כן מבקשים מכולם להביא מחר עיפרון/עט/מרקר הסיבה תתבהר בהמשך. מתזכרים שמחר אין תרגול, ההרצאה כרגיל בטאוב 1. המשך יום נפלא, -- סגל הקורס 236004 |
| פורסם ב-4/5/2025, 15:04:54 Created on 4/5/2025, 15:04:54 Создано4/5/2025, 15:04:54 تم النشر ب-4/5/2025, 15:04:54 |
236004 הצעות פרויקט | |
|
היי לכולם, אתמול התכנסנו לדבר על הפרויקטים ולראות מספר רעיונות אפשריים. חשוב: תוודאו שאתם קוראים את מסמך ההנחיות באתר הקורס וממלאים את ה*טבלה* שמקושרת בו בשבועיים הקרובים. אם אתם רוצים לבצע את הפרויקט תחת אחד המנחים שהצענו פנו אליהם במייל ותתאמו ביחד מה תהיה שאלת המחקר. סטודנטים שרוצים לעשות פרויקט משלהם צריכים להכין מצגת קטנה עם התבנית מאתר הקורס בשם proposal template שמפרטת בקצרה מהי השאלה ועל מה היא מתבססת (מודלים מקורות מידע תוצאות קייימות וכו׳) את המצגות יש להגיש לגילעד במייל ul.gatcampus.technion.ac.il בשבועיים הקרובים ולקבל אישור שזה עומד בהיקף הנדרש. אם אתם לא בטוחים לגבי מה אתם רוצים לעשות ורוצים להתייעץ מוזמנים לפנות במייל. בהצלחה בעבודה ומחכים לתוצאות מעניינות, -- סגל הקורס 236004 |
| עדכון אחרון ב-29/4/2025, 12:39:12 Last updated on 29/4/2025, 12:39:12 Последняя модификация29/4/2025, 12:39:12 تمت الحتلنة الأخيرة ب-29/4/2025, 12:39:12 |
236004 תרגיל בית 1 | |
|
היי לכולם, תרגיל הבית הראשון הועלה לאתר. מועד ההגשה הוא בעוד 3 שבועות, במקרים פרטניים הדורשים הארכה נא לפנות במייל. שאלות לגבי התרגיל יענו בפיאצה, הוספנו קישור בלשונית חומר הקורס. כמו כן מזכיר שניפגש מחר בטאוב 1 להרצאה בנושא מודלי encoder decoder ולתרגול שבו נציג לכם אפשרויות לפרויקט. יום נפלא, -- סגל הקורס 236004 |
| פורסם ב-27/4/2025, 16:22:53 Created on 27/4/2025, 16:22:53 Создано27/4/2025, 16:22:53 تم النشر ب-27/4/2025, 16:22:53 |
236004 הודעות | |
|
היי לכולם, מקווים שנהניתם מחופשת הפסח והמימונה. ניפגש מחר כרגיל בטאוב 1 להרצאה בנושא encoder only models. חומרי ההרצאה והתרגול כבר הועלו לאתר. יום נפלא, --סגל הקורס 236004 |
| פורסם ב-20/4/2025, 10:13:27 Created on 20/4/2025, 10:13:27 Создано20/4/2025, 10:13:27 تم النشر ب-20/4/2025, 10:13:27 |
236004 הודעות כלליות | |
|
היי לכולם, מקווים שנהניתם מהרצאת הפתיחה בקורס! ניפגש שוב מחר בשעה 10:30 באולמן 310 (לא טאוב 1!) התרגול כרגיל בטאוב 5 בשעה 15:30 כמו כן הועלו התכנים של שבוע שעבר ושל מחר לאתר כדי שתוכלו להיערך מראש עם השקפים ולכתוב מעליהם הערות. שבוע נפלא, -- סגל הקורס 236004 |
| עדכון אחרון ב-6/4/2025, 14:03:46 Last updated on 6/4/2025, 14:03:46 Последняя модификация6/4/2025, 14:03:46 تمت الحتلنة الأخيرة ب-6/4/2025, 14:03:46 |
תחילת סמסטר אביב 2025 | |
|
היי לכולם, שמחים לפתוח את סמסטר אביב 2025 ויחד איתו את הקורס בטרנספורמרים. ניפגש מחר בשעה 10:30 להרצאה הראשונה בטאוב 1 (שימו לב לשינוי מטאוב 5 במקור) סטודנטים לתארים מתקדמים שעדיין לא נרשמו לקורס דרך המערכות הפקולטיות נדרשים לעשות זאת בהקדם. סטודנטים לתואר ראשון לא נדרשים לעשות זאת ואנחנו רושמים אתכם אוטומטית. כמו כן בשבוע הבא באופן חד פעמי ההרצאה תועבר באולמן 310 עקב חזרות גנרליות לטקס הבוגרים בטאוב 1 (מזל טוב למי שמשתתפים בו!) יום נפלא ומצפים לראותכם מחר, -- סגל הקורס 236004 |
| פורסם ב-30/3/2025, 15:56:13 Created on 30/3/2025, 15:56:13 Создано30/3/2025, 15:56:13 تم النشر ب-30/3/2025, 15:56:13 |
הודעות קבלה לקורס 236004 | |
|
היי לכולם, הודעות הקבלה לקורס נשלחו לכל הסטודנטים אשר נרשמו דרך הטופס באתר. כמות הנרשמים הייתה מאוד גדולה ולכן לצערנו לסטודנטים רבים ומוכשרים לא יתאפשר לקחת את הקורס בסמסטר זה אך הוא בהחלט יועבר שוב בהמשך. בכל צורך או בקשה אתם מוזמנים לפנות אליי במייל ul.gatcampus.technion.ac.il מחכים לראותכם בסמסטר הזה (או בסמסטרים הבאים), צוות הקורס 236004 |
| עדכון אחרון ב-11/3/2025, 16:15:49 Last updated on 11/3/2025, 16:15:49 Последняя модификация11/3/2025, 16:15:49 تمت الحتلنة الأخيرة ب-11/3/2025, 16:15:49 |