Startup for Startup

בשנתיים האחרונות, טוקנים הפכו להיות אחת מההוצאות המשמעותיות בארגונים טכנולוגיים, אלא שכרגע עוד לא ממש ברור איך לנהל אותן. כיום חברות מעודדות עובדים לשלב AI בכל תהליך, אבל מתקשות לקבל את התמורה הטובה ביותר עבור ההשקעה שלהן. אז איך מאפטמים את ההוצאה על AI ברמה הארגונית? איך אפשר לעזור לעובדים שלנו להשתמש בטוקנים בצורה חכמה? ואיך משיגים את התוצאות הרצויות בפחות טוקנים?
בפרק השבוע דריה ורטהיים מדברת עם ירון סברדלוב (CDIO) וקרן קושמן (Head of Applied AI) על כלכלת הטוקנים במאנדיי דרך שלוש שכבות של אופטימיזציה - החל ממשא ומתן מול ספקיות ה-LLM, דרך שימוש חכם בטוקנים, ועד לוגיקה שצרובה ממש בהארנס עצמו. הם משתפים במאמצים כמו פיתוח סקילים כגון "Caveman", שמנקה אוטומטית טקסט מיותר מהפרומפט וחוסך כ-60% מעלות האינפוט, ודיוק וצמצום הקונטקסט לרמה אופטימלית כדי לשפר את איכות התשובה. הם מסבירים גם על מנגנוני הראוטינג שבוחרים מאחורי הקלעים את המודל המשתלם ביותר לכל משימה, ואיך פיתחו את מדד ה-monday bench שמאפשר מעקב והשוואה שעוזרים לחתוך את העלויות בעשרות אחוזים עבור אותו תוצר. לצד הפתרונות הטכנולוגיים, הם מראים שחינוך המשתמשים הוא מפתח קריטי להצלחה, ומדגימים כיצד חשיפת נתוני ההוצאות האישיות לכל עובד רתמו את האנשים לקחת אחריות והובילו לירידה דרסטית בצריכה הכוללת בארגון.
See omnystudio.com/listener for privacy information.

בעבר, כשרצינו לבצע בדיקות איכות של תוכנה קלאסית, יכולנו לעשות את זה באופן מוחלט: טסט שמורכב מקלט מסוים יצר פלט יחיד וצפוי. היום אייג׳נטים פועלים בסביבה לא דטרמיניסטית, מה שמשנה לגמרי את היכולת שלנו לבדוק את איכות הפעולה שלהם ועד כמה הצליחו במשימה שקיבלו.
בפרק השבוע, דריה ורטהיים מדברת עם רועי מן, קו-פאונדר וקו-CEO במאנדיי, ועם מתן לחמיש, שמוביל את הסטארטאפ הפנימי ״טאקה״, על האתגרים בבדיקת אייג׳נטים, על שאלות כמו מה היא בכלל תוצאה טובה, על פירוק התוצאה הזו לקריטריונים מדידים, על איסוף פידבק, ועל דרכים פרקטיות לבחינת איכות כשהתוצאה אינה צפויה לחלוטין.
רועי ומתן משתפים בכך שאי אפשר לחזות מראש את כל התרחישים, ולכן סביבת הפרודקשן הופכת למקור האמת המרכזי, שבה לוקחים את הטעויות בזמן אמת והופכים כשלים לטסטים שהגרסאות הבאות צריכות לעבור. הם מסבירים את הצורך בתשתיות בדיקה המשלבות בדיקות טכניות יחד עם AI כ״שופט״ (LLM-as-a-Judge) שמעריך את תכונות האופי של האייג׳נט, ובודק האם התוצאה הסופית עמדה בציפיות. בנוסף, הם מדברים על החשיבות של שמירה על פוקוס באמצעות Sub-Agents וצמצום הקונטקסט, ואיך בסופו של דבר כרגע אי אפשר להימנע מטעויות של אייג׳נטים.
אם גם אתם בונים אייג׳נטים ופוגשים את אותם אתגרים - האזינו לפרק!
See omnystudio.com/listener for privacy information.

כניסתם של כלי AI כמו קלוד-קוד וקרסר הביאה איתן אפשרויות והזדמנוית בלתי נגמרות, אבל הולידה גם סט חדש של אתגרים ובעיות. במאנדיי עובדים החלו לבנות באופן עצמאי ערימות של דשבורדים מקומיים בקבצי HTML סטטים - ללא סנכרון בזמן אמת, ללא הרשאות אבטחה ומשילות, וללא אפשרות לשתף מידע בצורה מסודרת.
כדי לפתור את הפער הזה ארגון ה-BI של החברה הקים את Big Brain Studio, אייג׳נט שמאפשר לכל עובד ועובדת לבנות אפליקציות ודשבורדים דינמיים על הקוד והתשתיות הפנימיות של החברה.
בפרק השבוע רוני הרניב מדברת עם דורון נחמני, Senior Product Manager בביג בריין וניר סמילגה, Data viz manager במאנדיי על המשמעות של דמוקרטיזציה של פיתוח תוכנה, איך קפצנו מפיתוח כמות של 1,500 דשבורדים שעוזרים לעובדים להציג דאטה לאורך חמש שנים - למעל 2,000 דשבורים בכמה חודשים בודדים, ומה ההזדמנויות והאתגרים שזה מביא איתו.
האזינו לפרק על קרמר שהזכרנו בשיחה - 348: דמוקרטיזציה של דאטה – איך בנינו אייג׳נט שמנגיש מידע לכל עובד בחברה
See omnystudio.com/listener for privacy information.

״אם אתם יזמים או יזמות ומרגישים על רכבת הרים רגשית - אתם לא לבד". זו פחות או יותר שורת הפתיחה שלנו בפרק שבו רוני הרניב מארחת את ד"ר אלדד רום, פסיכולוג ארגוני ושותף ב-Team8 שמלווה יזמים ופאונדרים בשגרה ובחירום. למה קרן הון סיכון צריכה פסיכולוג? כי הנתונים מראים שבין 35% ל-65% מהסטארטאפים נכשלים בגלל בעיות בין המייסדים או שחיקה נפשית. בפרק אלדד מפרק את "הבטן הרכה" של עולם היזמות - הלופים המנטליים בלילה, התקפי החרדה לפני מצגות, וההזנחה של כל מה שהוא לא הסטארט-אפ.
דיברנו על האמת שכמעט כל יזם פוגש: "מה שהביא אותך עד לכאן עלול להפיל אותך בהמשך". אלדד מסביר איך צורכי שליטה, אימפולסיביות וביקורת עצמית חריפה - התכונות שבזכותן הצטיינתם והצטיינתן - עלולות להפוך למלכודת אם לא תנהלו אותן נכון. שוחחנו על תסמונת המתחזה, וקיבלנו כלי פרקטי לשאול את עצמנו דקה לפני פגישה חשובה: "Is it useful?".
זהו פרק על מערכות יחסים: עם עצמנו, עם המשפחה, ועם הקו-פאונדרים. אלדד מסביר למה צוות המייסדים הוא כמו "ליבת כדור הארץ", משתף סיפור על יזם שנראה רגוע מדי (כמו "פדרר שלא מזיע") וגורם למשקיעים לחשוב שלא אכפת לו, ומסכם עם מטאפורה: יזמות היא כמו משחק "כיסאות מוזיקליים". בכל רבעון המוזיקה עוצרת, והסטארטאפ צריך ממך משהו אחר לגמרי.
תמונה: גיא חמוי
See omnystudio.com/listener for privacy information.

במשך שנים ארוכות מודל המנויים, Subscription, היה הסטנדרט הכמעט בלעדי של רוב חברות ה-SaaS. הוא נשען על עלויות טכנולוגיות נמוכות יחסית לכל משתמש ועל רווחיות גבוהה. הכניסה המאסיבית של טכנולוגיות AI למוצרי תוכנה שינתה את המשוואה, כאשר כל קריאה ל-LLM מייצרת עלות משמעותית ומשתנה. המציאות הזו מאלצת את התעשייה להגדיר מחדש את התמחור והמודל העסקי ולהתאים אותם לעידן של צריכה - Consumption.
בפרק השבוע דריה ורטהיים מדברת עם רועי מן, קו פאונדר וקו-CEO של חברת מאנדיי על השינוי המהותי, ועל האופן שבו חברות מוצר נדרשות לחשוב מחדש על התמחור והמודל העסקי שלהן.
בפרק אנחנו שואלים כיצד אפשר לבנות מודל עסקי שמתאים בין הערך שהמשתמש מקבל לבין המחיר שהוא משלם, ומדברים על התנגשות אינטרסים בין החברה ללקוח כאשר מתמחרים מוצר כאחוז מסוים מעל עלות ספק ה-AI. בשיטה זו, אופטימיזציה שמורידה את עלויות השימוש חותכת במקביל את הכנסות החברה באותו שיעור, ומייצרת תמריץ שלילי לייעול המוצר.
רועי ודריה מדברים על סקאלה של מודלים עסקיים החל מאותו אחוז מסוים מעל עלות הספק, ועד FDE, מהנדסים שיושבים אצל המשתמשים - ועל האפשרויות שנמצאות בין לבין, כאלה שמביאות יציבות ללקוח ועדיין משקפות את הערך שנותנים המוצרים האפליקטיביים.
See omnystudio.com/listener for privacy information.